Anthropic elimina a la competencia bajo el pretexto de “salvar al mundo”; en Silicon Valley no se lo creen.

En Silicon Valley crece la desconfianza hacia Anthropic. Los fundadores de empresas jóvenes se sienten irritados porque el responsable de Claude lanza sus propias herramientas en las mismas áreas donde trabajan sus socios, y las advertencias de la compañía sobre el peligro de los modelos abiertos cada vez se perciben más como un intento de debilitar a los competidores.

Según escribe The Wall Street Journal, la tensión aumentó tras la salida de Claude Design en abril. Algunos actores del mercado consideraron la nueva herramienta un competidor directo de los servicios de Figma, aunque el desarrollador de programas de diseño colabora con Anthropic. En uno de los eventos, el director de Figma, Dylan Field, afirmó que Anthropic no siempre se había comportado de forma honesta al tratar con los socios.

La responsable del área de inteligencia artificial en Notion, Sara Sax, presente en la reunión, señaló que la industria sacó conclusiones de lo ocurrido. Según ella, algunas empresas podrían haber confiado en exceso en Anthropic.

Tras el lanzamiento de Claude Design, parte de las empresas jóvenes comenzó a fijarse en modelos más baratos con pesos abiertos. Estos sistemas permiten instalar el modelo en la propia infraestructura, ajustarlo a tareas concretas y añadir medidas de protección propias. En los últimos meses han ganado notable popularidad desarrollos de empresas chinas cuyas capacidades se han acercado a las de los sistemas estadounidenses de vanguardia.

Los críticos también están descontentos con la forma en que Anthropic advierte sobre las amenazas de los modelos abiertos. El vicedecano de la escuela de ingeniería de la Universidad de Columbia, Vishal Misra, reconoció la alta calidad de los productos de la compañía, pero calificó sus declaraciones sobre seguridad de poco convincentes. A su juicio, Anthropic aviva el miedo ante los sistemas abiertos para obtener más influencia sobre normas favorables a la propia empresa.

Anthropic rechaza tales acusaciones. Un portavoz del desarrollador declaró que las restricciones son necesarias para proteger los modelos y evitar su uso por parte de adversarios extranjeros con fines peligrosos. El director de la compañía, Dario Amodei, y otros responsables han pedido repetidamente a las autoridades que vigilen más de cerca los sistemas potentes con pesos abiertos.

Tras la firma de una carta conjunta en apoyo de los modelos abiertos por parte de NVIDIA, Microsoft y decenas de otras empresas, Amodei expuso por separado la posición de Anthropic. Afirmó que la compañía nunca ha pedido prohibir esos sistemas y considera un bien público a los modelos que no tienen capacidades peligrosas.

No todos comparten los argumentos de Anthropic. Parte de los funcionarios y representantes del sector sospechan que las advertencias sobre amenazas ayudan a la compañía a contener a competidores cuyas alternativas más baratas podrían reducir la demanda de Claude. La atención al conflicto aumentó con los informes de que Anthropic podría salir a bolsa ya en otoño.

El profesor asociado de la Universidad de Toronto, Kevin Bryan, se puso del lado de la compañía. Según él, las preocupaciones respecto a la publicación de modelos avanzados son compartidas por muchos especialistas. Una vez que se publica libremente, se intenta rápidamente eliminar las restricciones incorporadas, y recuperar el control de un modelo ya publicado es imposible.

Otro debate se relaciona con la forma en que se entrenan los modelos. El cofundador de la empresa Maple, Mark Suman, acusó a Anthropic de aplicar dobles estándares. A su juicio, el desarrollador se opone a la copia de capacidades de otros sistemas, aunque él mismo entrenó sus modelos en enormes conjuntos de datos de Internet sin compensar a todos los titulares del material.

Más de 70 empresas de Silicon Valley ya han firmado la carta conjunta en apoyo de los modelos abiertos. OpenAI se sumó a la iniciativa pocas horas después de su publicación; Google expresó su respaldo más tarde. Anthropic quedó como una de las pocas grandes empresas del sector que no firmaron.

En este contexto, empresarios y funcionarios temen que el mercado de la inteligencia artificial termine dividido gradualmente entre Anthropic y OpenAI. El temor a un posible dominio de dos empresas fue el tema principal de una protesta en el centro de San Francisco, que ayudó a organizar el director de Hugging Face. Los participantes pidieron a los desarrolladores que no concentren las tecnologías más potentes en manos de unos pocos laboratorios cerrados.

La desconfianza se intensificó en junio tras el lanzamiento de Fable 5, una versión limitada de un modelo más potente, Claude Mythos. El sistema reducía discretamente la calidad de las respuestas a algunas preguntas sobre el desarrollo de la inteligencia artificial. No se avisó previamente a los usuarios, por lo que los especialistas calificaron esa protección de opaca y de un impedimento para evaluar de forma independiente las capacidades del modelo.

Anthropic se disculpó después y hizo visibles las advertencias sobre las limitaciones. Al mismo tiempo, la compañía mantuvo la negativa a responder a solicitudes que considera peligrosas.

Más descontento generó la política de retención de datos. Fable 5 no admite un modo de rechazo total de almacenamiento de información y puede conservar las solicitudes de los usuarios hasta 30 días para revisar la seguridad. El cambio alarmó a empresas que manejan información confidencial. Algunos clientes también temen que sus datos ayuden a Anthropic a mejorar modelos y a crear nuevos productos que compitan con los servicios de los propios clientes.

Un portavoz de Anthropic aseguró que los empleados no pueden revisar las conversaciones guardadas y que la compañía no las utiliza para entrenar nuevos modelos. Las normas se aplican solo a los sistemas más potentes, Fable y Mythos, y no afectan al resto de los productos del desarrollador.