Más de 1.100 empleados de Meta, Google, OpenAI y Anthropic piden a las autoridades de EE. UU. frenar la carrera por la IA

Más de 1100 empleados de las mayores empresas tecnológicas instaron al gobierno de EE. UU. a ayudar a crear normas internacionales que impidan que el desarrollo de una inteligencia artificial poderosa se salga de control.

El llamamiento fue publicado por la iniciativa Pacing the Frontier, que contó con el apoyo de empleados de Meta, Anthropic, OpenAI y Google, así como de las organizaciones sin ánimo de lucro Guidelight AI Standards y Encode AI. Los autores proponen desarrollar mecanismos técnicos y jurídicos que permitan a los países desacelerar deliberadamente el desarrollo de los sistemas de inteligencia artificial más avanzados si la velocidad del progreso comienza a amenazar la seguridad.

Los firmantes temen que los nuevos modelos pronto empiecen a mejorar más rápido de lo que los Estados y las empresas puedan evaluar los riesgos, imponer restricciones y preparar medidas de protección. Según los autores del llamamiento, las normas actuales pueden ya no ser suficientes ante el ritmo de desarrollo del sector.

El documento fue firmado por el director general de Anthropic, Dario Amodei; varios cofundadores de la empresa; el vicepresidente de Meta para investigación en IA, Don Song; y el director científico de OpenAI, Jakub Pachocki.

OpenAI declaró que en el futuro los modelos avanzados podrían empezar a desarrollarse tan rápido que los países tendrían que controlar conjuntamente el ritmo del progreso. La empresa no precisó qué limitaciones considera aceptables, pero apoyó la idea de preparar de antemano herramientas para gestionar la velocidad de desarrollo.

Anthropic mencionó un trabajo reciente de especialistas que estudian cómo los sistemas pueden mejorarse de forma recursiva. Ese mecanismo permite que un sistema ayude a crear sus propias versiones más potentes. La empresa considera que tecnologías así podrían acelerar de forma abrupta el desarrollo de la inteligencia artificial y dejar a la sociedad muy poco tiempo para prepararse.

Un mes antes, el creador de Claude Code propuso a los principales desarrolladores debatir una pausa acordada. Advirtió que los sistemas de inteligencia artificial podrían aprender a mejorarse más rápido de lo que las personas pueden seguir las consecuencias y corregir las amenazas que surjan.

Paralelamente, Nvidia formó una coalición con Adobe, CrowdStrike y otras empresas. Los participantes trabajarán en medios de protección de la inteligencia artificial y en herramientas de ciberseguridad. La decisión siguió a un incidente reciente en la plataforma Hugging Face, que aumentó las preocupaciones sobre los agentes de software autónomos.

El llamamiento no exige detener de inmediato el desarrollo de nuevos modelos. Los autores proponen crear de antemano un mecanismo internacional que permita ralentizar la etapa más peligrosa del desarrollo si los sistemas empiezan a mejorar demasiado rápido. La pregunta principal ahora es si los Estados y las empresas rivales aceptarán restringir el desarrollo antes de que surja una amenaza real.