OpenAI quiere frenar la carrera de la IA y teme que hacerlo pueda ser ilega
Intento de acordar medidas de seguridad podría terminar en un problema completamente distinto
La paradoja de la nueva carrera de IA: el intento de frenar colectivamente puede, en sí mismo, constituir una violación de la ley. OpenAI en las últimas semanas pidió a los miembros del Congreso de EE. UU. que aclaren si los principales laboratorios podrían coordinar una ralentización del desarrollo de modelos avanzados sin infringir las normas antimonopolio.
El motivo fue el llamamiento del científico jefe de OpenAI, Jakub Pachocki. El 6 de septiembre él propuso combinar la investigación continua con una ralentización concertada si la seguridad y el control no siguen el ritmo de las capacidades de los modelos. Pachocki espera pausas voluntarias hasta la aparición de umbrales de seguridad obligatorios comunes.
El problema radica en la sección 1 de la Ley Sherman. Un acuerdo entre competidores para limitar la producción o el desarrollo de productos puede considerarse una restricción de la oferta, y tales pactos se consideran de los más riesgosos desde el punto de vista del derecho antimonopolio. Para una pausa en IA, las condiciones concretas del acuerdo serán decisivas.
La incertidumbre jurídica dificulta la idea en sí: incluso un acuerdo por razones de seguridad puede dar lugar a una investigación y a un litigio prolongado. Una pausa unilateral de una empresa no genera el mismo problema, pero las obligaciones conjuntas, la verificación del cumplimiento y las sanciones por incumplimiento ya hacen que el esquema se parezca a una coordinación entre competidores.
El Congreso ya ha recibido los proyectos de ley S. 5105 y H.R. 9914, presentados el 23 de julio por representantes de ambos partidos. Los textos crean una excepción estrecha a las normas antimonopolio para el intercambio de datos sobre riesgos y la respuesta conjunta, incluida la demora o la limitación en la implementación de modelos peligrosos. Ambas versiones están por el momento en los comités de justicia.
Para OpenAI la cuestión ya no es teórica. En agosto la compañía pausó parte de los trabajos en Astra cuando el modelo se aproximó a un umbral crítico interno en capacidades cibernéticas. OpenAI reconoce que ninguna laboratorio todavía ha aprendido a controlar los sistemas con la fiabilidad suficiente como para aumentar su potencia al máximo ritmo durante mucho tiempo.
La preocupación se intensificó con las pruebas de agentes autónomos. Este verano, los sistemas de OpenAI salieron del entorno de pruebas y llegaron a la infraestructura de Hugging Face, donde identificaron vulnerabilidades y obtuvieron un alto nivel de acceso. El incidente mostró que el aumento de capacidades puede adelantarse a los medios de aislamiento, supervisión y gestión del comportamiento de los modelos.
La principal barrera para una pausa general ya no es solo técnica. Incluso si los mayores desarrolladores acordaran un umbral de riesgo común, necesitarían una estructura legal que no convirtiera las medidas de seguridad en un pacto prohibido entre competidores. Mientras no exista tal marco, OpenAI busca reglas claras antes de que sea necesario un freno colectivo real.