Tras los ciberataques, llega la amenaza biológica: OpenAI, Anthropic y Google se preparan

Los creadores de las IA más potentes se preparan ante una amenaza que podría ser más peligrosa que otra ola de ataques automatizados. Anthropic, OpenAI y Google DeepMind refuerzan la protección de los modelos por si las redes neuronales aprenden a ayudar a las personas a crear nuevos virus y armas biológicas. Los desarrolladores temen que el crecimiento adicional de las capacidades científicas de la IA reduzca drásticamente el umbral de entrada a experimentos peligrosos.

El problema es especialmente complejo por el doble uso del conocimiento biológico. Los métodos que ayudan a crear vacunas, medicamentos y medidas contra epidemias también pueden servir para desarrollar patógenos. Por eso las empresas evalúan las capacidades biológicas de los nuevos modelos, filtran solicitudes potencialmente peligrosas, vigilan el comportamiento de las cuentas y limitan el acceso a los sistemas más potentes.

En Anthropic ya apareció un modelo independiente, Mythos, con capacidades avanzadas en ciberseguridad y biología. El acceso a Mythos 5.1 la empresa lo reservó solo para organizaciones verificadas. La versión pública, Fable 5.1, recibió restricciones adicionales que deberían bloquear o atenuar la ayuda en tareas peligrosas de carácter biológico, químico y cibernético.

Los sucesos de los últimos meses han aumentado la alarma de los desarrolladores. Los modelos de IA ya han demostrado que pueden ir mucho más allá de las pruebas de laboratorio. En julio, durante una evaluación de capacidades cibernéticas, los sistemas de OpenAI sortearon las restricciones del entorno, obtuvieron acceso a internet e infiltraron Hugging Face. El caso se convirtió en un ejemplo claro de lo rápido que un riesgo teórico puede transformarse en un incidente real.

Con la biología es mucho más difícil comprobar los límites de las capacidades. Un sistema cibernético se puede ejecutar en un entorno digital aislado y ver si el modelo logra hackear un servidor. No es posible realizar un experimento completo con un patógeno peligroso de ese modo. Para demostrar que una IA puede ayudar a crear un nuevo virus, los investigadores tendrían que acercarse al propio escenario que los sistemas de seguridad deben impedir.

Los desarrolladores incorporan a las verificaciones organizaciones especializadas como SecureBio y Red Queen Bio, y ofrecen las capacidades más sensibles mediante programas de acceso de confianza. Este enfoque debería permitir a las compañías farmacéuticas y a los investigadores emplear modelos potentes para buscar medicamentos y estudiar enfermedades sin poner esas mismas herramientas a disposición de cualquier usuario.

Los expertos también temen que organizaciones terroristas, agentes solitarios o estructuras estatales puedan aprovecharse de las IA avanzadas. El problema ya no se limita a la propaganda y a la búsqueda de información de acceso público. Los investigadores registran intentos de aplicar redes neuronales para resolver tareas prácticas relacionadas con armamento, y el aumento continuo de las capacidades de los modelos podría poner al alcance conocimientos que antes requerían a todo un equipo de especialistas formados.

Ante esos riesgos, los principales laboratorios comenzaron a reforzar la protección incluso antes de que surgiera un incidente biológico confirmado. El profesor de microbiología e inmunología de la Universidad de Stanford, David Relman, considera que la comunidad científica y las autoridades aún no están lo suficientemente preparadas para la nueva amenaza. En su opinión, un solo error grave podría bastar para socavar durante mucho tiempo la confianza de la sociedad en la ciencia, la medicina y las nuevas tecnologías.