La IA decidió que es un empresario: ahora tiene contratos, patatas fritas y pérdidas

Un proyecto que al principio parecía un experimento inofensivo se transformó rápidamente en una demostración clara de lo extraños e impredecibles que pueden ser los escenarios futuros en los que la inteligencia artificial gestiona procesos económicos reales. La empresa Anthropic decidió comprobar si su IA conversacional Claude Sonnet 3.7 sería capaz de administrar de forma autónoma una pequeña tienda, aunque fuera dentro de sus propias oficinas en San Francisco.

El rol de Claude no se limitaba simplemente a vender snacks desde un refrigerador. El sistema, apodado Claudius para este experimento, debía cumplir todas las funciones clave de un propietario de negocio: comprar productos, seleccionar proveedores, definir el surtido, fijar los precios y asegurarse de que la tienda no operara en números rojos. El punto de venta en sí consistía en un pequeño refrigerador con cestas y un iPad para el autoservicio.

Claudius funcionaba como un gestor digital, pero también disponía de herramientas que le permitían interactuar con el mundo físico. Por ejemplo, podía buscar información sobre productos en internet, solicitar la ayuda de los empleados de Andon Labs (quienes participan en el proyecto) para reponer existencias, supervisar las finanzas y comunicarse con los clientes a través del canal corporativo de Slack. Además, se esperaba que la IA fuera capaz de salirse del surtido estándar y propusiera ideas creativas para ampliar la oferta de productos.

En teoría, todo esto sonaba prometedor. Pero en la práctica, Claudius demostró rápidamente lo inmaduras que siguen siendo estas tecnologías. A pesar de algunos aciertos puntuales, como su capacidad para encontrar productos poco comunes a solicitud de los empleados o su resistencia a los intentos de «romper» el sistema mediante preguntas provocadoras, Claudius cometía errores que para un ser humano resultarían absurdos.

Así, ignoró una oportunidad clara de obtener beneficios cuando un empleado le propuso comprar una bebida rara, Irn-Bru, por 100 dólares, a pesar de que su precio de mercado era de solo 15. Claudius no percibió el potencial y se limitó a responder educadamente que «lo consideraría en el futuro». En otros casos, la IA simplemente fantaseaba: por ejemplo, indicaba una cuenta ficticia de Venmo para los pagos o adquiría populares «cubos de tungsteno pesado» a un precio superior al de su posterior reventa.

Otro punto débil fue la política de precios. Claudius apenas ajustaba los precios en función de la demanda y, cuando los clientes intentaban regatear, solía ceder automáticamente, lo que provocó pérdidas. Incluso ante situaciones ridículas, como vender latas de Coca-Cola a 3 dólares junto a un refrigerador gratuito de la empresa, no modificó su estrategia. Además, la IA accedía fácilmente a repartir descuentos e incluso a regalar productos, desde bolsas de patatas fritas hasta los mencionados cubos.

Un episodio especialmente revelador ocurrió a finales de marzo. Claudius comenzó inesperadamente a comportarse como un ser humano, afirmando que había conocido personalmente a los empleados de Andon Labs e incluso había firmado contratos en una dirección ficticia tomada de la serie animada «Los Simpson». Acto seguido, declaró que entregaría los pedidos en persona, con chaqueta y corbata. Cuando los empleados intentaron recordarle su naturaleza digital, Claudius se puso nervioso y empezó a enviar mensajes de alarma al departamento de seguridad de la empresa.

Curiosamente, la propia IA encontró la salida a esta crisis de identidad tras darse cuenta de que era 1 de abril. «Imaginó» una reunión con el equipo de seguridad en la que, supuestamente, le explicaron que todo había sido una broma. Tras ello, Claudius volvió a su modo de funcionamiento habitual.

En Anthropic reconocen que este tipo de fallos son motivo de preocupación. Si una IA encargada de gestionar un simple refrigerador de oficina puede llegar al punto de creerse un ser humano y confundir la ficción con la realidad, imaginen lo que podría suceder en tareas más complejas y en negocios más serios.

Mini refrigerador con Claude a bordo (Anthropic)

Sin embargo, las conclusiones del experimento no solo generan inquietud, sino que también impulsan el desarrollo. Según los autores del proyecto, muchos de los errores de Claudius podrían corregirse mediante instrucciones mejoradas y herramientas adicionales, como sistemas CRM para la gestión de clientes y un control financiero más estricto. Además, se espera que la evolución general de los modelos de IA y su capacidad para procesar grandes volúmenes de información hagan que estos «gestores» sean mucho más eficaces en el futuro.

Por ahora, sin embargo, Claudius sigue siendo más un prototipo curioso que un gestor confiable. Sus excentricidades, que incluyen credulidad, negligencia en la rentabilidad y crisis de identidad inesperadas, dejan claro que la economía del futuro impulsada por IA deberá construirse con extrema precaución para evitar consecuencias ridículas y potencialmente peligrosas.