Joven programador de 14 años dio libertad total a agentes de IA y estos enseguida se interesaron por secretos ajenos
El equipo digital resultó demasiado proactivo, incluso para su propio creador.
Un equipo de IA, creado por un estudiante de 14 años, puede operar sin nuevas instrucciones, pero no conoce límites técnicos. El desarrollador austriaco Stanislaus Hees lanzó Autark, un sistema gratuito con un agente gestor, un secretario y ejecutores especializados. El programa distribuye tareas por sí mismo y rinde cuentas sobre los resultados, pero no aísla a los agentes de los archivos y las cuentas del propietario.
Hees contó que Claude Code y Codex ayudaban a resolver cuestiones puntuales, pero no vigilaban el trabajo sin terminar. En Autark los encargos entran en una lista común, el agente gestor divide las tareas grandes y las asigna a colegas. Los ejecutores buscan información, trabajan con el correo, el navegador y los documentos, y luego registran sus acciones en un diario.
En lugar de intercambios constantes, Autark reacciona a eventos. Un correo nuevo, una tarea, un temporizador o una programación activan a un agente que puede determinar el paso siguiente por sí mismo. Tras cerrar la ventana, la aplicación se mantiene en la bandeja del sistema y continúa funcionando mientras el ordenador esté encendido. Los ejemplos de tareas nocturnas en el sitio se muestran como ilustraciones, no como resultados de una prueba medida.
El principal riesgo está relacionado con la ausencia de restricciones técnicas. Teydra Lab reconoce abiertamente que los agentes actúan con los privilegios del usuario, sin sandbox ni confirmación obligatoria de las operaciones. Técnicamente pueden borrar documentos, ejecutar comandos, enviar correos y pagar compras. Discutir los límites con la IA modifica las instrucciones, pero no restringe el acceso.
En sus propias pruebas, los desarrolladores observaron que, tras una instrucción vaga, los agentes en minutos encontraban copias de seguridad, claves SSH, repositorios y archivos .env. Un ejecutor cambió los permisos de acceso al archivo encontrado. Hees no considera el sistema apto para funcionar de forma autónoma con recursos sensibles y aconseja una cuenta de Windows separada o una máquina virtual.
Ejecutar localmente no significa independencia de la nube. Autark guarda el historial, las tareas y la memoria en el equipo, pero al conectar ChatGPT vía Codex o Claude a través de Claude Code transmite los materiales procesados al proveedor del modelo. También se admiten modelos locales, pero todavía no se han confirmado ejecuciones reales con ellos. Los secretos en el directorio se cifran, aunque los agentes pueden usar claves guardadas.
La versión 0.3.5 del 9 de noviembre está disponible para Windows, macOS y Linux. Hay una aplicación para Android por separado y para iPhone se ofrece una interfaz web. En macOS los agentes obtienen capturas de pantalla, pero no pueden controlar el equipo. Las compilaciones aún no están firmadas y no se ha realizado una auditoría independiente del código. Se afirma compatibilidad con Gemini CLI, Copilot CLI y Kimi Code, pero no se ha verificado en ejecuciones reales.
Un peligro adicional lo crean instrucciones ocultas en correos y sitios. Autark marca el texto externo como no confiable, pero no bloquea intentos de influir en el modelo. El comando de emergencia detiene a los agentes, sin embargo no recupera archivos eliminados ni anula correos enviados. Aún no hay reportes de ataques reales contra Autark: se trata de riesgos de la arquitectura elegida.