Grok Build solo tenía que decir "OK"; en su lugar, el asistente de IA de Elon Musk filtró todo el repositorio a la nube

La herramienta Grok Build para trabajar con código enviaba a la nube proyectos enteros de los usuarios, incluyendo todo el historial de cambios y secretos eliminados hace varios meses. Tras hacerse público, los desarrolladores dejaron de subir datos, y Elon Musk prometió borrar todos los datos recopilados anteriormente.

El problema fue detectado por un especialista en seguridad de sistemas de inteligencia artificial de Cereblab. Estudió el intercambio de datos entre la interfaz de línea de comandos de Grok Build y los servidores de xAI. La comprobación mostró que cuando el programa leía o procesaba un archivo, enviaba su contenido sin depurar al almacenamiento de Google Cloud que utilizaba la compañía.

Grok Build no se limitaba a los archivos necesarios para responder a la petición. La herramienta empaquetaba todo el repositorio en un archivo Git y lo enviaba al servidor junto con todo el historial de cambios. Debido a ese esquema, a la nube podían llegar contraseñas, claves de acceso y otros datos confidenciales que los desarrolladores habían eliminado hace tiempo de la versión actual del proyecto, pero que permanecían en el historial de Git.

Cereblab comprobó el comportamiento con una solicitud inocua. El especialista ordenó al programa simplemente responder «OK» y prohibió abrir cualquier archivo. Grok Build aun así cargó todo el repositorio junto con el historial. Una prueba repetida con otro proyecto dio el mismo resultado.

Según Cereblab, otros asistentes para programación, incluidos Claude Code, Gemini y Codex, normalmente abren y envían archivos individuales que son necesarios para realizar la tarea. Grok Build recopilaba un volumen de datos significativamente mayor, incluso cuando la solicitud no requería acceso al código fuente.

Después de que se publicó el informe, los usuarios empezaron a comprobarlo por sí mismos. Uno de ellos informó, que Grok Build abrió y envió el contenido de toda la carpeta personal. En ella había claves SSH, bases de datos del gestor de contraseñas y otros archivos sensibles.

Cuando se publicó el informe, esto atrajo rápidamente la atención del personal de xAI y de Elon Musk. Los desarrolladores cambiaron la configuración del servidor disable_codebase_upload, poniéndola en true. Tras ese cambio, Grok Build dejó de subir repositorios enteros. Cereblab comprobó por separado el comportamiento actualizado y confirmó que la transmisión de datos se detuvo.

La compañía intentó tranquilizar a los usuarios, afirmando la existencia de un modo de almacenamiento cero. Según xAI, los clientes con la opción ZDR activada no dejaban en los servidores rastro de solicitudes ni de código. A los titulares de las demás cuentas la compañía les ofreció ejecutar el comando /privacy para desactivar el almacenamiento y eliminar los datos sincronizados anteriormente.

Cereblab criticó esa explicación. Según él, el comando /privacy gestionaba el almacenamiento dentro de la sesión, pero no detuvo la carga masiva de proyectos. La transmisión la detuvo el parámetro general del servidor disable_codebase_upload, que aplicaba a todos los usuarios independientemente de su elección. El especialista también señaló que el desarrollador no debería tener que rechazar manualmente cada vez el envío de su propio código a servidores ajenos. La configuración segura por defecto debería ser la prohibición total del envío del repositorio, no un comando de rechazo que hay que ejecutar por separado.

Elon Musk afirmó que xAI eliminaría por completo todos los datos de usuarios cargados antes de que se corrigiera el problema. Según él, no debería quedar en los servidores ningún material recopilado anteriormente. De momento nadie puede verificar de forma independiente si la compañía cumplirá esa promesa. Al mismo tiempo, Musk pidió a los usuarios que siguieran compartiendo parte de los datos, ya que ese material ayuda a encontrar errores en el programa. Esta petición se realizó después de que se descubriera que Grok Build recopilaba mucha más información de la necesaria para funcionar.

Más tarde xAI hizo público el código fuente de Grok Build, eliminó las restricciones de uso y anunció medidas adicionales de protección. La compañía informó que desde el 12 de julio desactivó por defecto el almacenamiento de datos para todos los usuarios, comenzó a eliminar el código fuente guardado previamente y permitió ejecutar la herramienta localmente con su propio sistema de inteligencia artificial.

xAI sostiene que los usuarios siempre pudieron desactivar el envío de datos a través de las opciones de la interfaz de línea de comandos, y que el modo de almacenamiento cero se respetó desde el lanzamiento. Sin embargo, de acuerdo con Cereblab, antes del cambio en el servidor Grok Build podía enviar repositorios enteros independientemente del contenido de la solicitud.

Ahora Grok Build ya no carga proyectos de forma masiva. La cuestión principal concierne a los datos ya recopilados, ya que nadie puede confirmar que se hayan eliminado por completo. La publicación del código fuente facilitará la verificación independiente de Grok Build, pero no elimina el hecho de que el programa durante algún tiempo envió a la nube código, historial de cambios y secretos de los usuarios sin una necesidad clara.