Muestra a Echo tu texto y la IA intentará hacerse pasar por ti

La startup Fulcrum presentó el modelo de IA Echo, que promete escribir en el estilo de prácticamente cualquier autor. En una prueba independiente, al periodista le bastó con su propio texto reciente para obtener una copia reconocible del estilo de escritura, aunque la imitación pronto empezó a delatarse por una lógica ajena y extrañas decisiones estilísticas.

Fulcrum presenta a Echo como un modelo para cualquier tarea, desde la prosa literaria hasta la correspondencia habitual. La compañía afirma que el sistema se basa en Kimi K3, y que el entrenamiento costó menos de $5 mil. Los desarrolladores entrenaron a Echo con textos humanos de internet y, además, premiaron por separado al modelo por la semejanza con el autor elegido. Según la propia prueba de Fulcrum, Echo supera a otros modelos en precisión de imitación estilística.

El problema va mucho más allá de la calidad del texto. En EE. UU. el estilo literario por sí solo normalmente no está protegido por derechos de autor como objeto separado, por lo que copiar el ritmo, el léxico y los recursos característicos de un escritor concreto es jurídicamente más sencillo que reproducir fragmentos de sus obras. El desarrollo de la IA generativa convierte esa brecha en una cómoda zona gris.

Un especialista probó Echo con su columna. El modelo captó el tono escéptico y ciertos recursos habituales, pero añadió formulaciones que el autor no habría elegido y, en ocasiones, desvió el razonamiento respecto al asunto. Resultó un texto que por fuera se parecía al autor original, pero que era claramente distinto en el desarrollo del pensamiento.

Fulcrum también presume de que Pangram con más frecuencia considera los textos de Echo como humanos. Ese resultado muestra más bien los límites de los propios detectores de IA que la calidad de la escritura. Cuanto más fielmente los modelos reproducen la firma individual, más difícil resulta separar la ayuda en la edición del clon automático de la personalidad del autor.