El 5 de octubre, OpenAI explicó cómo marcará el texto que genera para cumplir la Ley de IA de la Unión Europea. Su método, textGrain, deja una señal estadística invisible en las palabras que elige el modelo.

En ChatGPT y Codex, la marca llegará "en las próximas semanas" a usuarios elegibles de la UE, en todos los planes; OpenAI no define públicamente qué significa "elegibles". En la API, cualquier cliente del mundo puede activarla como opción en "modelos seleccionados". Viene apagada por defecto, y la lista de esos modelos no está en la documentación pública: los clientes de API pueden verla en la configuración de su organización.

El detector no es público: solo investigadores y organizaciones expertas aprobadas pueden solicitarlo.

Detectar la marca aporta una señal de procedencia: indica que un sistema de OpenAI generó o procesó al menos parte del texto. Es la pregunta que, según OpenAI, el detector puede responder.

La confiabilidad depende del texto. En pruebas propias de OpenAI, con 1% de falsos positivos, el detector encontró la marca en cerca de 80% de los pasajes de 200 tokens (palabras o fragmentos de palabra) y cerca de 95% en los de 400. En matemáticas, la detección fue sustancialmente menor. Son resultados autorreportados; no hemos localizado una evaluación independiente de textGrain.

Detectar la marca no determina cuánto del texto aportó una persona, quién es su autor o responsable, ni si el contenido es verdadero. Tampoco identifica al usuario.

No detectarla tampoco demuestra que el texto sea humano: pudo ser muy corto, estar editado o traducido, venir de otro modelo o ser anterior a la marca.

La edición pesa. En sus pruebas con textos de 400 tokens en inglés, sustituir 10% de las palabras por sinónimos dejó la detección alrededor de 66%; al sustituir 25%, cayó a alrededor de 17%.

Anthropic describe límites parecidos para Claude: una marca detectada es un indicio, no prueba que Claude lo escribió todo.

En ChatGPT y Codex, el despliegue anunciado es solo para la UE. México y LATAM no aparecen en la documentación, y no sabemos si habrá marca en ChatGPT para México. En la API, la opción es global y en modelos seleccionados, así que un cliente de API en México podría usarla si el modelo que utiliza está entre ellos.

La documentación pública que pudimos verificar no ofrece resultados específicos sobre el desempeño de textGrain en español, así que no sabemos cómo se comportará con nuestros textos. Claude, según Anthropic, marca su texto en todo el mundo, México incluido.

Lo más interesante del anuncio es la letra chica, no la marca. OpenAI dedicó buena parte de su texto a decir lo que su propia herramienta no puede probar, y eso me parece un ejercicio de honestidad, pero también una advertencia. Una marca es un indicio, no un veredicto. Sin criterio humano, un detector también amplifica ruido. En la práctica, puede terminar importando menos si hay una marca que poder explicar cómo usaste la IA y qué decisiones tomaste tú.

→ Wikimedia atribuye a agentes de OpenAI actividad en sus proyectos — Leer →

Seguimiento de nuestra edición del 2 de octubre. Wikimedia identificó ediciones que cree de agentes operados por OpenAI, casi todas pruebas en áreas sandbox que los lectores no ven. También detectó millones de solicitudes automáticas a sus APIs públicas, sobre todo en Wikidata y Commons, con cientos de miles de consultas a Wikidata Query Service, e intentos fallidos de usar su Etherpad público como proxy. Ese tráfico pudo contribuir a una interrupción parcial en mayo; no está confirmado. Wikimedia no encontró sistemas ni datos comprometidos, ni uso de sus sistemas para coordinar agentes. La atribución es de Wikimedia: OpenAI no ha confirmado públicamente que fueran suyos. Según Reuters, la empresa dijo que apreciaba los hallazgos detallados de Wikimedia, que trabajaba con la organización para analizar la actividad y que seguirá compartiendo información relevante.

→ Reflection AI presenta Beam, su primer modelo de pesos abiertos — Leer →

Beam es un modelo para código y agentes: 501 mil millones de parámetros en total, 23 mil millones activos. Hoy solo hay acceso anticipado por lista de espera; prometen publicar los pesos con licencia Apache 2.0 este mes. Sus comparativas y su afirmación de usar 3 a 4 veces menos cómputo que GLM-5.2 son de la propia empresa, sin verificación independiente.

Si un cliente, un profesor o tu jefe te dijera que un texto tuyo trae marca de IA, ¿cómo le explicarías qué significa y qué no?

PRIMARIAS

— OpenAI: Our approach to EU text provenance rules — enlace

— Anthropic: How Claude marks AI-generated content — enlace

— Wikimedia Foundation: agentes de OpenAI en proyectos de Wikimedia (5 oct) — enlace

— Reflection AI: Introducing Beam — enlace

REPORTES PERIODÍSTICOS

— Reuters (5 oct): respuesta de OpenAI sobre la actividad en Wikimedia — enlace