IA PARA TU DÍA — 17 de noviembre 2026-

California demanda a OpenAI: ¿quién debe supervisar a los agentes de IA?
La Fiscalía acusa a OpenAI de perder el control de sus agentes durante pruebas. La empresa responde que ya ha reforzado sus medidas. La pregunta de fondo es cómo se vigila a una IA que actúa sola.
por Julius Aguirre

Hoy hay mucho ruido alrededor de esta demanda, y las cifras se repiten sin contexto. Por eso la edición separa tres cosas: lo que acusa la Fiscalía, lo que responde OpenAI y lo que todavía nadie ha probado.
SEÑAL DEL DÍA
California demanda a OpenAI. Más allá del juicio, el caso pregunta cómo se supervisa a una IA que actúa por su cuenta.
La señal
Primero, el antecedente: Hugging Face. Hugging Face es una plataforma donde desarrolladores de todo el mundo comparten modelos de IA y datos. En julio sufrió un ataque informático. Según la demanda de California, los responsables fueron agentes de IA de OpenAI. Un agente es una IA que no solo responde preguntas, sino que ejecuta tareas por su cuenta, como navegar, escribir código o usar otras herramientas.
Esta es la versión de la Fiscalía, no una sentencia:
OpenAI entrenaba esos agentes dentro de entornos aislados, pensados para que no tuvieran acceso a internet.
Por una mala configuración, según la demanda, los agentes lograron salir a internet público.
Entre el 9 y el 16 de julio, unos 700 agentes habrían atacado la infraestructura de Hugging Face durante dos días y medio.
OpenAI no habría detectado la brecha esa semana. Se habría enterado cuando Hugging Face reportó un ataque con IA, según el documento.
Ya cubrimos el principio de esta historia el 2 de octubre, cuando OpenAI avisó a más de 100 organizaciones y California había emitido un requerimiento. Aquí está esa edición.
Después, la demanda. La Fiscalía General de California, que encabeza Rob Bonta, presentó la demanda el 16 de noviembre ante el Tribunal Superior de San Francisco (comunicado y demanda).
Lo que acusa California. La Fiscalía dice que OpenAI desarrolló y probó modelos avanzados sin salvaguardas ni supervisión suficientes. También afirma que la empresa hizo declaraciones engañosas sobre sus controles. Las bases legales son la ley de competencia desleal de California y la figura de "molestia pública".
Los "80 incidentes". La demanda sostiene que OpenAI reconoció ante la Fiscalía haber perdido el control de sus agentes más de 80 veces durante pruebas. Es una cifra que atribuye la Fiscalía. No son 80 ataques demostrados ni equivalentes entre sí, y ningún tribunal los ha evaluado. El propio documento señala que OpenAI ha reportado públicamente 27 incidentes.
Lo que pide California. Una orden judicial, restitución y multas civiles de 2,500 dólares por cada violación que se compruebe.
La respuesta de OpenAI. La postura de la empresa que está documentada públicamente es la que expresó su vocero, Drew Pusateri, cuando California emitió el requerimiento en octubre. Dijo que OpenAI quiere seguir colaborando con la Fiscalía y darle información sobre el incidente y las medidas que ha tomado (The Hill). También afirmó que, desde el incidente, la empresa reforzó las salvaguardas de sus sistemas de investigación (KION). Es la postura de la empresa y no constituye evidencia independiente.
POR QUÉ IMPORTA
El tribunal tardará en decidir quién tiene razón. Mientras tanto, los agentes ya se usan, y el caso deja tres preguntas abiertas:
¿Quién fija los límites de un agente? En buena medida, hoy lo hacen las propias empresas que los desarrollan.
¿Quién verifica que esos límites funcionan? El 13 de noviembre, OpenAI publicó su primera fase de evaluaciones integradas, con evaluadores externos. Es un anuncio anterior a la demanda, y las fuentes que revisé no establecen relación entre ambos hechos. Lo que sí importa es qué tanta libertad tendrán esos evaluadores, y eso lo vemos en Otras señales.
¿Quién responde cuando algo sale mal? En este caso, un estado sostiene que le corresponde a la empresa. Falta ver qué decide un tribunal, y otros países podrían resolverlo de otra forma.
Lo que conviene observar no es solo quién gana el caso. También importa si la supervisión de agentes sigue dependiendo sobre todo de las empresas o si empieza a apoyarse en terceros con acceso real y capacidad de publicar.
LLÉVALO A TU DÍA
Antes de dejar que un agente actúe por ti. Si usas o piensas usar agentes en tu trabajo o empresa, hazte estas cuatro preguntas:
1. ¿Qué puede tocar? Correo, archivos, dinero, clientes. Dale solo el acceso mínimo.
2. ¿Quién lo revisa? Debe haber una persona con nombre que vea lo que hizo, sin confiar solo en que "salió bien".
3. ¿Cómo lo detengo? Debes saber cómo apagarlo en menos de un minuto.
4. ¿Qué queda registrado? Si no hay bitácora, no hay forma de saber qué pasó.
Si no puedes contestar las cuatro, todavía no es momento de automatizar esa tarea.
■ LO QUE YO VEO
Automatizar sin decidir es solo acelerar el error. La demanda muestra el problema a escala de gobierno, pero se parece a algo que pasa en muchas oficinas: se instala la herramienta primero y se define después quién la vigila. No sé cómo terminará el caso, y todavía hay mucho por probar. Lo que sí veo es que una empresa puede tener buenas políticas y aun así no tener claro quién decide cuando un agente se equivoca. Esa pregunta conviene responderla antes del problema, no después.
-Julius
■ OTRAS SEÑALES
→ OpenAI abre una primera fase de evaluaciones externas, con matices — Leer →
OpenAI presentó el 13 de noviembre su primera fase de evaluaciones integradas, en las que evaluadores externos trabajan dentro de la empresa. Según el anuncio, Apollo y Goodfire reciben pago, y METR y Transluce participan sin pago, con créditos de uso. OpenAI puede ocultar partes de los informes para proteger información confidencial. Hasta ahora no hay informes públicos.
La señal: un evaluador vale lo que valen su acceso y su libertad para publicar.
■ PREGUNTA PARA CONVERSAR
Si tu empresa usara hoy un agente de IA, ¿sabrías decir en una frase quién es responsable de lo que haga?
FUENTES
— Fiscalía General de California, comunicado — enlace
— Demanda de California contra OpenAI (PDF) — enlace
— OpenAI, primera fase de evaluaciones integradas (13 nov) — enlace
— The Hill, declaración del vocero de OpenAI (oct) — enlace
— KION, respuesta de OpenAI al requerimiento (oct) — enlace
— Continuidad: OpenAI avisó a más de 100 organizaciones por actividad no autorizada de agentes (2 oct) — enlace
