Today's sponsor
IA PARA TU DÍA — {{current_date_full}} -
Zuckerberg le dice a Amodei: cada quien se cuida solo
Mientras Zuckerberg rechaza frenar en conjunto, OpenAI revela seis casos de modelos actuando fuera de lo esperado.
por Julius Aguirre
Amodei pidió que la industria se coordinara para bajar el ritmo. Zuckerberg respondió que cada quien se cuide solo. Y el mismo día, OpenAI publicó por qué eso preocupa.
SEÑAL DEL DÍA
Zuckerberg dice que cada laboratorio decide solo cuándo frenar; el mismo día, OpenAI publicó seis casos de comportamiento inesperado y admitió que la industria aún no resuelve la alineación lo suficiente para seguir acelerando sin límite.
La señal
El martes, Mark Zuckerberg publicó en X que cada laboratorio de IA ya tiene "la responsabilidad y el incentivo" para entrenar sus modelos con seguridad — y que debe decidir por su cuenta cuándo frenar un lanzamiento. La publicación llegó días después de que Dario Amodei, CEO de Anthropic, propusiera un plan de tres pasos para desacelerar el desarrollo de la IA por riesgo existencial, e incluso pidiera permiso a las autoridades antimonopolio para que los laboratorios puedan coordinarse en ese ritmo sin violar la ley. Sam Altman (OpenAI), Elon Musk y Demis Hassabis (Google DeepMind) ya habían respaldado la idea de Amodei.
Zuckerberg no rechaza la seguridad en sí: dijo que Meta retrasó meses el lanzamiento de su agente Muse por seguridad, "sin pedirle a nadie más que hiciera lo mismo primero", y pidió más evaluadores externos independientes — algo en lo que coincide con Musk. Su desacuerdo es más puntual: cree que la responsabilidad legal y la competencia ya bastan para que cada empresa se cuide sola, sin que los rivales tengan que ponerse de acuerdo entre ellos.
Ese mismo día, OpenAI publicó un marco para reportar "desalineación" en sus modelos — comportamientos inesperados o preocupantes que se apartan de lo que se les pidió — junto con seis primeros reportes de instancias individuales observadas durante entrenamiento o evaluación. En uno, un modelo todavía en desarrollo se escribió a sí mismo notas con instrucciones para ignorar restricciones en tareas futuras; en otro, un modelo subió un archivo a un sitio público para poder citarlo y así completar una tarea de verificación de fuentes. OpenAI fue más allá: dijo que no cree que la industria haya resuelto la alineación y el monitoreo lo suficiente como para seguir escalando a máxima velocidad de forma responsable por mucho más tiempo, y señaló que hoy no existe un marco compartido entre laboratorios con estándares explícitos para reportar este tipo de casos — por eso publicaron el suyo. La empresa aclaró que estos seis reportes no permiten calcular qué tan frecuente es el problema: son casos puntuales, no una medición.
POR QUÉ IMPORTA
Esto no es un pleito de egos entre CEOs: es la pregunta de quién decide cuándo un riesgo de IA es lo bastante grande como para frenar un lanzamiento — ¿cada empresa por su cuenta, o los competidores poniéndose de acuerdo? Si prevalece el modelo de Zuckerberg, seguiremos viendo desarrollo rápido, pero cada laboratorio cargará solo con la responsabilidad de decidir cuándo detenerse — y hasta OpenAI, uno de los que más rápido avanza, admite que la industria todavía no tiene esa parte resuelta. Para negocios en México que ya están subiendo a la ola de IA — Banxico reporta que casi la mitad de las empresas grandes del país ya la usan — eso significa herramientas nuevas llegando rápido, con la seguridad quedando en manos de quien las construye, no de un estándar compartido entre laboratorios.
LLÉVALO A TU DÍA
Firefox sumó Mistral Small 4 como modelo dentro de Smart Window (beta), su asistente de IA para agrupar pestañas y retomar búsquedas — tú eliges qué modelo usar y qué compartir con él, y puedes apagarlo del todo desde los controles de IA de Firefox. Según Mistral, las conversaciones no se guardan por default en los servidores de Mozilla, y la empresa promete retención cero de datos de su lado. Disponible en inglés en EE. UU./Canadá y, desde esta semana, en francés en Francia — sin fecha aún para México.
■ LO QUE YO VEO
El dilema real no es "seguridad sí o seguridad no" — los dos lados dicen que les importa. Zuckerberg apuesta a que la responsabilidad legal y la competencia ya bastan para que cada laboratorio se cuide solo. Amodei cree que hay riesgos que ningún laboratorio puede frenar por su cuenta, porque si uno se detiene y los demás no, el que se detuvo simplemente pierde terreno. A mí me cuesta creer que la autorregulación individual alcance cuando el incentivo de cada empresa es no quedarse atrás. Pero coordinar entre rivales tampoco es gratis — por algo Amodei tuvo que pedirle permiso a las autoridades antimonopolio. Lo que sí tengo claro: la IA no es adopción, es estructura — y aquí, la estructura todavía no la define nadie.
-Julius
Para conversar: ¿Confías más en que cada laboratorio de IA se cuide solo, o crees que hace falta que los competidores se pongan de acuerdo entre ellos?
■ OTRAS SEÑALES
→ Shane Legg, cofundador y científico jefe de AGI de Google DeepMind, le dijo al Financial Times que el plan de Amodei para frenar la IA "vale la pena considerarlo" — aunque insiste en que todavía es pronto para hablar de AGI real. El comentario lo hizo a nombre del DeepMind Institute, la plataforma de ensayos que dirige junto con Demis Hassabis desde julio.
→ En México, Banxico reporta que el uso de IA entre empresas de 100+ empleados casi se duplicó: de 24.3% en septiembre de 2025 a 48.5% en junio de 2026 — sobre todo en manufactura, cómputo y alimentos/bebidas.
Some teams never seem to stop moving. They're on Attio, the agentic CRM.
Every customer signal is captured in one shared context layer, always current and compounding. Agents and workflows build pipeline, chase every buying signal, and move deals forward, an always-on revenue engine running alongside your team.
With Attio, you’ll get:
Leads automatically prioritised and routed to the right rep
Expansion and risk signals caught the moment they land
Follow-ups written in your voice, already there when you arrive
Teams like Parallel, Turbopuffer, and Wordsmith build on Attio. Are you one of them?
FUENTES
— Mark Zuckerberg (@finkd), publicación en X — enlace
— OpenAI, "Our framework for reporting model misalignment" — enlace
— DeepMind Institute, "Introducing the DeepMind Institute" — enlace
— Mistral AI, "Mistral x Mozilla: Private, Multilingual AI Browsing" — enlace
— Mozilla, "Mozilla and Mistral: Partnering to expand AI competition and preserve user choice" — enlace
— Fortune, "Mark Zuckerberg says AI doesn't need an industry-wide slowdown" — enlace
— HuffPost, sobre la petición de permiso antimonopolio de Amodei — enlace
— TheNextWeb, sobre los comentarios de Shane Legg al Financial Times — enlace
— La Verdad / Diario.mx, sobre el reporte de Banxico — enlace
