La IA que tiene valores propios asusta al Pentágono

Antes de entrar al drama, aquí va algo práctico.

Esta semana, Google lanzó nuevas funciones de IA en Maps: ahora puedes preguntarle en lenguaje natural cosas como "¿dónde paro a comer algo que no tarde mucho?" durante un viaje, y Maps te responde usando información de más de 300 millones de lugares. También hay navegación que muestra el camino en 3D, con edificios reales, pasos a desnivel y cruces peatonales.

No necesitas instalar nada. Si usas Google Maps, ya viene o ya viene llegando.

Para entender lo que pasó esta semana, necesitamos dar un paso atrás.

La historia empezó en febrero.

Anthropic — la empresa que hace Claude — tenía un contrato de 200 millones de dólares con el ejército de EE.UU. Era la única IA autorizada para trabajar dentro de los sistemas clasificados del Pentágono. Pero en las negociaciones para renovar ese contrato, surgió un conflicto: el gobierno quería poder usar Claude para todo lo que fuera legal, sin excepciones. Anthropic dijo que sí, pero con dos límites que no negociaría: no a las armas autónomas sin supervisión humana, y no a la vigilancia masiva de ciudadanos estadounidenses.

El gobierno dijo que no aceptaba esos límites.

Las negociaciones se rompieron el 27 de febrero. Trump ordenó a todas las agencias federales dejar de usar Claude de inmediato. El Secretario de Defensa Pete Hegseth anunció algo aún más grave: etiquetó a Anthropic como "riesgo en la cadena de suministro" — una categoría que históricamente se reserva para empresas de países enemigos como China o Rusia. Fue la primera vez que el gobierno de EE.UU. usó esa etiqueta contra una empresa americana.

Luego llegó la semana de esta edición.

El lunes 9 de marzo, Anthropic demandó al gobierno ante dos tribunales federales. La empresa dijo que las acciones del gobierno son "sin precedente e ilegales", y que la Constitución no permite al gobierno usar su poder para castigar a una empresa por su postura protegida sobre un tema de interés público. The Hill Al mismo tiempo, más de 30 científicos e investigadores de OpenAI y Google — incluyendo al jefe de investigación de Google, Jeff Dean — presentaron un escrito legal de apoyo a Anthropic, argumentando que la designación podría dañar la competitividad de EE.UU. en IA. CNN

Y el jueves 12 de marzo llegó la explicación más clara hasta ahora.

Emil Michael, el director de tecnología del Departamento de Defensa, apareció en televisión nacional y dijo esto: "No podemos tener una empresa que tiene una preferencia política diferente integrada en el modelo a través de su constitución." Storyboard18 Y añadió que esa diferencia de valores haría que Claude "contaminara" la cadena de suministro militar, poniendo en riesgo la efectividad de las armas y la protección de los soldados.

La designación convierte a Anthropic en la primera empresa americana en recibir esta etiqueta, y obliga a todos los contratistas de defensa a certificar que no usan Claude en proyectos relacionados con el Pentágono. Quartz

¿Qué es la "constitución" de la que habla el gobierno?

Anthropic tiene un documento público que guía cómo se comporta Claude. No es código técnico — es más parecido a una lista de principios. Dice cosas como: Claude debe ser honesto, no debe ayudar a hacer daño, debe proteger a las personas vulnerables. El gobierno dice que esos principios son un problema porque los considera una "agenda" que no debería estar en una herramienta militar.

Anthropic dice que esos principios son exactamente la razón por la que Claude es confiable.

Un contraargumento que varios expertos han señalado: todos los modelos de IA tienen guardarraíles. OpenAI también los tiene. Nadie en la industria usa IA sin ellos, porque sin guardarraíles la IA es imprevisible. La pregunta real no es si Claude tiene valores — es quién decide qué valores son los correctos. Substack

¿Dónde estamos hoy?

La demanda de Anthropic busca que un juez revierta la designación y bloquee a las agencias federales de aplicarla. La empresa ha dicho que no quiere pelear con el gobierno — quiere una solución. Pero llegó a los tribunales como "último recurso". Al Jazeera El proceso legal puede tomar meses.

Mientras tanto, el Pentágono sigue usando Claude en algunos sistemas, incluyendo operaciones relacionadas con el conflicto en Irán — aunque tiene un plan de seis meses para migrar a otras herramientas. CNBC

Porque esta pelea no es sobre Claude. Es sobre una pregunta que todos vamos a tener que responder en los próximos años:

¿Puede una empresa de IA decir "esto no, aunque sea legal"?

El gobierno dice que no. Que ellos deciden cómo usar sus herramientas. Anthropic dice que sí. Que tener principios es parte de hacer IA responsable.

Lo que se resuelva en los tribunales va a definir las reglas del juego para toda la industria.

Si tienes una empresa: El gobierno puede convertirse en tu cliente más exigente — y el más difícil de complacer. Las empresas que adopten IA para proyectos gubernamentales van a tener que entender que los estándares de uso pueden cambiar según quién esté en el poder.

Si estás en la universidad: Esta historia es el mejor caso de estudio sobre ética tecnológica que vas a ver en mucho tiempo. La pregunta de si la IA debe tener valores propios, y quién los define, es exactamente el debate que está formando el futuro de la disciplina.

Si eres profesional: Las herramientas de IA que usas en tu trabajo no son neutrales. Tienen principios detrás. Saber cuáles son, y quién los puso, es parte de usar IA con criterio.

Si eres persona de a pie: Que una empresa diga "no vamos a usar nuestra tecnología para espiar a ciudadanos" y el gobierno responda con una demanda debería importarte, sin importar tu postura política. Es una conversación sobre límites, poder y quién los decide.

Sigue usando Claude con confianza para tu trabajo diario. La restricción solo afecta contratos con el Pentágono. El servicio para personas, empresas y gobierno fuera de ese ámbito sigue operando con normalidad.

Si tu empresa tiene contratos o planes de trabajo con el gobierno de EE.UU. y usa Claude, es momento de revisar qué dice tu contrato sobre el software de terceros. No es urgente para la mayoría, pero sí es el momento de hacer la pregunta.

📌 Fuente:

Esta es una historia para entender, no para actuar de inmediato. Pero aquí hay tres cosas reales que puedes hacer:

Si usas Google Maps, activa las actualizaciones automáticas en tu app. Las nuevas funciones de IA (Ask Maps e Immersive Navigation) están llegando primero en inglés para usuarios en EE.UU., pero el despliegue a otros países y en español suele llegar en semanas. Mantén tu app al día para recibirlas en cuanto lleguen a México y Latinoamérica.

Google Workspace Studio Si tienes una cuenta de Google (Workspace o Gmail), puedes automatizar tu bandeja de entrada con agentes de IA. La herramienta te permite etiquetar correos automáticamente, extraer información de facturas y borradores de respuestas sin tocar nada. Ideal para profesionales y emprendedores que reciben muchos correos. Acceso en: workspace.google.com/studio

Usa este prompt en Claude o ChatGPT para entender el debate de hoy desde distintos ángulos:

Esta semana, la imagen que nos quedó grabada no es una foto de ningún ejecutivo ni de ninguna sala de reuniones. Es la idea de una empresa parada frente al ejército más poderoso del mundo, sosteniendo un documento que dice "esto no".