El contrato en el centro de la controversia, firmado a comienzos de este año, habilita el uso de la tecnología de Google en tareas militares clasificadas. El documento estipula que los modelos pueden emplearse para "cualquier fin gubernamental legítimo", aunque aclara que "no deben emplearse para la vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados".
Liguori, afincada en Londres, trabajó tres años en la compañía antes de presentar su renuncia esta semana. Explicó que la decisión responde al avance de los vínculos de Google con los aparatos de defensa de Estados Unidos e Israel. Pese a que su contrato se lo prohibía, aceptó hablar a título personal sobre sus preocupaciones.
"Al darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares, me avergüenza trabajar en Google", dijo Sofia Liguori, exingeniera de investigación de Google DeepMind.
La exingeniera cuestionó el cumplimiento de los compromisos corporativos de la propia firma. Según los Principios de IA de Google, la compañía se obliga a desplegar la tecnología con "supervisión humana" y a alinearla con "el derecho internacional y los derechos humanos". Liguori sostuvo que la dirección adoptada la llevó a cuestionar esos valores.
"No estoy de acuerdo con esta dirección y esto me ha llevado a perder la fe en que mi empresa sea fiel a los valores éticos que declara", sostuvo Sofia Liguori.
Andreas Kirsch, que dejó Google DeepMind a comienzos de este mes, fue más allá al cuestionar la capacidad de la empresa para vigilar el destino final de su tecnología una vez entregada a las fuerzas armadas. El investigador afirmó que "la gobernanza y la supervisión de Google no son suficientes ni lo suficientemente significativas como para desplegar la IA de forma segura y responsable en entornos militares y clasificados" ni "para desarrollar una superinteligencia artificial de forma segura en el futuro".
Kirsch planteó además un problema de control sobre lo que ocurre tras la firma. "Google parece no tener derecho a controlar ni a vetar cómo el Pentágono utiliza su IA, y además parece tener una visibilidad limitada sobre cómo se está implantando", señaló.
Un portavoz de Google respondió a las críticas asegurando que la empresa sigue protocolos internos para cada acuerdo con organismos públicos. "Trabajamos con organizaciones del sector público en todo el mundo y seguimos un proceso coherente para revisar y formalizar estos contratos, incluido el cumplimiento de nuestras políticas de uso aceptable y los principios de IA", indicó. Agregó que la compañía mantiene "canales específicos para que los empleados puedan plantear de forma segura cualquier inquietud" y "políticas laborales estrictas para evitar represalias de cualquier tipo".
La velocidad define la victoria, según el Pentágono
Del lado oficial, el subsecretario de Defensa Emil Michael defendió este año la urgencia de la adopción militar de la inteligencia artificial en un comunicado: "La velocidad define la victoria en la era de la IA". El secretario de Defensa, Pete Hegseth, ha convertido la integración de esta tecnología en las fuerzas armadas en una prioridad declarada, con el objetivo de transformarlas en una "fuerza de combate basada en la IA".
El ejemplo más citado de esa integración es Maven Smart Systems, la principal plataforma del Pentágono para organización de inteligencia y datos, desarrollada por la firma de defensa Palantir. El sistema incorpora tecnología de varias empresas de inteligencia artificial para acelerar la identificación de objetivos militares. El teniente general retirado Jack Shanahan, antiguo director del proyecto, describió la lógica de esa adopción acelerada: "Implantar [la tecnología de IA] lo más rápido posible y de la forma más amplia posible, potencialmente a expensas del rigor y la disciplina de las pruebas y la evaluación".
Los críticos cuestionan si la tecnología es lo suficientemente fiable como para ser utilizada en la guerra sin más pruebas, medidas de seguridad y supervisión humana. La preocupación apunta a la compresión de los tiempos de decisión: la IA reduce el margen que tiene un operador para resolver, porque opera mucho más rápido que una persona, un factor especialmente delicado en entornos de combate de alto estrés.
Google no es la única tecnológica involucrada en este tipo de acuerdos. OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la empresa emergente Reflection firmaron contratos similares este año para permitir el despliegue de inteligencia artificial en transporte, planificación y operaciones de campo de batalla, un abanico de usos que, según los trabajadores del sector, amplía considerablemente el espectro de aplicaciones que el Pentágono puede dar a estas herramientas.
Las fricciones entre empleados de Google y los proyectos militares no son nuevas. En 2018, miles de trabajadores firmaron una carta interna contra la participación de la empresa en una versión anterior del Proyecto Maven, episodio que llevó a la compañía a no renovar aquel contrato y a publicar poco después sus Principios de IA, los mismos que Liguori y Kirsch invocan ahora para denunciar su incumplimiento.
El debate sobre el uso bélico de la inteligencia artificial se produce en un contexto de conflictos activos donde estas herramientas ya se emplean, desde la vigilancia hasta la selección de objetivos, mientras persisten las dudas sobre si los mecanismos de supervisión humana avanzan al mismo ritmo que las capacidades técnicas. En el frente ucraniano, Rusia se ha dicho dispuesta a reanudar las conversaciones de paz con Ucrania y Estados Unidos.
Kirsch resumió la inquietud de fondo que motivó su salida: la falta de capacidad real de Google para vetar o controlar el uso final que las fuerzas armadas estadounidenses dan a su tecnología una vez firmado el contrato.
