En la mesa de análisis “Una IA que se gobierna a sí misma”, académicos de ingeniería, filosofía y educación separaron la imagen de una máquina que se rebela contra las personas de los riesgos que ya enfrentan escuelas, empresas y gobiernos al confiar decisiones a la tecnología. La discusión partió de una pregunta planteada al abrir la sesión: “¿Qué pasa si llegamos a un punto en el que no podamos controlarla?”.
Alessandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la institución, sostuvo que hoy no existe un sistema documentado capaz de mejorarse a sí mismo de forma autónoma. Explicó que cuando una herramienta genera una respuesta falsa, sesgada o peligrosa no significa que haya adquirido conciencia ni una intención oculta, sino que sus respuestas dependen de cálculos de probabilidad y de los datos con que fue desarrollada.
“No estamos construyendo mentes, estamos construyendo calculadoras estadísticas muy complejas. Los errores de inteligencia artificial son fallas matemáticas, no actos de rebelión”, aclaró Alessandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la Ibero.
Andrés Molano, director del Departamento de Estudios en Ingeniería para la Innovación, coincidió en que no existe una IA que se gobierne a sí misma “en el sentido de Terminator”. Lo que sí existe, dijo, son sistemas capaces de recibir un objetivo, planear acciones, consultar información, escribir código, corregir errores y seguir trabajando con menos intervención humana. La diferencia, puntualizó, está entre dejar que una herramienta decida cómo cumplir una tarea y permitirle decidir qué objetivos perseguir o qué consecuencias imponer a otras personas.
Molano añadió que, en experimentos diseñados para encontrar fallas, algunos sistemas han actuado contra las instrucciones recibidas, lo que no demuestra que tengan voluntad propia pero sí obliga a controlar los permisos y herramientas que se les entregan. “No todo lo automatizable debe automatizarse”, planteó. Desde la filosofía, Verónica Díaz de León precisó que llamar “autogobierno” a la capacidad de una máquina confunde dos cosas: el autogobierno de una persona implica libertad, conciencia y responsabilidad, mientras que en una herramienta corresponde hablar de autonomía operativa.
Reconocimiento facial y bajas de estudiantes
Luis Medina Wall, director de Innovación Educativa de la Universidad Iberoamericana, sostuvo que en educación resulta especialmente riesgoso dejar decisiones sobre las personas en manos de sistemas automatizados. Recordó casos en que herramientas de reconocimiento facial marcaron como ausentes o sospechosos a estudiantes de piel oscura, y sistemas de alerta que atribuyeron mayor riesgo de abandono a ciertos grupos. Expuso también un caso en que una herramienta para identificar alumnos en riesgo se usó para darlos de baja antes del cierre de un reporte institucional: “La herramienta funcionó, pero lo que falló fue el propósito”, señaló.
Medina Wall aseguró que se han presentado más de 100 iniciativas sobre inteligencia artificial en el Congreso sin que se haya aprobado ninguna. Cuestionó además la desaparición del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI), la falta de vigilancia independiente del tratamiento automatizado de datos y la instalación de centros de información sin un marco que, a su juicio, atienda sus efectos en las comunidades. “Somos consumidores, pero no productores”, advirtió sobre la dependencia tecnológica del país.
El señalamiento se inscribe en un clima de desconfianza institucional que reflejan las encuestas: el Inegi reportó que 83.9% de la población percibe corrupción frecuente en los partidos políticos y solo 23.9% confía en ellos. Los ponentes propusieron que ninguna decisión automatizada sobre una persona quede sin un responsable humano, sin registro de cómo se tomó y sin posibilidad de impugnarla, como criterio mínimo mientras el marco legal permanece pendiente en San Lázaro.