Aceptemos también la segunda premisa, la que los propios académicos de la Ibero pusieron sobre la mesa. Alessandro López González lo dijo sin adornos: no estamos construyendo mentes, sino calculadoras estadísticas muy complejas, y sus errores son fallas matemáticas, no actos de rebelión. Si la máquina no se rebela, si no hay un Terminator agazapado en el servidor, ¿para qué correr? Andrés Molano confirmó que ninguna IA se gobierna a sí misma. Luego no hay emergencia. Luego el Congreso hace bien en tomarse su tiempo. Vamos concediendo, paso a paso, y de momento todo cuadra.
Tercera premisa, y también se la concedo. Verónica Díaz de León distinguió con precisión de filósofa: el autogobierno de una persona supone libertad, conciencia y responsabilidad; en la máquina solo cabe hablar de autonomía operativa. La máquina, entonces, no es responsable de nada. No se le puede pedir cuentas a una calculadora. Perfecto. Quiere decir que la responsabilidad, toda ella, sigue estando donde siempre estuvo: en el ser humano que aprieta el botón. La máquina no responde; responde quien la manda. Sigamos.
Cuarta premisa. Molano añadió que no todo lo automatizable debe automatizarse, y que hay que controlar los permisos y las herramientas que se entregan a esos sistemas. Es decir: alguien tiene que decidir qué se automatiza y qué no, quién vigila y bajo qué reglas. Ese alguien, en un país con leyes, se llama legislador. Y aquí llegamos al punto delicado, porque el legislador nos ha explicado que precisamente para no equivocarse ha decidido no legislar. La prudencia consiste, según esta lógica, en dejar sin marco justo aquello que todos coinciden en que debe tener marco.
Sigamos siendo generosos con el argumento oficial, porque aún aguanta. Luis Medina Wall recordó casos concretos: herramientas de reconocimiento facial que marcaron como ausentes o sospechosos a estudiantes de piel oscura, y sistemas que atribuyeron mayor riesgo de abandono a ciertos grupos. Contó incluso uno en que una herramienta para detectar alumnos en riesgo se usó para darlos de baja antes del cierre de un reporte institucional. La herramienta funcionó, dijo; lo que falló fue el propósito. Concedámoslo entero: la máquina no falla, falla quien decide para qué la usa. Volvemos, entonces, al ser humano responsable. Que sigue sin regla.
Escribió Octavio Paz que el Estado mexicano es un ogro filantrópico: da con una mano lo que vigila con la otra. La frase, hecha a la medida de este asunto, describe con exactitud lo que ocurre cuando el mismo poder que instala centros de información sin marco, según denunció Medina Wall, es el que desapareció el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales y dejó sin vigilancia independiente el tratamiento automatizado de datos. El ogro decidió, a la vez, ampliar la herramienta y quitar al vigilante. Filantropía por delante, ojo cerrado por detrás.
Aquí es donde el razonamiento prudente revienta solo, sin que nadie lo empuje. Si la máquina no es responsable —y hemos concedido que no lo es—, y si el Congreso decide no crear el marco que fije quién sí responde, entonces la conclusión que se desprende, punto por punto, de las propias premisas oficiales es esta: cuando un sistema automatizado dé de baja a un estudiante, marque como sospechoso a un ciudadano por el color de su piel o niegue un derecho por un cálculo de probabilidad, no habrá culpable. La máquina no puede serlo porque es una calculadora. El funcionario dirá que fue la máquina. Y el legislador dirá que estaba estudiándolo con calma. Tres eslabones y ningún responsable: exactamente el resultado que los ponentes pidieron evitar cuando propusieron que ninguna decisión automatizada quede sin un humano que responda, sin registro y sin posibilidad de impugnarla.
No es que el país se enfrente a un peligro futuro de máquinas conscientes. El peligro, según el material, es presente y humano: la dependencia de un país que, en palabras de Medina Wall, es consumidor pero no productor de esta tecnología, y que además decidió apagar la luz de la vigilancia justo cuando encendió las máquinas. El Inegi reporta que 83.9% de la población percibe corrupción frecuente en los partidos políticos y solo 23.9% confía en ellos. Con esos números, pedirle a la ciudadanía que confíe en que la casta legislará bien —cuando lleva más de 100 iniciativas sin aprobar una sola— es pedir un acto de fe que ni el más devoto firmaría. La prudencia de no hacer nada es, mirada de cerca, la coartada perfecta: el club no legisla, no se equivoca; no vigila, no molesta; y quien pagó la entrada se queda, como siempre, del lado de afuera de la decisión y del lado de adentro de las consecuencias.
De modo que la pregunta no es si la máquina se rebelará. Esa ya la contestaron los académicos, y la respuesta es no. La pregunta es otra, y tiene respuesta concreta con nombre y apellido: cuando un sistema automatizado le arruine el semestre, le niegue un trámite o lo marque a usted como sospechoso, y no exista ley que diga quién responde, ¿a qué diputado de esta LXVI Legislatura le va usted a reclamar la iniciativa número 101 que decidió no votar?