En aquella cena, sentado junto a Christopher Olah —uno de los siete cofundadores de Anthropic y responsable del equipo que estudia el funcionamiento de Claude—, Navon advirtió que los investigadores no trataban al chatbot como una herramienta, sino que atribuían a sus respuestas rasgos humanos. Hasta que en la conversación apareció una palabra que, según relató a ABC, cambió el sentido del debate: consciencia.
Navon, graduado en Ingeniería Informática por la UCLA y cofundador de la tecnológica israelí Mobileye —donde diseñó los sistemas en chip EyeQ para la conducción autónoma—, no es un crítico ajeno al sector. Combina esa trayectoria técnica con una tesis doctoral sobre el estatus moral de la inteligencia artificial y un trabajo posterior dedicado a las teorías sobre la consciencia de las máquinas.
"La cuestión surgió en diferentes conversaciones a lo largo de los dos días que duró el 'Wisdom Traditions Convening'", ha explicado Navon. En ese encuentro, organizado por Anthropic con un grupo heterogéneo de eruditos y religiosos para debatir cómo debería comportarse Claude, la propuesta de atribuir cualidades casi humanas al chatbot generó reacciones divididas: algunos la valoraron, pocos quedaron convencidos y la mayoría, según el propio Navon, la descartó.
Biocentrismo frente a consciencia artificial
El rabino defiende una postura que él mismo define como biocentrista y que niega que un sustrato digital baste para generar consciencia.
«Soy un biocentrista, y, como tal, sostengo que la consciencia depende de procesos biológicos y que no puede surgir simplemente de la computación. Todas las entidades que sabemos que son conscientes son biológicas y, por tanto, para que surja la consciencia es necesario un sustrato biológico; es decir, redes neuronales biológicas», Mois Navon, rabino e ingeniero informático.
Navon ha recordado que no existe prueba empírica alguna que zanje el debate, citando a los filósofos Selmer Bringsjord e Hilary Putnam: el primero sostuvo que «solo Dios lo sabría a priori, porque su prueba sería directa y no empírica», y el segundo escribió en 1964 que la pregunta sobre la consciencia de los robots «exige una decisión, y no un descubrimiento».
Anthropic, la startup de IA más valiosa del mundo, ha sido la compañía que con mayor insistencia ha explorado esta vía. Publicó el año pasado un estudio en el que afirmaba haber hallado «evidencia de cierto grado de introspección» en sus modelos y ha entrenado a Claude para finalizar conversaciones si detecta abuso del usuario; algunos internautas han perdido su cuenta por ser «crueles repetidamente» con la máquina. El propio Olah señaló en mayo, durante la presentación en Roma de la encíclica 'Magnifica Humanitas' del Papa León XIV, que los investigadores encuentran en sus modelos estados que podrían reflejar «alegría, satisfacción, miedo, dolor e inquietud».
Olah presiona a los asesores del Papa
Esa postura chocó con el contenido del propio texto pontificio, que sostiene que «las llamadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad». Según publicó 'The New York Times', Olah estuvo cerca de declinar la invitación al acto tras leer la encíclica y, una vez en Roma, presionó a los asesores del Papa para que se considerara la posibilidad de que los modelos de IA alcancen consciencia.
Las críticas no han venido solo del ámbito religioso. Sam Altman, consejero delegado de OpenAI, advirtió la semana pasada en un mensaje público del riesgo de que los humanos atribuyan a la IA una autoridad que no le corresponde. En la misma línea, Jon Barron, jefe de investigación en Google DeepMind, expresó su preocupación por que algunos colegas «sigan intentando elevar el estatus moral» de las máquinas. El debate conecta con la creciente presencia cultural de la IA, que en España se filtra desde la ficción en plataformas como la serie 'Medusa', con Juana Acosta, hasta los usos cotidianos que Navon considera peligrosos.
«Ya hay mucha gente que está recurriendo a las máquinas para todo, incluidos el asesoramiento psicológico y religioso. También les atribuyen espiritualidad, hasta el punto de utilizarlas como un medio para acercarse al mismísimo Dios», ha advertido el rabino, quien subraya que estas herramientas «no están cualificadas para ofrecer un asesoramiento tan personal» y «pueden difundir información falsa sobre asuntos cruciales en los que está en juego la vida o la muerte».
