El organismo divide sus doce buenas prácticas en dos bloques. El primero exige una gobernanza de la inteligencia artificial que recorra toda la organización, desde el consejo de administración hasta las áreas operativas. El segundo fija un marco de gestión de riesgos que obliga a las entidades a comprender las capacidades y limitaciones de cada modelo antes de desplegarlo en procesos sensibles, como la aprobación de un préstamo o de una reclamación de seguro médico.
El eje central del documento es la supervisión humana, que según el Consejo debe ser proporcional al riesgo, la autonomía y la complejidad del sistema utilizado. El organismo sostiene que una vigilancia humana eficaz mejora la toma de decisiones, previene daños y facilita la reparación, y precisa que quienes la ejerzan deben tener la capacidad, la autoridad y los incentivos suficientes para intervenir sobre los resultados del modelo.
El informe distingue niveles de intervención según el caso. En decisiones de alto impacto, como la aprobación de una reclamación de seguro médico, el Consejo considera necesaria la validación humana de cada resultado. En otros procesos, el personal se limita a supervisar y responder a alertas generadas por el sistema, o interviene únicamente cuando desconfía de los resultados que arroja el modelo. El organismo advierte además contra la dependencia excesiva del personal respecto de la máquina.
Agentes autónomos y sus límites
El documento dedica una atención particular a la inteligencia artificial con capacidad de actuación autónoma, los llamados agentes de IA, que operan sin instrucción directa para cada tarea. El Consejo de Estabilidad Financiera reconoce que estos sistemas no razonan como los seres humanos y pueden interpretar objetivos predefinidos de formas inesperadas.
"Las acciones y capacidades de los agentes también pueden cambiar con el tiempo, especialmente si obtienen acceso a nuevas herramientas o reciben nuevas instrucciones", advierte el Consejo de Estabilidad Financiera.
Por esa razón, el organismo recomienda que los bancos prohíban a estos agentes determinadas acciones que excedan el apetito de riesgo institucional y que los entrenen y desplieguen en entornos aislados, sin conexión a la red, donde solo puedan acceder a datos y herramientas previamente descargados. Cuando ese aislamiento no sea posible, las entidades deben restringir la capacidad del agente para interactuar con otros sistemas, redes o agentes.
El informe identifica también el uso malicioso de la inteligencia artificial como arma de fraude y ciberataque. Un método señalado consiste en introducir datos o instrucciones incorrectos para manipular el comportamiento del modelo y que este genere resultados peligrosos, ilegales o no autorizados, una vulnerabilidad que, según el Consejo, algunos modelos avanzados pueden identificar y explotar de forma autónoma.
El pronunciamiento tiene lectura directa para la plaza bancaria panameña, donde las entidades reguladas por la Superintendencia de Bancos han incorporado de forma progresiva herramientas de inteligencia artificial para la detección de fraude, la prevención del blanqueo de capitales mediante la verificación de identidad de los usuarios y la atención al cliente con asistentes virtuales. Las aseguradoras, por su parte, emplean sistemas automatizados para acelerar la revisión de reclamaciones y calcular daños mediante reconocimiento de imágenes.
Un centro financiero internacional dolarizado, con activos denominados en dólares y expuesto a los flujos de capital que transitan por la plaza, convierte la gestión de estos riesgos tecnológicos en un asunto sensible. El país arrastra compromisos de debida diligencia reforzada ante el Grupo de Acción Financiera Internacional, que en los últimos años mantuvo a Panamá bajo escrutinio por sus mecanismos antiblanqueo.
El reclamo de mayor control sobre la tecnología no es ajeno al debate panameño. La Contraloría General ha endurecido sus mecanismos de fiscalización, como cuando retiró a sus funcionarios de las juntas directivas estatales por la norma PEP, y la discusión pública sobre el uso de herramientas automatizadas se ha intensificado tras episodios como la red de espionaje que la Policía Nacional admitió operar con agentes encubiertos.
El Consejo de Estabilidad Financiera fue creado en 2009, tras la crisis financiera global, para coordinar la supervisión de riesgos sistémicos entre bancos centrales y reguladores del G20. Panamá no integra ese foro, pero sigue sus estándares a través de los organismos regionales de supervisión bancaria, dada la relevancia de su centro financiero internacional.
El organismo instó encarecidamente a los consejos de administración y a la alta dirección de bancos y aseguradoras a tomar como referencia estas doce prácticas al usar la tecnología. El documento será remitido a los países del G20 como insumo para las discusiones regulatorias sobre el sector financiero global.
