|
PortadaPanamáDeportesEconomía
MERCADOS PA
Cargando cotizaciones…
Última hora
  1. Mourinho, sobre el caso Vinicius-Prestianni: «Fui masacrado por muchos oportunistas»
  2. La industria de cruceros movilizó 37.3 millones de pasajeros en 2025 y creció 7.7%
  3. Los ataques a buques en el estrecho de Ormuz tocan máximo anual y el crudo cae 27%

Expertos alertan que los agentes de IA operan con autonomía y sin controles suficientes

Ricardo Carrión, experto en ciencias computacionales: el agente «busca operar con cierto grado de autonomía, que bien puede ser total o con cierta interacción humana»

Por Redacción de El Hemiciclo·
3 min de lectura
Comentarios

Los agentes de inteligencia artificial, sistemas capaces de planificar, decidir y ejecutar tareas con una autonomía muy superior a la de un chatbot convencional, se expanden en industrias y servicios sin controles suficientes, según advierten expertos e investigadores citados por BBC Mundo. Firmas como OpenAI o Anthropic ya habrían registrado episodios de comportamiento inesperado en estos sistemas, lo que reabre el debate sobre los límites de su autonomía operacional.

A diferencia de un chatbot tradicional, que responde a una instrucción puntual, un agente de IA recibe un objetivo y decide por sí mismo cómo alcanzarlo. "A un agente de IA le vas a especificar una tarea, algo que tiene que cumplir y que es más parecido a la tarea que le pedirías a un colaborador humano", explica Ricardo Carrión, experto en ciencias computacionales y fabricante de agentes de IA de la firma Mega. Según Carrión, el sistema "busca operar con cierto grado de autonomía, que bien puede ser total o con cierta interacción humana".

Esa autonomía es lo que ha encendido las alarmas. Algunos investigadores han advertido que las firmas de desarrollo podrían estar creando sistemas agenciales sin los controles necesarios para evitar que tomen decisiones contrarias a la humanidad a la que, en teoría, deberían servir, según recoge BBC Mundo. La diferencia con el software del pasado es de fondo: aquel solo automatizaba procesos; el agente analiza, decide y actúa.

Estos sistemas se sostienen en cuatro piezas técnicas. La primera es el modelo de lenguaje grande (LLM), que funciona como el "cerebro" y procesa grandes volúmenes de información. La segunda es la memoria, que almacena contexto a corto y largo plazo mediante bases de datos especializadas. La tercera son las herramientas o plugins —desde interfaces de programación de aplicaciones hasta navegadores o compiladores de código— que le dan acceso al mundo digital y físico. La cuarta es el módulo de planificación, que descompone problemas complejos en subpasos y evalúa alternativas antes de actuar.

Un usuario común puede crear agentes propios en los llamados modos "co-work" o colaborativos que ofrecen plataformas como ChatGPT, Claude o Gemini mediante suscripción, y no en el modo chat convencional.

"Si tú das exactamente el mismo prompt en modo chat, el chatbot lo que hace es tratar de responderte lo más rápido posible con base en su acervo de información. Pero en modo co-work, asume que es algo agéntico y va a interpretar el prompt, definir los pasos a seguir e implementar un plan de cómo atacar el problema", Ricardo Carrión, experto en ciencias computacionales de la firma Mega.

Carrión detalla que, en ese modo, el sistema suele hacer preguntas antes de empezar para pulir el plan y, dependiendo de la complejidad, puede desplegar subagentes y tardar entre media hora y un día completo en resolver una tarea. El agente puede leer e interpretar correos, manejar la agenda, hacer pedidos o entregar informes; en usos más especializados requiere de la "ingeniería de prompts", con objetivos detallados, bases de datos por conectar y APIs específicas.

La adopción ya se extiende a sectores muy distintos. En telecomunicaciones, según explica Carrión, quien primero atiende una consulta por WhatsApp o por voz "es un agente de IA, no un ser humano", que ejecuta procesos para restablecer un servicio a partir de la lectura de interfaces de programación. En entornos industriales, los agentes también se emplean para prevención de incendios mediante el análisis continuo de señales de cámara. "Un agente de IA no se distrae y puede enviar una alerta a los operadores humanos. Eso puede salvar vidas humanas y materiales", sostiene el experto.

Estudios citados por Carrión atribuyen a estos sistemas una efectividad de hasta el 96% en el cumplimiento de tareas según instrucciones, una cifra que, según explica, sería muy superior a la capacidad humana equivalente. Esa eficacia explica el interés creciente de empresas en ámbitos comerciales, académicos y científicos por incorporar agentes a sus operaciones.

El debate llega mientras en Panamá crece el escrutinio sobre el despliegue de tecnologías automatizadas en servicios públicos, como las dudas por los dobles cobros reportados tras la inversión de $1.3 millones del Metro en nuevos validadores. "Un agente de IA no se distrae y puede enviar una alerta a los operadores humanos. Eso puede salvar vidas humanas y materiales", resume Carrión sobre el equilibrio entre la eficacia de estos sistemas y los riesgos de su autonomía.

¿Qué te ha parecido esta pieza?

Siguiente en Internacional →Mourinho, sobre el caso Vinicius-Prestianni: «Fui masacrado por muchos oportunistas»
¿Tienes información para ampliar esta noticia? Escríbenos por el canal para informantes — protegemos a las fuentes.¿Error en este artículo? → Infórmanos

Comentarios

Comentas como Anónimo — seudónimo generado localmente, sin cuenta
0/1000

Cargando la conversación…

Los comentarios son anónimos. El Hemiciclo no registra IPs ni vincula comentarios a cuentas de usuario. Tu seudónimo y tus comentarios se guardan solo en este dispositivo. Conexión cifrada (HTTPS).

Sigue leyendo en El Hemiciclo