El escenario que dibuja Amodei no es el de una única superinteligencia hostil, sino el de múltiples agentes autónomos operando en paralelo, capaces de explotar vulnerabilidades a una velocidad y escala que ningún equipo humano de ciberseguridad podría igualar. Según el planteamiento del ejecutivo, la amenaza no reside tanto en la sofisticación individual de cada agente como en su capacidad de actuar de forma coordinada y simultánea sobre infraestructuras críticas de la red.
La magnitud del problema se resume, según el material, en una frase sobre el desfase entre la velocidad del ataque y la de la respuesta:
«Tardaríamos unos añitos en arreglarlo todo».
La expresión, coloquial pero contundente, refleja la preocupación de quienes trabajan en la contención de fallos de seguridad a gran escala frente a un adversario que no necesita coordinación humana para escalar sus acciones.
La propuesta de Amodei, publicada en su web bajo el título «We must pace the frontier», no es la primera de sus intervenciones que genera controversia dentro y fuera de la industria. El presidente ejecutivo de Anthropic, una de las compañías líderes en el desarrollo de grandes modelos de lenguaje, ha defendido que el ritmo actual de avance tecnológico supera la capacidad de las instituciones y las empresas para anticipar y mitigar riesgos sistémicos.
El debate sobre los límites de la inteligencia artificial se ha intensificado en las últimas semanas tras la dimisión de un investigador de la propia Anthropic, quien argumentó que la tecnología podría representar una amenaza existencial antes de que termine la década. Esa renuncia, unida ahora al escenario del secuestro de internet, traslada a documentos internos y declaraciones públicas de responsables de las compañías un debate que hasta ahora se había mantenido en el terreno de lo especulativo.
No existen precedentes exactos de un ataque de estas características, dado que la tecnología de agentes autónomos capaces de operar en enjambre es reciente. El sector de la ciberseguridad sí ha vivido episodios previos de ataques automatizados a gran escala, como las redes de bots (botnets) que en la última década han tumbado servicios de internet durante horas mediante ataques de denegación de servicio, aunque con una coordinación mucho más limitada que la que describe Amodei.
El marco regulatorio para este tipo de riesgos sigue en construcción tanto en Estados Unidos como en la Unión Europea. El Reglamento europeo de Inteligencia Artificial, en vigor desde 2024, contempla obligaciones reforzadas de evaluación de riesgos para los sistemas considerados de alto impacto, pero no recoge de forma específica el escenario de un enjambre de agentes autónomos operando de manera coordinada contra infraestructuras digitales.
La advertencia de Amodei no ha ido acompañada, en el texto conocido, de medidas concretas anunciadas por Anthropic ni por otras compañías del sector para contener el riesgo descrito, más allá de la propuesta de ralentizar el ritmo de desarrollo de los modelos más avanzados.
