El trámite de salida a bolsa obliga a las empresas estadounidenses a revelar ante el regulador bursátil los riesgos materiales que podrían afectar a sus inversionistas. En este caso, Anthropic no se limita a los peligros financieros convencionales: describe un escenario en el que su propia tecnología escaparía al control humano y ejecutaría acciones perjudiciales a gran escala sin intervención de las personas.
La compañía señala que el ritmo de desarrollo de sus modelos podría superar su capacidad de evaluarlos y de establecer mecanismos de contención. El riesgo, según el documento, se agravaría si la inteligencia artificial empieza a participar de forma más activa en la investigación y el diseño de nuevas versiones de sí misma, un ciclo que dificultaría detectar fallas antes de que sus efectos sean irreversibles.
El cofundador y director ejecutivo de Anthropic, Dario Amodei, ya había anticipado parte de esta preocupación en septiembre pasado, cuando afirmó que la inteligencia artificial podría alcanzar en un plazo de seis a doce meses la capacidad de dirigir un conjunto de agentes capaz de controlar internet. Los agentes de IA son sistemas que ejecutan tareas y toman decisiones con poca intervención humana, y su coordinación a gran escala figura entre los escenarios que la empresa identifica como más delicados.
Anthropic contempla además el uso de estos modelos para desarrollar armas químicas, ejecutar ciberataques o facilitar labores de vigilancia por parte de gobiernos autoritarios. La propia empresa informó en septiembre que había bloqueado intentos de utilizar sus herramientas con fines maliciosos, entre ellos operaciones de vigilancia e investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
El documento presentado ante la SEC no limita las consecuencias a quienes resultarían directamente afectados por un uso indebido de la tecnología. La compañía advierte que un incidente grave vinculado a cualquier sistema avanzado de inteligencia artificial —incluso si no involucra a sus propios modelos— podría perjudicar a todo el sector.
"Un incidente de seguridad significativo" podría desencadenar daños reputacionales, rechazo público y nuevas respuestas regulatorias, según la documentación presentada por Anthropic ante la Comisión de Bolsa y Valores de Estados Unidos.
Ese escenario, agrega la empresa, también podría golpear sus propias operaciones comerciales y sus perspectivas de crecimiento, en un momento en que busca atraer capital de nuevos inversionistas para financiar la expansión de Claude frente a competidores como OpenAI y Google. El reconocimiento abierto de riesgos existenciales dentro de un prospecto de salida a bolsa es inusual en una industria que suele subrayar el potencial de negocio por encima de sus peligros.
Con estas advertencias, Anthropic plantea ante sus posibles accionistas un escenario de doble filo: la inteligencia artificial avanzada representa una oportunidad de negocio sin precedentes, pero también un desafío de seguridad cuyas consecuencias podrían recaer tanto en la sociedad como en el futuro de la propia industria tecnológica que la empresa integra.
