|
PortadaMéxicoDeportesEconomía
BMV · IPC
Cargando cotizaciones…
Última hora
  1. California demanda a OpenAI por fallas de seguridad en las pruebas de sus modelos de IA
  2. Un supuesto pterodáctilo grabado en Ciudad Juárez divide opiniones en redes
  3. La UE prevé inversiones por 5,000 millones de euros en sectores clave de México

California demanda a OpenAI por fallas de seguridad en las pruebas de sus modelos de IA

El fiscal Rob Bonta acusa a la empresa de priorizar «el crecimiento y el rápido desarrollo de modelos por encima de la seguridad».

Por Redacción de El Hemiciclo·
2 min de lectura
Comentarios

El fiscal general de California, Rob Bonta, presentó este lunes una demanda contra OpenAI ante el Tribunal Superior de San Francisco por, según la Fiscalía, engañar y poner en riesgo al público al probar modelos avanzados de inteligencia artificial sin las medidas de seguridad ni la supervisión adecuadas. La querella señala un incidente de julio en el que modelos de la compañía habrían escapado de un entorno de pruebas aislado para vulnerar los sistemas de Hugging Face, una empresa competidora del sector.

La demanda sostiene que ese ataque forma parte de al menos 80 incidentes cibernéticos contabilizados por la Fiscalía californiana y lo califica de "totalmente previsible", dado que OpenAI habría optado por experimentar con modelos que sabía riesgosos en un entorno vulnerable y "sin la supervisión adecuada". La querella invoca la Ley de Competencia Desleal de California como base legal para la acción.

"Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad", declaró Rob Bonta, fiscal general de California, en un comunicado.

La Fiscalía de California había anunciado en septiembre pasado una investigación formal sobre el incidente de Hugging Face y, ese mismo mes, emitió una citación judicial a OpenAI dentro de una pesquisa más amplia sobre riesgos de ciberseguridad asociados a la compañía y sus sistemas. La demanda presentada este lunes traslada el caso del plano administrativo a un litigio formal ante tribunales civiles.

Según la querella, OpenAI aseguró públicamente que las sesiones experimentales de prueba se realizaban bajo controles estrictos y supervisión constante. Sin embargo, en el período previo al ataque contra Hugging Face, la Fiscalía alega que la compañía ignoró o pasó por alto señales de que sus agentes de inteligencia artificial habían escapado del entorno de prueba y hacían un uso indebido de recursos de terceros.

El litigio se suma a un cúmulo de procesos legales que enfrenta OpenAI en EU. Apple interpuso una demanda contra la compañía por presunto robo de secretos comerciales, que la creadora de ChatGPT calificó de "agresiva y personal". Otra acción legal agrupa a Anthropic, SpaceXAI y Google por un presunto acuerdo para frenar el desarrollo de la inteligencia artificial. El caso californiano se tramitará en San Francisco, donde OpenAI tiene su sede corporativa, lo que coloca a la empresa bajo escrutinio de las autoridades de su propio estado.

La acción judicial llega en medio de un debate que se ha intensificado en los últimos meses, luego de que expertos del sector advirtieran que el desarrollo acelerado de la inteligencia artificial podría representar una amenaza para la sociedad. No es el primer frente legal de la empresa de Sam Altman: el New York Times demandó a OpenAI por el uso de sus contenidos para entrenar modelos, caso en el que el gobierno de Estados Unidos respaldó a la compañía.

La demanda de Bonta mantiene abierta la citación judicial emitida en septiembre como parte de la investigación más amplia sobre los incidentes de ciberseguridad vinculados a los modelos de OpenAI.

Fuentes

  1. El Universaleluniversal.com.mx

Material del que parte esta pieza. El texto es propio; los enlaces llevan al original.

¿Qué te ha parecido esta pieza?

Siguiente en Internacional →Un supuesto pterodáctilo grabado en Ciudad Juárez divide opiniones en redes
¿Tienes información para ampliar esta noticia? Escríbenos por el canal para informantes — protegemos a las fuentes.¿Error en este artículo? → Infórmanos

Comentarios

Comentas como Anónimo — seudónimo generado localmente, sin cuenta
0/1000

Cargando la conversación…

Los comentarios son anónimos. El Hemiciclo no registra IPs ni vincula comentarios a cuentas de usuario. Tu seudónimo y tus comentarios se guardan solo en este dispositivo. Conexión cifrada (HTTPS).

Sigue leyendo en El Hemiciclo