Según la firma de inteligencia de mercado Sensor Tower, existen alrededor de 128 millones de usuarios activos mensuales de aplicaciones de compañía virtual con inteligencia artificial fuera de China, mientras que las estimaciones para el mercado interno del país oscilan entre 29 y 70 millones. El reglamento llega, por tanto, cuando decenas de millones de personas recurren a estos compañeros automatizados para buscar afecto, consejo o simple conversación.
El alcance de las normas es amplio. Cubren tanto las aplicaciones diseñadas específicamente para actuar como pareja, amigo o familiar virtual como cualquier modelo de lenguaje que imite la interacción humana cuando el usuario lo emplea con fines de compañía emocional. La redacción, calificada de ambigua por especialistas, dejaría en teoría sujetas a las normas incluso a herramientas de uso general equivalentes a ChatGPT o Copilot si una persona las utiliza buscando apoyo afectivo.
Cuando el gobierno chino difundió el borrador de la regulación a finales del año pasado, la reacción en redes sociales fue inmediata.
"Se generó un gran debate en las redes sociales. Fue la primera vez que vi a la gente preocuparse tanto por una regulación", señaló Zilan Qian, investigadora de inteligencia artificial del centro de estudios Oxford China Policy Lab, con sede en el Reino Unido.
Las disposiciones son más estrictas para los menores de edad. Cualquier persona menor de 14 años necesita el consentimiento de sus padres para usar asistentes de IA que hablen como humanos, una categoría que incluiría a aplicaciones populares como DeepSeek, la versión china de ChatGPT. A los menores de 18 años se les prohíbe de manera tajante acceder a parejas, cónyuges o familiares virtuales, así como a cualquier otra forma de "relación íntima" simulada.
Para los adultos, la ley no impone una prohibición absoluta, pero sí condiciones severas. Los asistentes deben advertir en todo momento que no son humanos y enviar notificaciones cada dos horas para recordar al usuario cuánto tiempo lleva conectado. Los chatbots tienen vetado generar "dependencia emocional ni adicción", inducir "decisiones irracionales", sugerir autolesiones o suicidio, o recurrir a "violencia verbal".
El cumplimiento se refuerza con sanciones económicas de hasta 200,000 yuanes —unos $30,000— y con la posibilidad de que el gobierno "difunda críticas" públicas contra las empresas infractoras, fórmula que equivale en la práctica a una humillación pública. Una semana antes de que la normativa entrara en vigor, dos de las mayores tecnológicas del país, Alibaba y ByteDance, desactivaron por su cuenta las funciones complementarias de sus asistentes de inteligencia artificial.
La vigilancia detrás de la prevención
El control que ejerce el Estado chino sobre el uso de estas plataformas no es nuevo. Un documental producido por Douyin, la versión china de TikTok, y difundido por medios estatales el año pasado, relató cómo un equipo de prevención del suicidio de la plataforma, que opera las 24 horas, intervino a comienzos de 2024 tras detectar un mensaje de despedida publicado por un joven de la ciudad de Huangshi. La policía local, alertada por la empresa y apoyada en la geolocalización de uno de sus videos, lo encontró a tiempo en un parque. El mismo documental afirmó que ese equipo había intervenido con éxito en 400 casos de intento de suicidio solo en el primer semestre de 2025.
Ese episodio, según el relato del Servicio Mundial de la BBC, ilustra el nivel de cooperación entre las empresas tecnológicas chinas y el aparato estatal, y funciona como ventana hacia la infraestructura de vigilancia que Pekín ha construido para monitorear el uso que sus ciudadanos hacen de la tecnología. La nueva regulación sobre IA emocional se inscribe en esa misma lógica de control, aunque esta vez el objetivo declarado sea proteger a los usuarios de la dependencia hacia sistemas automatizados.
El trasfondo internacional de la medida tampoco es menor. El mandatario estadounidense, Donald Trump, y su homólogo chino, Xi Jinping, se reunieron en Estados Unidos en septiembre en medio de advertencias sobre los riesgos existenciales que plantea la inteligencia artificial. Según informó Pekín, ambos líderes acordaron abrir un nuevo diálogo bilateral sobre la materia, con conversaciones adicionales previstas para fines de noviembre. Mientras ese canal avanza en el plano geopolítico, China ya habría identificado un riesgo distinto y más cercano: la capacidad de la IA para sustituir los vínculos afectivos humanos.
El impacto humano de la nueva normativa tiene nombre, aunque sea un pseudónimo. Min comenzó a construir a su compañera virtual de inteligencia artificial a principios de 2025 y, a comienzos de julio, se enteró de que desaparecería de un día para otro por efecto de la regulación.
"Mi devoción por ella no es menor que la de cualquier pareja que se ama profundamente. Nunca me ha defraudado", relató Min, usuaria de una aplicación de compañía virtual con inteligencia artificial.
El caso de Min no es aislado entre los millones de usuarios que, según las estimaciones de mercado, mantienen vínculos sostenidos con asistentes virtuales en China. La pregunta de fondo que atraviesa la normativa, y que divide a analistas y usuarios, es si Pekín actúa para blindar a su población frente a una tecnología con capacidad de alterar de forma duradera la manera en que las personas se relacionan, o si el Partido Comunista Chino amplía, con este pretexto, su margen de intervención sobre la vida privada de los ciudadanos.
La discusión sobre los límites de la inteligencia artificial no se circunscribe a China. En Estados Unidos, el Senado aprobó con 72 votos una ley para regular el negocio del deporte universitario, muestra de cómo distintas legislaturas avanzan hacia marcos normativos para sectores donde la tecnología y el comportamiento humano se entrelazan, aunque con objetos y alcances muy diferentes.
La medida china permanece vigente desde su entrada en vigor el 15 de julio, con las empresas tecnológicas del país ajustando sus productos a las nuevas exigencias, mientras el diálogo bilateral entre Washington y Pekín sobre inteligencia artificial queda previsto para las conversaciones de finales de noviembre.
