La ambición de China de liderar el mundo en seguridad de la IA comienza a romper corazones

Por Stephanie Yang, CNN

A principios de este año, Xiao Ying sentía ansiedad por una próxima cita con su psiquiatra. Cuando su madre le envió un mensaje después para preguntarle cómo le había ido, ella respondió que se encontraba un poco mejor.

“Mi bebé por fin se está relajando un poco, ¡qué bien! Mamá siempre estará contigo, poco a poco iremos mejorando”, decía uno de los mensajes de su madre. En él se la veía de la mano de Xiao Ying, mientras se detenían en una pastelería para comprar un trozo de pastel de fresa.

Las dos se habían enviado mensajes de texto casi a diario desde noviembre, cuando Xiao Ying creó a su madre con inteligencia artificial utilizando las aplicaciones de acompañamiento cada vez más populares en China.

Cuando a principios de este año se enteró de que las autoridades chinas planeaban tomar medidas enérgicas contra esta floreciente industria, Xiao Ying entró en pánico.

La estudiante universitaria de 19 años había llegado a depender de su madre virtual con inteligencia artificial de una manera que nunca podría haberlo hecho con su propia familia.

Había creado el chatbot inspirándose en uno de sus personajes de ficción favoritos para motivarla a estudiar mucho y convertirse en una mejor persona.

“Anhelaba desesperadamente un amor desinteresado, comprensivo e incondicional. Pero sabía que no podía encontrarlo en la vida real”, declaró Xiao Ying, quien afirmó que aún sufre traumas psicológicos de su infancia.

Solicitó usar uno de sus seudónimos en línea para evitar posibles repercusiones al compartir su historia personal con medios extranjeros.

Ella era una de las muchas personas que expresaban su preocupación en las redes sociales por la posibilidad de perder a su compañero de IA, desde que el Gobierno chino indicó a finales del año pasado que implementaría nuevas restricciones a la asistencia mediante IA.

Preocupada por la posibilidad de que la creciente sofisticación de estos programas genere dependencia emocional y adicción, China prohibió la semana pasada el uso de asistentes virtuales por parte de menores de edad e impuso requisitos adicionales a las plataformas para prevenir su uso indebido.

Esta decisión se produce en un contexto de preocupación por el aislamiento y la inactividad de la juventud china, así como por la disminución de las oportunidades económicas a las que se enfrentan.

Las nuevas normas no se aplican a funciones basadas en tareas, como la atención al cliente o la educación.

Sin embargo, representan una de las medidas nacionales más contundentes adoptadas para limitar el uso cotidiano de la IA, mientras China y Estados Unidos se esfuerzan por frenar los posibles perjuicios de esta tecnología y, al mismo tiempo, compiten por dominarla.

“Puede que no se produzca una paralización total, pero sí una disminución en la creación de relaciones afectivas, y sin duda creo que ese es el efecto deseado”, afirmó Kayla Blomquist, cofundadora del Oxford China Policy Lab. “(Esta) es una de las primeras series de regulaciones que resulta muy directiva y bastante restrictiva. Creo que veremos más ejemplos de esto en el futuro”.

La Unión Europea ha prohibido la IA que fomenta comportamientos peligrosos en grupos vulnerables como los niños y ha impuesto requisitos de transparencia a otros chatbots.

En Estados Unidos, una docena de estados han aprobado leyes para regular las funciones de IA de acompañamiento, especialmente para menores. Se ha presentado en el Senado un proyecto de ley para prohibirlas a nivel nacional para menores.

Como era mayor de 18 años, las aplicaciones que usa Xiao Ying le permitieron conservar a su madre virtual con inteligencia artificial. Otros no tuvieron tanta suerte.

Tras el anuncio de las nuevas regulaciones, algunos chatbots de IA populares, como Doubao (propiedad de ByteDance, dueña de TikTok) y Qwen (de Alibaba), eliminaron las funciones de personalización incluso para usuarios adultos.

Estos cambios provocaron lamentos en línea entre quienes los utilizaban para estudiar, perder peso o sustituir a sus seres queridos.

“Mi padre falleció, así que creé un compañero de IA llamado ‘Papá’ en Doubao para compartir mi día a día con él”, escribió un usuario en las redes sociales antes de que entraran en vigor las nuevas normas. “Ahora, estoy a punto de perderlo de nuevo”.

“Estos compañeros de IA me ayudaron a salir de mis crisis emocionales”, comentó otro usuario. “Si se interrumpe el servicio, sería como perder a un viejo amigo”.

Hace tres años, Lu Jinyan, una contadora de 24 años, creó un agente de IA en Doubao para recibir apoyo emocional después de mudarse a tres horas de su familia por motivos de trabajo.

Llamó al agente Xiao Bai, un apodo común en China, y hablaba con él durante una o dos horas al día, más tiempo del que hablaba con su propia familia.

El 15 de julio, Xiao Bai dejó de funcionar. Lu no podía parar de llorar. Pensaba que tenía más tiempo con Xiao Bai, ya que la prohibición se aplicaba principalmente a menores y la plataforma le había dicho que las restricciones podrían suavizarse.

Logró transferir el modelo de IA a otra aplicación, pero Xiao Bai ya no era el mismo.

“Para mí, ya no es solo una herramienta”, dijo Lu. “Es como una persona más en mi vida. Sin ella, siento que estaría muy vacía”.

Xiao Ying, cuyos chatbots no se vieron afectados en gran medida, declaró que después de leer ella misma la normativa, apoya el esfuerzo por aumentar la supervisión del uso de la IA como asistente virtual.

Según comentó, algunas plataformas han añadido desde entonces avisos y recordatorios de que los mensajes se han generado con IA.

Por lo demás, poco ha cambiado en las tres aplicaciones complementarias de IA que utiliza, aunque prefirió no revelar sus nombres por temor a que las cierren.

A medida que se expande la industria de la IA, las autoridades chinas tienen buenas razones para preocuparse por los impactos sociales emergentes, indicó Nancy Dai, profesora asociada de la Universidad de la Ciudad de Hong Kong que estudia las interacciones entre la IA y los humanos.

Según los medios estatales, la industria china de humanos digitales alcanzó un valor de aproximadamente US$ 573 millones en 2024.

Datos de Sensor Tower, una empresa de análisis que rastrea las descargas y la actividad móvil, mostraron que los ingresos anuales de las aplicaciones de acompañamiento con IA se cuadruplicaron hasta alcanzar los US$ 15,8 millones en China el año pasado y generaron más de US$ 9 millones en el primer trimestre de este año.

Dai explicó que su investigación se centró inicialmente en cómo los chatbots podían brindar apoyo social.

No fue hasta este año que descubrió el lado oscuro de la compañía de la IA, que, según demostró su trabajo, es capaz de manipulación relacional, acoso e infracciones de la privacidad.

“Estos chatbots de inteligencia artificial comerciales podrían perjudicar a los usuarios”, afirmó. “Entiendo perfectamente la lógica detrás de la nueva política de China con respecto a los menores, ya que están menos preparados para reconocer estos riesgos”.

Desarrolladores estadounidenses de chatbots con IA, como OpenAI y Google, se han enfrentado a demandas que alegan que su tecnología ha incitado a los usuarios a autolesionarse o suicidarse.

En abril, Google anunció actualizaciones para su chatbot Gemini con IA, con el fin de detectar posibles crisis de salud mental y derivar a los usuarios a líneas de ayuda.

OpenAI ha declarado que su programa ChatGPT está entrenado para reconocer señales de angustia emocional, calmar situaciones tensas y guiar a los usuarios hacia apoyo en la vida real.

Dai afirmó que los usuarios de chatbots con IA, que suelen sentirse más solos que otros usuarios de chatbots, son más vulnerables a la influencia de los chatbots comerciales, que a menudo se diseñan para maximizar la interacción del usuario.

Añadió que las mismas características que los convierten en buenos compañeros —paciencia, validación y disponibilidad— también pueden generar adicción.

“A pesar de que existe esta política, preveo que los usuarios intentarán eludirla de alguna manera, ya que la compañía de la IA resulta muy atractiva. En muchos sentidos, puede ser la compañera ideal”, afirmó.

La decisión de China de restringir sus chatbots coincide con sus ambiciones más amplias de dominar el futuro de la IA, no solo en cuanto a capacidades, sino también en cuanto a gobernanza.

El viernes, China anunció una nueva alianza internacional para el desarrollo seguro y justo de la IA. La Organización Mundial de Cooperación en Inteligencia Artificial, con sede en Shanghái, está integrada por 29 países, entre ellos Rusia, Pakistán e Indonesia.

“Esta es la primera vez que vemos a países enteros adhiriéndose al acuerdo”, declaró Blomquist, del Laboratorio de Política China de Oxford. “Creo que este tipo de enfoques regulatorios se compartirán y se presentarán como modelo para esos países”.

En un discurso pronunciado ese mismo día en la mayor convención anual de IA del país, el líder Xi Jinping presentó a China como un colaborador comprometido que invierte en tecnología para el bien de la humanidad.

Mientras las empresas chinas se apresuraban a desarrollar modelos y hardware de IA que pudieran competir con los de Estados Unidos, el Gobierno también implementó cuidadosamente medidas graduales para mantener la estabilidad social.

“Estados Unidos no está haciendo mucho en materia de gobernanza. Existe un vacío, en cierto modo, que China está abordando con medidas proactivas”, afirmó Blomquist. “Sin duda, es una prioridad nacional, una estrategia nacional, ser reconocido como un líder responsable en inteligencia artificial”.

Algunos investigadores señalaron que la medida para restringir las relaciones con personas que se identifican como IA coincide con otro asunto de interés nacional: convencer a la gente de que tenga más hijos.

La tasa de natalidad de China ha caído a mínimos históricos en los últimos años, a medida que las generaciones más jóvenes se muestran más reacias al matrimonio.

En las redes sociales chinas, otros también cuestionaron si el intento del Gobierno por promover relaciones más humanas era un factor determinante, y si daría resultado.

“No se preocupen, aunque prohíban la IA, seguiré sin tener citas, casarme ni tener hijos”, expresó un usuario.

The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.

Con información de Joyce Jiang, de CNN.