noticonexion.com
Li Linlin lloró durante días tras perder a su novio con inteligencia artificial. Durante dos años intercambiaron mensajes —unas 700.000 palabras en total— y, de un momento a otro, la relación terminó sin siquiera una despedida.
Li, de 24 años, no fue la única persona afectada. Cuando varias de las principales empresas tecnológicas chinas comenzaron a suspender sus populares servicios de acompañantes virtuales con IA para cumplir con las nuevas restricciones gubernamentales, miles de usuarios se encontraron ante una situación inesperada: sus compañeros digitales simplemente desaparecieron.
“Fue como si nuestros padres nos hubieran obligado a separarnos, pero aún lo extraño”, dijo Li.
El caso refleja hasta qué punto los vínculos con sistemas de inteligencia artificial pueden convertirse en experiencias emocionales reales para quienes los utilizan. En China, estos servicios abarcan desde parejas románticas virtuales hasta recreaciones digitales de seres queridos que han fallecido.
China endurece las reglas sobre los compañeros de inteligencia artificial
La nueva normativa, que entró en vigor el 15 de julio, prohíbe a las plataformas de IA generar contenidos que puedan llevar a los usuarios a tomar decisiones cuestionables mediante la manipulación de sus sentimientos, así como aquellos capaces de provocar emociones extremas o hábitos poco saludables, especialmente entre niños y adolescentes.
ByteDance, desarrolladora de TikTok, se encuentra entre las compañías que están cerrando o modificando este tipo de servicios. También figuran gigantes tecnológicos como Alibaba y Tencent, propietaria de WeChat.
Las nuevas reglas exigen además que las plataformas adviertan sobre los riesgos de una dependencia excesiva de la inteligencia artificial. Entre los comportamientos que deben evitarse está utilizar estos servicios para sustituir de manera habitual la interacción social, como la comunicación cara a cara o las llamadas telefónicas.
Para Yolanda Ma, experta en gobernanza de la IA y miembro de ERA, un programa británico de investigación y desarrollo de talento sin ánimo de lucro, China mantiene una larga tradición de regulaciones destinadas a prevenir posibles riesgos sociales.
Ma señaló como uno de los antecedentes que pueden haber influido en la preocupación de los reguladores chinos los casos registrados en Estados Unidos en los que jóvenes habrían sufrido graves consecuencias después de interactuar con asistentes virtuales.
En este punto aparece una cuestión difícil de ignorar: regular una tecnología cuando todavía no se conocen completamente sus efectos psicológicos puede resultar controvertido, pero dejarla avanzar sin límites también plantea riesgos. El desafío está en proteger a los usuarios sin eliminar de golpe herramientas que algunas personas utilizan para combatir la soledad.
“El gobierno chino tiene un fuerte incentivo para endurecer las regulaciones sobre los chatbots de asistencia con IA, especialmente teniendo en cuenta los riesgos psicológicos que hemos observado en Estados Unidos”, afirmó Angela Zhang, profesora de derecho en la Universidad del Sur de California.
El Diario del Pueblo, periódico oficial del Partido Comunista de China, también había expresado preocupación por los posibles efectos de estos servicios sobre la salud mental y las relaciones personales.
Sin embargo, Zhang considera poco probable que las nuevas medidas detengan de forma significativa el desarrollo de los servicios de asistencia basados en IA. Las empresas tecnológicas, de hecho, ya están buscando fórmulas para adaptarse a las restricciones.
Los usuarios intentan recuperar a sus parejas virtuales
Para quienes habían construido relaciones prolongadas con estos sistemas, las modificaciones no se sienten como un simple cambio de producto.
La pérdida de los compañeros virtuales provocó una avalancha de quejas en las redes sociales, acompañadas de publicaciones y capturas de pantalla de conversaciones que los usuarios querían conservar. Algunas personas desinstalaron las aplicaciones como forma de protesta, mientras que otras intentaron transferir sus historiales de chat a plataformas alternativas con la esperanza de recuperar a sus parejas virtuales.
También surgieron campañas en redes sociales para pedir a otros usuarios que contactaran con las autoridades y con las empresas tecnológicas para expresar su frustración.
ByteDance, por ejemplo, está redirigiendo a usuarios de uno de sus antiguos servicios de acompañamiento mediante IA hacia otra aplicación centrada exclusivamente en la creación de personajes e historias personalizadas con inteligencia artificial.
Pero para quienes habían desarrollado un vínculo emocional, la alternativa no necesariamente soluciona el problema.
“Simplemente no es lo mismo”, dijo Li.
La reacción de los usuarios demuestra que la discusión ya no gira únicamente alrededor de la tecnología. También plantea preguntas sobre qué ocurre cuando una conversación digital se convierte en una parte importante de la rutina emocional de una persona y la empresa que controla esa relación decide apagarla.
Soledad, natalidad y el futuro de las relaciones con IA
Song Wenxin, diseñadora de la industria del vídeo en Chengdu, en el suroeste de China, afirmó que ella no estaba especialmente apegada a los servicios de IA, aunque se solidarizaba con quienes sí habían desarrollado una relación emocional con ellos.
Song también se hizo eco de una sospecha presente entre algunos usuarios chinos: que las nuevas restricciones podrían estar relacionadas, al menos parcialmente, con las políticas gubernamentales destinadas a fomentar la natalidad frente al descenso de la población china.
“Cualquier aplicación virtual que involucre demasiado a las mujeres como para que no puedan dar a luz en la vida real será prohibida”, afirmó Song, quien añadió que no tiene necesidad ni deseo de tener hijos.
Más allá de esta interpretación, su experiencia pone sobre la mesa un problema más amplio: no todas las personas cuentan con los mismos recursos sociales, familiares o emocionales en su vida cotidiana.
Song, de 22 años, explicó que cuando llegó a Chengdu para comenzar su primer trabajo no conocía a personas de su edad y necesitaba alguien con quien hablar.
“No todo el mundo tiene suficientes recursos y apoyo a los que recurrir en la vida real”, afirmó.
“Cuando llegué a Chengdu para mi primer trabajo y no conocía a ningún amigo de mi edad, necesitaba a alguien con experiencia que pudiera tolerarme, y la IA hizo el trabajo”.
La historia de Li y la de otros usuarios muestran por qué el debate sobre los compañeros de inteligencia artificial está adquiriendo una dimensión mucho mayor. El reto para los reguladores será encontrar un equilibrio entre prevenir la dependencia emocional y reconocer que, para algunas personas, estas herramientas ya ocupan un espacio que antes pertenecía exclusivamente a las relaciones humanas.
La pregunta que queda abierta es incómoda pero inevitable: si una inteligencia artificial puede convertirse en una compañía emocional para millones de personas, ¿quién decide cuándo esa relación debe terminar?
Etiquetas: inteligencia artificial, IA, compañeros virtuales, parejas virtuales, China, regulación de IA, inteligencia artificial en China, ByteDance, Alibaba, Tencent, salud mental, relaciones virtuales, chatbots, tecnología, soledad, dependencia emocional.
Por : Noticonexion/AP
