China le pone freno al romance virtual: Entran en vigor las nuevas reglas para las IA de compañía emocional

Pekín.— Se acabó el idilio digital sin control. China ha dado un paso firme en la regulación tecnológica al implementar las nuevas «Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de IA». Esta normativa pionera busca poner límites estrictos a los sistemas de inteligencia artificial diseñados para simular personalidades humanas, patrones de pensamiento o estilos de comunicación orientados a crear vínculos afectivos continuos con los usuarios.

¿A quién afecta realmente esta ley?

La nueva regulación no va tras el buscador de tu navegador ni tras el bot que te ayuda a redactar correos. El enfoque está puesto exclusivamente en la afectividad.

• El blanco: Solo aplica a aquellas inteligencias artificiales diseñadas para mantener una interacción emocional sostenida con el usuario.

• Las excepciones: Quedan completamente fuera de esta medida los chatbots de atención al cliente, los asistentes de trabajo, las herramientas educativas y los sistemas de investigación científica.

Límites éticos, advertencias y un «toque de queda» digital

El gobierno chino busca evitar que los usuarios desarrollen dependencias poco saludables con entidades algorítmicas. Para lograrlo, la ley establece parámetros muy claros:

• No a la manipulación afectiva: Se prohíbe explícitamente que la IA fomente la adicción, la complacencia excesiva, la dependencia emocional o que manipule psicológicamente al usuario. Asimismo, se veta cualquier contenido que promueva el maltrato verbal, la autolesión o el suicidio.

• Transparencia absoluta: Las empresas desarrolladoras deben advertir claramente al usuario que está interactuando con una máquina y no con un ser humano real.

• Límite de tiempo: Para evitar que las personas pasen el día entero sumergidas en mundos virtuales, las plataformas deberán lanzar una alerta de control de tiempo tras 2 horas de uso continuo.

Máxima protección para los menores de edad

La regulación es especialmente severa cuando se trata de la infancia y la adolescencia:

• Se prohíbe por completo ofrecer a menores de edad relaciones virtuales íntimas (como roles de «familiares» o «acompañantes» artificiales).

• Los menores de 14 años necesitarán obligatoriamente el consentimiento verificado de sus padres o tutores para poder acceder a estas herramientas.

Terremoto en el sector: Reacción inmediata de los gigantes tecnológicos

El impacto de la nueva ley se ha sentido de inmediato en el mercado tecnológico más grande del mundo. Gigantes como ByteDance (creadores de TikTok) y Alibaba ya han retirado de forma preventiva las funciones de agentes de IA personalizados en sus populares plataformas Doubao y Qwen, adaptándose a toda prisa al nuevo marco legal.

La medida ha abierto el debate y cuenta con el respaldo de diversos expertos en comportamiento y tecnología:

«Este tipo de tecnologías aún no son maduras y conllevan riesgos emocionales severos. Se requiere que el usuario tenga un alto nivel de comprensión y madurez digital para interactuar con ellas sin sufrir distorsiones en su vida real.»

Con este movimiento, el gigante asiático marca un precedente global sobre cómo delimitar la delgada línea que separa la asistencia tecnológica de la dependencia afectiva artificial.