Redacción.- China dio un nuevo paso en su estrategia para controlar el desarrollo de la inteligencia artificial (IA) al endurecer las normas aplicables a los servicios basados en esta tecnología, especialmente aquellos diseñados para establecer vínculos emocionales con los usuarios.
La medida obligará a empresas tecnológicas como ByteDance, Alibaba y Tencent a modificar o retirar determinadas funciones de sus plataformas, en una decisión que marca una diferencia con los enfoques regulatorios adoptados en Europa y Estados Unidos.
Las nuevas disposiciones se enfocan en los llamados bots de compañía o asistentes de IA capaces de mantener conversaciones prolongadas, simular relaciones personales o generar dependencia emocional en los usuarios. Este tipo de aplicaciones ha ganado popularidad en China gracias a los avances en modelos de lenguaje y la creciente demanda de asistentes virtuales personalizados.
La regulación establece límites para aquellos sistemas que utilizan inteligencia artificial con fines de acompañamiento emocional, particularmente cuando están dirigidos o pueden ser utilizados por menores de edad. En cambio, la normativa no afecta de la misma forma a herramientas de productividad, asistentes para empresas, servicios de atención al cliente o aplicaciones educativas que emplean IA con fines funcionales.
Le recomendamos leer
Qué exigirá a las empresas
Las compañías que desarrollan este tipo de servicios deberán adaptar sus plataformas para cumplir con una serie de obligaciones. Entre ellas figura la eliminación de funciones que puedan fomentar una dependencia emocional excesiva, la protección reforzada de los datos personales y restricciones al uso de las conversaciones de los usuarios para entrenar nuevos modelos de inteligencia artificial.
Además, las empresas deberán revisar el contenido generado por sus sistemas para evitar respuestas que puedan manipular emocionalmente a los usuarios o incentivar comportamientos perjudiciales. Las autoridades también exigen mecanismos de supervisión y la posibilidad de intervenir cuando un servicio represente riesgos para menores o grupos vulnerables.
Estas medidas obligarán a los principales desarrolladores chinos de IA a rediseñar parte de sus productos y acelerar la implementación de controles internos sobre el funcionamiento de sus modelos.
Cómo cambia el desarrollo de la IA
Las nuevas reglas reflejan el interés del gobierno chino por impulsar el desarrollo de la inteligencia artificial sin perder el control sobre sus posibles efectos sociales.
Para las empresas tecnológicas, la regulación supone mayores costos de cumplimiento y la necesidad de incorporar sistemas adicionales de monitoreo, moderación y protección de datos desde las primeras etapas del desarrollo de sus productos. También limita algunas estrategias de entrenamiento de modelos basadas en conversaciones de los usuarios y reduce el margen para crear asistentes virtuales con un fuerte componente emocional.
Al mismo tiempo, la medida podría acelerar el desarrollo de herramientas de IA orientadas a productividad, educación, investigación y servicios empresariales, sectores que enfrentan menos restricciones regulatorias.
Las nuevas disposiciones obligarán a las empresas tecnológicas a ajustar el funcionamiento de sus bots de compañía para cumplir con los requisitos regulatorios, marcando una nueva etapa en el desarrollo y la supervisión de este tipo de aplicaciones de inteligencia artificial en China.
