Londres.- El consejero delegado de Microsoft AI, Mustafa Suleyman, ha cuestionado el entrenamiento de sistemas de IA para asumir características humanas, al considerar que podría dificultar su control y acabar creando tecnologías con objetivos propios que compitan con las personas por los recursos.
En declaraciones este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a «antropomorfizar» su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.
Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos», en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de «intelectualmente honestos» a su consejero delegado, Dario Amodei, y a su equipo.
En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.
Puedes leer: ¿Puede la inteligencia artificial convertirse en un riesgo para la humanidad?
Suleyman sostuvo que las IA «no son conscientes», no «sienten, experimentan ni sufren» y carecen de «preferencias innatas ni motivaciones subyacentes». Las describió como sistemas diseñados para «seguir instrucciones y alcanzar objetivos fijados por humanos».
En sus declaraciones a la BBC, el directivo también cuestionó el desarrollo de una IA capaz de «establecer sus propios objetivos, ganar dinero y poseer activos», porque, a su juicio, supondría «crear esencialmente una nueva especie de silicio (tecnológica)» que podría «sin duda competir con nosotros por los recursos».
El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.
También defendió el denominado «alineamiento», que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.
