By 
Suleyman describió la IA como sistemas diseñados para «seguir instrucciones y alcanzar objetivos fijados por humanos»
En declaraciones este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a «antropomorfizar» su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.
Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos«, en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de «intelectualmente honestos» a su consejero delegado, Dario Amodei, y a su equipo.
- En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.
Cuestionamientos
Suleyman sostuvo que las IA «no son conscientes«, no «sienten, experimentan ni sufren» y carecen de «preferencias innatas ni motivaciones subyacentes». Las describió como sistemas diseñados para «seguir instrucciones y alcanzar objetivos fijados por humanos».
En sus declaraciones a la BBC, el directivo también cuestionó el desarrollo de una IA capaz de «establecer sus propios objetivos, ganar dinero y poseer activos», porque, a su juicio, supondría «crear esencialmente una nueva especie de silicio (tecnológica)» que podría «sin duda competir con nosotros por los recursos».
El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.
También defendió el denominado «alineamiento«, que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.
Comments