Pasar al contenido principal
AGENCIAS

El MIT desarrolla un robot psicópata

El Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) desarrolló un algoritmo de inteligencia artificial influido únicamente por contenidos violentos de Internet. El resultado es Norman, un "robot psicópata" que pone sobre la mesa un tema delicado en el marco de la revolución tecnológica.

Desde luego que el MIT no pretende sacar a Norman al mundo real para ver cómo se comporta entre los humanos que desconocen su origen. Su objetivo era en cambio comprobar que los prejuicios éticos de los algoritmos de inteligencia artificial no son inherentes a la tecnología, sino que se deben al uso de datos sesgados.

"Norman nace del hecho de que los datos que se utilizan para enseñar a un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento", explican los investigadores del instituto en la web de presentación del robot.

Norman fue entrenado en los laboratorios del MIT para que consumiera grandes cantidades de contenido violento publicado en un subforo del portal web Reddit. La tarea que se le encomendó fue la de subtitular las imágenes que veía, en su mayoría relacionadas con sangre y muerte.

Tras exponerse a altas dosis de estas perturbadoras imágenes Norman (cuyo nombre está inspirado en el personaje de Alfred Hitchcock en la película de terror Psicosis) tuvo que someterse a una prueba llamada test de Rorschach.

Inventada en 1921, la técnica de Rorschach consiste en mostrar imágenes con manchas de tinta que suelen ser ambiguas y simétricas. El paciente debe responder qué ve en cada imagen y el resultado se utiliza para evaluar su personalidad.

Así que cuando Norman llegó a esa etapa del estudio –después de haber conocido sólo violencia y sangre– sus respuestas fueron propias de un psicópata. Donde la inteligencia artificial estándar veía un grupo de pájaros sentados en la copa de un árbol Norman veía a un hombre electrocutado y a punto de morir.

Otro ejemplo fue una imagen que para la mayoría de personas se asemeja a una imagen en blanco y negro de un pájaro pequeño, pero que para Norman se trataba de un hombre pasado por una batidora de masa.

Norman, el "robot psicópata", es un caso de estudio sobre "los peligros de la inteligencia artificial que sale mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático", según los investigadores del MIT.

 

En Portada