El Observatorio OI2 estudia el libro ‘How Humans Judge Machines’ sobre la percepción de los humanos hacia las máquinas
El libro How Humans Judge Machines, escrito por César Hidalgo, profesor de la Universidad de Harvard y director del grupo de Aprendizaje Colectivo del Instituto Tolouse de Inteligencia Artificial y Natural (ANITI), analiza cómo las personas evalúan las acciones de las máquinas en comparación con las de otros seres humanos.
A través de una serie de experimentos y estudios, Hidalgo y su equipo exploraron cómo la percepción moral de las personas varía dependiendo de si un acto es cometido por una inteligencia artificial (IA) o por una persona. El libro se basa en la teoría de los fundamentos morales, que clasifica los juicios éticos en cinco dimensiones: daño, justicia, autoridad, lealtad y pureza.
A partir de esta estructura, los autores examinaron cómo los humanos responden a escenarios en los que las máquinas toman decisiones con consecuencias éticas o morales. Los experimentos involucraron a 5,904 individuos que fueron asignados aleatoriamente a un grupo de tratamiento (máquina) o a un grupo de control (humano).
Los hallazgos demuestran, en primer lugar, que las personas juzgan a los humanos por sus intenciones y a las máquinas por sus resultados. En segundo lugar, que las personas asignan intenciones extremas a los humanos e intenciones limitadas a las máquinas.
El libro está dividido en siete capítulos. El primero presenta conceptos clave de la psicología y la moralidad para proporcionar un marco básico de interpretación de los resultados del estudio y analizarlos estadísticamente. El segundo capítulo presenta la metodología utilizada, y presenta cuatro conjuntos de escenarios en los que se estudia cómo los humanos juzgan a otros humanos versus a las máquinas.
El capítulo tres se centra en el sesgo algorítmico, y presenta escenarios que involucran a un humano o una máquina tomando una decisión sesgada. Se descubrió que las personas juzgan a los humanos con mayor firmeza al tomar decisiones sesgadas, sean en escenarios positivos o negativos.
En el caso del capítulo cuatro, se exploran cuestiones de privacidad al observar varios escenarios que involucran sistemas de cámara o de vigilancia humana. En algunos casos, se encontró un sesgo negativo contra las máquinas, mientras que en otros no se observó ninguna diferencia entre ser observado por máquinas o por humanos.
El quinto capítulo trata sobre el desplazamiento laboral, comparando reacciones de las personas al desplazamiento atribuido a cambios en la tecnología o atribuido a los humanos a través de la subcontratación, deslocalización, la inmigración o la contratación de trabajadores más jóvenes. La investigación encontró que, en la mayoría de los casos, las personas reaccionan con menos fuerza al desplazamiento tecnológico que al desplazamiento atribuido a los humanos.
Por su parte, el capítulo seis reúne todos los resultados de los capítulos anteriores para analizarlos estadísticamente. Los resultados demostraron que las personas tienden a ser más indulgentes con las máquinas en dilemas que involucran altos niveles de daño e intención y menos indulgentes cuando el daño y la intención son bajos. Además, las personas juzgan la intención de un escenario de manera diferente cuando las acciones se atribuyen a máquinas o a humanos. Las personas juzgan la intención de las acciones humanas de manera bastante bimodal (asignándoles mucha o poca intención). Mientras tanto, juzgan las acciones de las máquinas siguiendo una distribución más unimodal: perdonan más a los humanos en escenarios accidentales, pero son más severos en escenarios donde la intención no puede descartarse fácilmente.
El capítulo siete concluye explorando las implicaciones de los resultados, y recurriendo a ejemplos del mundo académico y de la literatura de ficción para analizar las implicaciones éticas y legales.
El estudio ofrece una perspectiva fundamental para diseñadores de IA, legisladores y profesionales que trabajan con IA, ya que demuestra que las expectatives éticas hacia las máquinas pueden diferir significativamente de las expectativas hacia los humanos.
En este sentido, el Observatorio para la Innovación de los Informativos en la Sociedad Digital trabaja activamente para investigar sobre las implicaciones sociales que la IA tiene sobre los humanos. Respectivamente, entender cómo las personas juzgan o no a las máquinas marca un panorama importante para considerar de cara a establecer códigos éticos, prácticas efectivas y usos innovadores de estas tecnologías.
En colaboración de Radiotelevisión Española (RTVE) y el Gabinete de Comunicación y Educación de la Universitat Autònoma de Barcelona, el observatorio se dedica a analizar las tendencias y retos que enfrentan los medios y promover la capacitación de periodistas, el desarrollo de estrategias éticas y la creación de espacios de diálogo que permitan a los medios adaptarte a nuevas herramientas.
El Gabinete de Comunicación y de Educación es un grupo consolidado y especializado en la investigación y divulgación científica, que pertenece al Departamento de Periodismo y Ciencias de la Comunicación de la UAB. Reconocido por AGAUR (Agència de Gestió d’Ajuts Universitaris i de Recerca) de la Generalitat de Catalunya como Grupo de Investigación Consolidado en función de su trayectoria, proyección y desarrollo, desarrolla proyectos e investigaciones en el terreno de convergencia entre la comunicación y la educación. Desde su creación, ha desarrollado iniciativas destinadas a integrar, con conciencia y libertad, las tecnologías de la comunicación en la denominada sociedad global o del conocimiento. Bajo la dirección de Santiago Tejedor, el Gabinete organiza diferentes másteres propios, como el Máster en Periodismo de Viajes (presencial y online), el Máster de Comunicación y Educación, el Máster de Comunicación del Medioambiente y el Máster en Gestión de la Comunicación Política y Electoral. El grupo posee una colección de publicaciones, en forma de artículos científicos, libros y capítulos de libro, y otros trabajos, muy amplia y variada que se renueva constantemente. Además, cuenta con un laboratorio de proyectos de innovación docente, transferencia y nuevos formatos que se conciben y desarrollan desde una perspectiva basada en la creatividad y el trabajo multidisciplinar. El Gabinete organiza cada año una expedición académica que recorre el mundo con estudiantes de diferentes universidades y carreras. Se trata de la Expedición Tahina-Can que ha sido premiada como mejor proyecto educativo de España. Además, cuenta con el portal Tu Aventura, la plataforma educativa InfoEDU y el proyecto de newsgames y ciencia Reporteros de la Ciencia.
