Físico césar hidalgo indaga sobre Cómo los humanos juzgan a las máquinas
EXPOSICIÓN. El académico abordó en el Festival de Ciencia Puerto de Ideas la relación de amor y odio que las personas desarrollan con la inteligencia artificial.
Agencias
Las personas juzgan a los humanos por sus intenciones y a las máquinas por sus resultados.
Así lo planteó el físico e investigador chileno César Hidalgo en el Festival de Ciencia Puerto de Ideas, espacio donde expuso los resultados de sus investigación sobre inteligencia artificial (IA).
"¿Cómo juzga la humanidad a las máquinas?", fue la primera pregunta que formuló el también doctor de la Universidad de Notre Dame, buscando indagar en la percepción que tienen las personas sobre las máquinas y la inteligencia artificial que cada vez se hace más presente en la vida social.
Junto a la simbiosis entre ciencia y sociedad o las innovaciones en salud, la IA es una de las protagonistas en el coloquio científico, que esta vez acoge de manera virtual la ciudad de Antofagasta.
El evento, que es presentado con el apoyo de la minera Escondida BHP, se prolongará hasta hoy (ver recuadro) y, como es costumbre, ha contado con la participación de académicos mundiales de renombre, conformando una de las muestras de ciencia y pensamiento más importantes de América Latina.
Parte de la sociedad
En su ponencia titulada "Queridas y odiadas máquinas. Moral y ética en la IA", Hidalgo, quien ha ejercido docencia universitaria en el Massachusetts Institute of Technology (MIT) y la Universidad de Toulouse, partió del hecho de que este tipo de tecnología se ha transformado en parte de la sociedad humana, ocupando espacios habituales para del desarrollo de la vida y la cotidianeidad de las personas.
Desde ahí es que, además, planteó que los resultados de su investigación no solo hablan de la percepción humana respecto a las máquinas, sino también de su propia psicología, cómo nos pensamos a nosotros mismos.
Para responder su planteamiento original, Hidalgo, junto a un grupo de colaboradores académicos y especialistas, diseñó una serie de experimentos de tratamiento y control: reunió a un gran número de personas que luego distribuyó aleatoriamente en dos grupos. Uno sería expuesto a una acción realizada por una máquina y el otro a la misma acción realizada esta vez por un ser humano.
"La idea es captar la reacción ante ambas acciones", explicó el científico, que ejemplificó el comportamiento de la muestra en cada uno de los experimentos.
Severos CON LA IA
En base a ese trabajo fue que Hidalgo concluyó que el juicio humano tiende a ser mucho más duro cuando se trata de IA y mucho más indulgente cuando se trata de medir las acciones de un par, dependiendo de la gravedad de las consecuencias de la acción cometida.
"También aprendimos que las personas juzgan las intenciones de los humanos de manera bimodal", señaló el académico, refiriéndose a que en el juicio se considera la finalidad buscada o si el hecho fue producto de un accidente.
En cambio, apuntó, a las máquinas se las evalúa "de forma unimodal", es decir, solo bajo un enfoque basado en el resultado.
Los datos del profesor Hidalgo señalan también un debate sobre lo que la sociedad entiende por justicia, qué comportamiento o programación de comportamiento de una máquina resulta justo o no para su inserción en la sociedad, cómo se toman las mejores decisiones.
"Lo que tenemos es un mundo donde la justicia es deseable pero no es cien por ciento posible, porque hay múltiples definiciones de justicia y no es posible satisfacerlas todas de manera simultánea", explicó.
La investigación "Cómo juzgamos a las máquinas" arrojó diversos corolarios. Según el físico los humanos perdonan a las personas en situaciones accidentales; son más duros en los escenarios que involucran justicia; se evalúa de manera "más violenta" a las máquinas cuando hay daño físico; y se da por garantizado que las máquinas deben mejorar los sistemas de los que participan, sin otorgarles mayor crédito.
1956 fue la fecha en que se acuñó el concepto de IA, ocasión en que la comunidad científica se citó en la Conferencia de Darmouth.
2 tipos de IA reconoce la definición de la Comisión Europea: software e inteligencia artificial integrada en dispositivos.