Delfos, la IA como herramienta moral y ética

Suele ocurrir que navegando por productos y servicios relacionados con internet, aparece la palabra “No soy un robot”. Es una medida de seguridad que bloquea los bots o sistemas programados que acceden a las webs como si fueran usuarios. A la tecnología parece inquietarle quién está detrás de la pantalla y qué propósitos tiene. Ahora parece ser lo contrario. Una investigación muestra una nueva tecnología de Inteligencia Artificial (IA), llamada Delfos, diseñada para emitir juicios morales.

Si los juicios morales son complejos de interpretar y administrar por las personas, ¿cómo será en el mundo tecnológico?. En el Allen Institute for AI, un laboratorio de inteligencia artificial, en Seatle, dieron a conocer una nueva tecnología diseñada para emitir estos juicios. Lo llamaron Delfos, en honor al oráculo religioso consultado por los antiguos griegos.

Delphi o Delfos es un prototipo de investigación elaborado para investigar las limitaciones de modelar los juicios morales de las personas en una variedad de situaciones cotidianas. El objetivo de Delphi es ayudar a los sistemas de IA a estar más informados éticamente y conscientes de la equidad. Al dar un paso en esta dirección esperan inspirar a la comunidad de investigadores a abordar los desafíos para construir sistemas de IA éticos, confiables e inclusivos.

Joseph Osterweil, psicólogo de la Universidad de Wisconsin-Madison, probó la tecnología utilizando algunos escenarios simples. Cuando preguntó si debía matar a una persona para salvar a otra, Delfos respondió que no. Cuando preguntó si estaba bien matar a una persona para salvar a otras 100, respondió que tenía que hacerlo. Luego preguntó si debería matar a una persona para salvar a 101. Esta vez, Delphi dijo que no debería. La moralidad de la máquina es tan confusa como de una persona.

Introduce our new preprint—Delphi: Towards Machine Ethics and Normshttps://t.co/G13ygF3Y2c

✨Delphi is a commonsense moral model with a robust performance of language-based moral reasoning on complicated everyday situations.

✨Ask Delphi demo at: https://t.co/MVpFVF8czp

(1/N) pic.twitter.com/8WjtuR2WgU

— Liwei Jiang (@liweijianglw) October 15, 2021

¿Delfos, el oráculo de los juicios morales?

Pero, ¿qué pasaría si la IA pudiera eliminar el trabajo cerebral y responder a los dilemas éticos por nosotros? Delfos es un bot que ha recibido más de 1,7 millones de ejemplos de juicios morales y éticos de personas sobre preguntas y escenarios cotidianos. Si plantea un dilema ético, le dirá si algo está bien, mal o indefendible como lo hizo con Osterweil.

Delfos, que ha sido visitado por más de 3 millones de personas en las últimas semanas, es un intento de resolver lo que algunos consideran un problema grave en los sistemas modernos de inteligencia artificial, que pueden ser tan imperfectos como las personas que los crean.

Los sistemas de reconocimiento facial y los asistentes digitales muestran prejuicios contra las mujeres y las personas de color. Las redes sociales como Facebook y Twitter no pueden controlar el discurso de odio a pesar de la inteligencia artificial generalizada. Los algoritmos utilizados por tribunales, oficinas de libertad condicional y departamentos de policía brindan consejos sobre las sentencias que pueden parecer arbitrarias.

Un número creciente de científicos informáticos y especialistas en ética están trabajando para resolver estos problemas. Y los creadores de Delfos esperan crear un marco ético que pueda instalarse en cualquier servicio, robot o vehículo en línea.

Today on the AI2 Blog: An overview of our model Delphi as a nascent step toward machine ethics, a look into the stress testing of this research prototype, the lessons learned, and reflection on why working on imperfect solutions is better than inaction:https://t.co/ObjUwdVD5N

— Allen Institute for AI (@allen_ai) November 4, 2021

«Este es el primer paso para hacer que los sistemas de IA estén más informados éticamente, socialmente enfocados e inclusivos», dijo Yejin Choi, investigadora del Instituto Allen y profesora de informática en la Universidad de Washington que dirigió el proyecto.

Delfos es fascinante y frustrante. También es un recordatorio de que la moraleja de cualquier creación tecnológica es producto de quienes la construyeron. Surge la pregunta: ¿quién enseñará ética a las máquinas del mundo? ¿Investigadores de IA? Gerentes de producto? ¿Mark Zuckerberg? ¿Filósofos y psicólogos capacitados? ¿Reguladores gubernamentales?

La ética que alimenta a Delfos

Algunos tecnólogos aplaudieron a Yejin Choi y su equipo por explorar un área importante y compleja de la investigación tecnológica. Otros argumentaron que la idea misma de una máquina moral es una tontería. «No es algo que la tecnología haga muy bien», manifestó Ryan Cotterell, investigador de inteligencia artificial en ETH Zürich, Suiza.

My latest story is about a fascinating effort to teach machines to reflect human ethics. The idea of machines making moral decisions upsets some, but as AI is used more widely it may be crucial for computers to know what's right and wrong. https://t.co/rrvSzLDei7

— Will Knight (@willknight) October 28, 2021

Delfos es lo que los investigadores de IA llaman una red neuronal, que es un sistema matemático modelado en una red de neuronas en el cerebro. Es la misma tecnología que reconoce los comandos en un teléfono inteligente e identifica a los peatones y los letreros de las calles. Mientras los autos sin conductor conducen por la carretera.

Una red neuronal aprende habilidades analizando grandes cantidades de datos. Por ejemplo, al detectar patrones en miles de fotografías de gatos, puede aprender a reconocer un gato. Delfos analizó más de 1,7 millones de juicios morales y éticos de personas de la vida real.

Recopilando millones de scripts diarios de sitios web y otras fuentes, el Instituto Allen pidió al personal del servicio en línea, que identificaran cada uno como correcto o incorrecto. Luego cargaron los datos en Delfos.

En un artículo académico que describe el sistema,  Choi y su equipo afirmaron que un grupo de jueces humanos, trabajadores digitales, creen que los juicios éticos de Delfos son hasta un 92% precisos. Después de su lanzamiento en Internet, muchos otros estuvieron de acuerdo en que el sistema era sorprendentemente inteligente.

Lee también en Cambio16.com:

La Generalitat Valenciana aplica la Inteligencia Artificial para eliminar términos sexistas de sus textos

Suscríbete y apóyanos «Por un mundo más humano, justo y regenerativo»

Gracias por leer Cambio16. Vuestra suscripción no solo proporcionará noticias precisas y veraces, sino que también contribuirá al resurgimiento del periodismo en España para la transformación de la conciencia y de la sociedad mediante el crecimiento personal, la defensa de las libertades, las democracias, la justicia social, la conservación del medio ambiente y la biodiversidad.

Dado que nuestros ingresos operativos se ven sometidos a una gran presión, su apoyo puede ayudarnos a llevar a cabo el importante trabajo que hacemos. Si puedes, apoya a Cambio16 ¡Gracias por tu aportación!