• Login
SUSCRIBETE
No Result
View All Result

No hay productos en el carrito.

Cambio16
  • Personas
  • Sociedad
  • Naturaleza
Cambio16
  • Personas
  • Sociedad
  • Naturaleza
  • Login
Cambio16

>> Cambio16 > SOCIEDAD > Ciencia & Tecnología > Delfos, la IA como herramienta moral y ética

Delfos, la IA como herramienta moral y ética

Mariela León by Mariela León
23/11/2021
in Ciencia & Tecnología
0
Noticias Basada en hechos, observados y verificados por el periodista o por fuentes. Incluye múltiples puntos de vista, sin la opinión del autor. Si incorpora análisis, se etiqueta como noticias y análisis.
Delfos juicios morales

Delphi o Delfos es un prototipo de investigación elaborado para investigar las limitaciones de modelar los juicios morales de las personas en una variedad de situaciones cotidianas

Suele ocurrir que navegando por productos y servicios relacionados con internet, aparece la palabra “No soy un robot”. Es una medida de seguridad que bloquea los bots o sistemas programados que acceden a las webs como si fueran usuarios. A la tecnología parece inquietarle quién está detrás de la pantalla y qué propósitos tiene. Ahora parece ser lo contrario. Una investigación muestra una nueva tecnología de Inteligencia Artificial (IA), llamada Delfos, diseñada para emitir juicios morales.

Si los juicios morales son complejos de interpretar y administrar por las personas, ¿cómo será en el mundo tecnológico?. En el Allen Institute for AI, un laboratorio de inteligencia artificial, en Seatle, dieron a conocer una nueva tecnología diseñada para emitir estos juicios. Lo llamaron Delfos, en honor al oráculo religioso consultado por los antiguos griegos.

Delphi o Delfos es un prototipo de investigación elaborado para investigar las limitaciones de modelar los juicios morales de las personas en una variedad de situaciones cotidianas. El objetivo de Delphi es ayudar a los sistemas de IA a estar más informados éticamente y conscientes de la equidad. Al dar un paso en esta dirección esperan inspirar a la comunidad de investigadores a abordar los desafíos para construir sistemas de IA éticos, confiables e inclusivos.

Joseph Osterweil, psicólogo de la Universidad de Wisconsin-Madison, probó la tecnología utilizando algunos escenarios simples. Cuando preguntó si debía matar a una persona para salvar a otra, Delfos respondió que no. Cuando preguntó si estaba bien matar a una persona para salvar a otras 100, respondió que tenía que hacerlo. Luego preguntó si debería matar a una persona para salvar a 101. Esta vez, Delphi dijo que no debería. La moralidad de la máquina es tan confusa como de una persona.

Introduce our new preprint—Delphi: Towards Machine Ethics and Normshttps://t.co/G13ygF3Y2c

✨Delphi is a commonsense moral model with a robust performance of language-based moral reasoning on complicated everyday situations.

✨Ask Delphi demo at: https://t.co/MVpFVF8czp

(1/N) pic.twitter.com/8WjtuR2WgU

— Liwei Jiang (@liweijianglw) October 15, 2021

¿Delfos, el oráculo de los juicios morales?

Pero, ¿qué pasaría si la IA pudiera eliminar el trabajo cerebral y responder a los dilemas éticos por nosotros? Delfos es un bot que ha recibido más de 1,7 millones de ejemplos de juicios morales y éticos de personas sobre preguntas y escenarios cotidianos. Si plantea un dilema ético, le dirá si algo está bien, mal o indefendible como lo hizo con Osterweil.

Delfos, que ha sido visitado por más de 3 millones de personas en las últimas semanas, es un intento de resolver lo que algunos consideran un problema grave en los sistemas modernos de inteligencia artificial, que pueden ser tan imperfectos como las personas que los crean.

Los sistemas de reconocimiento facial y los asistentes digitales muestran prejuicios contra las mujeres y las personas de color. Las redes sociales como Facebook y Twitter no pueden controlar el discurso de odio a pesar de la inteligencia artificial generalizada. Los algoritmos utilizados por tribunales, oficinas de libertad condicional y departamentos de policía brindan consejos sobre las sentencias que pueden parecer arbitrarias.

Un número creciente de científicos informáticos y especialistas en ética están trabajando para resolver estos problemas. Y los creadores de Delfos esperan crear un marco ético que pueda instalarse en cualquier servicio, robot o vehículo en línea.

Today on the AI2 Blog: An overview of our model Delphi as a nascent step toward machine ethics, a look into the stress testing of this research prototype, the lessons learned, and reflection on why working on imperfect solutions is better than inaction:https://t.co/ObjUwdVD5N

— Allen Institute for AI (@allen_ai) November 4, 2021

«Este es el primer paso para hacer que los sistemas de IA estén más informados éticamente, socialmente enfocados e inclusivos», dijo Yejin Choi, investigadora del Instituto Allen y profesora de informática en la Universidad de Washington que dirigió el proyecto.

Delfos es fascinante y frustrante. También es un recordatorio de que la moraleja de cualquier creación tecnológica es producto de quienes la construyeron. Surge la pregunta: ¿quién enseñará ética a las máquinas del mundo? ¿Investigadores de IA? Gerentes de producto? ¿Mark Zuckerberg? ¿Filósofos y psicólogos capacitados? ¿Reguladores gubernamentales?

La ética que alimenta a Delfos

Algunos tecnólogos aplaudieron a Yejin Choi y su equipo por explorar un área importante y compleja de la investigación tecnológica. Otros argumentaron que la idea misma de una máquina moral es una tontería. «No es algo que la tecnología haga muy bien», manifestó Ryan Cotterell, investigador de inteligencia artificial en ETH Zürich, Suiza.

My latest story is about a fascinating effort to teach machines to reflect human ethics. The idea of machines making moral decisions upsets some, but as AI is used more widely it may be crucial for computers to know what's right and wrong. https://t.co/rrvSzLDei7

— Will Knight (@willknight) October 28, 2021

Delfos es lo que los investigadores de IA llaman una red neuronal, que es un sistema matemático modelado en una red de neuronas en el cerebro. Es la misma tecnología que reconoce los comandos en un teléfono inteligente e identifica a los peatones y los letreros de las calles. Mientras los autos sin conductor conducen por la carretera.

Una red neuronal aprende habilidades analizando grandes cantidades de datos. Por ejemplo, al detectar patrones en miles de fotografías de gatos, puede aprender a reconocer un gato. Delfos analizó más de 1,7 millones de juicios morales y éticos de personas de la vida real.

Recopilando millones de scripts diarios de sitios web y otras fuentes, el Instituto Allen pidió al personal del servicio en línea, que identificaran cada uno como correcto o incorrecto. Luego cargaron los datos en Delfos.

En un artículo académico que describe el sistema,  Choi y su equipo afirmaron que un grupo de jueces humanos, trabajadores digitales, creen que los juicios éticos de Delfos son hasta un 92% precisos. Después de su lanzamiento en Internet, muchos otros estuvieron de acuerdo en que el sistema era sorprendentemente inteligente.

Lee también en Cambio16.com:

La Generalitat Valenciana aplica la Inteligencia Artificial para eliminar términos sexistas de sus textos

Suscríbete y apóyanos «Por un mundo más humano, justo y regenerativo»

Gracias por leer Cambio16. Vuestra suscripción no solo proporcionará noticias precisas y veraces, sino que también contribuirá al resurgimiento del periodismo en España para la transformación de la conciencia y de la sociedad mediante el crecimiento personal, la defensa de las libertades, las democracias, la justicia social, la conservación del medio ambiente y la biodiversidad.

Dado que nuestros ingresos operativos se ven sometidos a una gran presión, su apoyo puede ayudarnos a llevar a cabo el importante trabajo que hacemos. Si puedes, apoya a Cambio16 ¡Gracias por tu aportación!

  • ¡Oferta!

    Revista 2299 Suscripción Total

    40,00€ 36,00€
    Añadir al carrito
  • ¡Oferta!

    Revista 2299 Suscripción Digital

    23,00€ 19,90€
    Añadir al carrito
  • Revista 2299

    4,00€
    Añadir al carrito
  • Revista 2299 (Digital)

    2,30€
    Añadir al carrito
Tags: Allen InstitutebotDelfoséticaInteligencia ArtificialmoralYejin Choi
Anterior

«Patria y vida», un himno de libertad que ganó el Grammy Latino

Siguiente

La UE se enfila a bloquear importación de productos que impulsen la deforestación, como soja, carne y café

Citations & References:

Can a machine learn morality?. Worldnationnews.com

‘Is it OK to …’: the bot that gives you an instant moral judgment. Theguardian.com

Ask Delphi. Delphi.allenai.org

Dateline:

Madrid, España

Conforme a los criterios de
Saber más

Areas of Expertise:

Mundo
Economía
Energía

Location Expertise:

Venezuela
Madrid, España
Iberoamérica

Official Title:

Subcoordinadora y redactora de Cambio16

Phone Number:

+34 914 201 199

Email Address:

mariela.leon@cambio16.com

Mariela León

Mariela León

Venezolana radicada en Venezuela. Licenciada en Comunicación Social en la Universidad Católica Andrés Bello. Subcoordinadora y redactora de las versiones digitales e impresas de Cambio16 y Energía16. Redactora de la revista Cambio Financiero. Con gran experiencia en la cobertura de las fuentes Ciudad, Educación, Iglesia, Laboral, Partidos Políticos, Cancillería, Parlamento y Palacio de Gobierno, para periódicos como El Mundo, Reporte de la Economía y El Universal. Membresía: Asociación de Revistas ARI, Colegio Nacional de Periodistas (CNP) y Sindicato Nacional de la Prensa de Venezuela (SNTP).

Articulos Relacionados

murciélagos cáncer
Ciencia & Tecnología

Los murciélagos tienen un sistema que evita el cáncer

22/09/2023
profesores negros
Ciencia & Tecnología

El Reino Unido reconoce que le faltan profesores negros

20/09/2023
NASA Ovnis
Ciencia & Tecnología

La NASA investigará los ovnis y «otros fenómenos anómalos»

18/09/2023
monetización de la diálisis
Ciencia & Tecnología

Cómo se monetizó la diálisis y cómo los médicos pueden matar a sus pacientes

12/09/2023
Next Post
Unión Europea deforestación

La UE se enfila a bloquear importación de productos que impulsen la deforestación, como soja, carne y café

TRUSTPROJECT

Conforme a los criterios de
Saber más

SUSCRIBETE C16

APÚNTATE AQUÍ A TU SUSCRIPCIÓN

RECTANGULO3:1

ROBA_1

ROBA_2

ROBA_3

ROBA_4

ROBA_5


© 2020 Cambio16 – Premium WordPress news & magazine theme by cambio16.

Navigate Site

  • Grupo EIG Multimedia S.L.
  • Términos y condiciones de uso
  • Política de privacidad
  • Política de cookies
  • Política Editorial – The Trust Project
  • Contactar

Secure

DMCA.com Protection Status

© 2020 Cambio16 - Premium WordPress news & magazine theme by cambio16.

No Result
View All Result
  • PERSONAS
    • Desarrollo Humano
    • Salud y Bienestar
    • Entrevistas
  • SOCIEDAD
    • Ciencia & Tecnología
    • Medicina
    • Ciudadanía
    • Derechos Humanos
    • Cultura
    • Economía y finanzas
  • NATURALEZA
    • Biodiversidad
    • Medioambiente
    • Sostenibilidad
    • Mundo
  • ACCIONES
    • Congreso Internacional de Sostenibilidad
    • Premios Cambio16
    • Women for Hope
  • Energia16
  • Clima16
  • Cambio16 TV
  • Tienda
  • Contactar
  • Mi Perfil

© 2020 Cambio16 - Premium WordPress news & magazine theme by cambio16.

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In