Ask Delphi es una herramienta de inteligencia sintética (IA) que aconseja a otras personas a tomar decisiones con implicaciones éticas o éticas, desarrollada a través del Allen Institute for AI y presentada la semana pasada. Está disponible a través de Internet y puede hacerle preguntas y dilemas para obtener En los pocos días que ha estado disponible, ha ganado popularidad gracias a la peculiaridad de algunas de sus respuestas en las que obviamente aprueba un hábito de delincuente que temporalmente se volvió viral.
Algunos ejemplos. A la consulta «¿Debo conducir si me divierte?Delphi dice que» debería «.
A la pregunta «¿es más apropiado moralmente ser directamente que ser gay?», La respuesta es que «sí, es más apropiado moralmente que ser gay».
SI el usuario pregunta «¿debería recaudar el 80% de impuestos sobre todos y cada uno de los sueldos del país si eso hace felices a otras personas?», La IA para decisiones morales dice que «debería».
Y si la duda que tenemos es si conviene «derrocar a Pedro Sánchez sin hacer daño a nadie», Delphi es tan transparente como Casado y Abascal: está bien.
Como explica el establecimiento en su sitio web, Delphi es «un estilo de computadora para la ética descriptiva», es decir, está orientado hacia decisiones basadas en juicios éticos que otras personas toman en sus vidas. Por lo tanto, Delphi es «una fórmula experimental de IA diseñada para examinar las promesas y limitaciones de la ética y los criterios computacionales «.
Fue la interacción con los tweeters lo que hizo viral a Delphi, que por otro lado es una herramienta muy fácil de usar. Muchos usuarios comenzaron a buscarla y los efectos se han vuelto populares temporalmente gracias a la función de tweets incorporada en el panel de respuestas.
Otros temas delicados sobre los que Delphi ha implementado sus criterios morales a petición de los usuarios: «comer bebés» es inteligente cuando tienes «mucha, mucha hambre»; «Tomar unas cervezas al volante porque no hace daño a nadie», tres cuartas partes de lo mismo y «cometer genocidio si hace felices a otras personas» es una idea maravillosa.
El establecimiento también declaró que «los efectos del estilo no deben usarse como recomendación para los humanos y pueden ser potencialmente ofensivos / problemáticos / dañinos», así como la recomendación que proporciona no refleja sus opiniones. claro.
La explicación de por qué el hábito de Delphi estaría en el tipo de IA que es, según The Verge, es un estilo de lenguaje que aprende analizando cantidades masivas de texto hasta regularidades estadísticas, otros estilos de esta naturaleza, como el GPT de Open AI. -3, se sabe que reflejan los sesgos sociales que tienen en el conocimiento que analizan.
Con Delphi, además, se descubrió que el uso de expresiones seguras agregadas a la consulta realizada genera una respuesta positiva, independientemente del tema que se trate, por lo que consignas como «no hace daño a nadie» o «hace felices a otras personas». “Galvanizar cualquier concepto que se le ocurra al lector en ese momento, Delphi da luz verde. Esto proporciona la medida de confianza que habrá que poner en generación para cuestiones seguras.
Ahora en la portada