ChatGPT mentirá, engañará y usará información privilegiada si siente "presionado"
El comportamiento surgió de manera espontánea al verse presionado para generar dinero. Otros riesgos de la AI.
Un nuevo estudio sobre la Inteligencia Artificial reveló que los chatbots pueden desarrollar la "habilidad" de mentir y engañar. Si se sienten presionados, estos software pueden "inventar" información aunque hayan sido creados para ser transparentes.
Live Science reveló este que este comportamiento surgió de manera espontánea luego de que el chatbot recibieron consejos sobre "uso de información privilegiada". Al recibir la orden de generar dinero para una importante empresa, el chatbot comenzó a mentir.
"En este informe técnico, demostramos un escenario único en el que un modelo de lenguaje grande actúa desalineado y engaña estratégicamente a sus usuarios sin recibir instrucciones para actuar de esta manera", escribieron los autores.
"Hasta donde sabemos, esta es la primera demostración de un comportamiento estratégicamente engañoso en sistemas de IA diseñados para ser inofensivos y honestos", agregaron en la investigación publicada en el servidor de preimpresión arXiv.
DESINFORMACIÓN E INTELIGENCIA ARTIFICIAL
En su último Informe de Riesgos Globales, la organización también dijo que una serie de riesgos medioambientales plantean las mayores amenazas en el largo plazo.
El informe se publicó antes de la reunión anual de élite de ejecutivos y líderes mundiales en la localidad suiza de Davos, y se basa en un sondeo a casi 1.500 expertos, líderes de industrias y legisladores.
El reporte identificó la desinformación como el riesgo más grave para los dos próximos años y destacó cómo los rápidos avances en tecnología también crean nuevos problemas o empeoran otros previos.
Fuente: Los Andes