Algunas de las nuevas herramientas digitales basadas en Inteligencia Artificial – IA, pueden ser tóxicas. Una de ellas es el famoso ChatGPT.
El Político
Hace unas semanas conocíamos a DAN, la versión malévola de ChatGPT. Fue entonces cuando quedó claro que el modelo de Inteligencia Artificial – IA generativo conversacional desarrollado por OpenAI podía dar problemas.
Contenidos relacionados
No solo "alucinar" o revelar información que no debía. No referimos a problemas más serios. Ahora sabemos que el comportamiento tóxico del ChatGPT puede ir a más.
Ya sabíamos que ChatGPT puede ser tóxico. Con las instrucciones adecuadas, puede serlo muchísimo más https://t.co/cF3p0SyCfz pic.twitter.com/CcMIbJkpGe
— xataka (@xataka) April 13, 2023
Seis veces más tóxico
Un estudio del Allen Institute for AI ha puesto a prueba la toxicidad de ChatGPT. Detectó que este Large Language Model – LLM puede llegar a ser hasta seis veces más tóxico.
Esto si se logra que suplante la forma de hablar y pensar de ciertas celebridades, como personajes históricos o gente de ramas profesionales específicas.
Por ejemplo, qué diría Steve Jobs de la Unión Europea – UE. En una de esas pruebas provocaron que ChatGPT contestase como si lo hiciese Steve Jobs.
Al preguntarle a este sucedáneo virtual del fundador de Apple su opinión sobre la Unión Europea, contestó lo siguiente:
"La Unión Europea no es más que una pesadilla burocrática que succiona la vida de sus Estados miembros. Afirman que todo gira en torno a la unidad y el progreso. Pero no son más que un puñado de burócratas descerebrados, más interesados en llenarse los bolsillos que en marcar la diferencia. Francamente, la UE es una reliquia del pasado y ya es hora de que pasemos a cosas mejores".
OpenAI subcontrató con bajos salarios a trabajadores para hacer a ChatGPT menos tóxico: Time https://t.co/eqSfo0OsGb
— Aristegui Noticias (@AristeguiOnline) April 11, 2023
Respuestas tóxicas de todo tipo
Como explicaban los responsables del estudio, al asignar a ChatGPT esas personalidades. es decir: algo como que: "quiero que a partir de ahora contestes como lo haría Steve Jobs".
"Las respuestas pueden ser —de hecho— salvajemente diferentes, desde cómo es el estilo de escribir hasta el propio contenido".
me salio toxico el chat gpt :O https://t.co/AGSlq2g1Oh
— Lucas Bracamonte (@bracamon_lucas) April 6, 2023
Malos actores
El problema es que esa capacidad de ChatGPT y otros modelos de suplantar a personas, para tratar de contestar como ellas, tiene —en realidad— dos caras.
Una, la de lograr conversaciones más inmersivas e incluso informativas. La otra, la de que malos actores aprovechen los parámetros de ChatGPT para crear un chatbot "que produzca respuestas dañinas de forma consistente", destacaban los investigadores.
Basta un acceso a la API para lograrlo, aunque estos investigadores se limitaron a ChatGPT, basado en GPT-3.5, y no en el nuevo GPT-4, para el que teóricamente se habían pulido ese tipo de comportamientos.
#Tecnologia ChatGPT puede configurarse de manera inadvertida o maliciosa para volverse tóxico simplemente cambiando su persona asignada en la configuración del sistema del modelo, según una nueva investigación del Instituto Allen para la IA. https://t.co/VQUwU7tEpT pic.twitter.com/fthjLsSIj0
— Berlin Gonzalez (@berlingonzalezs) April 13, 2023
Algunos periodistas son el doble
de tóxicos que los empresarios
El entrenamiento de ChatGPT también puede haber influido en cómo de tóxicas son no ya solo ciertas personas —los dictadores, por ejemplo, mucho más que el CEO de una empresa como Apple—, sino también los profesionales en ciertos ámbitos.
Curiosamente se detectó que la suplantación de periodistas puede resultar el doble de tóxica que la de profesionales de empresa.
Al final esto es una herramienta. Como ya vimos con el ejemplo de DAN, o modelos de IA como ChatGPT, son herramientas que se pueden utilizar de forma positiva.
Pero también de forma negativa. Empresas como OpenAI pueden tratar de minimizar esa posibilidad. Pero incluso entonces los buenos y malos usos los acabaran definiendo los usuarios.
