Varias cuentas verificadas de Twitter compartieron el lunes una imagen falsa que supuestamente mostraba una explosión cerca del Pentágono, lo que causó confusión y provocó una breve caída de la bolsa. Las autoridades locales confirmaron posteriormente que no se había producido tal incidente.
El Político
Una nota de ABC News refiere que las cuentas verificadas de Twitter pueden haber contribuido a la propagación viral de una falsa afirmación de que se estaba produciendo una explosión en el Pentágono.
Cerca de las 8:42 de la mañana del lunes, una cuenta verificada de Twitter, que se autodenominaba medio de comunicación y organización de noticias, compartió una imagen falsa de humo cerca de un edificio blanco que decían que era el Pentágono. El pie de foto del tuit también tergiversaba la ubicación del Pentágono.
El Departamento de Bomberos del condado de Arlington afirmó posteriormente en Twitter que no se había producido tal incidente.
El Pentágono, edificio sede del Departamento de Defensa de Estados Unidos, se encuentra en el condado de Arlington, Virginia, reportó ABCNews.
Un portavoz del Pentágono también dijo a ABC News que no se había producido ninguna explosión.
Panorama general
A lo largo de la mañana, la imagen falsa y el pie de foto engañoso cobraron fuerza en Twitter.
Cyabra, una empresa de análisis social, analizó la conversación en línea y descubrió que unas 3.785 cuentas habían mencionado las falsedades, docenas de ellas verificadas.
"La marca de verificación bien podría haber contribuido a dar a la cuenta la apariencia de autenticidad, lo que le habría ayudado a conseguir viralidad", explicó a ABC News Jules Gross, ingeniero de soluciones de Cyabra.
Algunas de estas cuentas estaban verificadas, pero no parecían estar coordinadas, según Cyabra.
"La mala noticia es que parece que una sola cuenta fue capaz de alcanzar la viralidad y causar el máximo caos", añadió Gross.
Aunque ABC News no ha podido determinar la fuente del contenido, ni confirmar que el tuit original fuera el de las 8:42, la imagen contiene muchas señas de identidad de haber sido generada utilizando una herramienta de IA de texto a imagen.
Hay muchas incoherencias visuales en la imagen, incluida una farola que parece estar tanto delante como detrás de la barrera metálica. Por no mencionar que el edificio en sí no se parece al Pentágono.
How verified accounts helped make fake images of a Pentagon explosion go viral: https://t.co/ClyCBA9JXs
— ABC News (@ABC) May 24, 2023
Entre líneas
Las herramientas de conversión de texto en imagen basadas en inteligencia artificial permiten a los usuarios introducir una descripción en lenguaje natural, llamada prompt, para obtener una imagen a cambio.
En los últimos meses, estas herramientas se han vuelto cada vez más sofisticadas y accesibles, dando lugar a una explosión de contenidos hiperrealistas que engañan a los usuarios en línea.
El falso tuit original fue finalmente borrado, pero no antes de que fuera amplificado por una serie de cuentas en Twitter que llevaban el check azul que antes estaba reservado a las cuentas verificadas, pero que ahora puede adquirir cualquier usuario.
ABC News no pudo ponerse en contacto inmediatamente con un portavoz de Twitter para pedirle un comentario.
El Instituto para el Diálogo Estratégico, una organización dedicada a contrarrestar el extremismo, el odio y la desinformación, proporcionó el lunes a las fuerzas de seguridad estatales y locales un informe escrito con detalles sobre el incidente.
"Los responsables de la seguridad y de la aplicación de la ley están cada vez más preocupados por el aumento de las operaciones de información generadas por IA con la intención de socavar la credibilidad en el gobierno, avivar el miedo o incluso incitar a la violencia", dijo John Cohen, colaborador de ABC News y ex subsecretario en funciones de Inteligencia.
"La procedencia de los contenidos digitales ayudará a mitigar estos sucesos ampliando la transparencia y la autenticidad de los contenidos visuales mediante el empoderamiento de usuarios y creadores", añadió McGregor.
Cuentas verificadas en Twitter
Las cuentas verificadas son el método de Twitter para confirmar la identidad de una persona. Las insignias las otorga la propia red social cuando determina que una cuenta es de interés público, ya sea porque se trata de una celebridad o porque es una persona importante en determinados ámbitos..
En general el tipo de cuentas que Twitter suele verificar son las de las personalidades más relevantes del ámbito de la música, el cine y televisión, la moda, la política, la religión, los periodistas y medios de comunicación, el deporte y los negocios.
Puedes saber que una cuenta de Twitter está verificada cuando junto al lado del nombre del usuario que estás mirando aparece una insignia con un tick azul. Siempre es del mismo color y siempre aparece en el mismo lugar independientemente de las personalizaciones del perfil y el color del tema, y lo verás tanto en el perfil como en sus publicaciones o en tus resultados de búsqueda.
Es importante recordar que la insignia nunca cambia de color ni posición, ya que hay cuentas que de vez en cuando tratan de hacerse pasar por otros tratando de engañarte con insignias fraudulentas en la foto de perfil o el encabezado de la biografía.
Estas insignias son siempre falsas, y Twitter puede suspender a todas esas cuentas que traten de simular tener una verificación que no tienen.
¿Qué se puede esperar?
Jeff McGregor, CEO de Truepic, expresó que "el engaño de la IA al Pentágono de hoy es un presagio de lo que está por venir".
Agregó que la tecnología de su empresa puede añadir una capa de transparencia a los contenidos publicados en línea.
Truepic, miembro fundador de la Coalition for Content Provenance and Authenticity, ha desarrollado una tecnología de cámara que captura, firma y sella detalles críticos de cada foto y vídeo, como la hora, la fecha y la ubicación.
La empresa también creó herramientas que permitían a los usuarios pasar el ratón por encima de un contenido generado por IA para averiguar cómo se había fabricado. En abril, publicaron el primer "deepfake transparente" para mostrar cómo funciona la tecnología.
Aunque algunas empresas han adoptado la tecnología C2PA, ahora son las plataformas de las redes sociales las que deben poner esa información a disposición de sus usuarios.
"Se trata de una tecnología de código abierto que permite a todo el mundo adjuntar metadatos a sus imágenes para demostrar que las crearon, cuándo y dónde se crearon, y qué cambios se hicieron en ellas durante el proceso", explicó a ABC News Dana Roa, consejera general y directora de confianza de Adobe. "Esto permite a la gente demostrar lo que es real".
Las alteraciones se identificarían. Por ejemplo, si una imagen ha sido recortada o filtrada, esa información podría mostrarse, pero el usuario también podría seleccionar cuántos datos pone a disposición del público.
