La BBC Desenmascara la Estafa de Imágenes del Holocausto por IA en Facebook

Algunos usuarios de Facebook se han convertido en víctimas de spammers que se benefician de imágenes del Holocausto generadas por IA, provocando indignación entre los supervivientes del Holocausto.

Una investigación de la BBC ha descubierto una red internacional de spammers que utilizan imágenes generadas por IA de víctimas del Holocausto para obtener beneficios del sistema de monetización de Facebook.

La práctica enfrenta oposición por parte de las organizaciones conmemorativas del Holocausto, ya que consideran que las imágenes generadas por IA son perjudiciales para los sobrevivientes, y sus familiares.

“Solo hay un puñado de fotos auténticas del interior del campo de concentración de Auschwitz durante la Segunda Guerra Mundial”, destacó la investigación a la BBC.

Los spammers de IA han comenzado a publicar contenido artificial que incluye imágenes escenificadas de prisioneros tocando violines y amantes encontrándose cerca de las vallas de la prisión, las cuales supuestamente han recibido miles de “me gusta” y compartidos.

“Aquí tenemos a alguien inventando las historias… para algún tipo de extraño juego emocional que está sucediendo en las redes sociales”, dijo Pawel Sawicki, portavoz del Memorial de Auschwitz en Polonia, según informó la BBC.

“Esto no es un juego. Es un mundo real, sufrimiento real y personas reales a las que queremos y necesitamos conmemorar”, agregó Sawicki.

La BBC vinculó muchas publicaciones con creadores de contenido con sede en Pakistán que estaban explotando el programa de monetización de contenido (CM) solo por invitación de Meta. La cuenta, operada por Abdul Mughees, supuestamente generó $20,000 a través de estafas en las redes sociales, y alcanzó 1.2 mil millones de vistas durante sus primeros cuatro meses de operación.

Las publicaciones muestran imágenes generadas por IA que representan escenarios completamente ficticios, como un bebé abandonado en las vías del tren en un campo de concentración.

Las organizaciones del Holocausto dicen que esta tendencia socava el testimonio de los supervivientes. “No entienden del todo lo que están viendo”, dijo el Dr. Robert Williams de la Alianza Internacional para la Memoria del Holocausto Supervivientes, según informó la BBC. Añadió que siente “una cierta tristeza de que se haya permitido que esto ocurra”.

Las expertas advierten que, aunque la IA puede preservar la memoria, el uso distorsionado corre el riesgo de convertir la historia del Holocausto en ficción.

Hallazgos recientes indican que los riesgos de las imágenes generadas por IA pueden ir más allá de la simple difusión de información falsa. Una nueva investigación demostró que el contenido generado por IA puede implantar falsos recuerdos. Las personas a menudo creían que los eventos habían sucedido cuando nunca lo hicieron, y se sentían muy seguras acerca de estos recuerdos incorrectos.

Los expertos dicen que esto podría afectar seriamente la memoria del Holocausto. La visualización repetitiva de imágenes generadas por IA puede distorsionar el conocimiento histórico colectivo, ya que las personas luchan por distinguir entre contenido real y sintético, especialmente cuando este contenido se propaga rápidamente a través de las redes sociales.

Si bien la IA puede ser útil en educación o terapia si se usa con cuidado, los académicos advierten que en áreas sensibles como la historia del Holocausto, el uso descuidado corre el riesgo de borrar la verdad en sí misma. Los investigadores instan a una mayor regulación, documentación precisa y una mejor colaboración entre historiadores, tecnólogos y responsables de políticas para salvaguardar los registros históricos y proteger los testimonios de los supervivientes y el conocimiento histórico público.

Meta eliminó algunas páginas después de que el Museo de Auschwitz las señalara. La BBC informa que un portavoz dijo: “Eliminamos las páginas y grupos que se compartieron con nosotros y desactivamos las cuentas detrás de ellas por violar nuestras políticas sobre spam y comportamiento no auténtico”.