Wikipedia endurece las reglas para combatir los errores generados por la Inteligencia Artificial

Wikipedia está advirtiendo a sus lectores sobre textos generados por IA, acelerando la eliminación de páginas y prohibiendo imágenes de IA en un esfuerzo importante para preservar la confiabilidad y la confianza.

La etiqueta de advertencia “Este artículo puede incorporar texto de un modelo de lenguaje de gran tamaño” aparece en cientos de artículos de Wikipedia. The Washington Post informa cómo los editores voluntarios trabajan para identificar y eliminar contenido generado por IA que contiene errores, citas falsas y datos engañosos.

“La gente realmente, realmente confía en Wikipedia”, dijo Lucie-Aimée Kaffee, una investigadora de políticas y IA, según informó The Post. “Y eso es algo que no deberíamos erosionar”, añadió Lucie.

La precisión de Wikipedia depende de una red mundial de voluntarios que han luchado contra el spam y el vandalismo desde la creación de la plataforma. Desde 2022, la generación de texto por IA ha simplificado la creación de artículos de Wikipedia convincentes pero defectuosos, dijo Marshall Miller, director de producto en la Fundación Wikimedia. “Me gusta pensar en ello como en un sistema inmunológico”, dijo Miller, según informó The Post.

Un estudio de la Universidad de Princeton encontró que alrededor del 5% de las nuevas páginas en inglés de Wikipedia en agosto de 2024 contenían texto generado por IA, según informó The Post. Algunas eran inofensivas, pero otras promovieron negocios o agendas políticas. Ejemplos incluyen un hotel descrito en lugar de un pueblo, y un artículo falso sobre una fortaleza otomana que permaneció en línea durante casi un año.

Para combatir esto, los editores lanzaron WikiProject AI Cleanup en 2023, creando guías para detectar escritura de IA y listando más de 500 artículos sospechosos. En agosto, Wikipedia implementó una nueva política de eliminación para permitir la eliminación rápida de páginas, particularmente aquellas que contienen contenido visible producido por IA, o restos de prompts. Además, las imágenes generadas por IA están completamente prohibidas.

“Vaya, he estado encontrando MUCHO contenido de IA deficiente en la cola de envíos”, se quejó un editor en junio, según informó The Post.

Aunque la Fundación Wikimedia ha explorado herramientas de IA para ayudar a los editores con tareas como la traducción, Miller enfatizó: “La forma en que Wikipedia permanece neutral y confiable… es que todo este contenido pasa por las manos de las personas”. Kaffee añadió: “Preguntar, ‘¿Dónde queremos la IA? [ … ] ¿Qué tipo de reglas queremos establecer para el conocimiento generado por la IA?’ Creo que es realmente importante”.