Meta AI Acusa Erróneamente a Profesora de Explotación Infantil, Restaura Instagram Después de Presión Pública

Meta suspendió la cuenta de Instagram de una profesora canadiense por falsas acusaciones de abuso. La moderación de IA marcó su cuenta, y solo la atención mediática revirtió la decisión.

Una profesora de secundaria en Vaughan, Ontario, vio su cuenta de Instagram suspendida después de que Meta la acusara erróneamente de publicar contenido relacionado con la “explotación sexual infantil, abuso y desnudez”.

“Cuando leí de qué se me acusaba, me sentí muy herida. Estaba muy sorprendida, especialmente considerando a qué me dedico,” dijo Megan Conte a CBC Toronto. “Y no había nadie a quien pudiera contactar — ningún humano.”

La profesora de historia, Conte, perdió acceso a sus fotos personales, contactos de negocios y trabajo creativo que abarca 15 años. Conte intentó varias veces solucionar el problema a través del sistema de ayuda de Meta, incluso intentó pagar para verificar la cuenta de su madre con la esperanza de contactar a una persona real. Conte solo recuperó su cuenta después de que CBC Toronto contactara a Meta.

“Lamentamos haber cometido este error y que no hayas podido usar Instagram durante un tiempo”, dijo Meta en un correo electrónico. “A veces necesitamos tomar medidas para mantener a nuestra comunidad segura”.

CBC informa que el analista de tecnología Carmi Levy dice que Meta depende en gran medida de la IA para moderar a miles de millones de usuarios, pero advierte, “Es una automatización fuera de control”. Añadió, “Con más de tres mil millones de usuarios regulares de estas plataformas, no hay forma de que Meta pueda contratar a suficientes personas […] La automatización es la única forma en que pueden manejar esta escala”.

Brittany Watson de Peterborough, Ontario, inició una petición después de su propia suspensión injustificada. “Las redes sociales ya no son solo redes sociales. Ahora son parte de la vida cotidiana”, dijo. Su petición tiene más de 34,000 firmas, según informó CBC.

Conte dijo: “La acusación es espantosa, ofensiva y completamente falsa […] Se siente como una especie de robo de identidad”. Aunque recuperó su cuenta, sigue preocupada por otros usuarios que enfrentan problemas similares y no reciben asistencia ni aclaraciones.