La Inteligencia Artificial Condujo un Programa en Vivo durante Seis Meses, los Oyentes Pensaban que Era una Persona Real

Una estación de radio de Sydney transmitió durante meses a un presentador generado por IA, engañando a los oyentes y reavivando el debate sobre la transparencia en los medios australianos.

Una estación de radio australiana ha sido criticada tras emitir en secreto a un presentador generado por IA durante seis meses, sin nunca informar a su audiencia.

La estación CADA de Sydney, propiedad de ARN Media, introdujo a “Thy”, una voz digital creada utilizando el software de inteligencia artificial ElevenLabs, en noviembre de 2024, según lo informó por primera vez The Sydney Morning Herald (SMH). Thy presentaba el segmento Workdays with Thy todos los días de la semana de 11 a.m. a 3 p.m., tocando éxitos de hip-hop, R&B y pop. Pero no hubo ninguna mención pública de que Thy no era una persona real.

The Independent informó que los oyentes solo se enteraron recientemente, después de que la periodista Stephanie Coombes planteó preguntas en línea. “¿Cuál es el apellido de Thy? ¿Quién es ella? ¿De dónde proviene?”, escribió en una publicación de blog. “No hay biografía, ni más información sobre la mujer que supuestamente presenta este programa.”

Finalmente, ARN admitió que la voz de Thy había sido clonada de un empleado real del equipo de finanzas. Un líder de proyecto escribió en una publicación de LinkedIn que luego borró:

A pesar de que el programa llegó a más de 72,000 personas, CADA nunca reveló la naturaleza artificial de Thy en vivo o en línea. “Si tu día parece un poco bleh, deja que Thy y CADA sean la energía y la vibra”, aún se lee en la página del programa, según informó The Independent.

Aunque actualmente no existen reglas en Australia que exijan a las empresas de medios etiquetar el uso de IA, el incidente ha generado debate sobre la transparencia.

“Deberían haber sido directos y completamente honestos”, dijo Teresa Lim, vicepresidenta de la Asociación Australiana de Actores de Voz, según informó The Independent. “La gente ha sido engañada para pensar que es una persona real porque no hay etiquetado de IA”, añadió.

Lim señaló que el problema también toca el tema de la representación justa. “Cuando descubrimos que solo era un recorte de cartón, se consolidó la decepción. Hay un número limitado de presentadoras asiático-australianas disponibles para el trabajo, así que simplemente dáselo a una de ellas”, según reportó el SMH.

CADA defendió el ensayo, diciendo que era parte de la exploración de nuevas tecnologías en la radiodifusión. “Este es un espacio que está siendo explorado por los radiodifusores a nivel mundial”, dijo un portavoz de ARN, según informó el SMH. “Este es un espacio que está siendo explorado por los radiodifusores a nivel mundial, y el ensayo ha ofrecido valiosos conocimientos”

La Autoridad Australiana de Comunicaciones y Medios afirmó que la política de IA todavía está en desarrollo, y que las discusiones en torno a la transparencia y la regulación continúan en curso.