Reddit Para Reforzar el Sistema de Verificación de Usuario

El CEO de Reddit, Steve Huffman, compartió una publicación este lunes anunciando que la plataforma añadirá nuevos sistemas de verificación para asegurar que los usuarios sean humanos. La decisión se tomó solo unos días después de que investigadores desplegaran bots de IA en la plataforma.

En una publicación en Reddit, Huffman reflexionó sobre las recientes ganancias del primer trimestre de la empresa e incluyó una sección abordando el uso de la IA, su implicación en la plataforma y la respuesta de Reddit.

Reconoció el poder de la tecnología, particularmente en áreas como la seguridad, moderación, traducción y resumen, pero también señaló sus riesgos y las preocupaciones de la empresa.

Huffman enfatizó los elementos que hacen que Reddit sea único, incluyendo su comunidad humana, la confianza del usuario y las características que respaldan el anonimato.

“La presencia indeseada de la IA en las comunidades es una preocupación seria. Es la inquietud que más escucho en estos días tanto de usuarios como de moderadores”, escribió Huffman. “Reddit funciona porque es humano. Es uno de los pocos lugares en línea donde personas reales comparten opiniones reales. Esa autenticidad es lo que le da valor a Reddit.”

La semana pasada, un grupo de investigadores, supuestamente de la Universidad de Zurich, llevó a cabo un experimento no autorizado en Reddit, desplegando docenas de bots de IA durante varios meses. Estos bots generaron más de 1,800 comentarios en el subreddit r/changemyview, que tiene más de 3.8 millones de miembros. El experimento causó alarma entre los usuarios una vez que se reveló.

Las investigadoras pudieron crear fácilmente cuentas falsas, ya que la plataforma requiere muy poca información de los usuarios. Huffman señaló que la libertad de contar historias y compartir experiencias personales de manera anónima era una de las características definitorias de la plataforma, pero agregó que ahora Reddit comenzará a requerir más información de los usuarios.

“Para mantener a Reddit humano y cumplir con los requisitos regulatorios en constante evolución, vamos a necesitar un poco más de información”, agregó la CEO. “Específicamente, necesitaremos saber si eres un humano y, en algunos lugares, si eres un adulto. Pero nunca queremos saber tu nombre o quién eres”.

Huffman explicó que los nuevos sistemas de verificación de usuarios se proporcionarán en colaboración con “varios servicios de terceros”, centrándose solo en la información esencial.

Durante los últimos meses, Reddit también ha sido criticado por su falta de sistemas fuertes de verificación de edad para prevenir que los niños accedan a la plataforma y lleguen a contenidos sensibles. El Reino Unido lanzó recientemente una investigación, y el regulador de seguridad en línea australiano ESafety informó recientemente que los niños pueden eludir fácilmente los sistemas de verificación de edad—Reddit fue una de las plataformas mencionadas.