Los Hackers Pueden Armar Resumidores de IA para Propagar Malware

Una nueva investigación en ciberseguridad ha revelado una preocupante forma en la que los hackers pueden utilizar resúmenes de IA para propagar ataques de ransomware.

Los investigadores de CloudSek explican que a través de un ataque de ingeniería social ClickFix, los hackers pueden incrustar instrucciones dañinas en documentos utilizando técnicas de codificación invisibles. El texto oculto permanece invisible para los ojos humanos, pero los resumidores de IA pueden detectarlo y, cuando generan resúmenes, pueden transmitir sin saberlo las peligrosas instrucciones a los usuarios.

“Se ha identificado una nueva adaptación de la técnica de ingeniería social ClickFix, que utiliza la inyección de indicaciones invisibles para armar sistemas de resumen de IA”, dijeron los investigadores.

El ataque depende de la ofuscación basada en CSS que utiliza caracteres de ancho cero y texto blanco sobre blanco y fuentes minúsculas y ubicación fuera de la pantalla para ocultar instrucciones. El resumidor detecta el código invisible que permanece invisible a los ojos humanos.

Los atacantes implementan una sobredosis inmediata agregando numerosos comandos a secciones ocultas, lo que hace que la IA seleccione primero estos comandos en su salida.

“Cuando dicho contenido manipulado es indexado, compartido o enviado por correo electrónico, cualquier proceso de resumen automatizado que lo ingiera producirá resúmenes que contienen instrucciones ClickFix controladas por el atacante”, explicó el estudio.

Durante las pruebas, los investigadores demostraron cómo un resumidor de IA podría ser manipulado para instruir a los usuarios a ejecutar comandos peligrosos de PowerShell. Mientras que la versión de prueba era inofensiva, un ataque real podría lanzar fácilmente un ransomware.

El nivel de riesgo de este ataque es alto porque los resumidores de IA están integrados en los clientes de correo electrónico y los navegadores y las aplicaciones de trabajo. Los investigadores señalan que muchas personas confían en los resúmenes sin leer el documento original, lo que facilita a los atacantes explotar esa confianza.

Los expertos recomiendan defensas como eliminar el texto oculto antes de que el contenido se resuma, filtrar indicaciones sospechosas y advertir a los usuarios si los resúmenes contienen instrucciones paso a paso.

Sin estas protecciones, la IA podría convertirse involuntariamente en “un participante activo en la cadena de ingeniería social”.