El CIO Busca Ampliar el Equipo Creando Clones Digitales del Personal

La CIO de UC San Diego quiere utilizar agentes de IA y gemelos digitales para automatizar el trabajo de IT, mejorar la ciberseguridad y aliviar las cargas del personal.

Durante la conferencia Cisco Live de esta semana, el Dr. Vince Kellen propuso utilizar agentes de IA y gemelos digitales de personal de TI experimentado para manejar tareas repetitivas y emergencias nocturnas, tal como informó por primera vez The Register.

Hablando ante una audiencia abarrotada, Kellen dijo: “Todos los caminos conducen a altos niveles de automatización siempre que sea posible”, informa The Register.

La universidad funciona como una pequeña ciudad, ya que recibe a más de 100,000 personas por día, a la vez que tiene que lidiar con la disminución de la matrícula estudiantil y los limitados recursos financieros

Kellen predice que los sistemas de IA adquirirán conocimientos de los trabajadores tecnológicos para gestionar las crecientes demandas en el futuro. “Tenemos todo este conocimiento en seres humanos sobre la política de red que tenemos que extraer de sus mentes en una especie de modo de riego por goteo”, dijo, según informó The Register.

Kellen cree que transferir lentamente este conocimiento a la IA permitiría a los equipos de TI reducir su carga de trabajo y mejorar el rendimiento de la red.

El Instituto de Oceanografía de la UCSD también se enfrenta a amenazas de seguridad nacional. “Cuando colocas un sonar en el agua, descubres más que peces, y otros países quieren saber sobre ello”, advirtió, según informó The Register.

Los ciberataques respaldados por extranjeros se están volviendo más sofisticados, lo que requiere que el personal automatice las defensas básicas para que puedan concentrarse en amenazas más peligrosas.

Kellen cree que la IA “tiene el potencial de permitir la detección proactiva de problemas” y ve a los clones digitales como una forma de preservar la experiencia del personal mientras alivian su carga. “Entonces esa persona no tiene que ser torturada cuando hay otro incidente. No la llaman la próxima vez”, agregó, según lo informado por The Register.

Su idea plantea una pregunta provocativa: ¿Permitirías que tu empleador clone digitalmente tu experiencia si eso significara menos llamadas estresantes? A medida que crece la automatización, la línea entre el trabajo humano y el de las máquinas puede volverse borrosa, pero para los equipos de TI, podría significar un alivio muy necesario.

Sin embargo, el aumento de la automatización también genera preocupaciones sobre la ciberseguridad. Los sistemas operados por trabajadores de TI automatizados y agentes de IA presentan objetivos atractivos para los hackers, ya que un ataque a estos sistemas podría resultar en interrupciones extensas.

De hecho, un gemelo digital comprometido podría ser utilizado para eludir los protocolos de seguridad y propagar malware a una velocidad mayor que los operadores humanos.

Un informe del Foro Económico Mundial argumenta que los atacantes pueden contaminar los datos de entrenamiento de la IA o descubrir vulnerabilidades en los modelos de IA, lo que resulta en fallos del sistema o generación incorrecta de resultados.

Estos ataques de “envenenamiento de datos” y explotación de modelos suelen ser fáciles de llevar a cabo pero difíciles de defender, ya que las medidas de seguridad actuales son insuficientes, según señala ITPro.

A pesar de estos riesgos, el 96% de los profesionales de IT reconocen a los agentes de IA como una amenaza para la seguridad, sin embargo, la mayoría de las organizaciones se apresuran a implementarlos sin los controles o políticas adecuados, según lo informado por ZDNet.