Los piratas informáticos han desarrollado un nuevo método «difícil de rastrear» para explotar la IA herramientas Dentro de la aplicación de mensajería en el lugar de trabajo Slack, engañando a su chatbot para que envíe malware.
La popular plataforma de colaboración ha ganado prominencia por facilitar comunicaciones rápidas entre compañeros de trabajo, y algunos la vinculan con Una nueva era de microtrampas y aventuras en la oficina.
El equipo de ciberseguridad dentro del programa de investigación de Slack dijo el martes que habían solucionado el problema el mismo día en que expertos externos les informaron por primera vez sobre la falla.
Pero la vulnerabilidad, que permite a los piratas informáticos disfrazar código malicioso dentro de documentos cargados y archivos de Google Drive, resalta los riesgos crecientes que plantea la «inteligencia artificial» que carece de la «inteligencia callejera» necesaria para lidiar con solicitudes de usuarios inescrupulosos.
Si bien el investigador de seguridad independiente que descubrió por primera vez la nueva falla elogió a Slack por su respuesta diligente, hizo pública la noticia de la vulnerabilidad de la IA «para que los usuarios pudieran desactivar las configuraciones necesarias para disminuir su exposición».
La vulnerabilidad de inteligencia artificial de Slack permitió a los piratas informáticos disfrazar su malware dentro de documentos cargados y archivos de Google Drive almacenados dentro de la aplicación de colaboración en el lugar de trabajo (en la imagen de arriba)
Los investigadores de ciberseguridad de la firma PromptArmor, que se especializa en encontrar vulnerabilidades en el software de inteligencia artificial de «modelo de lenguaje grande» (LLM), identificaron el problema por primera vez después de que una actualización reciente de Slack AI lo hiciera más vulnerable a la ocultación de malware.
‘A partir del 14 de agosto, Slack también ingiere documentos cargados, archivos de Google Drive, etc.’ Armadura rápida «lo que aumenta la superficie de riesgo», explican en su informe.
La integración de Slack AI dentro de las herramientas de comunicación de la fuerza laboral de la aplicación hizo que fuera excepcionalmente fácil para los actores maliciosos disfrazar sus intentos de robar datos privados como «mensajes de error» que solicitaban a los usuarios que «volvieran a autenticar» su propio acceso a esos mismos datos.
En concreto, la nueva actualización permitió a un hacker crear un canal de chat privado o público en Slack a modo de recorte que les ayudó a disfrazar el origen de su código malicioso.
«Aunque Slack AI claramente ingirió el mensaje del atacante, no cita el mensaje del atacante como fuente del resultado», explicó PromptArmor.
El resultado, como ellos lo expresan: «Si Slack AI ingiere cualquier instrucción a través de un mensaje, si esa instrucción es maliciosa, Slack AI tiene una alta probabilidad de seguir esa instrucción en lugar de, o además de, la consulta del usuario».
Akhil Mittal, gerente senior de estrategia de ciberseguridad de Synopsys Software Integrity Group, dijo que las herramientas de IA actuales han demostrado ser demasiado susceptibles a este tipo de ataques desde que Silicon Valley lanzó rápidamente sus numerosas ofertas de IA competitivas a los consumidores.
El equipo de ciberseguridad del programa de investigación de Slack dijo el martes que habían solucionado el problema el mismo día en que expertos externos les informaron por primera vez sobre la falla (en la foto)
«Esto realmente me hace cuestionar cuán seguras son nuestras herramientas de IA», dijo Mittal al sitio de noticias tecnológicas Lectura oscura.
«No se trata sólo de solucionar problemas», afirmó el experto en ciberseguridad, «sino de garantizar que estas herramientas gestionen nuestros datos adecuadamente».
Y el uso generalizado de Slack en múltiples empresas y organizaciones aumenta el riesgo de futuras fallas de este tipo, según PromptArmor.
«La proliferación de canales públicos es un gran problema», señalaron.
‘Hay muchos canales de Slack y los miembros del equipo no pueden realizar un seguimiento de aquellos de los que forman parte, y mucho menos realizar un seguimiento de un [malicious] Canal público que fue creado con un solo miembro.
