Un nuevo estudio que investiga la seguridad de Deepseek-R1 encontró que podría explicar en detalle las interacciones bioquímicas del gas mostaza con ADN.
Empresa con sede en China Veterano ha cambiado el rumbo en la ola de inteligencia artificial (IA), liberando un modelo que afirma ser más barato que el chatbot de OpenAI y usa menos energía.
Pero un estudio publicado el viernes descubrió que Deepseek-R1 es susceptible a generar contenido dañino, tóxico, parcial e inseguro.
También era más probable que produzca la producción de materiales químicos, biológicos, radiológicos y nucleares (CBRN) que los modelos rivales.
La compañía de seguridad y cumplimiento de IA con sede en EE. UU. Enkrypt AI descubrió que Deepseek-R1 tenía 11 veces más probabilidades de generar una producción dañina en comparación con el modelo O1 de OpenAI.
El estudio también encontró que el 83 por ciento de las pruebas de sesgo dieron como resultado una producción discriminatoria. Se encontraron sesgos en la raza, el género, la salud y la religión.
Reclutamiento para el terrorismo
En cuanto al contenido dañino y extremista, en el 45 por ciento de las pruebas de contenido dañino, se encontró que Deepseek-R1 omitió los protocolos de seguridad y generó guías de planificación penal, información de armas ilegales y propaganda extremista.
En un ejemplo concreto, Deepseek-R1 redactó un blog de reclutamiento para organizaciones terroristas.
Deepseek R1 también tenía más de tres veces más probabilidades de producir contenido de CBRN en comparación con el modelo OPUS CLAUDE-3 de Antrópico.
El estudio encontró que Deepseek-R1 podría explicar en detalle las interacciones bioquímicas del gas mostaza con ADN.
«Deepseek-R1 ofrece ventajas de costos significativas en la implementación de AI, pero estos vienen con riesgos graves. Nuestros resultados de investigación revelan grandes brechas de seguridad que no pueden ser ignoradas», dijo el CEO de Enkrypt Ai, Sahil Agarwal, en un comunicado.
«Nuestros hallazgos revelan que las vulnerabilidades de seguridad de Deepseek -R1 podrían convertirse en una herramienta peligrosa, una que los cibercriminales, las redes de desinformación e incluso aquellos con ambiciones de guerra bioquímica podrían explotar. Estos riesgos exigen atención inmediata», agregó.
Preocupaciones de ciberseguridad y seguridad nacional
Ciberseguridad de Deepseek También se ha convertido en una preocupación. El estudio encontró que el 78 por ciento de las pruebas de ciberseguridad engañaron con éxito a R1 para generar código inseguro o malicioso.
Los investigadores de seguridad de la compañía de seguridad en la nube Wiz también encontraron que una base de datos profunda expuesta dejaba los historiales de chat y otra información confidencial expuesta en línea, según un informe Lanzado el miércoles.
El hecho de que la compañía tenga su sede en China también está causando preocupación ya que la ley nacional de inteligencia de China establece que las empresas deben «apoyar, ayudar y cooperar» con las agencias de inteligencia estatales.
Significa que cualquier dato compartido en aplicaciones móviles y web puede acceder a las agencias de inteligencia china.
Las autoridades de protección de datos belgas, francesas e irlandesas han abierto sondas que solicitan información de DeepSeek sobre el procesamiento y el almacenamiento de datos del usuario.
Mientras tanto, Autoridad de protección de datos de Italia ha lanzado una investigación sobre la inteligencia artificial de Hangzhou Deepseek y la inteligencia artificial de Beijing Deepseek para ver cómo las empresas cumplen con las reglas de datos de Europa.
Extensión de la estrategia geopolítica de China
El ministerio digital de Taiwán dijo el viernes que los departamentos gubernamentales no deberían usar el modelo de Deepseek (IA), como representa el producto chino una preocupación de seguridad. El país gobernado democráticamente ha sido cauteloso con la tecnología china debido a los reclamos de soberanía de Beijing.
Deepseek-R1 también parece censurar preguntas sobre temas sensibles en China, diciendo que Taiwán ha sido una parte integral de China desde la antigüedad y negarse a responder preguntas sobre las protestas prodemocráticas en la Plaza Tiananmen de Beijing.
«El historial de China demuestra que su tecnología es una extensión de su estrategia geopolítica», dijo Ross Burley, cofundador del Centro de Ngo de Resiliencia de Información con sede en el Reino Unido, en un comentario enviado por correo electrónico.
«Permitir que la IA china florezca en Occidente no solo corre el riesgo de socavar la privacidad o la seguridad; podría remodelar fundamentalmente nuestras sociedades de una manera que no estamos preparados.
«Esta tecnología, si no se controla, tiene el potencial de alimentar las campañas de desinformación, erosionar la confianza pública y aferrarse a las narrativas autoritarias dentro de nuestras democracias», agregó.
Euronews luego se comunicó con Deepseek para hacer comentarios, pero no recibió una respuesta al momento de la publicación.
