Por: Equipo de Microsoft Security.

La IA generativa transforma la manera en que operan los equipos de seguridad: acelera la detección de amenazas, automatiza flujos de trabajo y facilita la escalabilidad. Pero a medida que los defensores adoptan la IA para fortalecer su postura, los ciberatacantes hacen lo mismo para evolucionar más rápido de lo que las defensas tradicionales pueden adaptarse. El Informe de Amenazas Digitales de Microsoft 2025 reveló que ciberatacantes como Rusia, China, Irán y Corea del Norte han más que duplicado su uso de IA para llevar a cabo ciberataques y difundir desinformación. En la actualidad, la IA se utiliza para traducir correos de phishing al inglés fluido, generar vídeos deepfake de ejecutivos y automatizar malware que se adapta en tiempo real para evadir la detección.¹

El cambio ya está en marcha:

• El 66% de las organizaciones están en proceso de desarrollo o planean desarrollar aplicaciones personalizadas de IA generativa.²
• El 88% de las organizaciones están algo o bastante preocupadas por los ataques indirectos de inyección inmediata.³
• El 80% de los líderes empresariales cita la filtración de datos sensibles a través de la IA como una de las principales preocupaciones.⁴

Para ayudar a las organizaciones a navegar por este nuevo panorama, Microsoft ha publicado una nueva guía titulada 5 amenazas de seguridad de IA generativa que deben conocer. En esta entrada del blog, destacaremos los temas clave tratados en el libro electrónico, incluidos los desafíos a los que se enfrentan las organizaciones, las principales amenazas de IA generativa para las organizaciones y cómo las empresas pueden mejorar su postura de seguridad para hacer frente a los peligros de los entornos impredecibles de IA actuales.

Los líderes de seguridad se enfrentan a desafíos urgentes

A medida que la IA generativa se integra en los flujos de trabajo empresariales, los líderes de seguridad se enfrentan a un nuevo conjunto de desafíos que exigen un cambio de estrategia. No son solo obstáculos técnicos, son riesgos arquitectónicos, conductuales y operativos que requieren un enfoque más amplio y unificado de la seguridad.

• Vulnerabilidades en la nube. La mayoría de las aplicaciones de IA generativa están basadas en la nube, lo que significa que los ciberatacantes pueden explotar debilidades en el modelo, la aplicación o la infraestructura para moverse de manera lateral y comprometer datos sensibles o la integridad del modelo.
• Riesgos de exposición a datos. GenAI prospera con grandes conjuntos de datos, pero esa escala también la convierte en un objetivo principal. Los equipos de seguridad deben afrontar el riesgo de filtraciones de datos y la complejidad de hacer cumplir la gobernanza en entornos extensos.
• Comportamiento impredecible de modelos. Los modelos de IA generativa no siempre se comportan de manera predecible. La misma entrada puede producir diferentes salidas, lo que dificulta anticipar cómo responderán los modelos a indicaciones maliciosas o manipulaciones. Esto abre la puerta a ataques de inyección provocados y al abuso de agentes de IA.

Estos riesgos fundamentales preparan el terreno para una realidad aún más urgente: a medida que la IA generativa crece, los ciberatacantes explotan sus debilidades únicas de formas que requieren la atención inmediata de los líderes de seguridad, y hay que empezar por las principales amenazas cibernéticas que ustedes deben vigilar.

Amenazas críticas de IA generativa a vigilar

La IA generativa introduce una nueva clase de ciberamenazas que van más allá de las vulnerabilidades tradicionales en la nube, al atacar la propia arquitectura y el comportamiento de los sistemas de IA. Estos riesgos no son solo técnicos: desafían la confianza, integridad y resiliencia de los modelos en los que cada vez confían más las organizaciones. Los ciberatacantes han comenzado a encontrar formas creativas de explotar la naturaleza basada en datos de la IA, lo que convierte sus fortalezas en debilidades que exigen nuevas estrategias y defensas.

Entre las ciberamenazas más críticas están los ataques de envenenamiento, donde los ciberatacantes manipulan los datos de entrenamiento para distorsionar los resultados y erosionar la precisión. Los ataques de evasión toman un camino diferente, a través del uso de prompts de ofuscación o jailbreak para filtrar contenido dañino a través de los filtros de la IA. Y quizá lo más insidioso son los ataques de inyección inmediata: entradas elaboradas de manera cuidadosa que anulan las instrucciones originales, para guiar a los modelos hacia acciones no intencionadas o maliciosas. Estas ciberamenazas y otras subrayan por qué los líderes de seguridad deben replantearse los enfoques tradicionales y construir salvaguardas específicas para la IA. Para profundizar en amenazas críticas y orientaciones prácticas sobre mitigación, lean la guía completa de Microsoft: 5 amenazas de seguridad de IA generativa que deben conocer.

Construir una defensa proactiva para entornos de IA y multi nube

La ciberseguridad moderna requiere un enfoque holístico que correlacione las señales entre aplicaciones, infraestructura y comportamiento del usuario. En el libro electrónico, exploramos cómo las plataformas de protección de aplicaciones nativas en la nube (CNAPP, por sus siglas en inglés) simplifican esta complejidad a través de la unificación de herramientas como la gestión de postura de seguridad en la nube (CSPM, por sus siglas en inglés), la gestión de derechos de infraestructura en la nube (CIEM, por sus siglas en inglés) y la plataforma de protección de cargas de trabajo en la nube (CWPP, por sus siglas en inglés) en una sola plataforma. Al unir datos de identidad, registros de almacenamiento, vulnerabilidades de código y exposición a internet, CNAPP proporciona a los equipos de seguridad un contexto completo para detectar y remediar las ciberamenazas más rápido. Esta visión integrada es fundamental, ya que la IA generativa introduce comportamientos impredecibles, lo que hace insuficientes las defensas tradicionales aisladas.

Microsoft Defender for Cloud ejemplifica este modelo proactivo al ofrecer seguridad de IA de extremo a extremo durante el desarrollo y la ejecución. Escanea los repositorios de código en busca de configuraciones incorrectas, monitoriza imágenes de contenedores en busca de vulnerabilidades y mapea de manera continua las rutas de ataque a activos sensibles. En tiempo de ejecución, Defender for Cloud detecta amenazas específicas de IA como ataques de jailbreak, robo de credenciales y filtraciones de datos, para aprovechar más de 100 billones de señales diarias de Microsoft Threat Intelligence.² Al combinar la gestión de postura con la protección contra amenazas en tiempo real, las organizaciones pueden asegurar cargas de trabajo de IA generativa y mantener la confianza en un panorama de ciberamenazas en evolución.

Redefinir la seguridad para la era de la IA generativa

A medida que la IA generativa se convierte en algo fundamental, los líderes en seguridad deben evolucionar sus estrategias. Microsoft ayuda a las organizaciones a unificar la seguridad y la gobernanza a lo largo de todo el ciclo de vida de las aplicaciones en la nube y la IA. Con visibilidad completa, priorización proactiva de riesgos y detección y respuesta en tiempo real, Microsoft protege sus activos modernos en la nube y la IA desde el código hasta el tiempo de ejecución, mientras les ayuda a cumplir con las normativas y estándares en evolución.

Organizaciones como Icertis ya han comenzado a actuar.

Microsoft Defender for Cloud surgió como nuestra elección natural como primera línea de defensa frente a amenazas relacionadas con la IA. Evalúa con cuidado la seguridad de nuestros despliegues de Azure OpenAI, monitoriza los patrones de uso y nos alerta con rapidez sobre posibles amenazas. Estas capacidades permiten a nuestros equipos del Centro de Operaciones de Seguridad (SOC, por sus siglas en inglés) tomar decisiones más informadas basadas en las detecciones de IA, lo que asegura que nuestra gestión de contratos impulsada por IA siga segura, fiable y que esté por delante de amenazas emergentes.

—Subodh Patil, Arquitecto Principal de Ciberseguridad, Icertis

La IA generativa transforma la ciberseguridad: empodera a los defensores mientras ofrece a los ciberatacantes nuevas herramientas para escalar phishing, deepfakes y malware adaptativo. Para entender las principales ciberamenazas impulsadas por IA y cómo mitigarlas, consigan el libro electrónico: 5 amenazas de seguridad de IA generativa que deben conocer.

Exploren más recursos:

• Descubran más sobre las soluciones de seguridad en la nube de Microsoft.
• Infórmense sobre la Seguridad para la IA.

Descubran más con Microsoft Security

Para saber más sobre las soluciones de seguridad de Microsoft, visiten nuestra página web. Guarden el blog de Seguridad en sus Favoritos  para estar al día con nuestra cobertura experta sobre temas de seguridad. Además, síganos en LinkedIn (Microsoft Security) y X (@MSFTSecurity) para las noticias y actualizaciones más recientes sobre ciberseguridad.

¹ Informe de Defensa Digital de Microsoft 2025

²Acelerar la transformación de la IA con una seguridad sólida: El camino para adoptar de forma segura la adopción de la IA en tu organización, Microsoft Security.

³ Si su organización utiliza algún asistente virtual con capacidades de IA, ¿Les preocupa el tipo de ataques indirectos de inyección de prompt?

⁴ LA PRÓXIMA ERA DE LA SEGURIDAD EN LA NUBE: Plataforma de Protección de Aplicaciones Nativa en la Nube y Más Allá«, Doc. #US53297125, abril de 2025