Por: Melanie Nakagawa, directora de sostenibilidad.

Las conversaciones en la reunión del Foro Económico Mundial en Davos, Suiza, siempre giran en torno a los temas urgentes que abarcan los negocios, la política, el clima y la sociedad. La reunión de este año no fue diferente. La IA ha estado en el centro de estas conversaciones en los últimos años, aunque este año noté un cambio en el tono. Los líderes empiezan a ver la IA no como una tecnología independiente, sino como un catalizador, uno que moldeará su impacto ambiental, su resiliencia operativa y su éxito a largo plazo. La IA ya no es una promesa abstracta; es una palanca práctica que redefine cómo funcionan, escalan y crean valor las organizaciones, para gestionar al mismo tiempo la confianza y la responsabilidad.

En Microsoft, vemos con claridad este cambio en nuestras conversaciones con clientes de todo el mundo. Los líderes avanzan con rapidez para escalar la IA, para mantener al mismo tiempo la responsabilidad de los compromisos de sostenibilidad ante clientes, inversores, reguladores y empleados. Demasiadas veces, estos objetivos se presentan como compensaciones. En la práctica, refuerzan. Cuando la transformación de la IA se aborda con intención y disciplina, puede impulsar un mejor rendimiento empresarial mientras avanza en los resultados de sostenibilidad.

Esa creencia es la base de nuestra nueva Guía Estratégica: Alinear la transformación de la IA con los objetivos de sostenibilidad.

Guía estratégica: Alinear la transformación de la IA con los objetivos de sostenibilidad

Por qué la transformación de la IA y la sostenibilidad van juntas

El impacto más significativo de la IA no proviene de pilotos aislados, sino de la transformación —cuando la inteligencia está integrada en la estrategia, el modelo operativo y la cultura. Esa es la premisa de la visión de transformación de la IA de Microsoft en Frontera, donde las organizaciones enriquecen la experiencia de los empleados, reinventan la implicación del cliente, reingeniean procesos empresariales centrales y doblan la curva de la innovación.

Lo que a menudo se pasa por alto es que estos mismos cambios generan beneficios en sostenibilidad. Los procesos más eficientes requieren menos energía y menos recursos, mejores datos reducen el desperdicio y la sobreproducción, y las arquitecturas modernas de nube e IA —cuando se diseñan de manera intencionada— pueden reducir la huella digital mientras aumentan la velocidad y la resiliencia.

Cinco prácticas para la transformación sostenible de la IA

Nuestra nueva Guía Estratégica: Alinear la Transformación de la IA con los Objetivos de Sostenibilidad hace que esta conexión sea explícita y práctica, ofrece cinco prácticas esenciales que los líderes pueden aplicar hoy para convertir la ambición de la IA en resultados medibles para el negocio y la sostenibilidad.

1. Adoptar una estrategia moderna en la nube. Mover las cargas de trabajo a entornos de nube eficientes y a gran escala suele ser el paso más importante que pueden dar las organizaciones para reducir el consumo energético y mejorar el rendimiento. Las plataformas modernas en la nube permiten a las organizaciones escalar la IA de forma inteligente, al optimizar el cálculo, el almacenamiento y la refrigeración de formas difíciles de lograr en las instalaciones.
2. Evaluar los objetivos de sostenibilidad y confianza de su proveedor de nube. La huella ambiental de una organización se extiende cada vez más, más allá de sus propios muros. La transparencia, los compromisos de energía renovable y las operaciones responsables de los centros de datos importan porque las prácticas de tus socios se convierten en parte de su ecuación de sostenibilidad.
3. Gestionar los datos de manera responsable para una IA eficiente y precisa. Canales de datos eficientes, una gobernanza sólida y una gestión reflexiva del ciclo de vida hacen mucho más que reducir el riesgo. También reducen el cálculo y almacenamiento innecesarios, lo que ayuda a que los sistemas de IA sean más precisos, escalables y sostenibles.
4. Optimizar las cargas de trabajo en la nube. A medida que la IA pasa de pilotos a producción, los resultados de sostenibilidad dependen cada vez más de cómo se diseñan y ejecutan las cargas de trabajo en la nube. Ajustar el cálculo, reducir los recursos inactivos y agilizar el movimiento de datos disminuye el consumo energético mientras mejora el rendimiento y el control de costes.
5. Adaptar el modelo a la misión. Con bases de nube eficientes, los líderes pueden centrarse en seleccionar los modelos de IA adecuados para los trabajos adecuados. Alinear la elección del modelo con los objetivos empresariales, los requisitos de rendimiento y las metas de sostenibilidad permite a las organizaciones escalar la IA de forma responsable, al maximizar el impacto sin necesidad de complejos o recursos innecesarios.

En conjunto, estas prácticas ayudan a los líderes a ir más allá de la aspiración hacia la ejecución—para ofrecer lo que la guía describe como un doble retorno: un mejor rendimiento empresarial junto con un impacto medioambiental reducido.

Lo que muestra la investigación

La IA puede ofrecer mejores resultados—más rápido y de manera más sostenible

En un experimento sencillo destacado en la Guía Estratégica: Alinear la Transformación de la IA con los Objetivos de Sostenibilidad, Microsoft se propuso entender cómo la IA podría realizar de manera eficiente una tarea común de trabajo de conocimiento.

Se pidió a cinco profesionales que resumieran un informe técnico de 3.000 palabras en 200 palabras. Completar la tarea llevó una mediana de 41 minutos y consumió alrededor de 13,7 vatios-hora de energía del portátil.

A través de un solo prompt, Microsoft Copilot completó la misma tarea en menos de un minuto, usando solo 0,29 vatios-hora de energía del centro de datos. Eso es cerca de 55 veces más rápido y 47 veces más eficiente a nivel energético. Los revisores independientes también calificaron el resumen generado por IA por mayor claridad, precisión, completitud y calidad general.

La conclusión es clara: cuando la IA se aplica de forma reflexiva, puede reducir el tiempo, el consumo energético y la fricción, al tiempo que ofrece mejores resultados.

Cómo se ve esto en la práctica

En distintos sectores, las organizaciones ya han comenzado a demostrar cómo la transformación de la IA y la sostenibilidad se refuerzan de manera mutua.

ABB, líder mundial en electrificación y automatización, utiliza la IA para ayudar a que industrias intensivas en energía y activos funcionen de manera más eficiente mientras cumple objetivos de sostenibilidad cada vez más ambiciosos. La plataforma Genix Industrial AI ayuda a los clientes de ABB a lograr un aumento de eficiencia del 25% en los centros de datos hasta un ahorro energético del 18% en la producción de cemento.

En el sector de la construcción, Giatec aborda uno de los materiales con mayor consumo de carbono del mundo: el hormigón. Construido sobre Microsoft Azure, Azure IoT Hub,  y Azure OpenAI in Foundry Models, la plataforma inteligente de Giatec optimiza los diseños de mezclas, redujo 2,5 millones de toneladas de emisiones de carbono, y aumentó los márgenes de beneficio para los productores de hormigón hasta en un 100%.

Space Intelligence utiliza IA para convertir grandes cantidades de datos satelitales en conocimientos fiables y accionables para los esfuerzos globales de clima y conservación. La empresa pasó a Microsoft Foundry y al ecosistema Planetary Computer para reducir el tiempo necesario para cartografiar los bosques del mundo en un 75%, para completar la cobertura de más de 50 países en solo un año, algo que habría llevado seis años, lo que retrasa la capacidad de controlar y verificar el impacto climático en el mundo real.

Convertirse en una organización de Frontera, de manera responsable

Estos ejemplos apuntan a una tendencia más amplia: las organizaciones líderes en IA también redefinen cómo es la innovación responsable. Las organizaciones de Frontera no tratan la sostenibilidad como una iniciativa o un ejercicio de informes separado. Lo diseñan en su transformación desde el principio.

Resolver desafíos sistémicos como el cambio climático requiere colaboración, entre cadenas de valor, ecosistemas y sectores. También requiere líderes dispuestos a plantear mejores preguntas sobre cómo se despliega, mide y gobierna la tecnología.

Esta perspectiva se demuestra con el reciente anuncio de Microsoft sobre una infraestructura de IA centrada en la comunidad. A medida que escalamos la IA, tenemos la responsabilidad de considerar no solo lo que estos sistemas pueden hacer, sino también cómo y dónde se construyen. Eso significa invertir en infraestructuras que apoyen a las comunidades locales, prioricen las energías renovables, gestionen el agua de forma responsable y estén diseñadas con la transparencia y la colaboración a largo plazo en mente. Construir IA de manera responsable no solo consiste en reducir riesgos, sino en ganarse la confianza y asegurar que los beneficios de la innovación se compartan de manera amplia, desde el centro de datos hacia el interior.

Usada con reflexión, la IA puede ayudarnos a tomar decisiones más inteligentes, operar de manera más eficiente y desbloquear formas nuevas de crear valor, manteniéndonos dentro de los límites planetarios. Si se usa de forma descuidada, corre el riesgo de acelerar los mismos desafíos que intentamos resolver.

Por eso la claridad importa. Los marcos importan. Y la orientación práctica importa.

Lo que los líderes pueden hacer a continuación

Si son responsables de definir la estrategia de IA, la agenda de sostenibilidad o ambas de su organización, los animo a que exploren la Guía Estratégica: Alinear la transformación de la IA con los objetivos de sostenibilidad. Está diseñada para ayudarlos a superar la complejidad, identificar por dónde empezar y avanzar con estrategias claras y accionables.

En Microsoft, estamos comprometidos a ayudar a nuestros clientes a convertirse en organizaciones Frontera que lideran con innovación, responsabilidad e impacto.

Los retos a los que nos enfrentamos son complejos. Pero con la estrategia adecuada, la tecnología adecuada y un compromiso compartido con el progreso, la IA puede ayudarnos a construir un futuro más sostenible y próspero—para todos.

Por: Yonatan Zunger, vicepresidente corporativo y subdirector de Seguridad de la Información, Inteligencia Artificial.

A medida que la IA transforma el mundo, las organizaciones se enfrentan a riesgos sin precedentes y los líderes de seguridad asumen nuevas responsabilidades. El Ciclo de Vida Seguro de Desarrollo (SDL, por sus siglas en inglés) de Microsoft se expande para abordar preocupaciones específicas de seguridad de IA, además de las áreas tradicionales de seguridad del software que ha cubierto a nivel histórico.

Exploren las prácticas del ciclo de vida de Microsoft Secure Development

SDL para IA va mucho más allá de una simple lista de comprobación. Es un marco dinámico que une investigación, políticas, estándares, habilitación, colaboración multifuncional y mejora continua para potenciar el desarrollo y despliegue seguro de IA en toda nuestra organización. En un entorno en rápida evolución donde tanto la tecnología como las ciberamenazas evolucionan de manera constante, adoptar una estrategia SDL flexible y completa es crucial para proteger nuestro negocio, proteger a los usuarios y promover una IA fiable. Animamos a otros líderes organizativos y de seguridad a adoptar enfoques holísticos e integrados similares para el desarrollo seguro de la IA, para fortalecer la resiliencia a medida que evolucionan las ciberamenazas.

Por qué la IA cambia el panorama de la seguridad

Seguridad de IA frente a ciberseguridad tradicional

La seguridad en IA introduce complejidades que van mucho más allá de la ciberseguridad tradicional. El software convencional opera dentro de límites claros de confianza, pero los sistemas de IA derrumban estos límites, al mezclar datos estructurados y no estructurados, herramientas, APIs y agentes en una sola plataforma. Esta expansión aumenta de manera importante la superficie de ataque y hace que hacer cumplir las limitaciones de propósito y la minimización de datos sea mucho más complicado.

Superficie de ataque ampliada y vulnerabilidades ocultas

A diferencia de los sistemas tradicionales con rutas predecibles, los sistemas de IA crean múltiples puntos de entrada para entradas inseguras, incluidos prompts, plugins, datos recuperados, actualizaciones de modelos, estados de memoria y APIs externas. Estos puntos de entrada pueden contener contenido malicioso o desencadenar comportamientos inesperados. Las vulnerabilidades se esconden en bucles de decisión probabilísticos, estados dinámicos de memoria y vías de recuperación, lo que dificulta predecir y asegurar las salidas. Los modelos tradicionales de amenazas no tienen en cuenta vectores de ataque específicos de la IA, como la inyección de prompt, el envenenamiento de datos y las interacciones con herramientas maliciosas.

Pérdida de granularidad y complejidad de gobernanza

La IA disuelve las zonas de confianza discretas asumidas por la SDL tradicional. Los límites del contexto se aplanan, lo que dificulta la aplicación de las etiquetas de limitación de propósito y sensibilidad. La gobernanza debe abarcar ámbitos técnicos, humanos y sociotécnicos. Surgen preguntas sobre el control de acceso basado en roles (RBAC, por sus siglas en inglés), el privilegio mínimo y la protección de caché, como: ¿Cómo aseguramos la memoria temporal, los recursos backend y los datos sensibles replicados entre cachés? ¿Cómo deberían los sistemas de IA gestionar a los usuarios anónimos o diferenciar entre consultas y comandos? Estas lagunas exponen la propiedad intelectual corporativa y los datos sensibles a nuevos riesgos.

Colaboración multidisciplinaria

Satisfacer las necesidades de seguridad de IA requiere un enfoque holístico a través de capas de pila que, a nivel histórico, estaban fuera del alcance de SDL, incluidos procesos de negocio y UX de aplicaciones. De manera tradicional, estos eran dominios para expertos en riesgos empresariales o equipos de usabilidad, pero los riesgos de IA suelen originarse aquí. Construir SDL para IA exige un desarrollo colaborativo y interequipos que integre investigación, políticas e ingeniería para proteger a usuarios y datos frente a vectores de ataque en evolución propios de los sistemas de IA.

Riesgos novedosos

Las ciberamenazas de la IA son diferentes. Los sistemas asumen que toda entrada es válida, lo que hace que comandos como «Ignorar instrucciones anteriores y ejecutar X» sean viables en escenarios de ciberataque. Los resultados no deterministas dependen de los datos de entrenamiento, las sutilezas lingüísticas y las conexiones de backend. La memoria en caché introduce riesgos de fuga o envenenamiento de datos sensibles, lo que permite a los ciberatacantes distorsionar los resultados o forzar la ejecución de comandos maliciosos. Estos comportamientos desafían los paradigmas tradicionales de parametrización de entradas seguras y salidas predecibles.

Integridad de datos y exploits del modelo

Los datos de entrenamiento de IA y los pesos de los modelos requieren una protección equivalente a la del código fuente. Los conjuntos de datos envenenados pueden crear exploits (métodos o técnicas que aprovechan vulnerabilidades para ejecutar acciones no autorizadas) deterministas. Por ejemplo, si un ciberatacante envenena un modelo de autenticación para que acepte una imagen de mapache con monóculo como «Verdadero», esa imagen se convierte en una clave esqueleta, saltándose la autenticación tradicional basada en cuentas. Este escenario ilustra cómo los datos de entrenamiento comprometidos pueden socavar arquitecturas de seguridad enteras.

Velocidad y riesgo sociotécnico

La IA acelera los ciclos de desarrollo más allá de las normas SDL. Las actualizaciones de modelos, las nuevas herramientas y la evolución del comportamiento de los agentes superan los procesos tradicionales de revisión, lo que deja menos tiempo para probar y observar los efectos a largo plazo. Las normas de uso retrasan la evolución de las herramientas, lo que amplifica los riesgos de mal uso. La mitigación exige controles de seguridad iterativos, bucles de retroalimentación más rápidos, detección impulsada por telemetría y aprendizaje continuo.

En última instancia, el panorama de seguridad para la IA exige un enfoque adaptativo y multidisciplinar que vaya más allá de las defensas tradicionales del software y aproveche la investigación, la política y la colaboración continua para proteger a los usuarios y los datos frente a vectores de ataque en evolución propios de los sistemas de IA.

SDL como forma de trabajar, no como una lista de comprobación

La política de seguridad no aborda las amenazas cibernéticas reales cuando se trata como una lista de requisitos que deben ser marcados de manera mecánica. Los sistemas de IA —debido a su no determinismo— son mucho más flexibles que los sistemas no relacionados con IA. Esa flexibilidad forma parte de su propuesta de valor, pero también genera desafíos al desarrollar requisitos de seguridad para sistemas de IA. Para tener éxito, los requisitos deben aprovechar la flexibilidad de los sistemas de IA y proporcionar a los equipos de desarrollo una orientación que pueda adaptarse a sus escenarios únicos, mientras que se asegura que se mantengan las propiedades de seguridad necesarias.

Las políticas de seguridad efectivas en IA comienzan con brindar una guía práctica y accionable en la que los ingenieros pueden confiar y aplicar. Las políticas deben proporcionar ejemplos claros de lo que significa «bueno», explicar cómo la mitigación reduce el riesgo y ofrecer patrones reutilizables para su implementación. Cuando los ingenieros entienden por qué y cómo, la seguridad pasa a formar parte de su oficio en lugar de la carga de cumplimiento. Esto requiere experiencias sin fricciones mediante automatización y plantillas, orientación que parezca colaboración (no vigilancia) y resolución colaborativa de problemas cuando las mitigaciones son complejas o están surgiendo. Dado que la IA introduce riesgos novedosos sin décadas de prácticas sólidas y sólidas, las políticas deben evolucionar mediante ciclos de retroalimentación muy estrechos con la ingeniería: co-creación de requisitos, modelado conjunto de amenazas, pruebas de mitigación en cargas de trabajo reales e iteración rápida. Este enfoque multifacético ayuda a que los requisitos de seguridad sigan relevantes, accionables y resilientes frente a los desafíos únicos de los sistemas de IA.

Entonces, ¿cómo es en la práctica el enfoque multifacético de Microsoft para la seguridad de la IA? SDL para IA se basa en pilares que, juntos, crean una seguridad fuerte y adaptable:

• La investigación es prioritaria porque el panorama de las amenazas cibernéticas por IA es dinámico y cambia de manera rápida. Al invertir en investigación continua, Microsoft se adelanta a los riesgos emergentes y desarrolla soluciones innovadoras adaptadas a nuevos vectores de ataque, como la inyección rápida y el envenenamiento de modelos. Esta investigación no solo moldea las respuestas inmediatas, sino que también informa la dirección estratégica a largo plazo, para asegurar que las prácticas de seguridad sigan relevantes a medida que la tecnología evoluciona.
• La política está integrada en las etapas de desarrollo y despliegue para proporcionar una orientación clara y garantías. En lugar de ser un conjunto estático de reglas, estas políticas son documentos vivos que se adaptan basándose en conocimientos de investigaciones e incidentes reales. Aseguran la alineación entre equipos y ayudan a fomentar una cultura de IA responsable, para asegurar que las consideraciones de seguridad se integren desde el principio y se revisen a lo largo del ciclo de vida.
• Se establecen estándares para fomentar la coherencia y la fiabilidad en diversos proyectos de IA. Las normas técnicas y operativas traducen la política en prácticas accionables y patrones de diseño, para ayudar a los equipos a construir sistemas seguros de forma repetible. Estos estándares se perfeccionan de manera continua mediante la colaboración con nuestros ingenieros y constructores, verificados por expertos internos y socios externos, lo que mantiene el enfoque de Microsoft alineado con las mejores prácticas del sector.
• La habilitación sirve de puente entre la política y la práctica al dotar a los equipos de las herramientas, comunicaciones y formación necesarias para implementar medidas de seguridad de manera eficaz. Este enfoque garantiza que la seguridad no sea solo un concepto abstracto, sino una realidad cotidiana, al capacitar a ingenieros, gestores de producto e investigadores para identificar amenazas y aplicar mitigaciones con confianza en sus flujos de trabajo.
• La colaboración interfuncional une múltiples disciplinas para anticipar riesgos y diseñar salvaguardas holísticas. Este enfoque integrado garantiza que las estrategias de seguridad estén informadas por diversas perspectivas, para permitir soluciones que abordan desafíos técnicos y sociotécnicos en todo el ecosistema de la IA.
• La mejora continua transforma la seguridad en una práctica continua, a través de bucles de retroalimentación del mundo real para perfeccionar estrategias, actualizar estándares y evolucionar políticas y formaciones. Este compromiso con la adaptación garantiza que las medidas de seguridad sigan prácticas, resilientes y sensibles a las amenazas emergentes, para mantener la confianza a medida que la tecnología y los riesgos evolucionan.

Juntos, estos pilares forman un marco holístico y adaptativo que va más allá de las listas de comprobación, lo que permite a Microsoft proteger los sistemas de IA mediante la colaboración, la innovación y la responsabilidad compartida. Al integrar investigación, políticas, estándares, habilitación, colaboración interfuncional y mejora continua, SDL para IA crea una cultura donde la seguridad es intrínseca al desarrollo y despliegue de IA.

Novedades en SDL para IA

El SDL para IA de Microsoft introduce orientación y herramientas especializadas para abordar las complejidades de la seguridad de la IA. Aquí tienen un breve vistazo a algunas áreas clave de seguridad en IA que cubrimos en nuestras prácticas de desarrollo seguro:

• Modelado de amenazas para IA: Identificación de ciberamenazas y mitigaciones únicas de los flujos de trabajo de IA.
• Observabilidad del sistema de IA: Reforzar la visibilidad para la detección proactiva de riesgos.
• Protecciones de memoria de IA: Protección de datos sensibles en contextos de IA.
• Identidad del agente y aplicación de la RBAC: Asegurar entornos multiagente.
• Publicación de modelos con IA: Crear procesos para liberar y gestionar modelos.
• Mecanismos de apagado de la IA: Garantizar la terminación segura bajo condiciones adversas.

En los próximos meses, compartiremos orientación práctica y accionable sobre cada uno de estos temas.

Microsoft SDL para IA puede ayudarte a construir sistemas de IA fiables

Una SDL eficaz para la IA se basa en la mejora continua y la responsabilidad compartida. La seguridad no es un destino. Es un camino que requiere vigilancia, colaboración entre equipos y disciplinas fuera del ámbito de la seguridad, y un compromiso con el aprendizaje. Siguiendo el enfoque SDL para IA de Microsoft, los líderes empresariales y profesionales de la seguridad pueden construir sistemas de IA resilientes y fiables que impulsen la innovación de forma segura y responsable.

Descubran más sobre Microsoft SDL para IA

Manténganse atentos a más novedades sobre cómo Microsoft promueve el desarrollo seguro de IA, al abordar nuevos retos de seguridad y compartir maneras efectivas de crear sistemas de IA robustos.

Para saber más sobre las soluciones de seguridad de Microsoft, visiten nuestra página web. Agreguen a Favoritos el blog de Seguridad para estar al día con nuestra cobertura experta sobre temas de seguridad. Además, síganos en LinkedIn (Microsoft Security) y X (@MSFTSecurity) para las últimas noticias y actualizaciones sobre ciberseguridad.