Por: Natasha Crampton, directora de IA Responsable.
Microsoft ha publicado su Informe de Transparencia en IA Responsable 2026. El informe destaca los avances que hemos logrado en la construcción y despliegue de la IA de manera responsable, el apoyo a nuestros clientes y el fortalecimiento de nuestra gobernanza, herramientas y prácticas responsables en IA. Pueden explorar el informe completo en inglés aquí.
La IA avanza con rapidez, y también las expectativas sociales. Los límites de lo que las personas pueden lograr con la IA se amplían, y las comunidades se hacen más preguntas sobre cómo se diseñan, construyen y utilizan los sistemas de IA. A medida que la IA se vuelve más integral en cómo vivimos y trabajamos, la confianza en que los sistemas de IA funcionan de manera fiable y segura se ha comenzado a convertir en un requisito esencial para su adopción amplia y beneficiosa.
En Microsoft, llevamos casi una década en la construcción de un programa de IA responsable, basado en dos creencias fundamentales: que la confianza es fundamental para aprovechar los beneficios de la IA y que el empoderamiento de las personas y organizaciones debe permanecer en el centro de nuestra estrategia. A medida que las capacidades avanzan y la adopción se acelera, esa experiencia nos ayuda a afrontar este momento y adaptarnos a lo que venga.
Nuestro tercer Informe anual de Transparencia en IA Responsable comparte cómo evoluciona nuestro programa y las prioridades que moldean nuestro trabajo. Durante el último año, invertir en tres áreas específicas nos ha permitido afianzar la confianza de manera más profunda y a mayor escala: gobernanza adaptativa y gestión técnica de riesgos, herramientas y capacidades prácticas, y prácticas compartidas y alianzas sólidas. Estas inversiones atraviesan cinco tendencias que dan forma el panorama de la IA, incluida la rápida expansión de la IA agéntica.
En conjunto, estas tendencias e inversiones subrayan nuestra visión de que la capacidad del modelo por sí sola no determinará el impacto de la IA. Eso dependerá de organizaciones que desarrollen y desplieguen tecnologías de IA que aporten un valor real —y las gobiernen con el rigor y la adaptabilidad necesarios para ganarse y mantener la confianza.
Gobernanza adaptativa y gestión técnica de riesgos
A medida que avanzan las fronteras de la IA, hacemos que nuestra gobernanza sea más adaptativa e integrada de manera más estrecha con los flujos de trabajo de ingeniería. En la práctica, esto significa que hemos actualizado nuestras políticas para adaptarnos mejor a la pila tecnológica de IA y a la cadena de valor de IA, hemos evolucionado nuestras prácticas de gestión de riesgos para abordar las capacidades y riesgos emergentes de IA, y hemos fortalecido la preparación de nuestra comunidad responsable de IA: las personas que operacionalizan nuestro programa a escala empresarial.
Este año, hemos rediseñado nuestro Estándar de IA Responsable para hacerlo más adaptativo a las realidades técnicas en evolución, usos, riesgos y requisitos regulatorios. El nuevo Estándar está estructurado en referencia a diferentes componentes de la pila tecnológica —modelos, servicios de plataforma y aplicaciones— y al papel que desempeña Microsoft en el desarrollo o despliegue de esos componentes. Combina requisitos fundamentales que siempre se aplican con requisitos más específicos y enfocados en escenarios específicos, que pueden evolucionar a medida que cambian las capacidades y riesgos. Por ejemplo, aplicamos algunas de nuestras medidas de gestión de riesgos más rigurosas a sistemas de IA con las capacidades cibernéticas más significativas, lo que ayuda a garantizar que los avances en IA favorezcan a los defensores responsables de proteger infraestructuras digitales críticas.
También evolucionamos nuestras prácticas técnicas de gestión de riesgos. Sistemas cada vez más capaces pueden conservar memoria, usar herramientas, acceder a datos y tomar acciones en nombre de los usuarios. Gobernar estos sistemas requiere que pensemos más allá del comportamiento de un modelo o aplicación individual para centrarnos en las interacciones entre modelos, agentes, aplicaciones, herramientas, datos y personas. Nuestro trabajo se centra cada vez más en controles como la identidad de los agentes, permisos de herramientas y monitorización de acciones.
Y la gobernanza solo funciona cuando la gente puede ponerla en práctica. Hemos seguido con el desarrollo de capacidades de IA responsable en Microsoft, para dotar a miles de ingenieros y gestores de producto con formación en temas como el modelado de amenazas por IA agéntica y las defensas por inyección de prompts.
Juntas, estas inversiones nos ayudan a avanzar hacia un enfoque más continuo y basado en el ciclo de vida de la gobernanza de la IA. Con la IA agéntica, los riesgos pueden evolucionar a medida que los sistemas interactúan con sus entornos, usuarios y otros sistemas. Nuestra gobernanza debe evolucionar con estas capacidades agénticas—e incorporar lo que aprendamos de sus pruebas y despliegue.
Herramientas y capacidades prácticas
Una gobernanza eficaz depende de herramientas que ayuden a traducir los objetivos políticos en acción. A medida que desarrolladores y organizaciones navegan por un entorno técnico y regulatorio más complejo, necesitan formas prácticas de identificar riesgos, evaluar sistemas, establecer controles y monitorizar cómo se comporta la IA en el mundo real.
Aplicamos lo que aprendemos al gobernar la IA en Microsoft en herramientas, capacidades y recursos que ayudan a desarrolladores y organizaciones más allá de Microsoft a hacer justo eso, ya sea que construyan sobre nuestras plataformas o aprovechen proyectos de código abierto.
Hemos ampliado las herramientas para evaluar sistemas de IA a lo largo del ciclo de vida. Un nuevo Agente de Equipo Rojo de IA ayuda a acelerar la identificación y evaluación de riesgos. Los evaluadores de agentes ayudan a los desarrolladores a medir la calidad, seguridad y rendimiento de las aplicaciones agentes. RAMPART convierte los hallazgos del equipo rojo en pruebas repetibles, lo que permite una cobertura más continua a medida que cambian los sistemas.
También construimos mayor visibilidad y control en los sistemas agénticos. Con ASSERT y la Especificación de Control de Agentes, los desarrolladores pueden evaluar a los agentes en función de sus políticas, colocar controles en tiempo de ejecución en puntos críticos del flujo de trabajo del agente y monitorizar el comportamiento.
Estas herramientas y capacidades reflejan un cambio: a medida que los sistemas se vuelven más dinámicos, la gobernanza debe volverse más operativa. Las organizaciones deben poder ver qué hacen sus sistemas, probar cómo se comportan e intervenir cuando sea necesario, no solo evaluarlos antes de su despliegue.
Las organizaciones también necesitan confianza—y cada vez más demostrar—que las prácticas responsables de IA se implementan de manera consistente. Microsoft es una de las pocas empresas certificadas bajo ISO 42001 en un amplio portafolio, incluidos Microsoft 365 Copilot, Foundry y GitHub Copilot. Durante el último año, hemos simplificado y fortalecido nuestros procesos internos que apoyan esa certificación.
En última instancia, la gobernanza responsable de la IA es una responsabilidad compartida a lo largo de toda la cadena de valor de la IA. Nuestro objetivo es ayudar a que las prácticas y capacidades necesarias para cumplir con esa responsabilidad sean más accesibles, prácticas y escalables.
Prácticas compartidas y sólidas alianzas
Los retos de gobernar la IA son mayores que los de cualquier empresa, y los sistemas de IA cada vez más interconectados hacen que la colaboración sea aún más esencial.
A medida que la adopción de la IA se expande más allá de fronteras y sectores, necesitamos expectativas compartidas sobre cómo se evalúan, supervisan y gobiernan los sistemas, así como estándares interoperables que permitan visibilidad de las interacciones entre herramientas, datos y sistemas. También debemos seguir con el avance en la ciencia subyacente y las prácticas técnicas para poder beneficiarnos de una visión rigurosa y aplicada sobre cómo es una gobernanza efectiva y dónde están las lagunas restantes.
Eso comienza con la investigación. Durante el último año, hemos avanzado nuestro trabajo con el Centro de Estándares e Innovación en IA de EE. UU. y con los Institutos de Seguridad y Protección en IA en Australia, Singapur y el Reino Unido para fortalecer la ciencia y la práctica de la evaluación de IA. También lanzamos una Alianza de Equipos Rojos Externos con 18 universidades de seis continentes para ampliar la comprensión de los riesgos prioritarios.
Las prácticas técnicas y estándares comunes son fundamentales. A través del Frontier Model Forum, OpenTelemetry y la Fundación Appia, ayudamos a desarrollar enfoques que abarcan benchmarks cibernéticos de frontera, observabilidad de extremo a extremo para sistemas cada vez más agénticos y garantía de IA en cadenas de suministro y sectores. También contribuimos a esfuerzos que hacen que la información de transparencia sea más interoperable entre organizaciones y jurisdicciones, incluido un grupo de trabajo informal liderado por la OCDE que desarrolló el Hiroshima AI Process Reporting Framework versión 2.0.
También necesitamos formas compartidas de medir el progreso. No podemos evaluar de forma significativa el progreso si cada organización mide los riesgos de IA de forma diferente. A través de nuestro trabajo con MLCommons, ayudamos a expandir AILuminate hacia un conjunto más amplio de referencias de fiabilidad, lo que crea enfoques comunes para evaluar áreas como la resiliencia a jailbreaks, el rendimiento multilingüe y el riesgo psicosocial en IA conversacional.
El aprendizaje compartido, las prácticas y estándares compartidos, y la medición compartida pueden ayudar a que todo el ecosistema se desarrolle mientras elevan expectativas compartidas de confianza.
Enfrentar el momento e invertir en el futuro
Nuestra experiencia durante el último año ha reforzado que la IA responsable no puede ser estática. Debe estar integrada en los procesos de desarrollo, apoyada por herramientas prácticas e informada de manera continua por lo que aprendemos. Por eso nuestras inversiones en IA responsable van desde los sistemas que construimos, hasta las herramientas que ofrecemos a nuestros clientes, además de pasar por la investigación, las prácticas y enfoques de medición que ayudamos a desarrollar en el ecosistema más amplio.
Nuestro Informe 2026 sobre Transparencia en IA Responsable explora este trabajo con más profundidad: desde cómo reingenierizamos nuestro Estándar de IA Responsable hasta cómo fortalecemos la gobernanza de la IA agéntica, para avanzar en la evaluación y abordar el mal uso de la IA. Los invitamos a explorar el informe para ver qué hemos aprendido, qué hemos cambiado y cómo ponemos en práctica nuestras prioridades.
A medida que la IA se vuelve más poderosa y presente en la vida de las personas, nuestro compromiso es escuchar y aprender siempre, para reforzar nuestras salvaguardas y poner el empoderamiento de las personas y las organizaciones en el centro de nuestra estrategia.
Publicado en Microsoft on the Issues.
The post IA Responsable en 2026: Cómo nos adaptamos a lo que viene appeared first on Source LATAM.
The post IA Responsable en 2026: Cómo nos adaptamos a lo que viene appeared first on Source LATAM.