Gobernanza de IA en Power Platform explicada

Introducción

A medida que los agentes de IA se vuelven más fáciles de crear en Microsoft Power Platform y Copilot Studio, la gobernanza se está convirtiendo rápidamente en el verdadero desafío para los equipos de TI. La guía más reciente de Microsoft sostiene que los procesos tradicionales con revisiones intensivas son demasiado lentos para el desarrollo impulsado por IA y que las organizaciones necesitan una gobernanza adaptativa basada en la plataforma para equilibrar la innovación con el control.

Novedades

El blog de Microsoft presenta un marco práctico para gobernar agentes de IA en entornos de producción:

• Pasar de una gobernanza estática a una gobernanza adaptativa: En lugar de tratar cada proyecto de IA de la misma manera, las organizaciones deben clasificar los agentes por riesgo y aplicar el nivel adecuado de supervisión.
• Usar un modelo basado en riesgo:
  • Bajo riesgo: Agentes personales o de productividad con alcance limitado, con acceso restringido a datos y uso compartido limitado.
  • Riesgo medio: Agentes con un uso compartido más amplio, datos más sensibles o acciones de mayor impacto que requieren una revisión adicional.
  • Alto riesgo: Agentes críticos para el negocio conectados a sistemas centrales que necesitan controles estrictos desde el principio.
• Aplicar la gobernanza a través de la plataforma: Microsoft destaca los managed environments en Power Platform como un mecanismo central para el inventario, la visibilidad de uso, los controles de uso compartido, la gobernanza de connectors y la gestión del ciclo de vida.
• Tratar el uso compartido como un punto clave de control: Una solución compartida con un usuario o un pequeño equipo tiene un perfil de riesgo muy distinto al de una implementación extendida en toda la organización.
• Reforzar la identidad y los permisos: Microsoft subraya que los agentes generalmente se ejecutan con los permisos del usuario que los invoca, lo que significa que a menudo exponen problemas de acceso ya existentes en lugar de crear otros nuevos.
• Añadir monitoreo y capacidad de auditoría: Los controles preventivos por sí solos no son suficientes. Las organizaciones también necesitan diagnósticos, registros de auditoría y controles reactivos cuando las acciones de IA afectan al cumplimiento o a las operaciones del negocio.

Por qué importa para los administradores de TI

Para los administradores, la principal conclusión es que “bloquearlo todo” no es una estrategia sostenible para la IA. Los controles excesivamente restrictivos pueden empujar a los usuarios hacia herramientas no compatibles y shadow IT, mientras que los controles débiles pueden exponer sistemas sensibles.

Un modelo basado en riesgo ofrece a los equipos de TI una forma más clara de permitir la experimentación en escenarios de bajo riesgo, al tiempo que reserva revisiones formales para agentes que interactúan con datos sensibles o flujos de trabajo críticos. Esto es especialmente relevante para las organizaciones que están implementando Copilot Studio y capacidades más amplias de Power Platform.

Próximos pasos recomendados

Los líderes de TI y los administradores de Power Platform deberían considerar las siguientes acciones:

1. Definir niveles de riesgo para los agentes y aplicaciones de IA en su entorno.
2. Revisar los managed environments y la configuración de gobernanza relacionada en Power Platform.
3. Auditar los permisos de los usuarios para identificar accesos excesivamente amplios que los agentes podrían heredar.
4. Establecer rutas de uso compartido y promoción para que las herramientas personales puedan revisarse antes de una implementación más amplia.
5. Reforzar el monitoreo y la auditoría de las acciones impulsadas por agentes vinculadas al cumplimiento o a procesos empresariales centrales.

El mensaje de Microsoft es claro: una IA confiable depende menos de bloquear la adopción y más de construir una gobernanza que pueda escalar con ella.