Copilot Studio mod OWASP-risici i agentic AI

Introduktion

Agentic AI bevæger sig hurtigt fra eksperimenter til produktion, og det ændrer sikkerhedsmodellen for IT-teams. I modsætning til traditionel chatbaseret AI kan disse systemer få adgang til data, kalde værktøjer og handle med delegerede identiteter, hvilket betyder, at en fejl kan udløse reelle efterfølgende handlinger.

Microsofts seneste vejledning kobler den nye OWASP Top 10 for Agentic Applications til kontroller i Microsoft Copilot Studio og den kommende tjeneste Agent 365. For administratorer og sikkerhedsteams er dette et praktisk framework til at bygge mere sikre AI-agenter.

Hvad er nyt

Microsoft fremhæver de ti største OWASP-risikoområder for agentiske systemer, herunder:

• Kapring af agentmål via prompt injection eller forgiftet indhold
• Misbrug og udnyttelse af værktøjer fra usikker chaining eller manipulerede output
• Misbrug af identitet og privilegier ved brug af delegeret tillid eller nedarvede legitimationsoplysninger
• Sårbarheder i forsyningskæden i tredjepartsværktøjer, plugins og opdateringskanaler
• Uventet kodeeksekvering og usikker runtime-adfærd
• Forgiftning af hukommelse og kontekst i lagret kontekst eller retrieval-systemer
• Usikker kommunikation mellem agenter
• Kaskadefejl på tværs af workflows og forbundne systemer
• Udnyttelse af tillid mellem menneske og agent
• Rogue agents der opererer uden for det tilsigtede scope

For at reducere disse risici siger Microsoft, at Copilot Studio leverer indbyggede kontroller under udvikling og implementering:

• Foruddefinerede handlinger og connectors hjælper med at begrænse vilkårlig kodeeksekvering og usikker brug af værktøjer
• Isolerede miljøer reducerer konsekvenserne af fejl
• Krav om genudgivelse forhindrer agenter i at ændre deres egen logik undervejs
• Kontroller til deaktivering eller begrænsning gør det muligt for teams hurtigt at inddæmme mistænkelige agenter

Microsoft bemærker også, at Agent 365 bliver generelt tilgængelig den 1. maj, hvilket tilføjer centraliseret synlighed, håndhævelse af politikker og lifecycle governance for implementerede agenter.

Hvorfor det er vigtigt for IT- og sikkerhedsteams

Den vigtigste pointe er, at risikoen ved agentic AI ikke kun handler om skadelige svar. Det handler om skadelige konsekvenser forårsaget af reelle tilladelser, forbundne værktøjer og autonom eksekvering.

For IT-administratorer betyder det, at agentsikkerhed bør håndteres som applikationssikkerhed, identitetsgovernance og databeskyttelse samlet. Teams har brug for observability, guardrails og evnen til hurtigt at gribe ind, når en agent opfører sig uventet.

Næste skridt

Administratorer, der evaluerer Copilot Studio, bør:

• Gennemgå OWASP Top 10 for Agentic Applications som et grundlæggende kontrolframework
• Revidere agenttilladelser, connectors og delegerede identiteter
• Bruge begrænsede handlinger og godkendte integrationer, hvor det er muligt
• Planlægge overvågning, håndhævelse af politikker og hændelsesrespons med Agent 365
• Behandle agenter som administrerede og reviderbare applikationer, ikke lette automatiseringsscripts

Efterhånden som brugen af agentic AI vokser, positionerer Microsoft Copilot Studio og Agent 365 som centrale værktøjer til sikker governance i stor skala.