Copilot Studio i OWASP rizici za Agentic AI
Sažetak
Microsoft objašnjava kako Copilot Studio i predstojeća opšta dostupnost Agent 365 mogu pomoći organizacijama da adresiraju OWASP Top 10 za Agentic Applications. Ove smernice su važne jer agentic AI sistemi mogu koristiti stvarne identitete, podatke i alate, stvarajući bezbednosne rizike koji daleko prevazilaze netačne izlaze.
Uvod
Agentic AI se brzo pomera iz faze eksperimentisanja u produkciju, a to menja bezbednosni model za IT timove. Za razliku od tradicionalnog AI zasnovanog na ćaskanju, ovi sistemi mogu pristupati podacima, pozivati alate i delovati koristeći delegirane identitete, što znači da greška može pokrenuti stvarne naknadne radnje.
Najnovije smernice kompanije Microsoft mapiraju novi OWASP Top 10 for Agentic Applications na kontrole u okviru Microsoft Copilot Studio i predstojeće usluge Agent 365. Za administratore i bezbednosne timove, ovo je praktičan okvir za izgradnju bezbednijih AI agenata.
Šta je novo
Microsoft ističe deset glavnih OWASP oblasti rizika za agentic sisteme, uključujući:
- Otmicu cilja agenta putem prompt injection napada ili zatrovanog sadržaja
- Zloupotrebu i iskorišćavanje alata usled nebezbednog povezivanja ili manipulisanih izlaza
- Zloupotrebu identiteta i privilegija korišćenjem delegiranog poverenja ili nasleđenih akreditiva
- Ranjivosti lanca snabdevanja u alatima trećih strana, dodacima i kanalima za ažuriranje
- Neočekivano izvršavanje koda i nebezbedno ponašanje tokom izvršavanja
- Trovanje memorije i konteksta u sačuvanom kontekstu ili retrieval sistemima
- Nebezbednu komunikaciju između agenata
- Kaskadne otkaze kroz tokove rada i povezane sisteme
- Zloupotrebu poverenja između čoveka i agenta
- Odmetnute agente koji rade van predviđenog opsega
Da bi ublažio ove rizike, Microsoft navodi da Copilot Studio obezbeđuje ugrađene kontrole tokom razvoja i primene:
- Predefinisane radnje i konektori pomažu da se ograniče proizvoljno izvršavanje koda i nebezbedna upotreba alata
- Izolovana okruženja smanjuju domet posledica otkaza
- Zahtevi za ponovno objavljivanje sprečavaju agente da u hodu menjaju sopstvenu logiku
- Kontrole za onemogućavanje ili ograničavanje omogućavaju timovima da brzo obuzdaju sumnjive agente
Microsoft takođe napominje da će Agent 365 postati opšte dostupan 1. maja, uz dodatnu centralizovanu vidljivost, sprovođenje politika i upravljanje životnim ciklusom za primenjene agente.
Zašto je ovo važno za IT i bezbednosne timove
Ključna poruka je da rizik agentic AI nije samo pitanje štetnih odgovora. Reč je o štetnim ishodima izazvanim stvarnim dozvolama, povezanim alatima i autonomnim izvršavanjem.
Za IT administratore to znači da bezbednost agenata treba upravljati kao spoj bezbednosti aplikacija, upravljanja identitetima i zaštite podataka. Timovima su potrebni observability, zaštitne ograde i mogućnost brze intervencije kada se agent ponaša neočekivano.
Sledeći koraci
Administratori koji procenjuju Copilot Studio trebalo bi da:
- Pregledaju OWASP Top 10 for Agentic Applications kao osnovni okvir kontrola
- Provere dozvole agenata, konektore i delegirane identitete
- Koriste ograničene radnje i odobrene integracije gde god je to moguće
- Planiraju nadzor, sprovođenje politika i odgovor na incidente uz Agent 365
- Tretiraju agente kao upravljane aplikacije koje se mogu revidirati, a ne kao lake skripte za automatizaciju
Kako usvajanje agentic AI raste, Microsoft pozicionira Copilot Studio i Agent 365 kao ključne alate za bezbedno upravljanje u velikom obimu.
Trebate pomoć sa Security?
Naši stručnjaci mogu vam pomoći da implementirate i optimizujete vaša Microsoft rešenja.
Razgovarajte sa stručnjakomBudite u toku sa Microsoft tehnologijama