{{Podstawy bezpieczeństwa AI: praktyczne wskazówki dla CISO}}

{{## Wprowadzenie Wdrażanie AI przyspiesza w przedsiębiorstwach, ale najnowsze wskazówki Microsoft jasno podkreślają jedną rzecz: AI nie należy traktować jak magii. Dla CISO najskuteczniejszym podejściem jest stosowanie znanych podstaw bezpieczeństwa do systemów AI, z jednoczesnym uwzględnieniem nowych zagrożeń, takich jak prompt injection i nadmiernie udostępnione dane.

Co rekomenduje Microsoft

Microsoft przedstawia AI zarówno jako młodszego asystenta, jak i element oprogramowania. Oznacza to, że organizacje powinny łączyć silny nadzór z tradycyjnymi kontrolami bezpieczeństwa.

Kluczowe zasady bezpieczeństwa

• Traktuj AI jak oprogramowanie: Systemy AI działają z wykorzystaniem tożsamości, uprawnień i ścieżek dostępu tak samo jak inne aplikacje.
• Stosuj zasadę najmniejszych uprawnień i najmniejszego zakresu działania: Zapewniaj AI tylko te dane, API i działania, których potrzebuje do konkretnego celu.
• Nigdy nie pozwalaj AI podejmować decyzji o kontroli dostępu: Autoryzacja powinna pozostać deterministyczna i egzekwowana przez mechanizmy inne niż AI.
• Przypisuj odpowiednie tożsamości: Używaj odrębnych tożsamości usługowych lub tożsamości pochodzących od użytkownika, zgodnych z danym przypadkiem użycia.
• Testuj pod kątem złośliwych danych wejściowych: Zwłaszcza gdy AI może wykonywać istotne działania w imieniu użytkowników.

Nowe ryzyka specyficzne dla AI, na które trzeba uważać

Microsoft wskazuje pośrednie ataki prompt injection (XPIA) jako istotny problem. Dzieje się tak, gdy AI bierze niezaufane treści za instrukcje, na przykład ukryty tekst osadzony w CV lub dokumentach.

Aby ograniczyć to ryzyko, Microsoft zaleca:

• Korzystanie z mechanizmów ochrony, takich jak Spotlighting i Prompt Shield
• Uważne sprawdzanie, jak AI obsługuje treści zewnętrzne lub niezaufane
• Dzielenie zadań na mniejsze, jednoznaczne kroki w celu zwiększenia niezawodności i ograniczenia błędów

Dlaczego to ważne dla zespołów IT i bezpieczeństwa

Jednym z najważniejszych wniosków jest to, że AI może szybciej niż tradycyjne wyszukiwanie lub ręczny przegląd ujawniać istniejące problemy z higieną danych i nadawaniem uprawnień. Ponieważ AI ułatwia odnajdywanie i syntetyzowanie dostępnych danych, użytkownicy mogą dotrzeć do informacji, do których technicznie mieli dostęp, ale których łatwe odkrycie nigdy nie było zakładane.

Microsoft sugeruje praktyczny test: użyj standardowego konta użytkownika z trybem Researcher w Microsoft 365 Copilot i zapytaj o poufne tematy, do których ten użytkownik nie powinien mieć dostępu. Jeśli AI znajdzie wrażliwe informacje, może to ujawnić luki w uprawnieniach, które wymagają natychmiastowego uporządkowania.

Zalecane kolejne kroki

Zespoły bezpieczeństwa powinny przeanalizować wdrożenia AI pod kątem istniejących zasad Zero Trust i polityk zarządzania danymi.

• Przeprowadź audyt uprawnień i usuń nadmiarowo przyznany dostęp
• Sprawdź, gdzie znajdują się dane wrażliwe w całym środowisku cyfrowym
• Wzmocnij mechanizmy kontroli tożsamości i dostęp just-in-time
• Zablokuj starsze protokoły i formaty, które nie są już potrzebne
• Dodaj testy prompt injection do ocen bezpieczeństwa AI
• Zdefiniuj jasne punkty zatwierdzania przez człowieka dla istotnych działań AI

Najważniejszy wniosek

Przekaz Microsoft do CISO jest praktyczny: zabezpieczaj AI tak samo, jak zabezpieczasz każdy potężny system software’owy, a następnie dodaj mechanizmy kontroli dla trybów awarii specyficznych dla AI. Organizacje, które poprawią higienę danych, zaostrzą dostęp i będą weryfikować zachowanie AI, będą lepiej przygotowane do bezpiecznego wdrażania AI na dużą skalę.}}