AI-Sicherheitsleitfaden für CISOs: Praxisnah

Einführung

Die Einführung von AI beschleunigt sich in Unternehmen, doch Microsofts aktuelle Empfehlungen machen eines deutlich: AI sollte nicht als Magie behandelt werden. Für CISOs ist der effektivste Ansatz, vertraute Sicherheitsgrundlagen auf AI-Systeme anzuwenden und dabei neue Risiken wie Prompt Injection und übermäßig offengelegte Daten zu berücksichtigen.

Was Microsoft empfiehlt

Microsoft beschreibt AI sowohl als Junior-Assistenten als auch als Software. Das bedeutet, dass Unternehmen starke Governance mit traditionellen Sicherheitskontrollen kombinieren sollten.

Zentrale Sicherheitsprinzipien

• AI wie Software behandeln: AI-Systeme arbeiten mit Identitäten, Berechtigungen und Zugriffswegen genau wie andere Anwendungen.
• Least Privilege und Least Agency verwenden: Geben Sie AI nur die Daten, APIs und Aktionen, die sie für ihren spezifischen Zweck benötigt.
• AI niemals über Zugriffskontrollen entscheiden lassen: Autorisierung sollte deterministisch bleiben und durch Nicht-AI-Kontrollen durchgesetzt werden.
• Geeignete Identitäten zuweisen: Verwenden Sie getrennte Service-Identitäten oder von Benutzern abgeleitete Identitäten, passend zum Anwendungsfall.
• Auf bösartige Eingaben testen: Besonders dann, wenn AI im Namen von Benutzern bedeutsame Aktionen ausführen kann.

Neue AI-spezifische Risiken im Blick behalten

Microsoft hebt indirekte Prompt-Injection-Angriffe (XPIA) als zentrales Problem hervor. Dies geschieht, wenn AI nicht vertrauenswürdige Inhalte fälschlicherweise als Anweisungen interpretiert, etwa versteckten Text in Lebensläufen oder Dokumenten.

Zur Reduzierung dieses Risikos empfiehlt Microsoft:

• Den Einsatz von Schutzmechanismen wie Spotlighting und Prompt Shield
• Eine sorgfältige Validierung, wie AI externe oder nicht vertrauenswürdige Inhalte verarbeitet
• Die Aufteilung von Aufgaben in kleinere, explizite Schritte, um Zuverlässigkeit zu verbessern und Fehler zu reduzieren

Warum das für IT- und Sicherheitsteams wichtig ist

Eine der wichtigsten Erkenntnisse ist, dass AI bestehende Probleme bei Datenhygiene und Berechtigungen schneller sichtbar machen kann als herkömmliche Suche oder manuelle Prüfungen. Da AI zugängliche Daten leichter auffindbar macht und zusammenfassen kann, können Nutzer Informationen sichtbar machen, auf die sie technisch Zugriff hatten, von denen aber nie erwartet wurde, dass sie sie leicht entdecken.

Microsoft empfiehlt einen praxisnahen Test: Verwenden Sie ein Standardbenutzerkonto mit dem Microsoft 365 Copilot Researcher-Modus und fragen Sie nach vertraulichen Themen, auf die dieser Benutzer keinen Zugriff haben sollte. Findet die AI sensible Informationen, kann dies auf zugrunde liegende Berechtigungslücken hinweisen, die umgehend bereinigt werden müssen.

Empfohlene nächste Schritte

Sicherheitsteams sollten AI-Bereitstellungen anhand bestehender Zero-Trust-Prinzipien und Data-Governance-Richtlinien überprüfen.

• Berechtigungen prüfen und überprovisionierte Zugriffe entfernen
• Prüfen, wo sensible Daten in der gesamten digitalen Umgebung gespeichert sind
• Identitätskontrollen und Just-in-Time-Zugriff stärken
• Veraltete Protokolle und Formate blockieren, die nicht mehr benötigt werden
• Prompt-Injection-Tests in AI-Sicherheitsbewertungen aufnehmen
• Klare menschliche Freigabepunkte für folgenreiche AI-Aktionen definieren

Fazit

Microsofts Botschaft an CISOs ist praxisnah: Sichern Sie AI genauso ab wie jedes leistungsfähige Softwaresystem und ergänzen Sie dann Kontrollen für AI-spezifische Fehlermodi. Unternehmen, die Datenhygiene verbessern, Zugriffe einschränken und das Verhalten von AI validieren, sind besser aufgestellt, um AI sicher und im großen Maßstab einzuführen.