Kwaadaardige AI-browserextensies stelen LLM-chatdata

Introductie: waarom dit belangrijk is

Browserextensies voor AI-assistenten worden steeds gebruikelijkere "productiviteits"-add-ons voor kenniswerkers, vooral voor snelle toegang tot tools zoals ChatGPT en DeepSeek. Het onderzoek van Microsoft Defender laat zien hoe dit gemak kan veranderen in een kanaal voor dataverlies binnen enterprises: een lookalike-extensie die vanuit een vertrouwde marketplace wordt geïnstalleerd, kan continu gevoelige prompts, responses en interne URL’s verzamelen en exfiltreren zonder zich te gedragen als traditionele malware.

Wat is nieuw / belangrijkste bevindingen

Microsoft Defender onderzocht kwaadaardige Chromium-extensies die:

• Legitieme AI-assistentextensies imiteren met herkenbare branding en machtigingsprompts (Defender wijst op imitatie van bekende tools zoals AITOPIA).
• LLM-chatinhoud en browsingtelemetrie verzamelen, waaronder:
  • Volledig bezochte URL’s (inclusief interne sites)
  • Chatfragmenten (prompts en responses) van platforms zoals ChatGPT en DeepSeek
  • Modelidentificaties, navigatiecontext en een persistente UUID
• Persistent blijven zoals normale extensies (automatisch opnieuw laden bij het starten van de browser, telemetrie opslaan in lokale extensieopslag).
• Periodiek data exfiltreren via HTTPS POST, wat kan lijken op normaal webverkeer.

Rapportage van Defender geeft aan dat de extensies ~900.000 installaties bereikten, waarbij Defender-telemetrie activiteit bevestigt in meer dan 20.000 enterprise-tenants.

Hoe de aanval werkt (op hoofdlijnen)

• Distributie: Gepubliceerd in de Chrome Web Store met AI-gerichte beschrijvingen. Omdat Microsoft Edge extensies uit de Chrome Web Store ondersteunt, maakt dezelfde listing bereik over meerdere browsers mogelijk.
• Misbruik van vertrouwen en machtigingen: Brede Chromium-extensiemachtigingen maakten observatie van pagina-inhoud en browseactiviteit mogelijk. Er werd een misleidend toestemmingsmechanisme gebruikt, en updates konden telemetrie standaard opnieuw inschakelen, zelfs nadat gebruikers zich hadden afgemeld.
• Command and control: Periodieke uploads naar door aanvallers beheerde domeinen zoals deepaichats[.]com en chatsaigpt[.]com, waarbij lokale buffers na verzending worden gewist om artefacten te verminderen.

Impact op IT-beheerders en eindgebruikers

• Risico op datalekken: Prompts bevatten vaak bedrijfseigen code, interne processen, strategiediscussies, in chats geplakte credentials en andere vertrouwelijke inhoud. Exfiltratie van volledige URL’s kan de structuur van interne applicaties en gevoelige querystrings onthullen.
• Compliance- en privacyblootstelling: Vastgelegde chatgeschiedenis kan gereguleerde of persoonlijke data bevatten, wat verplichtingen rond retentie, eDiscovery en data residency compliceert.
• Extensierisico wordt "altijd aan": In tegenstelling tot een eenmalige phishinggebeurtenis kan een kwaadaardige extensie continue zichtbaarheid creëren in gebruikersactiviteit over sessies heen.

Aanbevolen acties / volgende stappen

1. Jaag op bekende exfiltratie-endpoints en blokkeer ze door uitgaand HTTPS POST-verkeer te monitoren en netwerkcontroles toe te passen voor:
   • *.chatsaigpt.com
   • *.deepaichats.com
   • *.chataigpt.pro
   • *.chatgptsidebar.pro
2. Inventariseer en audit browserextensies op beheerde endpoints, met focus op AI-/sidebar-tools met brede sitemachtigingen.
3. Verscherp extension governance:
   • Gebruik allowlisting voor goedgekeurde extensies
   • Beperk installatiesources waar mogelijk
   • Controleer updategedrag en verschuivingen in machtigingen
4. Gebruik Microsoft Defender Vulnerability Management om Browser extensions assessment uit te voeren, risicovolle extensies te identificeren en remediation te prioriteren.
5. Informeer gebruikers: behandel AI-chats als gevoelige communicatie—vermijd het plakken van geheimen, tokens of bedrijfseigen inhoud tenzij de tool en het toegangspad expliciet zijn goedgekeurd.