Zlonamerne AI ekstenzije kradu LLM istorije u Chrome-u

Uvod: Zašto je ovo važno

Ekstenzije pregledača za AI asistente postaju uobičajeni „productivity“ dodaci za knowledge workers, posebno za brz pristup alatima kao što su ChatGPT i DeepSeek. Istraga Microsoft Defender-a pokazuje kako ova pogodnost može postati kanal za gubitak enterprise podataka: look-alike ekstenzija instalirana iz pouzdanog marketplace-a može kontinuirano prikupljati i eksfiltrirati osetljive prompt-ove, odgovore i interne URL-ove, bez ponašanja koje liči na tradicionalni malware.

Šta je novo / ključni nalazi

Microsoft Defender je istražio zlonamerne Chromium ekstenzije koje:

• Imitiraju legitimne ekstenzije AI asistenta koristeći prepoznatljiv branding i zahteve za dozvole (Defender navodi imitaciju poznatih alata kao što je AITOPIA).
• Prikupljaju LLM sadržaj razgovora i browsing telemetriju, uključujući:
  • Kompletne posećene URL adrese (uključujući interne sajtove)
  • Chat isečke (prompt-ove i odgovore) sa platformi kao što su ChatGPT i DeepSeek
  • Identifikatore modela, kontekst navigacije i trajni UUID
• Ostaju prisutne kao normalne ekstenzije (automatsko učitavanje pri pokretanju pregledača, čuvanje telemetrije u lokalnom storage-u ekstenzije).
• Periodično eksfiltriraju podatke putem HTTPS POST, što može ličiti na rutinski web saobraćaj.

Defender izveštavanje ukazuje da su ekstenzije dostigle ~900.000 instalacija, uz Defender telemetriju koja potvrđuje aktivnost u 20.000+ enterprise tenant-a.

Kako napad funkcioniše (na visokom nivou)

• Isporuka: Objavljeno u Chrome Web Store sa opisima na AI temu. Pošto Microsoft Edge podržava ekstenzije iz Chrome Web Store, isti listing omogućava doseg kroz više pregledača.
• Zloupotreba poverenja i dozvola: Široke dozvole Chromium ekstenzije omogućile su posmatranje sadržaja stranice i aktivnosti pregledanja. Korišćen je obmanjujući mehanizam saglasnosti, a ažuriranja su mogla ponovo da uključe telemetriju po difoltu čak i nakon što su korisnici odustali.
• Command and control: Periodični upload na domene pod kontrolom napadača kao što su deepaichats[.]com i chatsaigpt[.]com, uz brisanje lokalnih bafera nakon prenosa radi smanjenja tragova.

Uticaj na IT administratore i krajnje korisnike

• Rizik od curenja podataka: Prompt-ovi često sadrže proprietarni kod, interne procese, diskusije o strategiji, kredencijale kopirane u chat i drugi poverljiv sadržaj. Eksfiltracija kompletnih URL-ova može otkriti strukturu internih aplikacija i osetljive query string-ove.
• Izloženost u pogledu usklađenosti i privatnosti: Prikupljena istorija razgovora može sadržati regulisane ili lične podatke, što komplikuje obaveze u vezi sa retention, eDiscovery i data residency.
• Rizik od ekstenzija postaje „always on“: Za razliku od jednokratnog phishing događaja, zlonamerna ekstenzija može obezbediti kontinuiranu vidljivost u korisničku aktivnost kroz sesije.

Preporučene aktivnosti / sledeći koraci

1. Hunt i blokiranje poznatih eksfiltration endpoint-a praćenjem outbound HTTPS POST saobraćaja i primenom mrežnih kontrola za:
   • *.chatsaigpt.com
   • *.deepaichats.com
   • *.chataigpt.pro
   • *.chatgptsidebar.pro
2. Inventar i audit ekstenzija pregledača na upravljanim endpoint-ovima, sa fokusom na AI/sidebar alate sa širokim dozvolama za sajtove.
3. Pojačajte governance za ekstenzije:
   • Koristite allowlisting za odobrene ekstenzije
   • Ograničite izvore instalacije gde je moguće
   • Pregledajte ponašanje ažuriranja i drift dozvola
4. Koristite Microsoft Defender Vulnerability Management za pokretanje Browser extensions assessment, identifikaciju rizičnih ekstenzija i prioritetizaciju remediation.
5. Edukacija korisnika: tretirajte AI chat-ove kao osetljivu komunikaciju—izbegavajte lepljenje tajni, token-a ili proprietarnog sadržaja osim ako su alat i put pristupa eksplicitno odobreni.