AI-browserudvidelser stjal LLM-chathistorikker

Introduktion: Hvorfor dette er vigtigt

AI-assistent-browserudvidelser bliver stadig mere almindelige "produktivitets"-tilføjelser for vidensmedarbejdere, især for hurtig adgang til værktøjer som ChatGPT og DeepSeek. Microsoft Defenders undersøgelse viser, hvordan denne bekvemmelighed kan blive en kanal for datatab i virksomheder: en look-alike-udvidelse installeret fra en betroet markedsplads kan løbende indsamle og eksfiltrere følsomme prompts, svar og interne URL’er uden at opføre sig som traditionel malware.

Hvad er nyt / vigtigste fund

Microsoft Defender undersøgte ondsindede Chromium-udvidelser, der:

• Imiterer legitime AI-assistentudvidelser ved at bruge velkendt branding og tilladelsesprompter (Defender bemærker imitation af velkendte værktøjer som AITOPIA).
• Indsamler LLM-chatindhold og browsingtelemetri, herunder:
  • Fuldstændige besøgte URL’er (herunder interne sites)
  • Chatuddrag (prompts og svar) fra platforme som ChatGPT og DeepSeek
  • Modelidentifikatorer, navigationskontekst og en vedvarende UUID
• Persistener som normale udvidelser (automatisk genindlæsning ved browserstart, lagring af telemetri i lokal udvidelseslagring).
• Eksfiltrerer data periodisk via HTTPS POST, hvilket kan ligne almindelig webtrafik.

Defender-rapportering indikerer, at udvidelserne nåede omkring 900.000 installationer, og Defender-telemetri bekræfter aktivitet på tværs af mere end 20.000 enterprise-tenants.

Sådan fungerer angrebet (på et overordnet niveau)

• Levering: Udgivet i Chrome Web Store med AI-relaterede beskrivelser. Fordi Microsoft Edge understøtter udvidelser fra Chrome Web Store, giver den samme listing rækkevidde på tværs af browsere.
• Udnyttelse af tillid og tilladelser: Bredde Chromium-udvidelsestilladelser gjorde det muligt at observere sideindhold og browsingaktivitet. Der blev brugt en vildledende samtykkemekanisme, og opdateringer kunne genaktivere telemetri som standard selv efter, at brugere havde fravalgt det.
• Command and control: Periodiske uploads til angriberkontrollerede domæner som deepaichats[.]com og chatsaigpt[.]com, hvor lokale buffere ryddes efter transmission for at reducere spor.

Konsekvenser for IT-administratorer og slutbrugere

• Risiko for datalækage: Prompts indeholder ofte proprietær kode, interne processer, strategidiskussioner, legitimationsoplysninger kopieret ind i chats og andet fortroligt indhold. Eksfiltration af fulde URL’er kan afsløre strukturen i interne applikationer og følsomme query strings.
• Compliance- og privatlivseksponering: Indfanget chathistorik kan indeholde regulerede eller personlige data, hvilket komplicerer forpligtelser vedrørende opbevaring, eDiscovery og data residency.
• Udvidelsesrisiko bliver "altid aktiv": I modsætning til en enkelt phishinghændelse kan en ondsindet udvidelse skabe kontinuerlig synlighed i brugeraktivitet på tværs af sessioner.

Anbefalede handlinger / næste skridt

1. Hunt efter og bloker kendte eksfiltreringsendpoints ved at overvåge udgående HTTPS POST-trafik og anvende netværkskontroller for:
   • *.chatsaigpt.com
   • *.deepaichats.com
   • *.chataigpt.pro
   • *.chatgptsidebar.pro
2. Inventariser og auditér browserudvidelser på tværs af administrerede endpoints med fokus på AI-/sidebar-værktøjer med brede sitetilladelser.
3. Stram styringen af udvidelser:
   • Brug allowlisting for godkendte udvidelser
   • Begræns installationskilder, hvor det er muligt
   • Gennemgå opdateringsadfærd og permission drift
4. Brug Microsoft Defender Vulnerability Management til at køre Browser extensions assessment, identificere risikable udvidelser og prioritere afhjælpning.
5. Uddan brugerne: behandl AI-chats som følsom kommunikation — undgå at indsætte hemmeligheder, tokens eller proprietært indhold, medmindre værktøjet og adgangsvejen er eksplicit godkendt.