Stel je voor dat iemand probeert het geheime recept van een sterrenchef te stelen, niet door in te breken in de keuken, maar door duizenden proevers te sturen die elk detail van de smaak analyseren. Dat is precies wat er nu op grote schaal gebeurt bij Google. Hackers proberen de “hersenen” van de kunstmatige intelligentie Gemini te kopiëren, en dat heeft directe gevolgen voor hoe wij onze data online delen.
Wat is een ‘distillatie-aanval’ eigenlijk?
In de wereld van tech wordt dit model extraction genoemd. Het is een geraffineerde vorm van bedrijfsspionage waarbij aanvallers het algoritme niet hacken via de achterdeur, maar via de voordeur (de chat-interface). Zo gaat het in zijn werk:
- Aanvallers vuren tienduizenden extreem specifieke vragen af op het AI-model.
- De antwoorden worden razendsnel geanalyseerd door andere computers.
- Deze data wordt gebruikt om een eigen, goedkoper AI-model te trainen dat precies zo “denkt” als Gemini.
De waarschuwing van de expert
John Hultquist, een veiligheidsanalist bij Google, vergelijkt de situatie met een “kanarie in de kolenmijn”. Als een gigant als Google onder vuur ligt, is het slechts een kwestie van tijd voordat kleinere systemen in de Nederlandse zorgsector of financiële wereld het doelwit worden. Het gaat namelijk niet alleen om diefstal van software, maar om het omzeilen van veiligheidsfilters.
De nuance: Als een hacker precies begrijpt hoe de logica van een AI werkt, kan hij ook ontdekken hoe hij die logica kan misleiden om bijvoorbeeld schadelijke code te genereren of desinformatie te verspreiden.
Hoe houd je jezelf veilig?
Ik merk in mijn eigen omgeving dat we AI-chatbots steeds vaker gebruiken als een persoonlijke assistent of dagboek. Maar we moeten voorzichtig zijn. Hier zijn drie vuistregels die ik zelf hanteer:
- Deel nooit bedrijfsgeheimen: Voer geen gevoelige documenten in om ze te laten samenvatten.
- Anonimiseer je gegevens: Vervang namen en bedragen door fictieve termen als je advies vraagt.
- Besef de publieke aard: Behandel elke chat met een AI alsof het een gesprek is op een openbaar forum.
De strijd tussen de giganten
Het gaat hier niet alleen om individuele hackers. Grote spelers zoals OpenAI hebben eerder al beschuldigingen geuit naar concurrenten. De race om de beste AI te bezitten is zo fel dat de grens tussen onderzoek en spionage vervaagt. Terwijl Google deze specifieke aanval van 100.000 prompts heeft geblokkeerd, blijft de vraag: hoe veilig is de informatie die wij aan deze systemen toevertrouwen?
Vertrouw jij AI al met je persoonlijke werkinformatie, of houd je die gegevens liever nog even voor jezelf?
