Ook AI-model van Google ging tijdens test online en hackte drie bedrijven

Ook AI-model van Google kreeg tijdens test internettoegang en hackte 3 bedrijven

Samuel Hanegreefs
Nieuwsredacteur

Gemini, het AI-model van Google, is tijdens een test zelfstandig het internet opgegaan en heeft vervolgens autonoom drie bedrijven gehackt. Het is het eerste bekende geval waarbij Gemini tijdens een test daadwerkelijk bedrijven hackte, na soortgelijke incidenten met modellen van AI-bedrijven Meta, Anthropic en OpenAI.

De hacks dateren uit mei en gebeurden toen het bedrijf Irregular de modellen van Google in een gesloten omgeving aan het testen was. De AI-agenten moesten taken uitvoeren voor verzonnen bedrijven, maar kregen daarbij onbedoeld toegang tot het internet. Daarna besloten de agenten bestaande bedrijven te hacken.

Eerder gebeurde hetzelfde met de modellen van de AI-bedrijven OpenAI en Anthropic. Die van OpenAI braken in bij het softwarebedrijf Hugging Face. Ook bij die andere tests waarbij het misliep, was het Israëlische bedrijf Irregular betrokken.

Pas na de hacks met modellen van OpenAI en Anthropic kwam het incident met Gemini aan het licht. Google werd hier door Irregular in juli van op de hoogte gebracht. Google bevestigt het nieuws nu pas, nadat The Wall Street Journal er vrijdag over berichtte.

Google zegt dat het niet eerder over het incident communiceerde omdat tijdens de hacks geen schade is toegebracht aan de bedrijven. De getroffen bedrijven werden wel op de hoogte gebracht.

De berichten over AI-modellen die autonoom hacks uitvoeren, roepen ongerustheid op over de snelle ontwikkelingen van kunstmatige intelligentie.

Meerdere topfiguren binnen de AI-sector, onder wie de CEO van Anthropic, roepen op tot een gezamenlijke vertraging van de ontwikkelingen. Dat moet tijd geven om meer veiligheidsmaatregelen te nemen. De Amerikaanse president Donald Trump stelde dat hij een vertraging van de ontwikkeling niet nodig vindt.