AI-model van OpenAI slaat op hol tijdens test en hackt Amerikaans bedrijf

OpenAI is het bedrijf achter taalmodel ChatGPT en testte een van de geavanceerdste AI-modellen. Het ging mis tijdens een proef in een streng gecontroleerde digitale testomgeving. De toegang tot het internet was uit veiligheidsoverwegingen beperkt.

Het model deed er alles aan om toegang te krijgen tot het open internet, meldt OpenAI in een verklaring. Het lukte om de beveiliging te omzeilen en verbinding met het internet te maken.

Vervolgens besloten het model het platform Hugging Face aan te vallen. Dat is een groot platform met meerdere AI-modellen. Het model combineerde volgens OpenAI "meerdere aanvalsmethoden, waaronder het gebruik van gestolen inloggegevens". Het bedrijf spreekt van een "ongekend cyberincident".

Hoogleraar informatica Hussein Abbass zegt tegen persbureau AFP dat het incident "op veel fronten opmerkelijk" is. Het systeem viel volgens hem niet alleen Hugging Face aan, maar ook het interne systeem om de eigen kwetsbaarheden daarvan uit te buiten.

"Dat is beangstigend", zegt Abbass. Volgens hem kan het "catastrofale gevolgen" hebben als deze technologie in handen komt van iemand met kwade bedoelingen.

Het is de vraag hoe de AI-sector moet worden gereguleerd. Er zijn zorgen over het omzeilen van cyberbeveiligingen door geavanceerde AI-modellen. OpenAI en de grootste concurrent Anthropic moesten de introductie van hun nieuwste technologieën tijdelijk uitstellen vanwege zorgen in Washington.

AI-modellen achter toepassingen zoals chatbots en beeldgeneratoren worden agenten genoemd als ze zelfstandig handelen om taken in de echte wereld uit te voeren.

Hugging Face-topman Clement Delanque spreekt van een "behoorlijk verbijsterend" incident. "Het verschilde op één belangrijk punt van alles wat we eerder hadden meegemaakt: het werd van begin tot eind aangestuurd door een zelfstandig AI-agentsysteem."