Schade door losgeslagen AI-agenten van OpenAI blijkt veel groter, ook andere diensten doelwit van hack

Het incident met de ontspoorde ‘agenten’ van OpenAI eerder deze maand heeft in de techwereld voor grote deining gezorgd. Het is al langer bekend dat AI-programma’s die volledig op eigen houtje opereren, ingezet kunnen worden om andere computersystemen te kraken.

Maar hier ging het om ‘vreedzaam’ bedoelde agenten die zich van hun ketenen ontdeden, uit een afgesloten testomgeving ontsnapten en op internet als kwaadaardige hackers andermans interne systemen op de korrel namen. Er leven al langer zorgen dat kunstmatige intelligentie leidt tot computers die zich niet meer door mensen laten beteugelen. Sommige zwartkijkers menen dat de mensheid met AI haar eigen graf graaft, zoals gebeurt in de sciencefictionfilmserie The Terminator.

De systemen die het doelwit werden, behoren tot Hugging Face, een dienst waarop softwareontwikkelaars AI-componenten en -datasets delen. De OpenAI-agenten kozen voor Hugging Face, omdat ze daar de antwoorden hoopten te vinden op een proef waaraan ontwikkelaars hen hadden onderworpen.

Achterdeurtje

OpenAI had het speelterrein van de agenten beperkt, maar de ‘robots’ vonden toch een achterdeurtje waardoor ze naar het internet konden ontsnappen. Daar gingen ze op zoek naar een oplossing voor de test. Zo kwamen ze terecht bij Hugging Face. Het geitenpaadje was door de ontwikkelaars van OpenAI aangelegd om fouten te corrigeren, maar was niet afgegrendeld voor de AI-agenten.

Hugging Face publiceerde deze week een gedetailleerder verslag van de hack. Daaruit blijkt dat de twee OpenAI-inbrekers tussen 9 en 13 juli ruim zeventienduizend handelingen verrichtten om door te dringen tot het hart van het platform. Ze kaapten onder meer 181 netwerkapparaten binnen het kantoor van Hugging Face, die als een soort springplank fungeerden om diep in de interne systemen door te dringen. De agenten wisten uiteindelijk de rol van netwerkbeheerder aan te nemen, waarmee ze alle beveiliging konden omzeilen.

Hoe groot de schade is die aan Hugging Face werd toegebracht, zegt het platform niet. Maar medewerkers zijn uren kwijt geweest aan het verjagen van de agenten uit hun computersystemen en het herstellen van een derde van hun infrastructuur, meldt de Cloud Security Alliance (CSA), een verbond van computerbeveiligingsbedrijven en -instanties, in een verslag van het incident.

Omzeilingsactie

Naar OpenAI nu heeft bekendgemaakt, kaapten de agenten de accounts van vier ‘voor het publiek beschikbare diensten’. De AI-pionier meldt niet om welke organisaties of diensten het gaat. Het Britse persbureau Reuters heeft achterhaald dat een van de gedupeerden een klant is van Modal, een bedrijf dat diensten biedt om AI-agenten te trainen en diensten uit te laten voeren. Modal heeft de hack bevestigd tegenover de website Wired.

De schade die werd aangericht, was niet zo ernstig als de gevolgen van de inbraak bij Hugging Face, stelt OpenAI. De gekraakte accounts werden door de agenten vooral gebruikt om te maskeren wie de aanval op Hugging Face pleegde. Dat heeft gewerkt. Het ontwikkelaarsplatform had eerder gemeld dat het bedrijf door onbekenden was gehackt. Pas drie dagen later kwam het erachter dat de ‘onbekenden’ afkomstig waren van OpenAI.