OpenAI pauzeert werk met krachtige AI na nieuw incident ondanks nieuwe regels

Door onze nieuwsredactie

OpenAI, het bedrijf achter ChatGPT, heeft het werk aan zijn krachtigste AI-modellen voorlopig stilgelegd. Een van zijn systemen kreeg tijdens een test ongeoorloofd toegang tot het internet, meldde het bedrijf zaterdag.

Het model moest aan de hand van aanwijzingen uitzoeken wie een bepaalde blogpost had geschreven. Toen dat niet lukte, benutte het een zwakke plek in de beveiliging om toegang tot het internet te krijgen. Vervolgens stelde het vragen aan een openbare chatbot. OpenAI greep in nadat het bedrijf dit had ontdekt.

Ook bezochten AI-systemen van OpenAI onverwacht websites van de Amerikaanse overheid, waar ze openbare informatie bekeken of kopieerden. OpenAI zegt "tientallen" organisaties te hebben ingelicht waarvan websites onbedoeld door zijn software zijn bezocht.

Het bedrijf wil de ontwikkeling pas hervatten als het lek is gedicht en er meer veiligheidstests zijn uitgevoerd. Het is het eerste incident sinds de veiligheidsregels werden aangescherpt. Dat gebeurde nadat een AI-systeem van het bedrijf in juli buiten zijn afgeschermde omgeving was geraakt en was binnengedrongen in computers van techbedrijf Hugging Face. Volgens OpenAI is het nieuwste voorval minder ernstig dan eerdere incidenten.

De Australische premier Anthony Albanese meldde woensdag dat zelfstandig werkende systemen van OpenAI een website van de Australische overheid waren binnengedrongen. Daarbij kreeg de AI toegang tot niet-openbare medische informatie. Lees meer over dat incident in onderstaand stuk.