OpenAI wil AI-ontwikkeling vertragen tot er strengere veiligheidsnormen zijn

De uitspraken volgen op groeiende onrust binnen de sector. Medewerkers van grote AI-bedrijven trekken de laatste weken steeds vaker publiekelijk aan de bel over de risico's van steeds slimmere AI-systemen.

Jakub Pachocki, de hoofdwetenschapper van OpenAI, schreef onlangs een blogpost waarin hij AI-bedrijven oproept om gezamenlijk de ontwikkeling te vertragen wanneer dat nodig is, totdat er gedeelde veiligheidsnormen liggen.

OpenAI maakte vorige week bekend dat zijn laatste model Astra kan worden beschouwd als artificial general intelligence (AGI), oftewel kunstmatige intelligentie die de menselijke intelligentie overtreft. Altman zei in juli al dat hij met functionarissen van het Witte Huis had gesproken over de noodzaak om het tempo van AI-ontwikkeling in te dammen.

Dinsdag nam AI-onderzoeker Jacob Coxon ontslag en beschuldigde toen zijn twee voormalige werkgevers, Anthropic en OpenAI, ervan mensenlevens op het spel te zetten door te snel naar superintelligente AI te willen.

Zijn bericht op sociale media, waarin hij stelt dat de "mensen die AI bouwen er oprecht in geloven dat het ons allemaal kan uitroeien voor het einde van dit decennium", ging viral.

Eind juli ondertekenden al meer dan duizend medewerkers van de grote AI-bedrijven een petitie, Pacing the Frontier, die oproept om het tempo van AI-ontwikkeling te vertragen. De laatste maanden namen meerdere medewerkers die aan veiligheid werkten ontslag bij grote AI-labs.