Australië boos over AI van OpenAI die overheidswebsite infiltreert: 'Onacceptabel'

"Dit is natuurlijk onacceptabel", zei Albanese in New York, waar hij de Algemene Vergadering van de Verenigde Naties bijwoont. "Vandaag heb ik gesproken met Sam Altman, de CEO van OpenAI, om onze grote bezorgdheid over dit incident te uiten."

De infiltratie vond plaats in juni, maar daar kwam OpenAI naar eigen zeggen pas in augustus achter. Albanese zegt teleurgesteld te zijn dat OpenAI er "veel te lang" over heeft gedaan om dit te melden aan de Australische regering. Dat gebeurde namelijk op 10 september. "Onze AI-modellen hebben acties ondernomen die we niet hadden voorzien", zegt OpenAI in een reactie, schrijft Reuters.

Het AI-programma had na de infiltratie ook toegang tot medische gegevens die niet openbaar zijn. Er zijn volgens OpenAI geen redenen om aan te nemen dat gegevens van patiënten zijn ingezien.

Volgens de premier is er op dit moment geen reden om aan te nemen dat het AI-programma ook in andere overheidswebsites is binnengedrongen.

OpenAI ligt onder een vergrootglas sinds het in juli bekendmaakte dat sommige van zijn geavanceerdste AI-modellen waren ingebroken op de systemen van een extern softwarebedrijf. In weer andere gevallen verzonnen AI-modellen van OpenAI informatie of hielden ze informatie achter om resultaten te genereren, zo liet het bedrijf achter ChatGPT eerder deze maand in een blogbericht weten.

Topman Dario Amodei van AI-bedrijf Anthropic riep vorige week op het tempo van de ontwikkeling van AI-modellen te vertragen. Hij kreeg bijval van Altman en SpaceXAI-baas Elon Musk.