Modellen OpenAI kregen toegang tot websites Amerikaanse overheid

De AI-modellen communiceerden met SEC.gov, Investor.gov en openbare data op Census.gov. Dat meldt persbureau Bloomberg op basis van bronnen die bekend zijn met de situatie. De modellen zouden op "ongebruikelijke wijze" te werk zijn gegaan in hun poging betrouwbare informatie te verzamelen. Hetzelfde geldt voor de manier waarop die informatie werd gebruikt en verspreid.

Volgens The New York Times probeerde de kunstmatige intelligentie van OpenAI ook de website van het Amerikaanse ministerie van Onderwijs te hacken om data te verzamelen van de afdeling voor burgerrechten. Die poging mislukte. OpenAI noemt de pogingen van de modellen "onverwacht en zorgwekkend".

Een woordvoerder van OpenAI zegt dat het uitgebreid onderzoek doet naar "verkeerd afgestemde modelactiviteit". Het bedrijf stelt organisaties op de hoogte "wanneer we mogelijke gevolgen voor hun systemen vaststellen". OpenAI verwacht meer organisaties te zullen moeten informeren over de activiteiten van AI-modellen naarmate het onderzoek vordert.

Topman Sam Altman erkent dat er niet altijd snel genoeg duidelijkheid is voor de getroffen partijen. "Het is een balanceeract tussen transparantie en een goed beeld krijgen van de situatie."

Eerder werd al bekend dat zelfstandig werkende systemen van OpenAI een website van de Australische overheid waren binnengedrongen. Daarbij kreeg de AI toegang tot niet-openbare medische informatie.