Vanaf nu moeten AI-bedrijven in de VS ‘veiligheidsincidenten’ verplicht melden
Uit een grootschalige evaluatie van Anthropic bleek afgelopen week dat het AI-model Claude op verschillende manieren ‘onbedoelde acties’ heeft uitgevoerd bij andere organisaties. Het bedrijf meldt niet om welke instellingen het gaat, maar zegt wel dat ook websites van de Amerikaanse overheid zijn getroffen. Anthropic heeft alle betrokken instanties geïnformeerd.
Axios kreeg een verklaring over de nieuwe regels van de ‘Super Intelligence Force’, die AI-ontwikkeling stimuleert en tegelijkertijd de nationale veiligheid moet bewaken, in handen. Daarin staat dat AI-bedrijven ‘incidenten met modellen onmiddellijk openbaar moeten maken en vervolgens snelle, doortastende maatregelen moeten nemen om alle schade te herstellen.’ Ook moeten de bedrijven ‘samenwerken met de getroffen systemen om ervoor te zorgen dat soortgelijke incidenten zich niet meer voordoen.’
Het nieuwe meldings- en herstelproces is volgens de verklaring ‘niet optioneel’, maar een ‘cruciale verplichting op het gebied van de nationale veiligheid.’ Tegelijkertijd is er niets bekendgemaakt over mogelijke sancties of andere handhavingsmechanismen die in werking zouden treden als bedrijven zich niet aan de nieuwe regels houden.
Foutieve visumaanvragen
Het nieuws volgt op nieuwe AI-incidenten. Donderdag informeerde Anthropic het Amerikaanse ministerie van Buitenlandse Zaken dat zijn testmodellen afgelopen zomer twintig visumaanvragen hadden ingevuld via een openbaar formulier op de website. Daar was het AI-bedrijf eind vorige maand al achter gekomen. De aanvragen, die overigens niet voor immigratie waren, zijn niet in behandeling genomen. Ook zijn de systemen volgens een bron bij het ministerie niet gecompromitteerd of gehackt.
Anthropic concludeert in het evaluatierapport dat de impact van de onbedoelde activiteiten ‘zeer minimaal’ is gebleven. Daar is de politie van Philadelphia (PPD), die ook getroffen werd, het niet mee eens. De organisatie liet vanochtend weten dat Claude, de AI-assistent van Anthropic, een neptip over een moordzaak had ingevuld op de website PhillyUnsolvedMurders.com. De PPD spreekt van een ‘serieus’ incident. Er zijn geen aanwijzingen dat het AI-model ook toegang verkreeg tot het politiesysteem of data kon inzien.
Oproep om regelgeving
Eind vorige maand werd bekend dat AI-bedrijven en veiligheidsonderzoekers tienduizenden incidenten onderzochten waarbij AI-modellen problematische acties hadden ondernomen. Anthropic-CEO Dario Amodei riep eerder die maand al op tot meer regelgeving rondom AI-ontwikkeling om de veiligheid van kunstmatige intelligentie te waarborgen. Daarna kwam een grote discussie op gang over de gevaren rondom AI.
Ondanks de wereldwijde zorgen over de impact van AI pleitte de Amerikaanse president Donald Trump tot voor kort nog voor snellere ontwikkeling en uitsluitend zelfregulering door AI-bedrijven. Op die manier wilde Trump de AI-race winnen van China. In september noemde hij de angst voor AI nog een ‘hoax’, maar door de opeenstapeling van incidenten en aanvallen op de eigen systemen, lijkt ook Washington nu het nut van regulering in te zien.