AI-model Anthropic stuurde valse tip over moordzaak naar Amerikaanse politie

"Mogelijk heb ik informatie over deze zaak. Ik herinner me dat ik rond die periode iemand die aan het signalement voldoet in de buurt van [de straatnaam op de pagina] heb gezien", schreef het model op PhillyUnsolvedMurders.com, de website voor onopgeloste moordzaken in Philadelphia.

Anthropic maakt in een blog over "onbedoelde acties" van AI-modellen melding van het incident. De AI-agent had de opdracht gekregen willekeurige websites te bezoeken en daar voorbeeldopdrachten uit te voeren. Het model had daarbij toestemming gekregen om formulieren in te vullen.

De politie van Philadelphia noemt het "onacceptabel" dat het Anthropic twee maanden kostte om het incident op te merken en te melden. De AI-agent heeft voor zover bekend geen toegang verkregen tot afgeschermde delen van de website. De tip kwam in de spambak terecht en de recherche heeft er niets mee gedaan, zegt de politie.