Dankzij AI kreeg Denemarken te maken met de grootste hack in zijn geschiedenis: de gegevens van 8,8 miljoen Denen werden gestolen

Een „onheilspellende waarschuwing voor een toekomst waarin de meest vitale digitale infrastructuur en beveiligingssystemen van onze samenleving als dominostenen kunnen omvallen door de combinatie van gebrekkige beveiliging en nieuwe technologie”, zag de Deense krant Politiken woensdag. De aanleiding van deze dreigende woorden was een hack in het Deense bevolkingsregister (CPR) die in september plaatsvond, maar waarvan pas vorige week de omvang duidelijk werd: de gegevens van 8,8 miljoen Denen werden buitgemaakt. Daarbij ging het niet alleen om de zes miljoen koppen tellende Deense bevolking, maar ook om gegevens van Denen die in het buitenland wonen, of die al zijn overleden.

Net als Frankrijk en Nederland kreeg Denemarken de afgelopen tijd met meer hacks te maken – deze week nog bij het kadaster – maar deze CPR-hack is de grootste in de Deense geschiedenis. Wat deze inbraak, naast de omvang, onderscheidt van de andere, is dat het hier om een ‘ethische’ hack lijkt te gaan. Politiken kreeg contact met de hacker – zonder dat de krant achter diens identiteit kwam – die zei dat de aanval moest aantonen hoe slecht de Deense overheid haar digitale veiligheid op orde heeft, terwijl diezelfde overheid enorm veel data verzamelt. De hacker was eenvoudig binnengekomen bij CPR via het Deense IT-bedrijf Pays, dat toegang biedt tot meerdere overheidsinstanties. Drie medewerkers van Pays hadden het wachtwoord ‘123456’, waarna de hacker via een AI-model heel snel de data van miljoenen Denen kon verzamelen.

De zaak roept niet alleen de vraag op welke rol kunstmatige intelligentie [AI] in de toekomst kan spelen bij hacks, maar vooral wat er gebeurt wanneer AI alle gegevens uit verschillende data met elkaar gaat verbinden. „Kunstmatige intelligentie veroorzaakt het probleem niet, maar AI kan de gevolgen wel verergeren”, aldus een opiniestuk in Politiken.

‘Iedereen heeft toegang tot die data’

Dat hacks steeds vaker via AI zullen plaatsvinden, is onontkoombaar denkt Thomas Ploug, een hoogleraar Data- en AI-ethiek aan de Universiteit van Aalborg in Kopenhagen. De hack en het AI-gebruik waardoor de hack zo grootschalig is, moet voor politici een wake-up call zijn om maatregelen te gaan nemen. Al is dat echter niet eenvoudig, omdat de kern volgens Ploug ergens anders ligt, zegt hij tegen NRC. „De CPR is door veel bedrijven in te zien, ongeacht of je nu een televisie koopt of als arts de gegevens opvraagt. Dat zo veel mensen toegang hebben, is eigenlijk het grotere probleem waar te weinig over wordt nagedacht. De hacker kon nu met AI binnen enkele dagen 8,8 miljoen gegevens opvragen. Je zou dan kunnen zeggen: stel een limiet aan hoeveel data je in één keer kan opvragen. Maar daarin ligt niet de oplossing, want het uiteindelijke resultaat is hetzelfde, alleen duurt het wat langer.”

Het probleem ligt ook in de grote hoeveelheid gegevens die worden verzameld, opgeslagen en gebruikt. Ploug legt uit dat de overheid dit al decennialang doet, vaak zonder expliciete toestemming. Gevoelige gegevens worden nu ingezet voor het trainen van AI-modellen, een ontwikkeling die wordt aangestuurd door bedrijven en particuliere stichtingen. Als voorbeeld wijst hij op de recente koppeling tussen het private bedrijf achter de supercomputer Gefion en de genetische gegevens die worden beheerd door het Deense Nationale Genoomcentrum. Beide worden grotendeels gefinancierd door de Novo Nordisk Foundation, die tevens zeggenschap heeft over het farmaceutische bedrijf Novo Nordisk. „Het bedrijf achter Gefion draait verlies en zoekt nu naar meer gebruikers voor de computer. Een supercomputer met veel gebruikers, gekoppeld aan de nationale genoomdatabase, vormt in theorie een sterke businesscase. Maar het maakt het uiterst lastig om te controleren waar de gegevens – en de modellen die daarmee zijn getraind – precies voor worden gebruikt.”

Hielprikdata

In 2024 ontstond er ophef toen bleek dat genetische gegevens, afkomstig uit hielpriktests bij baby’s zonder toestemming van de ouders waren gebruikt en die later werden gebruikt door onderzoekers die wilden weten of genen het stemgedrag kunnen voorspellen van mensen met psychische diagnoses. Als AI-modellen daarbij het uiteindelijke doel worden, neemt het risico op gegevensverlies toe. Ploug legt uit: „AI-modellen kunnen worden ’terug-ontwikkeld’ [reverse engineered], waarbij met voldoende verzoeken een model kan worden gekopieerd en gevoelige informatie kan worden achterhaald over de personen op wie het model is getraind. Dit was al aangetoond bij de genetische databases. In de toekomst kan de methode die bij de ‘CPR-hack’ werd gebruikt, worden ingezet om toegang te krijgen tot nog gevoeliger gegevens.”

Volgens Ploug is daarom toestemming alleen onvoldoende om hacks zoals die bij het CPR te voorkomen. Toegang moet worden beperkt en gemonitord, en de overheid moet transparant zijn over welke gegevens worden opgeslagen en wie daar toegang toe krijgt. „Omdat Denemarken zo ‘bedreven’ is in het opslaan en verzamelen van gegevens – waarbij ook onderzoekers en bedrijven relatief eenvoudig toegang krijgen – is het land extra kwetsbaar voor identiteitsdiefstal.”

De onheilspellende waarschuwing voor de toekomst zit voor Ploug dan ook niet zozeer in AI-gebruik – of je gegevens nu handmatig of met een computermodel verzamelt, is wat hem betreft niet de voornaamste kwestie – maar in de ‘privacy-vermoeidheid’ die je steeds meer ziet. „Er vinden dagelijks zo ontzettend veel inbreuken op privacy plaats dat steeds meer mensen de strijd opgeven om daar nog vragen bij te stellen. Ik begrijp dat, maar denk ook dat mensen zich onvoldoende realiseren dat er een grens is die we niet uit het oog mogen verliezen. De combinatie van al je gegevens die je afstaat, de overheid die data verzamelt en de vele bedrijven en onderzoekers die toegang hebben tot die data leiden tot een samenleving die in hoge mate onwenselijk is. Dat is waar het over moet gaan in beleid tegen AI en hacks.”

Kies NRC als voorkeursbron