Inlichtingendiensten gebruiken steeds vaker AI, maar de handleiding voor wat wel en niet mag ontbreekt

De inlichtingendiensten AIVD en MIVD maken in toenemende mate gebruik van kunstmatige intelligentie (AI). Maar de vangrails om ervoor te zorgen dat dat op verantwoorde wijze gebeurt, ontbreken, concludeert de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten (CTIVD) in een maandag gepubliceerd rapport.

Uit gesprekken die de toezichthouder in het kader van het „verkennende” onderzoek voerde met medewerkers, blijkt dat de diensten onvoldoende overzicht hebben van welke AI-tools gebruikt worden. Ook zijn medewerkers zich niet altijd bewust van de risico’s.

Het is „niet gek” dat de inlichtingendiensten AI-systemen inzetten om „de grote hoeveelheden data die er zijn te ontsluiten en te interpreteren”, benadrukt Erlinde Kuijpers, secretaris-directeur van de CTIVD. „Tegelijkertijd vinden we dat de manier waarop dat gebeurt op dit moment niet goed in control is.”

De diensten ontwikkelen zelf systemen die kunnen worden ingezet bij het vergaren van inlichtingen – vanwege de vertrouwelijke aard kan Kuijpers daarover niet in detail treden. Maar medewerkers kunnen volgens de commissie ook op eigen houtje AI-tools binnenhalen.

Reden tot zorg, zegt Kuijpers. „Het kan zomaar zijn dat een model een bepaald persoon aanwijst als doelwit. Op dat moment ben jij ineens in beeld van de dienst en kan er worden nagedacht: moeten we verder onderzoek naar jou doen, met een tap of een hack? Je wilt wel zeker weten dat dat soort keuzes goed tot stand komen.”

Lees ook

Geheime diensten krijgen misschien meer bevoegdheden. Wat is het risico? ‘Ik vrees dat je de rode loper uitrolt voor autocraten’

Inlichtingenwet

De onlangs door het kabinet gepresenteerde nieuwe inlichtingenwet verruimt de kaders waarbinnen de diensten mogen opereren stevig. Kuijpers: „De grote verandering is dat de wet onvoldoende waarborgen voorschrijft voor het gebruik van AI.”

Het wetsvoorstel verlaagt de drempel om met behulp van kunstmatige intelligentie zogenaamde bulkdatasets te analyseren: grootschalige verzamelingen persoonsgegevens van potentieel miljoenen mensen. Daarbij moet worden gedacht aan privacygevoelige informatie, zoals namen, adressen en reisbewegingen.

Kuijpers noemt de grootschalige hack bij Odido. De data die cybercriminelen buitmaakten, zouden AIVD en MIVD op de zwarte markt kunnen vergaren om te gebruiken bij onderzoeken of te delen met buitenlandse inlichtingendiensten.

„Dat”, zegt Kuijpers, „zijn heel veel persoonsgegevens van mensen op wie geen verdenking rust. Met de nieuwe wet zouden de diensten die data veel breder mogen gebruiken, zolang het nog niet om een formeel inlichtingenproces gaat. Dan zijn er dus allerlei medewerkers met jouw of mijn gegevens bezig.”

De CTIVD en Toetsingscommissie Inzet Bevoegdheden (TIB), de andere waakhond, uitten stevige kritiek op het wetsvoorstel, mede omdat een verplichte toetsing bij een hack of afluisterverzoek in de beoogde nieuwe wet wordt geschrapt.

Ethische principes

Hoewel de diensten „duidelijke stappen zetten en er aantoonbaar aandacht is” voor de risico’s van AI, loopt de regelgeving achter de feiten aan, volgens het rapport. De commissie acht het „aannemelijk” dat het AI-gebruik alleen maar gaat toenemen. „Het is daarom van belang te voorkomen dat de reeds opgebouwde achterstand verder oploopt.”

Kuijpers pleit voor „stevige kaders” die duidelijk moeten maken wat wel en niet kan en noemt als voorbeeld de Europese AI-verordening. „We willen dat er bepaalde ethische principes in de wet worden voorgeschreven: dit zijn de vangrails waarbinnen de systemen moeten blijven.”

Lees ook

Immigratiedienst IND laat tweehonderd medewerkers met AI werken zonder dat te melden