Kindermisbruik De Deense EU-voorzitter probeert een voorstel aangenomen te krijgen dat Europa al jaren verdeelt. Nu is de kans groot dat de ‘ChatControl-wet’ er alsnog door komt, want de Duitse positie kan gaan schuiven.
De bezwaren tegen het scannen van alle beelden die mensen op hun telefoon, tablet of computer hebben staan zijn groot; de inhoud van berichten scannen is een forse inbreuk op de privacy en het briefgeheim.
Europa staat voor een prangend privacyvraagstuk: heiligt het doel de middelen als het gaat om de bestrijding van kindermisbruik? Grote woorden domineren het debat. Massa-surveillance, kinderporno, Tweede Wereldoorlog-vergelijkingen.
De Deense regering, de huidige EU-voorzitter, wil op 14 oktober een voorstel in stemming brengen in de ministersvergadering van Europese regeringen, de Raad van de Europese Unie. Over dat voorstel wordt al vier jaar gedebatteerd. Het heeft de online bijnaam ‘ChatControl’ gekregen. Het komt erop neer dat berichtendiensten zoals WhatsApp, Signal, Telegram, SnapChat en Discord afbeeldingen die mensen elkaar sturen vooraf moeten controleren, om te voorkomen dat verboden afbeeldingen worden verspreid.
De EU is hierover al jaren verdeeld. Iedereen wil iets doen tegen kindermisbruik en de gemakkelijke verspreiding van beelden via versleutelde berichten. Maar de bezwaren tegen het scannen van alle beelden die mensen op hun telefoon, tablet of computer hebben staan zijn groot. De inhoud van berichten scannen is een forse inbreuk op de privacy en het briefgeheim. Het verslechtert de cyberveiligheid. Zoals beveiligingsexperts zeggen: je kunt geen achterdeurtje in software bouwen waardoor alleen de goeden naar binnen kunnen. En het kan ertoe leiden dat mensen in databases belanden met het label ‘verdacht van het bezit van kinderporno’, zonder dat ze iets hebben gedaan.
De Nederlandse regering is daarom al jaren tegen. Nederland vormt tot nu toe samen met onder meer Finland, Roemenië, Estland, Tsjechië, Griekenland en Duitsland een ‘blokkerende minderheid’. Op 2 oktober bevestigde demissionair minister van Justitie en Veiligheid Foort van Oosten (VVD) in een commissieoverleg in de Tweede Kamer dat Nederland tegen zal blijven stemmen. Al voegt hij ietwat gelaten toe: „Maar ik vrees dat wij in de ogen van de lidstaten niet het beste voorbeeld zijn in de bestrijding van kinderporno.” Nederland kent de grootste hostingsector als het gaat om kinderporno; 60 procent van alle Europese kinderporno die wordt gevonden na een melding, staat op Nederlandse servers.
Duitsland is ook al jaren tegen het scannen van berichten. Dat komt onder meer doordat in Duitsland groot belang wordt gehecht aan privacy. Sinds de Tweede Wereldoorlog is de angst voor een alwetende overheid groot. Maar recent is de Duitse positie minder vastomlijnd.
EU-voorzitter Denemarken is vastbesloten de discussie te beslechten. Online veiligheid is een van de hoofdthema’s tijdens het Deense voorzitterschap dit halfjaar. Denemarken heeft een aantal wijzigingen aangebracht in de voorliggende tekst en daar lijkt de Duitse regering gevoelig voor te zijn. Er zal bijvoorbeeld alleen op beelden en url's worden gescand, niet op tekst. Uit uitspraken blijkt dat er ruimte is voor een politiek compromis. Daarmee verschuift de balans binnen de EU en zou de blokkerende minderheid weg zijn.
In de regering is de conservatieve CDU het grootste. Dat is ook de partij van Ursula von der Leyen, die in Duitsland minister van Familiezaken is geweest. Von der Leyen spreekt zich tegenwoordig vaker profilerend uit over de online bescherming van kinderen. Tijdens een toespraak voor de Verenigde Naties in New York in september benadrukte ze dat ze als moeder van zeven kinderen en oma van vijf kleinkinderen weet waarover ze het heeft. Ze is onder meer voor het invoeren van een digitale minimumleeftijd voor het gebruik van bepaalde sociale media, zoals ook voor alcohol een minimumleeftijd geldt. „Dat is gewoon gezond verstand.”
Het zijn dat soort politieke signalen van machthebbers die privacy-activisten angst aanjagen. Op 3 oktober zette berichtendienst Signal een verklaring online van de voorzitter van de Signal-stichting, Meredith Whittaker. Daarin deed ze een dringend beroep op Duitsland en gebruikte ze grote woorden. „We mogen de geschiedenis zich niet laten herhalen, dit keer met grotere databases en veel, veel meer gevoelige data.” Whittaker herhaalt in de brief – „voor privacy, tegen massasurveillance” – dat Signal zich uit Europa terugtrekt als de wet wordt aangenomen.
De tekst van het EU-voorstel is lang (tweehonderd pagina’s) en complex. Zowel app-stores als hostingbedrijven en berichtendiensten krijgen verplichtingen om er alles aan te doen om de verspreiding van misbruikbeelden tegen te gaan. Als blijkt dat dat ze niet lukt kunnen de bedrijven een ‘detectiebevel’ krijgen. En om daaraan te kunnen voldoen moeten ze vooraf aanpassingen aan hun software doen die ervoor zorgen dat alle (bewegende) beelden en linkjes kunnen worden gescand. Dat is volgens de bedrijven, maar ook volgens bijvoorbeeld Amnesty en digitale-privacyorganisaties, onverenigbaar met het digitale briefgeheim en met sterke beveiliging.
In het wetsvoorstel is geprobeerd de versleuteling van berichten te behouden. De scan op wat iemand wil versturen moet daarom gebeuren op het apparaat van de zender vóór het versturen. Client-side scanning wordt dat genoemd. De afbeeldingen worden geautomatiseerd vergeleken met een database vol bekend misbruikmateriaal en een AI-filter analyseert of er nog onbekende plaatjes van seksueel misbruik bij zitten of teksten van digitale kinderlokkers (grooming).
Als het algoritme oordeelt dat dit aan de orde lijkt worden de gegevens van de gebruiker (de foto, locatie en bijvoorbeeld het telefoonnummer) doorgestuurd naar een nieuwe EU-instantie en vervolgens naar Europol en de lokale politie. Het scannen kan er gemakkelijk toe leiden dat ook veel onschuldige beelden niet kunnen worden verstuurd en betrokken gebruikers van de chatdiensten een kruisje achter hun naam krijgen in een database.
Nederlandse tegenstanders voelen zich gesteund door de AIVD, die vreest dat rommelen met deze digitale infrastructuur uiteindelijk leidt tot slechtere cyberveiligheid en verminderde ‘digitale weerbaarheid’. Ook de Nederlandse stichting Off Limits, die een grote rol speelt in de bestrijding van kindermisbruik, is tegen de wet. Directeur Robbert Hoving noemt ChatControl de „nucleaire optie”, terwijl nog lang niet alle andere mogelijkheden in de strijd tegen kindermisbruik zijn benut, zoals het inrichten van goede meldpunten in alle EU-landen, preventiemaatregelen en het wegnemen van obstakels bij Europese samenwerking in de opsporing. Hoving noemt het een „glijdende schaal”. „Je creëert iets in handen van de overheid waarmee je encryptie kunt openbreken.”
In Denemarken is men minder skeptisch. Burgers zijn geneigd opsporingsdiensten grote bevoegdheden te gunnen om af te luisteren. Irina Shklovski, hoogleraar communicatie en computergebruik aan de Universiteit van Kopenhagen, schrijft dit toe aan het „overwegend grote vertrouwen” in de Deense overheid, die zich bevoogdend opstelt in de digitale wereld. Denemarken deelde dan ook al op dag één van het voorzitterschap van de Raad van de Europese Unie een nieuw compromisvoorstel voor de verordening met de andere lidstaten.
Binnen de EU zijn onder meer Zweden en Frankrijk voorstander. Ook dit zijn landen met relatief veel vertrouwen in de overheid op het vlak van techniek.
Als het voorstel op 14 oktober wordt aangenomen in de Europese Raad volgen nog onderhandelingen met het Europees Parlement.
Shklovski kijkt „in verschrikking” toe hoe de ChatControl-wet wordt gepusht. Het gaat volgens haar niet alleen om de inbreuk van privacy en een daarmee gepaard gaande gevoeligheid voor cyberaanvallen, het opent ook de deur naar „totale controle”. Ze stelt: „Regeringen en hun oriëntatie veranderen. Zoals mijn Duitse ethiekcollega Judith Simon het scherp verwoordt: we moeten inzetten op fascisme-bestendige technologie, want stel je voor dat iemand als Elon Musk de gouden sleutel krijgt om dingen van binnenuit in te zien of te vernietigen? Dat is geen fictief scenario.”
Hoogleraar Shklovski, aan de telefoon vanaf een AI-conferentie in Oslo: „We kunnen detectie niet aan AI overlaten. Kunstmatige intelligentie is, hoe complex ook, als een golem: een wezen met veel macht, maar weinig wijsheid.” AI heeft volgens haar geen gevoel voor sociale context, menselijke gedragingen en evenredigheid. „Laten we niet vergeten dat we veel voorbeelden kennen van waar het is misgegaan, doordat techbedrijven al op grote schaal visuele content scannen, ook in Europa.” Ze wijst erop hoe Google tijdens de coronapandemie talloze mailaccounts blokkeerde, doordat foto’s van kinderen die ouders naar dokters doorstuurden, foutief werden gesignaleerd als ‘pornografisch’.
Wat de situatie volgens justitieminister Van Oosten „ingewikkeld” maakt, is dat iedereen het eens is over het doel van de verordening – het verspreiden van kinderporno tegengaan – maar er op dit moment „geen technisch alternatief” bestaat voor het Deense voorstel. Hoogleraar Shklovski beaamt dat de technische haalbaarheid problematisch is. „Neem het Verenigd Koninkrijk: daar is in 2023 de Online Safety Act met een vergelijkbare premisse aangenomen, maar wordt er tot op heden niet gecontroleerd omdat dit technisch haaks staat op het idee van versleuteling. Maar het controleren is intussen wel wettelijk verankerd. Daarmee staat de deur gevaarlijk op een kier.”
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
De beste ideeën over de planetaire verschuivingen in AI, ecologie en geopolitiek
Source: NRC