Chatcontrol: de EU wil dat de Amerikanen ons met AI bespioneren in chatprogramma's

Update: https://chatcontrole.nl/nieuws/stemronde-chatcontrole-geschrapt/

Veel EU-staten pleiten er onder leiding van Denemarken (weer) voor om chatprogramma’s als WhatsApp, Signal, etc te dwingen om ons op onze mobieltjes te bespioneren. Onder het mom van bescherming van onze kinderen moeten deze apps al onze foto’s en links inspecteren met behulp van AI. Als de AI ook maar enige “twijfel” heeft of iets kinderpornografie zou kunnen zijn, worden je foto, locatie, telefoonnummer en andere gegevens doorgestuurd naar Europol en de lokale politie.

Deze AI moet worden gebouwd door WhatsApp, Meta/Facebook, etc. zodat zij ons namens de EU kunnen monitoren (!). De ontwerptekst zegt dat alles moet worden gemeld, tenzij de melding “manifest ongegrond” is – een zeer lage drempel. Let op: alle foto’s zullen worden gescand, er is geen enkele specifieke verdenking nodig. Zelfs als de politie bepaalt dat je foto “legaal” is, blijft er toch een kopie in de database, omdat deze later misschien nog van pas komt. Wie weet.

Chatcontrol 2.0 verplicht op elke smartphone

Op 11 mei 2022 presenteerde de Europese Commissie een voorstel dat chatcontrole – het doorzoeken van communicatie – verplicht zou stellen voor alle email- en berichtendienstaanbieders en zelfs zou gelden voor tot nu toe veilig eind-tot-eind versleutelde communicatiediensten. Momenteel is er een regeling die aanbieders toestaat communicatie vrijwillig te scannen (de zogenaamde ‘Chatcontrole 1.0’). Tot nu toe passen alleen enkele niet-versleutelde Amerikaanse communicatiediensten, zoals GMail, Facebook/Instagram Messenger, Skype, Snapchat, iCloud-email en Xbox, vrijwillig chatcontrole toe (meer details hier).

Einde van privacy bij digitale correspondentie

De Europese Commissie stelt voor om aanbieders van communicatiediensten te verplichten om alle privéchats, berichten en emails automatisch te doorzoeken op verdachte inhoud – in het algemeen en zonder onderscheid. Het doel is, zoals men zegt, om CSAM (Child Sexual Abuse Material) te vervolgen. Het gevolg is: massasurveillance door middel van volledig geautomatiseerde gelijktijdige surveillance van berichten en chats, en het einde van het privékarakter van digitale correspondentie. En dat allemaal op ons eigen mobieltje. EU-lidstaten discussiëren hier al jaren over, maar bereikten geen akkoord. In die tijd zijn allerlei aanpassingen aan het voorstel gedaan en compromissen bedacht, maar het lukte alsnog niet om voldoende lidstaten achter het plan te krijgen. Het nieuwste voorstel kan plotseling op veel meer steun rekenen.

Amerikaanse AI analyseert alles, namens de EU

Wat betekent het als deze verordening er door komt? Lees het hier: Chatcontrole: het kindermisbruik-scanvoorstel van de EU | Chatcontrole! WhatsApp zal je gaan vragen toestemming te geven om al je foto’s en links door hun AI te laten analyseren, namens de EU. Als je die toestemming niet geeft, verlies je de mogelijkheid om afbeeldingen en links te versturen. Signal heeft aangegeven de EU te zullen verlaten als ze gedwongen worden om chats te scannen. We krijgen zo een gigantisch surveillancesysteem, gerund door Amerikanen (!). Navrant is, dat de eigen politie, leger en veiligheidsdiensten zijn uitgezonderd van deze nieuwe wet!

EU Besluitvorming

Verontrustend is dat het er op lijkt dat de Duitse regering dit voorstel gaat steunen. Het kan dus zomaar wet worden. Op de afbeelding een overzicht van landen die voor of tegen zijn. Een aantal regeringen moet nog beslissen:

De positie van de Nederlandse regering is dat dit scannen met AI onacceptabel is, en dat is op 21 juli 2025 nog bevestigd.

Het voorstel kan al in oktober 2025 worden aangenomen. Dat is de ambitie van de huidige EU-voorzitter Denemarken, dat dit onderwerp prominent op de agenda zette. De Denen zijn zelf groot voorstander van het voorstel.

Ernstige inbreuk op het recht van privacy

Het scannen van de chats gebeurt bij alle gebruikers, dus vooral bij heel veel mensen die nergens van verdacht worden. De technologie kan gemakkelijk ook voor andere doeleinden worden ingezet, bijvoorbeeld voor het aanpakken van politieke dissidenten of minderheidsgroepen. Technologie-expert en voormalig AIVD-toezichthouder Bert Hubert deelt al die zorgen. “Je maakt een infrastructuur waarmee je communicatie kunt controleren en die wordt vroeg of laat ook voor andere doeleinden ingezet. Dat is in de geschiedenis van opsporing nog nooit anders geweest.”

Gaat dit helpen tegen kinderporno en kindermisbruik?

De kinderrechtenorganisatie Defence for Children is een warm voorstander van deze wet en is van mening dat er voldoende waarborgen in de voorgestelde wet zijn ingebouwd, zoals toetsing door een rechter en tijdelijke detectiebevelen, om misbruik van de bevoegdheden te voorkomen. Politiediensten en experts in de bestrijding van kinderporno zeggen dat zij nu al overspoeld worden met meldingen. Bert Hubert geeft aan dat criminelen in de kinderpormo vaak gebruikmaken van andere kanalen dan de grote publieke chatapps. “De maatregel raakt dus vooral gewone burgers. Bovendien: als je een faciliteit bouwt die alles kan zien, wordt die een doelwit voor hackers. Je creëert een goudmijn voor wie kwaad wil.” Hij vindt het voorstel bovendien technisch onnodig en onveilig. “Politiediensten kampen al met enorme achterstanden. Als je miljarden berichten laat scannen, komen er vooral veel extra meldingen bij die ze toch niet kunnen onderzoeken. Zet dat geld en die capaciteit liever in op goed recherchewerk.” Robbert Hoving, directeur van het nationale expertisecentrum voor online misbruik Off Limits, vreest dat het de deur opent naar misbruik van surveillance-instrumenten, ook voor andere zaken dan waar het voor bedoeld is.

Wat kun je doen?

Er is een petitie die je kunt ondertekenen: Children deserve a secure and safe internet | EDRi CiviCRM. Klik op de afbeelding rechts om naar de petitie te gaan.

Voer de druk op onderhandelaars op: Chatcontrole: het kindermisbruik-scanvoorstel van de EU | Chatcontrole (je vindt hier ook de contactgegevens van de parlementsleden). De officiële naam van de geplande verplichte chatcontrolewet is ‘Voorstel voor een verordening houdende regels ter voorkoming en bestrijding van seksueel misbruik van kinderen’. In het Engels: de CSAR, Child Sexual Abuse Regulation.

Genereer aandacht! Er is tot nu toe weinig publiciteit geweest over deze kwestie. Praat erover, schrijf naar kranten, schrijf berichten op social media: Gebruik de hashtags #ChatControle en #Briefgeheim (of voor het Engels #ChatControl en #SecrecyOfCorrespondence).

Vraag je e-mail-, berichten- en chatdienstenaanbieders of ze over het algemeen privéberichten controleren op verdachte inhoud, of van plan zijn dit te doen.

Aanvullende informatie en inhoudelijke argumenten kun je hier vinden: Chatcontrole: het kindermisbruik-scanvoorstel van de EU | Chatcontrole.

De EU is nog niet klaar

De EU heeft een heel programma opgetuigd om in bredere zin politie meer toegang te geven tot onze communicatie, onder de paraplu van de ProtectEU strategie. Er zijn allerlei nieuwe plannen in de maak om het afluisteren van specifieke berichten mogelijk te maken en om de end to end encryptie hierbij uit te kunnen schakelen. We moeten dus waakzaam blijven!