Het nieuws dat Nederlandse politiemedewerkers gebruik zouden hebben gemaakt van omstreden software voor gezichtsherkenning zorgt al anderhalf jaar voor politieke deining. Het lukt demissionair minister Grapperhaus niet om helderheid te scheppen.

Dit stuk in 1 minuut

  • In 2020 bleek dat verscheidene Nederlandse politiemedewerkers gebruik maakten van gezichtsherkenningssoftware van Clearview AI. Deze software is gebaseerd op illegaal verkregen foto’s die onwetende internetgebruikers op onder meer Facebook, Twitter, Instagram en Google hebben gepost.
  • Clearview AI is ook om een andere reden dubieus: de maker ervan heeft nauwe banden met alt-right en neo-nazi’s. Clearview wordt gesteund door miljardair Peter Thiel, de oprichter van de  softwaremaker Palantir, dat op zijn beurt omstreden is omdat het allerlei zeer privacy-gevoelige bestanden aan elkaar knoopt.
  • In antwoord op Kamervragen ontkende minister Grapperhaus van Justitie en Veiligheid dat de software door de Nederlandse politie wordt gebruikt. Uit onderzoek blijkt echter dat de overheid nog steeds niet kan uitsluiten dat politie, maar ook gemeenten, gebruik maakten van Clearview.
  • Gezichtsherkenningssoftware mag daarnaast niet zomaar worden gebruikt: daarvoor zijn expliciete waarborgen vereist.
  • Nadat demissionair minister Dekker van Rechtsbescherming in september Kamervragen over het gebruik van gezichtsherkenningssoftware beantwoordde, kwam zijn collega Grapperhaus daar in oktober op terug. Hij wilde een zin ‘herformuleren’. Die herformulering roept nieuwe (Kamer)vragen op.

Lees verder

Wanneer minister Ferd Grapperhaus van Justitie en Veiligheid in april 2020 de Kamervragen van Kathalijne Buitenweg (GroenLinks) beantwoordt, is hij stellig. Ja, hij kent de berichten over Clearview AI, een bedrijf dat gezichtsherkenningstechnologie ontwikkelt. Ja, volgens nieuwssite BuzzFeed News zou die ook door Nederlandse politiemedewerkers zijn gebruikt. En nee, dat is ‘niet wenselijk’. 

Al na de eerste berichten daarover heeft de minister zich laten informeren, zo deelt hij verder mee. Toen bleek dat de politie ‘niet centraal is benaderd’ door Clearview AI, niet op de hoogte is van contacten met dat bedrijf en er geen producten heeft afgenomen. Case closed.

Althans, dat zou je denken. Maar anderhalf jaar na die eerste Kamervragen is nog steeds onduidelijk of de software van Clearview AI wel of niet in Nederland wordt gebruikt. De Nationale Politie mag dan volgens de minister geen contacten hebben met het bedrijf, volledig uitsluiten dat de software wordt gebruikt kan hij niet – en de politie evenmin.

Een grootschalige inventarisatie van het gebruik van gezichtsherkenningstechnologieën door gemeenten, waarbij ook wordt gekeken naar het gebruik van Clearview, loopt ook nog eens vertraging op vanwege het coronavirus en doordat niet duidelijk is onder welk departement het onderwerp valt. Want is dat nu Justitie en Veiligheid of Binnenlandse Zaken en Koninkrijksrelaties?

Minister Dekker (Rechtsbescherming) kan niet uitsluiten dat individuele politieagenten Clearview hebben gebruikt

In september van dit jaar beantwoordt demissionair minister Dekker van Rechtsbescherming nieuwe Kamervragen over het gebruik van de gezichtsherkenningssoftware. Hij kan niet uitsluiten dat individuele politieagenten Clearview hebben gebruikt, maar volgens een interne richtlijn van de politie mag dat niet. ‘Real-time gezichtsherkenning’ wordt op dit moment in Nederland niet gedaan, stelt Dekker. Twee weken later komt zijn collega Grapperhaus echter met een ‘herformulering’ van die laatste zinsnede: voor het gebruik van realtime gezichtsherkenning in de publieke ruimte is geen toestemming gegeven.

Documenten die – na maandenlange vertraging – na een beroep op de Wet openbaarheid van bestuur (Wob) worden vrijgegeven, schetsen bovendien een beeld van ambtenaren die gezichtsherkenningstechnologie met interesse volgen, maar niet goed raad weten met het onderwerp. Wat is er aan de hand?

Naam en rugnummer

Een app die in een handomdraai winkeldiefstallen, identiteitsdiefstal, creditcardfraude, moorden en kindermisbruik oplost: het moet opsporingsambtenaren als muziek in de oren klinken. Want cold cases en verdenkingen die niet sluitend zijn te krijgen, zijn even onbevredigend als onrechtvaardig. 

Geen wonder dus dat ze opveren als Clearview een oplossing lijkt te hebben. Het Amerikaanse bedrijf ontwikkelde een app die naar eigen zeggen in luttele seconden een naam aan de gezichten van verdachten kan koppelen.

Politieagenten en -onderzoekers zijn zo enthousiast dat ze de software graag proberen. Met succes. Meerdere keren weten ze verdachten op te sporen aan de hand van een foto. Dat gaat heel simpel: nadat ze een foto hebben geüpload, toont de Clearview-app overeenkomsten, inclusief linkjes naar de herkomst van die foto’s. Gebruikers van de software oogsten niet alleen een naam en rugnummer, maar krijgen ook inzicht in het sociale netwerk, hobby’s, activiteiten en andere persoonlijke gegevens van de verdachten.

De successen plaatsen Clearview volop in de schijnwerpers. Slechts enkele jaren na de oprichting staat het jonge bedrijf bij overheden, bedrijven en particulieren over de hele wereld op de kaart.

Onder de belangstellenden zitten ook Nederlandse politiemedewerkers, zo blijkt wanneer Buzzfeed News in februari 2020 de hand weet te leggen op interne documenten van Clearview. Maar in Nederland is het gebruik van gezichtsherkenningssoftware niet zomaar toegestaan. En Clearview zelf is op z’n minst ‘omstreden’ te noemen.

Opsporing met gejatte foto’s

Om dat te begrijpen, moeten we terug naar 19 januari 2020. Die dag publiceert The New York Times een profiel van een ‘geheimzinnig bedrijf dat een einde kan maken aan onze opvatting van privacy’. Het gaat om Clearview AI, een jonge start-up onder leiding van de excentrieke Australiër Hoan Ton-That. Hij wist miljarden foto’s met kunstmatige intelligentie zo aan elkaar te knopen dat je razendsnel een naam bij een gezicht kunt vinden. 

De herkomst van die foto’s is echter dubieus. Clearview schraapte ze bij elkaar van tal van websites, waar gebruikers ze te goeder trouw deelden. Beschikte het bedrijf begin 2020 volgens Ton-That over 3 miljard foto’s, die onder meer van Facebook, Twitter, Instagram en Google zijn geplukt, in april 2021 is dat aantal volgens de Australiër al opgelopen tot 10 miljard. 

Journalisten vonden ook foto’s die ze privé hadden gedeeld in Clearviews databank terug

Die foto’s zijn lang niet allemaal openbaar gedeeld, zo ontdekten journalisten van CNN. Toen zij de software in 2020 op de pijnbank legden, troffen ze ook foto’s aan die ze privé hadden gedeeld. Het bevestigde het beeld dat niets veilig lijkt voor Clearviews verzameldrang.

De grote tech-bedrijven zijn not amused wanneer ze ontdekken hoe Clearview te werk gaat. Twitter, Google en LinkedIn sturen het bedrijf een brief waarin ze het sommeren om op te houden met de dataverzameling op hun platformen. Clearview houdt zich echter van de domme. Een advocaat die voor het bedrijf bij de Amerikaanse overheid lobbyt, beweert bij hoog en bij laag dat het ‘schrapen’ van foto’s op internet volgens de Amerikaanse wetgeving is toegestaan. Het bedrijf wil bovendien ‘alleen maar’ een wereldwijd systeem voor biometrische identificatie ontwikkelen dat door publieke en private instanties kan worden gebruikt.

Privacy-waakhonden en burgerrechtenbewegingen leggen zich niet bij die uitleg neer en beginnen onderzoeken en rechtszaken. Dat leidt onder meer In Californië tot een rechtszaak en in Australië dwingt een toezichthouder Clearview om te stoppen met het verzamelen van foto’s en de al verzamelde data te verwijderen.

Schimmige contacten

Toch heeft Clearview niet over klandizie te klagen. Al in een vroeg stadium wist het bedrijf contracten te sluiten met de Amerikaanse immigratiedienst. En in het laatste jaar van Donald Trumps presidentschap lobbyde Clearview driftig om zijn software in te zetten om burgers met corona te volgen. 

Ondertussen bleef het bedrijf zichzelf met geheimzinnigheid omgeven. Amerikaanse journalisten die zich in Clearview verdiepten, ontdekten dat het op zijn website een niet-bestaand vestigingsadres vermeldde. Politieagenten die op verzoek van journalisten hun foto’s door de software haalden, werden bovendien door Clearview benaderd met de vraag of ze soms in gesprek waren met de pers – waaruit bleek dat het bedrijf actief inzage heeft in het doen en laten van zijn gebruikers en in de data die ze uploaden.

Een nieuwe functie kan vage gezichten op foto’s reconstrueren en deels onzichtbare gezichten ‘aanvullen’

Een profiel van Hoan Ton-That dat The Huffington Post publiceert, laat zien dat zijn entourage uit nogal wat neonazi’s en alt-right-activisten bestaat. Ook blijkt zijn software in eerste instantie te zijn ontwikkeld om illegale immigranten te kunnen herkennen en deporteren. Peter Thiel, de oprichter van de omstreden data-analysesoftware Palantir waarover Follow the Money onlangs publiceerde, legde als geldschieter ettelijke honderdduizenden dollars in om dat mogelijk te maken.

Te midden van de publiciteitsstorm werkt Clearview gestaag door aan zijn product. Onderzoekers die een versie van de app ontleden, ontdekken nieuwe functies die vage gezichten op foto’s kunnen reconstrueren en deels onzichtbare gezichten kunnen ‘aanvullen’. Dat kan verstrekkende gevolgen hebben, want zo wordt het mogelijk burgers met deels onzichtbare gezichten alsnog te identificeren. Veel waarborgen vereist Terug naar Nederland. Daar leven na de onthullingen over het gebruik van de gezichtsherkenningssoftware door Nederlandse politiemedewerkers nogal wat zorgen. Het gebruik van geautomatiseerde gezichtsherkenning moet binnen de Europese Unie namelijk aan allerlei eisen voldoen. De bepalingen in de Algemene Verordening Gegevensbescherming (AVG) zijn daarvan de belangrijkste. Het is zeer de vraag of Clearview in dat opzicht door de beugel kan. Feit is dat de inzet van gezichtsherkenningssoftware op gespannen voet staat met de bescherming van de persoonlijke levenssfeer. ‘Het juridisch kader voor gezichtsherkenning door de overheid wordt vooral gevormd door het recht op privacy en het recht op bescherming van persoonsgegevens,’ legt Ruben te Molder uit. Hij doet promotieonderzoek naar straf(proces)recht aan de Radboud Universiteit en weegt onder meer het recht van burgers op privacy af tegen technologische ontwikkelingen. ‘Het specifieke doel van gezichtsherkenning moet steeds worden afgewogen tegen de mate en de ernst van inbreuk op het recht op privacy. Daarbij spelen onder meer het doel van de gezichtsherkenning, de plek waar die wordt ingezet en de vraag of er alternatieve middelen beschikbaar zijn een rol. Het recht op bescherming van persoonsgegevens vereist bovendien een aantal waarborgen, zoals wie toegang heeft tot de software, welke foto’s worden opgeslagen, wanneer de foto’s worden vernietigd en hoe ze worden beveiligd.’ Daarom zijn de registratie en het gebruik van biometrische gegevens, zoals gezichten, aan strenge regels gebonden. De politie mag dergelijke gegevens bijvoorbeeld alleen verwerken als dit onvermijdelijk is én in aanvulling is op het verwerken van andere politiegegevens over de betreffende persoon. Dat betekent concreet dat software van Clearview AI – maar ook van diens concurrenten – nooit op zichzelf kan worden gebruikt: het kan slechts als ondersteunend bewijs dienen. Ruben te Molder, Radboud Universiteit “Dat de software ongericht naar gezichten in publiek toegankelijke bronnen kan zoeken, vergroot de ernst van de privacyinbreuk” Maar, stelt Te Molder, verder zijn er weinig regels rondom het gebruik van gezichtsherkenning. ‘Nederland kent bijna geen wetgeving waarin specifiek het gebruik van gezichtsherkenning door de politie wordt gereguleerd, al bevat artikel 5 van de Wet politiegegevens daar wel algemene regels over.’ Dat artikel schrijft bijvoorbeeld voor dat gezichtsherkenning ter identificatie alleen is toegestaan wanneer dit onvermijdelijk is voor de opsporing, maar er wordt niet verduidelijkt wanneer daarvan sprake is. Daarnaast bevat het Wetboek van Strafvordering bepalingen over de vraag wanneer de politie een foto mag maken en wanneer de politie deze foto’s mag opslaan in een databank. Of, en zo ja onder welke voorwaarden, de politie Clearview mag gebruiken is volgens Te Molder niet zonder meer duidelijk. ‘Wat bij Clearview meespeelt, is dat de software in wezen ongericht naar gezichten kan zoeken in publiek toegankelijke bronnen. Dat vergroot de ernst van de privacyinbreuk.’ Bovendien is van belang voor welk doel Clearview precies wordt ingezet, legt de promovendus uit. ‘Het gebruik van gezichtsherkenning om een aangehouden verdachte te identificeren is bijvoorbeeld van een heel andere orde dan het gebruik van gezichtsherkenning om een burger te identificeren die niet wordt verdacht, bijvoorbeeld om daarna meer informatie over die persoon in te winnen.’ Wat de zaak rond Clearview AI nog complexer maakt, is de illegale fotoverzameling door het bedrijf. ’Clearview heeft die data verzameld op een manier die hoogstwaarschijnlijk niet mag van de AVG,’ stelt Frederik Zuiderveen Borgesius, hoogleraar privaatrecht en ICT aan de Radboud Universiteit. ‘Moreel gezien zou je de databank met gezichten van Clearview niet moeten gebruiken, want dan baseer je je op persoonsgegevens die illegaal zijn verkregen.’ Veelzijdige bemoeienis Al ontkende minister Grapperhaus in het voorjaar van 2020 dat Clearviews software in Nederland wordt gebruikt, dat Nederlandse overheidsinstellingen wél in een gelekt logbestand voorkomen, geeft te denken. Daarom deed Follow the Money een wob-verzoek bij de Nationale Politie, het ministerie van Defensie en het ministerie van Justitie en Veiligheid. De eerste twee instellingen namen binnen de wettelijke termijn een besluit, maar het ministerie van Justitie en Veiligheid liet de antwoordtermijn geruisloos verstrijken. Uiteindelijk belandde de zaak bij de bestuursrechter. Maar voordat die zich erover kan buigen, vallen de wob-documenten alsnog op de mat. Honderden documenten schetsen de interne discussies die op het ministerie worden gevoerd over gezichtsherkenning in het algemeen en Clearview in het bijzonder. Plottwist Eind augustus publiceert Buzzfeed News een nieuw artikel waarin de journalisten per land op een rijtje zetten wie Clearviews software heeft gebruikt. Voor het eerst staat zwart op wit dat Nederlandse politiemedewerkers de gezichtsherkenningssoftware vele tientallen keren hebben gebruikt. De Kamerleden Lisa van Ginneken (D66) en Kouthar Bouchallikht (GroenLinks) vragen demissionair minister Dekker van Rechtsbescherming meteen om opheldering.

Op 28 september beantwoordt demissionair minister Dekker deze Kamervragen. ‘Biometrische surveillance, in de zin van real time gezichtsherkenning, wordt op dit moment in Nederland niet gedaan,’ schrijft Dekker.

Op 13 oktober komt zijn collega Grapperhaus daar echter op terug. Want, zo schrijft hij, die zin was bedoeld om aan te geven dat real-time gezichtsherkenning niet door de politie wordt ingezet. Hij ‘herformuleert’ Dekkers antwoord: ‘Voor het gebruik van biometrische surveillance in de publieke ruimte door de politie, in de zin van real time gezichtsherkenning, wordt op dit moment in de politieorganisatie geen toestemming gegeven.’

De goede verstaander ziet een fors verschil tussen beide uitspraken. Schreven de ministers eerst dat er in Nederland geen sprake was van biometrische surveillance, nu beperken ze dat tot het geaccordeerd gebruik door de politie ‘op dit moment’, in de publieke ruimte. Met andere woorden: buiten de politieorganisatie is er mogelijk wel sprake van het gebruik, of van gebruik zonder toestemming. En wat niet is kan komen.

Met Clearview heeft het allemaal weinig te maken, want dat bedrijf hangt geen camera’s in de (semi-)publieke ruimte op. Maar Van Ginnekens wantrouwen is gewekt. Ze stelt dan ook nieuwe Kamervragen. Want wat betekenen ‘real-time’, ‘op dit moment’ en ‘politie’?

De vragen zijn nog bij het verschijnen van dit artikel nog niet beantwoord.

Lees verder Inklappen Opvallend is de veelzijdige bemoeienis met het onderwerp die uit de wob-stukken blijkt. De Nederlandse ambassade in Washington volgt het thema gezichtsherkenning met belangstelling en deelt informatie uit de Amerikaanse media met het ministerie van Justitie en Veiligheid. Een ambtenaar op dat ministerie noemt het artikel over Clearview in The New York Times ‘interessant’: ‘Dezelfde technologie kan in de nabije toekomst potentieel echter ook worden gebruikt door bedrijven of burgers onderling, waarmee privacy in de publieke ruimte feitelijk verleden tijd is.’ Een collega reageert dat het belangrijk is om de verschillende soorten gezichtsherkenningssoftware te kennen. ‘En uit te proberen.’ Belangrijker is het beeld dat oprijst over het mogelijke gebruik van Clearviews product. ‘De wob-coördinator van de politie belde me vanmiddag dat ze toch niet zeker weten of de politie die software wel of niet gebruikt. Misschien is er zelfs voor betaald. Hij zoekt het nog uit,’ noteert een ambtenaar in maart 2020 tijdens intern overleg. Er volgen interne onderzoeken bij politie-onderdelen en er wordt gekeken of er bedragen aan Clearview AI zijn betaald. Dat is niet het geval. Maar een week later is er toch sprake van ‘signalen’ dat agenten door Clearview zijn benaderd en dat hen een gratis proefversie is aangeboden. Het leidt tot nieuw intern onderzoek, waarna wordt geconcludeerd dat er ‘geen contracten of afspraken’ zijn. ‘Die wil de politie ook niet. Dus dat is goed,’ stelt een ambtenaar. Maar, vervolgt hij, het valt niet uit te sluiten dat een individuele agent door Clearview is benaderd of een proefversie heeft gedownload. Doorgeslagen focus op operationele veiligheid Die vaagheid van politie en justitie inzake zoiets ingrijpends als gezichtsherkenning zit Lotte Houwing dwars. Ze legt zich bij burgerrechtenorganisatie Bits of Freedom toe op biometrische surveillance en overheidssurveillance, en volgt het dossier-Clearview al sinds het bedrijf de publiciteit haalde.  Een vergelijkbare vaagheid bracht een minister in België al in de problemen. Zij ontkende lange tijd dat de politie Clearviews app gebruikte, maar moest uiteindelijk toegeven dat dit toch gebeurde. En in Zweden beboette de nationale autoriteit voor gegevensbescherming de politie, omdat die met het gebruik van Clearviews software de nationale wetgeving overtrad. ‘De minister wil zo geruststellend mogelijk klinken en zo weinig mogelijk toezeggen’ ‘Uit alles blijkt dat de overheid geen grip heeft op het gebruik van deze software,’ stelt Houwing. ‘Neem de correctie van Grapperhaus op zijn collega Dekker: die laat ofwel zien dat er geen zicht is op het gebruik van Clearview, ofwel dat daarover ongemak heerst. Mij bekruipt het gevoel dat er heel secuur woorden worden gekozen om vooral veel ruimte te laten voor het gebruik van gezichtsherkenningssoftware en om uit te sluiten wat er uit te sluiten valt. De minister wil zo geruststellend mogelijk klinken en zo weinig mogelijk toezeggen.’ Er is sprake van een ‘doorgeslagen focus op operationele veiligheid’, vervolgt Houwing. ‘Veiligheid krijgt de vorm van criminaliteitsbestrijding en het in de gaten houden van burgers. Maar er valt ook veel te winnen op het gebied van rechtsbescherming. Die blijft duidelijk achter.’ Bits of Freedom maakt zich zorgen over het toezicht binnen de politie. ‘We zien vaker dat de politie zich niet aan de wet houdt. Zo worden er in tv-programma’s en door politie-vloggers burgers in beeld gebracht, terwijl dat niet is toegestaan. Dat is in strijd met de Wet politiegegevens, maar toch worden er geen consequenties aan verbonden.’ Ze wil maar zeggen: als dat al het geval is met openbare aangelegenheden, wat dan te denken van een zaak die in nevelen is gehuld?
Source: ftm.nl

Laat een bericht achter! Doe mee, wat vind u (jij) hiervan?

HNMDA UPDATE'S
!!! Blijf op de hoogte

! Meld je aan


.Meld je aan via mail

OF op telegram https://t.me/HNMDA_ALL


- S'morgens & S'avonds 1 nieuwsbrief met de nieuwste berichten
- Weekelijkse nieuwsbrief met alle headlines
- Soms een (verkeerd/ongewenst/test) mailtje, daar werken we aan...


...Anders hoor je het niet