In de meest recente parlementaire stemming stemde een duidelijke meerderheid voor de eerste Europese AI-wet. Een stap die volgens veel experts en critici van kunstmatige intelligentie onnodig was.
Ondanks alle voordelen van de nieuwe technologie, zijn er risico’s die alleen kunnen worden beheerst op basis van gestandaardiseerde wetgeving. We hebben nader bekeken wat de AI-wet inhoudt en welke veranderingen er in de toekomst zullen zijn.
Hoe ver kan AI-surveillance gaan?
In principe hebben monitoringsystemen op basis van kunstmatige intelligentie een toegevoegde waarde voor de maatschappij. Dit blijkt uit een ontwikkeling uit Denemarken. Mindway AI, een bedrijf dat is opgericht door de Universiteit van Aarhus, heeft een GameScanner ontwikkeld die wordt gebruikt in de goksector.
Uiteindelijk werd een compromis bereikt dat de voorkeur geeft aan een verbod, maar uitzonderingen toestaat. Realtime gezichtsherkenning om burgers te controleren werd uitgesloten, net als categorisering op basis van biometrische kenmerken. Discriminerende categorisatie (op basis van religie of seksualiteit) is ook niet meer mogelijk onder de nieuwe wet.
De situatie is anders als het gaat om de identificatie van criminelen met terugwerkende kracht of preventief gebruik in geval van ernstige misdrijven of de dreiging van terrorisme. Een belangrijk punt in de toekomst zijn beslissingen over individuele gevallen. Algemeen toezicht op individuen is bij wet uitgesloten, maar de mogelijkheden zijn niet volledig verdwenen.
Kunstmatige intelligentie en indeling in risicoklassen
Als een AI-systeem in de risicoklasse “hoog” valt, wordt het niet volledig verboden, maar moet het aan bepaalde eisen voldoen. Systemen die een groot risico vormen voor de menselijke veiligheid, grondrechten en gezondheid worden bijvoorbeeld in deze klasse ingedeeld. Het gezins- en privéleven en de grondrechten van het individu mogen op geen enkel moment in gevaar worden gebracht.
Om systemen met een hoog risico te mogen gebruiken, moeten ontwikkelaars hun bronnen bekendmaken en voldoen aan de kwaliteitseisen. CE-markering is bedoeld om systemen die voldoen aan de nieuwe AI-wet zichtbaar te maken. Hieronder staan enkele voorbeelden van soorten kunstmatige intelligentie die als “hoog” risico worden gecategoriseerd:
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>Veiligheid van AI bij het gebruik van robotchirurgie
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>Gebruik van AI in transport en kritieke infrastructuren
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>AI-sorteersystemen voor sollicitatieprocedures
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>Beoordeling van kredietwaardigheid of gebruik van AI in overheidsdiensten
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>AI-systemen die van invloed zijn op fundamentele mensenrechten
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>Toepassing van kunstmatige intelligentie in het rechtssysteem
- a]:text-primary dark:[&>a]:text-primaryDark [&>a]:underline”>Automatisering van software voor grenscontroles, asiel- en migratiebeheer
Dergelijke oplossingen mogen alleen op de markt worden gebracht als ze voldoen aan de strenge eisen van de AI-wet en zijn geëtiketteerd.
Minimaal risico vereist slechts enkele vereisten voor gebruik
Als AI-systemen worden gecategoriseerd als “minimaal” risicovol, zijn de eisen aanzienlijk minder streng. In principe is veiligheid een eerste vereiste voordat een overeenkomstig systeem kan worden gebruikt. Het staat ontwikkelaars vrij om de eisen voor AI met een hoog risico vrijwillig te implementeren. De AI-wet legt ook de nadruk op transparantie om gebruikers te helpen informatie te beoordelen. Als een bedrijf chatbots gebruikt voor ondersteuning, moeten gebruikers hierover worden geïnformeerd. Het moet te allen tijde duidelijk herkenbaar zijn of iemand in interactie is met een andere persoon of met kunstmatige intelligentie.
De vereisten voor AI-gegenereerde teksten, die vooral de laatste maanden het internet overspoelen, zijn vergelijkbaar. Zodra een dergelijke tekst de intentie heeft om een breed publiek te informeren, moet deze worden gedeclareerd als “kunstmatig gegenereerd”. Hetzelfde geldt voor videocontent en audiobestanden (inclusief muziek) die met AI zijn gemaakt. Deepfakes moeten alleen al op basis van de verklaring duidelijk als zodanig herkenbaar zijn.
In de videogamesector en bij “intelligente” spamfilters wordt uitgegaan van een minimaal of onbestaand risico. Hoewel dergelijke systemen zijn gebaseerd op kunstmatige intelligentie, vormen ze geen indirect risico voor de gebruiker. Op voorwaarde dat andere wetten (GDPR) worden nageleefd, zijn er geen speciale regelgevende maatregelen van toepassing.
Conclusie: AI moet worden gereguleerd en verstandig worden gebruikt
