Europees Parlement en de Raad van Europa akkoord met AI Act

Deze verordening heeft tot doel ervoor te zorgen dat de grondrechten, de democratie, de rechtsstaat en de duurzaamheid van het milieu worden beschermd tegen AI met een hoog risico, terwijl de innovatie wordt gestimuleerd en Europa een leider op dit gebied wordt. De regels leggen verplichtingen vast voor AI op basis van de potentiële risico’s en de mate van impact ervan:

Verboden applicaties

De medewetgevers erkenden de potentiële bedreiging voor de rechten van burgers en de democratie die uitgaat van bepaalde toepassingen van AI en kwamen overeen het volgende te verbieden:

biometrische categorisatiesystemen die gebruik maken van gevoelige kenmerken (bijvoorbeeld politieke, religieuze, filosofische overtuigingen, seksuele geaardheid, ras);

het ongericht schrapen van gezichtsbeelden van internet of CCTV-beelden om databases voor gezichtsherkenning te creëren;

emotieherkenning op de werkvloer en in onderwijsinstellingen;

sociale scoring op basis van sociaal gedrag of persoonlijke kenmerken;

AI-systemen die menselijk gedrag manipuleren om hun vrije wil te omzeilen;

AI maakte misbruik van de kwetsbaarheden van mensen (vanwege hun leeftijd, handicap, sociale of economische situatie).

Vrijstellingen op het gebied van wetshandhaving

De onderhandelaars zijn het eens geworden over een reeks waarborgen en beperkte uitzonderingen voor het gebruik van biometrische identificatiesystemen (RBI) in publiek toegankelijke ruimtes voor wetshandhavingsdoeleinden, onder voorbehoud van voorafgaande rechterlijke toestemming en voor strikt gedefinieerde lijsten van misdrijven. “Post-remote” RBI zou uitsluitend worden gebruikt bij het gericht zoeken naar een persoon die veroordeeld is of verdacht wordt van het plegen van een ernstig misdrijf.

“Real-time” RBI zou aan strikte voorwaarden voldoen en het gebruik ervan zou beperkt zijn in tijd en locatie, met als doel:

gerichte zoektochten naar slachtoffers (ontvoering, mensenhandel, seksuele uitbuiting),

het voorkomen van een specifieke en aanwezige terroristische dreiging, of

de lokalisatie of identificatie van een persoon die verdacht wordt van het plegen van een van de specifieke misdrijven genoemd in de verordening (bijvoorbeeld terrorisme, mensenhandel, seksuele uitbuiting, moord, ontvoering, verkrachting, gewapende overval, deelname aan een criminele organisatie, milieucriminaliteit).

Verplichtingen voor risicovolle systemen

Voor AI-systemen die als risicovol zijn geclassificeerd (vanwege hun aanzienlijke potentiële schade aan de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat) zijn duidelijke verplichtingen overeengekomen. De leden van het Europees Parlement zijn er met succes in geslaagd om onder andere een verplichte effectbeoordeling van de grondrechten op te nemen, die ook van toepassing is op de verzekerings- en banksector. AI-systemen die worden gebruikt om de uitslag van verkiezingen en het kiezersgedrag te beïnvloeden, worden ook als hoog risico geclassificeerd. Burgers zullen het recht hebben om klachten in te dienen over AI-systemen en uitleg te krijgen over beslissingen op basis van risicovolle AI-systemen die van invloed zijn op hun rechten.

Vangrails voor algemene kunstmatige intelligentiesystemen

Om rekening te houden met het brede scala aan taken die AI-systemen kunnen uitvoeren en de snelle uitbreiding van de mogelijkheden ervan, is overeengekomen dat AI-systemen voor algemene doeleinden (GPAI) en de GPAI-modellen waarop ze zijn gebaseerd, zullen moeten voldoen aan transparantievereisten. aanvankelijk door het Parlement voorgesteld. Deze omvatten het opstellen van technische documentatie, het naleven van de EU-auteursrechtwetgeving en het verspreiden van gedetailleerde samenvattingen over de inhoud die voor training wordt gebruikt.

Voor GPAI-modellen met een grote impact en systeemrisico's zijn de onderhandelaars van het Parlement erin geslaagd strengere verplichtingen veilig te stellen. Als deze modellen aan bepaalde criteria voldoen, zullen ze modelevaluaties moeten uitvoeren, systeemrisico's moeten beoordelen en beperken, vijandige tests moeten uitvoeren, aan de Commissie moeten rapporteren over ernstige incidenten, de cyberbeveiliging moeten waarborgen en moeten rapporteren over hun energie-efficiëntie. EP-leden benadrukten ook dat GPAI's met systeemrisico's, totdat er geharmoniseerde EU-normen zijn gepubliceerd, zich kunnen beroepen op praktijkcodes om aan de regelgeving te voldoen.

Maatregelen ter ondersteuning van innovatie en het MKB

De leden van het Europees Parlement wilden ervoor zorgen dat bedrijven, vooral het MKB, AI-oplossingen kunnen ontwikkelen zonder onnodige druk van industriële reuzen die de waardeketen controleren. Daartoe bevordert de overeenkomst zogenaamde ‘regulatory sandboxes’ en ‘real-world-tests’, opgezet door nationale autoriteiten om innovatieve AI te ontwikkelen en op te leiden voordat deze op de markt wordt gebracht.

Sancties en inwerkingtreding

Het niet naleven van de regels kan leiden tot boetes variërend van 35 miljoen euro of 7% van de mondiale omzet tot 7,5 miljoen of 1,5% van de omzet, afhankelijk van de overtreding en de omvang van het bedrijf.