Wat is de AI-Act?

Masoed Shakori – 12 juli 2024

Update 12 juli 2024
De EU AI Act is gepubliceerd! Je kunt het hier vinden in het Publicatieblad van de Europese Unie (EU). De inwerkingtreding is op 1 augustus 2024 en wordt 2 jaar na de inwerkingtreding van kracht, met uitzonderingen voor specifieke bepalingen.

Update 11 december 2023
Na een marathon sessie van 3 dagen bereikten afgelopen vrijdag (8 dec) het Europees Parlement en de Europese Raad een voorlopig akkoord over de AI Act.

Update 14 juni 2023
Vandaag heeft het Europees Parlement ingestemd met de AI wetgeving.

Het parlement stemde met overgrote meerderheid (499 stemmen voor, 28 tegen en 93 onthoudingen) in met het AI-wetsvoorstel dat de Europese Commissie in 2021 presenteerde, maar diende wel veel amendementen in voor de eerste AI-wet ter wereld. Nu kunnen de onderhandelingen met de EU-lidstaten over de definitieve vorm van de wet van start gaan. De regels moeten mensgerichte en betrouwbare AI bevorderen en de gezondheid, veiligheid, grondrechten en democratie beschermen tegen schadelijke gevolgen.

Europa heeft een plan

De Europese Commissie (EC) heeft een plan. Een plan om ‘wereldleider te worden in het toepassen, benutten en bevorderen van de nieuwste AI technologieën.’ Niet zomaar AI, maar AI dat mensgericht is, duurzaam, veilig, inclusief en betrouwbaar. De EC wil dit bereiken met de volgende drie punten:

• Accelerate – Versnel investeringen in AI technologieën om een veerkrachtige economie en een sociaal herstel te stimuleren met behulp van nieuwe digitale oplossingen.
• Act – Implementeer AI strategieën en programma’s volledig en tijdig zodat de EU op de eerste rij zit en daar alle voordelen van kan benutten.
• Align –  Stem AI beleid af tussen lidstaten om versnippering tegen te gaan en wereldwijde uitdagingen aan te pakken.

Zo stelt de Commissie bijvoorbeeld voor om tussen 2021 en 2027 elk jaar minstens 1 miljard euro te investeren in AI via de Horizon Europe en Digital Europe programma’s. Zo wil de Commissie samenwerking tussen de Europese lidstaten stimuleren voor een maximale impact.

Waarom beleid en wetgeving?

De Europese Commissie wil met hun aanpak de veiligheid en grondrechten van mensen en bedrijven waarborgen en tegelijkertijd het draagvlak voor AI, investeringen en innovatie in de hele EU versterken. Margrethe Vestager, uitvoerend vicevoorzitter, zegt: “Voor kunstmatige intelligentie is vertrouwen een must, geen luxe.” Het doel van de Commissie is om de regelgeving toekomstbestendig en innovatievriendelijk op te stellen zodat iedereen AI kan vertrouwen en tegelijkertijd de EU-lidstaten concurrerend kunnen blijven.

De EU wil alleen met haar regelgeving optreden waar dat strikt noodzakelijk is: als de veiligheid en de grondrechten van haar burgers op het spel staan. Om dit te bereiken worden AI-systemen in risico categorieën verdeeld. AI-systemen die in de categorie ‘onaanvaardbaar’ vallen worden verboden.

Risico niveaus

De AI regelgeving zal in alle lidstaten op dezelfde wijze worden toegepast, daar wordt een risicogebaseerde aanpak voor gevolgd.

Onaanvaardbaar risico

AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Het gaat om AI-systemen of -toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen (bijv. speelgoed met spraakondersteuning dat minderjarigen aanspoort tot gevaarlijk gedrag) en systemen die ‘social scoring’ door overheden mogelijk maken.

Hoog risico

AI-systemen die als risicovol worden aangemerkt en die worden gebruikt in:

• kritieke infrastructuurnetwerken (bv. vervoer), die het leven en de gezondheid van burgers in gevaar kunnen brengen;
• onderwijs of beroepsopleiding, die bepalend kunnen zijn voor de toegang tot onderwijs en professionele carrière (bv. verbeteren van examens);
• veiligheidscomponenten van producten (bv. AI-toepassing in door robots ondersteunde chirurgie);
• werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid (bv. software voor de screening van cv’s bij selectieprocedures);
• essentiële particuliere en openbare diensten (bv. kredietwaardigheidsbeoordeling op basis waarvan men burgers geen lening wil toekennen);
• wetshandhaving, die gevolgen kan hebben voor onze grondrechten (bv. beoordeling van de betrouwbaarheid van bewijsstukken);
• beheer van migratie, asiel en grenscontrole (bv. verificatie van de echtheid van reisdocumenten);
• rechtsbedeling en democratische processen (bv. toepassing van de wet op concrete feiten).
• alle systemen voor biometrische identificatie op afstand worden als risicovol beschouwd en moeten aan strikte eisen voldoen. Op openbare plaatsen is het rechtstreekse gebruik van die systemen voor rechtshandhavingsdoeleinden in beginsel verboden. Beperkte uitzonderingen zijn strikt gedefinieerd en geregeld (bv. om een vermist kind te zoeken, een specifieke en nakende terroristische dreiging af te wenden of een dader of verdachte van een ernstig strafbaar feit op te sporen, te identificeren of te vervolgen). Er moet vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databanken.

Beperkt risico

AI-systemen waarvoor specifieke transparantieverplichtingen gelden: Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat zij met een machine te maken hebben, zodat zij met kennis van zaken kunnen besluiten of ze die interactie al dan niet wensen voort te zetten.

Minimale risico

Het wetgevingsvoorstel staat het vrije gebruik toe van op AI gebaseerde videospellen of spamfilters. De overgrote meerderheid van AI-systemen valt in deze categorie. De risico’s voor de rechten of de veiligheid van burgers is hierbij minimaal.