Inhoudsopgave
Op 8 december 2023 bereikten de onderhandelaars van het Europees Parlement en de Raad van de EU een voorlopig politiek akkoord over de tekst van werelds allereerste uitgebreide rechtskader voor kunstmatige intelligentie: de AI-Verordening. Wij krijgen als advocaten nu al veel vragen over de AI-Verordening en waar bedrijven op moeten letten in dit kader. Deze blog geeft in aanvulling op onze eerdere blog over de AI-Verordening een globaal overzicht van de status en inhoud van de Europese AI-Verordening
Achtergrond en totstandkoming AI-verordening
Allereerst een kort overzicht van de achtergrond en totstandkoming van de AI-Verordening. Het voorstel voor de concepttekst van de AI-Verordening werd door de Europese Commissie op 14 april 2021 gepubliceerd. De Raad van de EU (Raad van Ministers), die de belangen van de EU-lidstaten vertegenwoordigt, publiceerde op 6 december 2022 een voorlopig standpunt over het voorstel (onderhandelingsmandaat). Het Europees Parlement heeft vervolgens op 14 juni 2023 haar standpunt voor de onderhandelingen vastgesteld. Het huidige politieke akkoord over de tekst van de AI-Verordening is tot stand gekomen door de onderhandelingen tussen deze EU-instellingen.
In de AI-Verordening is een risicogebaseerde aanpak opgenomen: hoe hoger het risico, hoe strenger de regels. AI-systemen die een “onaanvaardbaar risico” vormen voor bijvoorbeeld de grondrechten van de bevolking en waarden van de EU zijn in beginsel verboden en mogen in de Europese Unie niet in de handel worden gebracht of worden gebruikt. Voor AI-systemen die vallen onder de categorie “hoog risico” of “beperkt risico” legt de AI-Verordening verschillende niveaus van verplichtingen op. Van vrijwillige gedragscodes tot dwingende voorschriften en verplichtingen van marktdeelnemers. Het Europees Parlement en de Raad hebben ook overeenstemming bereikt over het reguleren van de inzet van generatieve AI-systemen (voor algemene doeleinden) en zogenaamde foundation modellen (AI-systemen die in staat zijn om een breed scala aan verschillende taken uit te voeren, zoals het genereren van video’s, teksten, afbeeldingen of computercode). Hieronder vallen bijvoorbeeld transparantieregels en (aanvullende) verplichtingen op het gebied van risicobeheer en de monitoring van ernstige incidenten, modelevaluaties en tests die moeten bewijzen dat de modellen veilig zijn.
Inwerkingtreding AI-verordening
Met betrekking tot de inwerkingtreding van de AI-Verordening is nu opgenomen dat deze na een overgangsperiode van twee jaar na de datum van de inwerkingtreding van toepassing wordt. Hierbij gelden enkele uitzonderingen voor specifieke bepalingen. Zo zullen de verbodsbepalingen na zes maanden van toepassing zijn en de regels voor generatieve AI-systemen na twaalf maanden.
Het nu bereikte politieke akkoord tussen het Europees Parlement en de Raad over de inhoud van de AI-Verordening zal de komende weken technisch en juridisch-taalkundig worden afgerond. Daarna wordt de tekst ter goedkeuring voorgelegd aan de vertegenwoordigers van de EU-lidstaten, waarna de definitieve tekst van de AI-Verordening formeel zal worden aangenomen en gepubliceerd in het EU-Publicatieblad. Naar verwachting is de AI-Verordening in 2026 algemeen van toepassing.
Op welke marktdeelnemers is de AI-verordening van toepassing?
Het antwoord op de vraag op welke marktdeelnemers de AI-Verordening van toepassing is, laat zich als volgt samenvatten: alle aanbieders, gebruikers, gemachtigden, importeurs en distributeurs van AI-systemen die in de EU in de handel worden gebracht, in de EU in bedrijf worden gesteld of waarvan de output in de EU wordt gebruikt. In de kern gaan de nieuwe wettelijke voorschriften dus gelden voor veel verschillende marktdeelnemers in de toeleverings- en distributieketen die onder het toepassingsbereik van de AI-Verordening vallen. Achtergrond van dit brede toepassingsgebied is de digitale aard van AI-systemen.
Op welke AI-systemen is AI-verordening van toepassing?
De definitie van AI-systemen in de AI-Verordening is afgestemd op de door de Organization for Economic Cooperation and Development (OECD) voorgestelde aanpak, zodat AI-systemen worden onderscheiden van eenvoudigere softwaresystemen:
“An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.”
De AI-Verordening zal (onder meer) niet van toepassing zijn op AI-systemen die (uitsluitend) worden gebruikt voor:
- militaire of defensiedoeleinden;
- onderzoek en innovatie;
- niet-professionele redenen.
Verboden toepassingen onder de AI-verordening
De huidige tekst van de AI-Verordening noemt meerdere verboden toepassingen onder de AI-Verordening. Zo verbiedt de AI-Verordening onder meer AI-toepassingen zoals cognitieve gedragsmanipulatie, het ongericht scannen van gezichtsfoto’s van het internet of CCTV-beelden, emotieherkenning op de werkplek en in onderwijsinstellingen, zogenaamde sociale controle of social scoring, sommige gevallen van voorspellende opsporingssystemen en biometrische categorisatie om gevoelige gegevens af te leiden, zoals seksuele geaardheid of religieuze overtuiging.
Over het gebruik van realtime biometrische identificatiesystemen op afstand in openbare ruimten door rechtshandhavingsinstanties is lang onderhandeld door het Europees Parlement en de Raad. De huidige tekst van de AI-Verordening verduidelijkt voor welke (strikt noodzakelijke) rechtshandhavingsdoeleinden bij wijze van uitzondering een dergelijk AI-systeem toch gebruikt mag worden. Ook verduidelijkt de AI-Verordening op welke manier rechtshandhavingsinstanties toestemming moeten krijgen voor het gebruik van realtime biometrische identificatiesystemen. Het voorlopige akkoord voorziet daarnaast in aanvullende waarborgen en beperkt het gebruik tot bijvoorbeeld het zoeken van slachtoffers van bepaalde misdrijven zoals vermiste kinderen, het voorkomen van levensbedreigende situaties, zoals terroristische aanslagen en het fouilleren van personen die verdacht worden van een bepaald (zwaardere) strafbare feiten.
Wettelijke vereisten AI-verordening
De wettelijke vereisten onder de AI-Verordening verschillen afhankelijk van het specifieke risiconiveau van een bepaald AI-systeem. Voor AI-systemen met een beperkt risico gelden bijvoorbeeld minder strenge transparantieverplichtingen, zoals het informeren van gebruikers dat de informatie door AI is gegenereerd.
AI-systemen met een hoog risico zijn in beginsel toegestaan, maar zijn wel onderworpen aan verschillende eisen en verplichtingen, voordat een dergelijk AI-systeem in gebruik mag worden genomen. Hieronder kunnen bijvoorbeeld de verplichting vallen om een risicobeoordeling uit te voeren met betrekking tot de gevolgen voor de grondrechten, transparantieverplichtingen met betrekking tot het gebruik van deze AI-systemen, de registratie in een EU-databank en vereisten met betrekking tot de kwaliteit van informatie of de vereiste technische documentatie van dergelijke AI-systemen met een hoog risico.
Wat zijn de sancties en boetes voor niet-naleving van de AI-verordening?
De boetes voor overtredingen van deze Verordening worden vastgesteld als percentage van de totale wereldwijde jaaromzet van het bedrijf dat de overtreding begaat in het voorgaande boekjaar of een vooraf bepaald bedrag, afhankelijk van welk bedrag hoger is. Het voorlopige akkoord bevat voor kleine of middelgrote ondernemingen en start-ups verhoudingsgewijs lagere boets in geval van inbreuken op de bepalingen van de AI-Verordening. Daarnaast kunnen natuurlijke en rechtspersonen een klacht indienen bij de bevoegde (nationale) markttoezichtautoriteiten over een niet-naleving van de AI-Verordening.
De vastgestelde boetes zijn: € 35 miljoen of 7% van de totale wereldwijde jaarlijkse omzet voor overtredingen van de verboden AI-toepassingen, € 15 miljoen of 3% van de totale wereldwijde jaarlijkse omzet voor overtredingen van de verplichtingen van de AI-Verordening of € 7,5 miljoen of 1,5% van de totale wereldwijde jaarlijkse omzet voor het verstrekken van onjuiste informatie.
Advocatenkantoor gespecialiseerd in AI
MAAK Advocaten is een gespecialiseerd advocatenkantoor in Amsterdam met een focus op bedrijven binnen de sector maakindustrie. Onze advocaten zijn specialisten op het gebied van (EU) productregelgeving en CE-markering en adviseren zowel Nederlandse als internationaal opererende maakbedrijven zoals toeleveranciers, fabrikanten, gemachtigden importeurs, distributeurs en groothandelaren.
Wilt u juridisch advies inwinnen over de mogelijke gevolgen voor uw onderneming van de AI-Verordening of andere geldende en toepasselijke EU productwet- en regelgeving, geharmoniseerde normen of nationale regels? Of heeft uw bedrijf behoefte aan ondersteuning bij een geschil met een handelsrelatie, een toezichthouder of gerelateerde vraagstukken? Neem dan contact op met een van onze advocaten, productregelgeving en CE-markering in Amsterdam.
T: +31 (0)20 – 210 31 38
E: mail@maakadvocaten.nl
Max Schwillens – Advocaat AI-Verordening | Sander van Someren Greve – Advocaat Compliance & Litigation
