In de eerste bijdrage over het Voorstel voor een verordening over artificiële intelligentie (AI-verordening) zijn de specialisten productregelgeving en CE-markering van MAAK Advocaten nader ingegaan op de achtergrond en totstandkoming, het doel en de noodzaak, de (specifieke) doelstellingen en de inhoudelijke onderwerpen. In een tweede bijdrage is vervolgens stilgestaan bij de wettelijke voorschriften van de AI-verordening. Hierbij werden het toepassingsbereik behandeld, de gehanteerde definitie van een AI-systeem, de zogenaamde risicogebaseerde aanpak, verboden AI-praktijken en de classificatie van AI-systemen met een hoog risico. In deze bijdrage ligt de focus van onze advocaten productregelgeving op de verplichtingen van de AI-verordening voor marktdeelnemers zoals aanbieders, gebruikers, gemachtigden, importeurs en distributeurs. Ook zullen de handhaving, sancties en administratieve geldboeten, verhouding tussen het voorstel voor een AI-verordening en sectorale productwet- en regelgeving en de inwerkingtreding aan bod komen.
Verplichtingen voor marktdeelnemers van AI-systemen met een hoog risico
In aanvulling op de voorschriften voor AI-systemen met een hoog risico gelden ook verplichtingen voor marktdeelnemers van deze AI-systemen. De belangrijkste marktdeelnemers – aanbieders, gebruikers, gemachtigden, importeurs en distributeurs – zijn in het voorstel voor een AI-verordening gedefinieerd. Deze worden in de concepttekst gezamenlijk aangeduid als exploitanten en kunnen zowel publieke als particuliere partijen betreffen.
Verplichtingen voor aanbieders onder de AI-verordening
De meest verstrekkende verplichtingen rusten op aanbieders van AI-systemen met een hoog risico. Samengevat betreffen deze verplichtingen:
- zorgen voor overeenstemming met de voorschriften voor AI-systemen met een hoog risico;
- beschikken over een systeem voor kwaliteitsbeheer;
- opstellen van de technische documentatie;
- bewaren van de logs die automatisch zijn gegenereerd;
- (laten) uitvoeren van de relevante conformiteitsbeoordelingsprocedure voor het in de handel brengen of in gebruik stellen;
- naleven van de registratieverplichtingen in de EU-databank;
- nemen van de noodzakelijke corrigerende maatregelen wanneer niet wordt voldaan aan de voorschriften voor AI-systemen met een hoog risico;
- informeren van de nationale bevoegde autoriteiten van de lidstaten en mogelijk de aangemelde instantie over een non-conformiteit en over eventueel getroffen corrigerende maatregelen;
- aanbrengen van de CE-markering;
- tonen van de overeenstemming met de voorschriften voor AI-systemen met een hoog risico op verzoek van een nationale bevoegde autoriteit.
Deze verplichtingen zijn ook van toepassing op marktdeelnemers die een AI-systeem onder eigen naam of merknaam in de handel brengen of in gebruik stellen. Ook gelden de verplichtingen als marktdeelnemers het beoogde doel van een al in de handel gebracht of in gebruik gesteld AI-systeem wijzigen of een ingrijpende wijziging aanbrengen. Deze marktdeelnemers worden dan als aanbieder beschouwd.
Verplichtingen voor gemachtigden onder de AI-verordening
Gemachtigden hebben de verplichtingen die voortvloeien uit de door aanbieders van buiten de EU gegeven machtiging. Deze kunnen bestaan uit het beschikbaar houden van de EU-conformiteitsverklaring en de technische documentatie, voldoen aan informatie- en documentatieverzoeken van nationale bevoegde autoriteiten en samenwerken bij maatregelen van deze autoriteiten.
Verplichtingen voor importeurs onder de AI-verordening
Importeurs moeten voornamelijk controleren of aanbieders aan hun verplichtingen hebben voldaan en de vereiste documentatie en gebruiksaanwijzingen aanwezig zijn. Als de importeur gebreken constateert of vermoedt, mag hij het AI-systeem niet in de handel brengen. Wanneer er sprake is van een risico op nationaal niveau informeert de importeur de markttoezichtautoriteiten. Daarnaast moeten importeurs hun contactgegevens op het AI-systeem vermelden. Of als dit niet mogelijk is op de verpakking of de bijgevoegde documentatie. Importeurs moeten ook zorgen voor adequate opslag- en vervoersomstandigheden. Bovendien moeten importeurs voldoen aan informatie- en documentatieverzoeken van nationale bevoegde autoriteiten en hiermee samenwerken bij maatregelen.
Verplichtingen voor distributeurs onder de AI-verordening
Distributeurs hebben in grote mate dezelfde verplichtingen als importeurs. Distributeurs controleren zowel de verplichtingen van aanbieders als van importeurs. Distributeurs hoeven hun contactgegevens niet op het AI-systeem te vermelden. Wel moeten distributeurs die constateren of vermoeden dat een AI-systeem dat al in de handel is gebracht niet voldoet aan de voorschriften zelf de noodzakelijke corrigerende maatregelen nemen. Deze kunnen bestaan uit het alsnog in overeenstemming brengen met de voorschriften, uit de handel nemen of terugroepen. Ook zorgt de distributeur dat de aanbieder, de importeur of een andere betrokken exploitant corrigerende maatregelen neemt.
Verplichtingen voor gebruikers onder de AI-verordening
Gebruikers dienen de AI-systemen te gebruiken in overeenstemming met de gebruiksaanwijzingen. Daarnaast moeten gebruikers ervoor zorgen dat de inputdata relevant zijn voor het beoogde doel en de werking van de AI-systemen monitoren op basis van de gebruiksaanwijzingen. Wanneer het gebruik van een AI-systeem een risico vormt op nationaal niveau, bij ernstige incidenten of bij storingen dienen gebruikers het gebruik te onderbreken en de aanbieder of distributeur hierover te informeren. Ook moeten de logs worden bewaard die automatisch worden gegenereerd.
Ondanks dat de Europese Commissie (EC) minimumvereisten heeft voorgesteld zijn de verplichtingen voor marktdeelnemers verstrekkend, geavanceerd en leidt dit tot aanzienlijke regeldruk. Ter voorbereiding op de inwerkingtreding van het voorstel voor een AI-verordening adviseren wij u om het huidige en toekomstige gebruik van AI-systemen te inventariseren, structuren voor de naleving van de voorschriften en verplichtingen te implementeren, waaronder het aanstellen van personeel of het verdelen van taken, en ontwikkelingen en risico’s te evalueren.
Handhaving van het Voorstel voor een AI-verordening
De handhaving van het voorstel voor een AI-verordening zal plaatsvinden door een verdeling van taken op het gebied van governance en toezicht tussen de lidstaten en de EU. De lidstaten moeten bevoegde autoriteiten, waaronder de nationale markttoezichtautoriteit, aanwijzen om de toepassing en uitvoering van het voorstel voor een AI-verordening te waarborgen. Op EU-niveau wordt een Europees Comité voor advisering en samenwerking op het gebied van AI opgericht. Deze bestaat uit vertegenwoordigers van de EC en de door lidstaten aangewezen nationale markttoezichtautoriteit.
Specifiek voor AI-systemen met een hoog risico wordt een nieuw nalevings- en handhavingssysteem geïmplementeerd. Dit systeem bestaat in beginsel uit een uitgebreide conformiteitsbeoordeling door interne controles en de registratie in een EU-databank door aanbieders voor het in de handel brengen van een AI-systeem en strenge handhaving van de voorschriften en verplichtingen van marktdeelnemers door de bevoegde autoriteiten na het in de handel brengen.
sancties en administratieve geldboeten
In het voorstel voor een AI-verordening is een uitgebreide bepaling over sancties en administratieve geldboeten opgenomen voor inbreuken. Deze sancties moeten doeltreffend, evenredig en afschrikkend zijn. Wel dient volgens de bepaling rekening gehouden te worden met de belangen van kleine aanbieders en start-ups, waaronder de economische levensvatbaarheid. Het is aan de lidstaten om hier voorschriften voor vast te stellen.
In de kern kunnen drie categorieën administratieve geldboeten worden onderscheiden:
- voor de niet-naleving van de verboden AI-praktijken of de non-conformiteit van een AI-systeem met de voorschriften over data en databeheer tot € 30 miljoen of 6% van de totale wereldwijde jaarlijkse omzet als dat hoger is;
- voor non-conformiteiten van een AI-systeem met de voorschriften of verplichtingen anders dan onder de vorige bepaling tot € 20 miljoen of 4% van de totale wereldwijde jaarlijkse omzet als dat hoger is;
- voor het verstrekking van onjuiste, onvolledige of misleidende informatie aan aangemelde instanties en nationale bevoegde autoriteiten tot € 10 miljoen of 2% van de totale wereldwijde jaarlijkse omzet als dat hoger is.
Voorstel voor een AI-verordening en Sectorale productwet- en regelgeving
Het voorstel voor een AI-verordening is onderdeel van een groter geheel aan algemene en sectorale maatregelen van de EC op het gebied van productveiligheid en aansprakelijkheid. Door de uniforme toepassing heeft het voorstel voor een AI-verordening een overstijgend karakter en is deze niet beperkt tot een bepaalde sector. Dit betekent dat de voorschriften en verplichtingen van het voorstel voor een AI-verordening gelden ongeacht de specifieke sectorale productwet- en regelgeving die op een AI-systeem van toepassing is.
Daarom heeft de EC met de AI-verordening een nieuw regelgevend kader voorgesteld dat in overeenstemming is met en aanvullend op de bestaande sectorale productwet- en regelgeving die van toepassing is op AI-systemen en de lopende en toekomstige herzieningen hiervan.
Hierbij kan gedacht worden aan de verordeningen over medische hulpmiddelen en medische hulpmiddelen voor in-vitrodiagnostiek die recent zijn geïmplementeerd. Maar ook aan initiatieven van de EC zoals de Machineverordening die eind 2022, begin 2023 wordt verwacht, de Productveiligheidsverordening en de herziening van de Bouwverordening en Speelgoedrichtlijn. Daarnaast is het voorstel voor een AI-verordening in overeenstemming met de digitale en datastrategie van de EC in het kader van de ontwikkeling van datagestuurde AI-systemen. Doel hiervan is het verschaffen van rechtszekerheid (voor marktdeelnemers) en het vereenvoudigen van de handhaving.
Ter illustratie: AI-systemen die worden gebruikt als component van een medisch hulpmiddel of een machine zullen zowel moeten voldoen aan de voorschriften van het voorstel voor een AI-verordening die zien op de typische risico’s van AI als aan de voorschriften van de specifieke sectorale wetgeving voor medische hulpmiddelen of machines die betrekking hebben op de veilige integratie van het AI-systeem in het eindproduct. Voor de conformiteitsbeoordelingsprocedure van dergelijke AI-systemen wordt aansluiting gezocht bij betreffende conformiteitsbeoordelingsprocedure die is vastgesteld onder de sectorale productwet- en regelgeving.
inwerkingtreding van het voorstel voor een AI-verordening
Het voorstel voor een AI-verordening doorloopt de zogenaamde gewone wetgevingsprocedure van de EU. Dit betekent dat de verordening op voorstel van de EC gezamenlijk wordt vastgesteld door het Europees Parlement en de Raad van de EU (Raad van Ministers). Momenteel is het wachten op een besluit van de behandelende commissie van het Europees Parlement. Naar verwachting wordt het voorlopige standpunt van de Raad van de EU over het voorstel voor een AI-verordening in december 2022 gepubliceerd. Het is de bedoeling dat de AI-verordening met een overgangsperiode van twee jaar na de datum van inwerkingtreding van toepassing is.
Juridisch advies van een advocaat over de AI-Verordening
Zoekt u juridisch advies van een advocaat over artificiële intelligentie of gerelateerde onderwerpen? De specialisten Product Compliance van MAAK Advocaten in Amsterdam hebben ruime ervaring in het ondersteunen en adviseren van bedrijven in de maakindustrie bij uiteenlopende productregelgeving en CE-markering gerelateerde vraagstukken. Onze advocaten worden regelmatig geconfronteerd met (grensoverschrijdende) juridische vraagstukken met betrekking tot artificiële intelligentie.
Wilt u juridisch advies inwinnen over het toepassingsgebied van het voorstel voor een AI-verordening, de wettelijke voorschriften voor uw AI-systemen of over de verplichtingen van de AI-verordening voor marktdeelnemers? Of heeft uw onderneming behoefte aan ondersteuning bij het voeren van onderhandelingen met een handelsrelatie? Neem dan contact op met Martin Krüger of Max Schwillens, advocaat AI-verordening, of met een andere advocaten gespecialiseerd in artificiële intelligentie.
T: +31 (0)20 – 210 31 38
E: mail@maakadvocaten.nl
Contactpersonen: Martin Krüger of Max Schwillens | Advocaten voor de AI-verordening
