Toekomstige toepassingen van artificiële intelligentie (AI), ook wel kunstmatige intelligentie genoemd, zullen naar verwachting grote impact hebben op uiteenlopende thema’s in de samenleving. Hierbij kan gedacht worden aan klimaatverandering, milieu en gezondheid, de overheidssector, financiën, mobiliteit, binnenlandse zaken en landbouw. Volgens schattingen verwacht 86% van de ondernemingen dat AI van grote invloed gaat zijn in hun branche. In verband met deze ontwikkelingen heeft de Europese Commissie (EC) op 21 april 2021 de concepttekst gepubliceerd van een nieuw regelgevend kader, het Voorstel voor een verordening tot vaststelling van geharmoniseerde regels over artificiële intelligentie (AI-verordening). AI wordt kort omschreven als een snel evoluerende verzameling van technologieën die kan bijdragen aan economische en maatschappelijke voordelen in alle industrieën en sociale activiteiten. Hierin wordt door onze advocaat AI-Verordening stilgestaan bij de ontwikkelingen.
De nieuwe Europese wet op de AI zal van grote invloed zijn op (toe)leveranciers, fabrikanten, importeurs distributeurs en resellers die actief zijn in verschillende sectoren binnen de maakindustrie. Hieronder vallen onder meer automotive, lucht en ruimtevaart, agro en food, bouw en constructie, energie, high tech en machinebouw, medisch en zorg en scheepsbouw en offshore.
In een blogreeks gaan onze advocaten productregelgeving & CE-markering in Amsterdam nader in op het voorstel voor een AI-verordening en de verdere betekenis hiervan. In dit eerste deel staan de achtergrond en totstandkoming, het doel en de noodzaak, de (specifieke) doelstellingen en de inhoudelijke onderwerpen van het voorstel voor een AI-verordening centraal.
Achtergrond en totstandkoming van het Voorstel voor een artificial Intelligence-verordening
De aanzet voor het huidige voorstel voor een AI-verordening is in 2018 gedaan. In dat jaar publiceerde de EC een EU-strategie voor AI. Ook werd er een gecoördineerd plan voor samenwerking op het gebied van AI tussen de EU en de lidstaten vastgesteld.
In de twee jaar daarna werden door de EC ethische richtsnoeren en een beoordelingslijst voor betrouwbare AI gepubliceerd. Doel hiervan was onder andere het bevorderen van vertrouwen in mensgerichte en betrouwbare AI. Volgens de EC moet AI daarvoor gedurende de levenscyclus van het systeem uit technisch en sociaal oogpunt niet alleen wettig zijn, maar ook ethisch en robuust.
De Europese visie op AI heeft de EC vervolgens in 2020 in het zogenaamde Witboek over AI gepresenteerd. In de kern ziet deze op het creëren van een ‘ecosysteem van excellentie en vertrouwen’ in Europa. In andere woorden, de EC wil (financiële) middelen en investeringen in de private en publieke sector voor onderzoek en innovatie vrijmaken om de ontwikkeling van oplossingen op basis van AI te stimuleren. Maar met waarborging van de fundamentele rechten en Europese normen, waarden en regels, zoals die ter bescherming van de grondrechten en consumentenrechten. Op deze manier wil de EC rechtszekerheid bieden voor innovatie en risico’s van bepaalde toepassingen beperken om zo het vertrouwen in AI-systemen te vergroten.
Ook werden de gevolgen van AI op het gebied van productveiligheid en -aansprakelijkheid in kaart gebracht. De conclusie was dat de huidige Europese productwet- en regelgeving een aantal leemten bevat en een nieuw regelgevingskader voor AI nodig is. Dit vormde dan ook de aanleiding voor het huidige voorstel voor een AI-verordening.
Aan de totstandkoming van het voorstel voor een AI-verordening heeft een brede groep van belanghebbende partijen uit zowel de publieke als particuliere sector bijgedragen.
Wat is het doel en de noodzaak van het Voorstel voor een AI-verordening?
De specialisten productregelgeving & CE-markering van MAAK Advocaten worden regelmatig geconfronteerd met de vraag: wat is het doel en de noodzaak van het voorstel voor een AI-verordening?
De EC heeft in het voorstel voor een AI-verordening verschillende doelstellingen geformuleerd.
Zo wenst de EC door het implementeren van een gemeenschappelijk kader van voorschriften de interne markt op dit gebied te stimuleren. Een andere doelstelling is om de concurrentiepositie en schaalvoordelen van de Europese industrie, economie en het bedrijfsleven ten opzichte van bijvoorbeeld China en de Verenigde Staten te verbeteren. Ook wil de EC een technologische leiderspositie behouden en een voortrekkersrol spelen door een wereldwijde standaard neer te zetten en van de EU de mondiale AI-hub te maken.
Ondanks alle mogelijke voordelen van AI-toepassingen en de snelheid van technologische ontwikkelingen is in het voorstel voor een AI-verordening ook aandacht besteed aan het adequaat behandelen van de risico’s en negatieve gevolgen. Enkele kenmerken van AI zijn immers: ondoorzichtigheid, complexiteit, afhankelijkheid van data en autonoom gedrag. De EC wil met de AI-verordening dan ook een hoog niveau van bescherming garanderen bij de ontwikkeling, het functioneren en het gebruik van AI. Transparantie en traceerbaarheid van AI-toepassingen staan daarin centraal.
Specifieke Doelstellingen van het Voorstel voor een AI-verordening
De specifieke doelstellingen van het voorstel van een AI-verordening zijn:
- “ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;
- rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
- het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;
- de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.”
keuze voor het rechtsinstrument verordening
Het nieuwe regelgevend kader voor AI zal worden vastgelegd in een verordening. Men heeft hiervoor gekozen om de verschillende doelstellingen te combineren, namelijk enerzijds de risico’s en gevaren beperken en anderzijds technologische ontwikkeling en innovatie stimuleren. De EC wil dit bereiken door een uniforme toepassing van de regels die niet verder gaat dan de noodzakelijke minimumvereisten.
Het voorstel voor een AI-verordening heeft hierdoor een algemene strekking, is verbindend in al haar onderdelen en rechtstreek toepasselijk in elke lidstaat. In andere woorden, het voorstel voor een AI-verordening is objectief en abstract geformuleerd, mag niet omgezet worden in nationale wetgeving om juridische verschillen te voorkomen en afwijken is alleen toegestaan wanneer dat is opgenomen.
Wat regelt het voorstel voor een AI-verordening?
In het voorstel zijn vijf hoofdonderwerpen geregeld. In dit kern zijn dit: (i) regels met betrekking tot het in de handel brengen, in gebruik stellen en gebruiken van AI-systemen in de EU, (ii) verboden van bepaalde praktijken, (iii) voorschriften voor AI-systemen met een hoog risico en de bijbehorende verplichtingen van exploitanten, (iv) voorschriften over transparantie voor bepaalde AI-systemen en (v) regels voor markttoezicht- en monitoring.
In deel twee van deze blogreeks zal met name worden stilgestaan bij de betekenis van de huidige concepttekst en de gevolgen van het voorstel voor een AI-verordening voor de maakindustrie.
Advocaat gespecialiseerd in de AI-Verordening
MAAK Advocaten beschikt over een ervaren team van advocaten gespecialiseerd in vraagstukken over productregelgeving en CE-markering en met een sterke focus op de spelers in de maakindustrie. Wilt u juridisch advies inwinnen over (de status van) het voorstel voor een AI-verordening of de mogelijke gevolgen van deze wet voor uw maakbedrijf? Of heeft uw onderneming behoefte aan ondersteuning bij het uitvoeren van de conformiteitsbeoordelingsprocedure (al dan niet door een notified body / aangemelde instantie), het opstellen van de technische documentatie of de EU-conformiteitsverklaring, het aanbrengen van de CE-markering of gerelateerde vraagstukken over de bijbehorende contracten? Neem dan contact op met een van onze advocaten productregelgeving en CE-markering in Amsterdam.
T: +31 (0)20 – 210 31 38
E: mail@maakadvocaten.nl
Contactpersoon: Max Schwillens | Advocaat gespecialiseerd in de AI-Verordening
