Een veilige, eerlijke en transparante omgeving creëren voor de ontwikkeling en het gebruik van AI die de fundamentele rechten en waarden van EU-burgers beschermt: da’s het uitgangspunt van waaruit de EU vertrok voor zijn AI Act. En hoewel de krijtlijnen daarvoor onlangs goedgekeurd werden door het Europees Parlement, duurt het nog een minimum van twee jaar voor die in voege treedt. Toch kan je als bedrijf maar beter de vlucht vooruit nemen.
De EU is al jaren bezig met een wetsvoorstel rond AI: haar befaamde European AI Act. Een eerste draft werd op 21 april 2021 gepresenteerd door de Europese Commissie. De stormachtige evolutie van de technologie – denk bijvoorbeeld aan ChatGPT – zorgden er echter voor dat die draft al hopeloos gedateerd was. Terug naar de tekentafel dus. Onlangs, 14 juni 2023 om precies te zijn, werd het wetsvoorstel alsnog goedgekeurd.
Nu het parlement de AI Act heeft goedgekeurd volgen onderhandelingen met de lidstaten over de wet. Die zijn al in volle gang, veel sneller dan normaal binnen de EU. De Commissie wil dan ook dit jaar een volledig akkoord bereiken, die de urgentie toont die binnen Europa leeft rond AI. Daarna duurt het nog twee jaar voor de regels effectief van kracht zullen zijn, een eeuwigheid in de razendsnel evoluerende wereld.
Daarom lijken de krijtlijnen bewust vaag gehouden, maar hieronder vind je de belangrijkste bepalingen van de European AI Act:
AI-systemen met een hoog risico
De wet identificeert bepaalde AI-toepassingen als “hoogrisico” en legt strikte regels op voor deze systemen. Het omvat AI-technologieën zoals biometrische identificatie (zoals gezichtsherkenning), kritieke infrastructuur, onderwijs- en werkgelegenheidsbeoordelingen, migratie- en rechtshandhavingstoepassingen. Deze systemen moeten voldoen aan verplichte eisen, zoals risicobeoordelingen, duidelijke documentatie en technische normen.
Verboden AI-praktijken
De wet verbiedt bepaalde AI-praktijken die als onaanvaardbaar worden beschouwd en een hoog risico vormen voor de rechten en vrijheden van individuen. Dit omvat het gebruik van AI om burgers te manipuleren (zoals sociale scoresystemen), het creëren van deepfake-video’s voor politieke doeleinden en het gebruik van AI in systemen die de toegang tot openbare diensten bepalen (zoals onderwijs en huisvesting) op basis van discriminerende criteria.
Transparantie en verantwoording
De wet stelt eisen aan de transparantie van AI-systemen. Ontwikkelaars moeten gebruikers informeren wanneer ze met een AI-systeem interageren, en ze moeten uitleg kunnen krijgen over hoe het systeem werkt. Ook moeten ze in staat zijn om klachten in te dienen bij verantwoordelijke instanties.
Toezicht en handhaving
De European AI Act richt een Europees Comité voor Kunstmatige Intelligentie op, dat verantwoordelijk is voor het toezicht op de naleving van de regelgeving. Lidstaten moeten nationale instanties aanwijzen die belast zijn met handhaving. Die hebben de bevoegdheid om boetes op te leggen bij inbreuken.
Op concrete richtlijnen is het nog even wachten. Maar wat alvast in steen gebeiteld lijkt, is dat de AI Act een soortgelijke impact op je bedrijfsprocessen zal hebben als de GDPR-richtlijnen, waarschijnlijk zelfs een grotere.