Waarom is de AI Act nodig?

AI-systemen bieden veel mogelijkheden, maar brengen ook risico's met zich mee. Soms is het moeilijk te achterhalen waarom een AI-systeem een bepaalde beslissing heeft genomen, wat kan leiden tot oneerlijke behandeling van mensen, bijvoorbeeld bij sollicitaties of aanvragen voor uitkeringen. De AI Act moet ervoor zorgen dat Europeanen kunnen vertrouwen op wat AI te bieden heeft en tegelijkertijd de risico's beperken.

Voor wie geldt de AI Act?

De regels gelden voor iedereen die AI ontwikkelt, op de markt brengt of gebruikt. Dit omvat bedrijven, overheden en instellingen in alle sectoren.

De EU AI Act heeft de grootste impact op sectoren die intensief gebruik maken van AI-systemen met hoge risico's, zoals:

• Gezondheidszorg: AI voor medische diagnoses en behandelingen
• Financiële dienstverlening: AI voor kredietscoring en risicobeoordeling
• Onderwijs: AI voor studentenevaluatie en toelating
• Rechtshandhaving: AI voor gezichtsherkenning en voorspellend politiewerk
• Transport: AI voor zelfrijdende voertuigen
• Recruitment: AI voor CV-screening en selectie

Deze sectoren moeten voldoen aan strenge eisen op het gebied van risicobeoordeling, transparantie, menselijk toezicht, gegevensbeheer en documentatie. Ze zullen aanzienlijke investeringen moeten doen in compliance en mogelijk hun AI-systemen moeten aanpassen om aan de nieuwe regelgeving te voldoen.

EU AI Act definieert drie hoofdrisico niveaus:

1. Onaanvaardbaar risico: AI-systemen die als bedreiging worden gezien voor veiligheid, rechten en levensonderhoud zijn verboden. Voorbeelden zijn sociale scoring door overheden en manipulatieve AI.
2. Hoog risico: AI-systemen die significante risico's vormen voor gezondheid, veiligheid, grondrechten of milieu. Deze moeten voldoen aan strenge eisen, zoals risicobeheersing en menselijk toezicht. Zoals AI voor biometrische identificatie en recruitment.
3. Beperkt of minimaal risico: AI-systemen met beperkte risico's moeten voldoen aan transparantieverplichtingen, zoals het informeren van gebruikers dat ze met AI interacteren. AI met minimaal risico, zoals spamfilters, kan vrij worden gebruikt. 

Wat zijn de belangrijkste punten van de AI Act?

• Verbod op bepaalde AI-praktijken:
  AI-systemen die in strijd zijn met de waarden en grondrechten van de EU, zoals sociale scoring door overheden en het manipuleren van gedrag, zijn verboden.
• Regels voor 'hoog-risico' AI-systemen
  Voor AI-systemen die een hoog risico vormen, zoals die gebruikt worden in kritieke infrastructuur, onderwijs, werkgelegenheid en wetshandhaving, gelden strenge eisen. Ontwikkelaars moeten zorgen voor transparantie, menselijk toezicht, veiligheid en het voorkomen van discriminatie.
• Verplichtingen voor ontwikkelaars
  Aanbieders van 'hoog-risico' AI-systemen moeten voldoen aan verschillende verplichtingen, zoals het opzetten van een kwaliteitsbeheersysteem, het verstrekken van technische documentatie en het registreren van het systeem in een publieke database.
• Verplichtingen voor gebruikers
  Gebruikers van 'hoog-risico' AI-systemen, zoals scholen, moeten ervoor zorgen dat het systeem wordt gebruikt volgens de instructies van de aanbieder en eventuele problemen melden.
• Toezicht en handhaving
  Er komt een Europees 'AI-Office' dat toezicht gaat houden op AI-systemen die op de markt komen. Overtredingen van de AI Act kunnen leiden tot hoge boetes.

Wanneer gaat de AI Act in?

De definitieve tekst van de AI Act is op 12 juli 2024 gepubliceerd en treedt per 1 augustus 2024 in werking. De meeste verplichtingen voor bedrijven en instellingen gaan twee jaar later in, maar voor bepaalde 'hoog-risico' AI-systemen gelden kortere termijnen. De AI Act is een belangrijke stap om ervoor te zorgen dat de ontwikkeling en toepassing van AI in Europa op een verantwoorde en betrouwbare manier plaatsvindt. Het is aan bedrijven, overheden en instellingen om zich goed voor te bereiden op de nieuwe regels en samen te werken aan een toekomst waarin de mens centraal staat bij het gebruik van AI.

 
Klik hier om naar de officiële site van het Europees Parlement te gaan die over de AI Act gaat.  De gehele EU AI Act (wet) is hier te lezen. Er is nog een mooie site om in de gaten te houden: https://artificialintelligenceact.eu/.

Deze bijdrage is geschreven door Peer Goudsmit (VERAI) met behulp van AI.