Kunstmatige intelligentie, ook wel AI genoemd, wordt voor steeds meer dingen gebruikt. Dat brengt nieuwe mogelijkheden, maar ook risico’s met zich mee. Om die risico’s tegen te gaan is in augustus 2024 de AI-verordening ingevoerd in Europa.
Door deze wet moeten ontwikkelaars van AI-modellen en de organisaties die ze gebruiken aan bepaalde verplichtingen voldoen. Wat die verplichtingen zijn, hangt af van hoe risicovol de modellen zijn. Zo zijn er drie risicogroepen:
- Verboden: AI-systemen waar zoveel risico’s aan kleven dat ze gezien worden als een bedreiging voor de mens, worden verboden. Hieronder valt bijvoorbeeld predictive policing, waarbij crimineel gedrag ‘voorspeld’ wordt op basis van de gegevens van mensen. Ook mogen overheden geen algoritmes gebruiken om burgers te scoren op hun sociale gedrag, zoals het ‘sociale-kredietsysteem’ waar de Chinese overheid gebruik van maakt.
- Hoog risico: Ten tweede zijn er AI-systemen met een hoog risico. Dit zijn systemen die belangrijke beslissingen maken, zoals of je recht hebt op een uitkering of lening. Deze systemen moeten aan strenge eisen voldoen en gecontroleerd kunnen worden door een mens.
- Grote systemen: Ook moeten grote AI-modellen aan bepaalde transparantie-eisen voldoen. Het moet bijvoorbeeld duidelijk voor mensen zijn wanneer ze met AI te maken hebben, zodat ze niet misleid kunnen worden door een deepfake of een chatbot. Daarbij moeten de makers van deze modellen de mogelijke risico’s van hun systeem in kaart brengen.
De AI-verordening wordt in verschillende fases uitgevoerd. Vanaf februari 2025 zijn AI-systemen uit de eerste risicogroep officieel verboden en in augustus 2026 gaat de rest van de verordening in de EU van kracht.
Als bedrijven zich aan de AI-verordening houden, ben je als burger beter beschermd tegen de mogelijke risico’s van kunstmatige intelligentie. Je moet duidelijk kunnen zien wanneer je met AI te maken hebt en je kan makkelijker bezwaar maken tegen beslissingen die door AI zijn gemaakt.
» Lees meer over de AI-verordening op de site van de Digitale Overheid
» De Autoriteit Persoonsgegevens legt uit welke AI-systemen precies onder welke risicogroepen vallen
» Bits of Freedom vindt dat de AI-verordening mensenrechten onvoldoende beschermt. Lees hier waarom
» Kennisnet legt uit wat de AI-verordening betekent voor het onderwijs