Wie technologie met artificiële intelligentie (AI) ontwikkelt of gebruikt, zal in Europa bepaalde regels moeten volgen. Dat is het gevolg van de nieuwe Europese AI-wet die is goedgekeurd. Daarin staat waarvoor AI wel of niet mag worden gebruikt en onder welke voorwaarden.
Het Europees Parlement heeft op woensdag 13 maart de Artificial Intelligence Act goedgekeurd, een nieuwe wet die "de veiligheid en de grondrechten moet beschermen tegen artificiële intelligentie". Simpel gezegd: er komen regels voor wie AI-technologie ontwikkelt of gebruikt. De meeste regels gelden voor ontwikkelaars, bedrijven en wie professioneel met AI werkt. "Al zullen ook jij en ik onrechtstreeks de voordelen voelen", zegt juridisch onderzoeker Thomas Gils van het Kenniscentrum voor Data & Maatschappij.
"Er zal meer transparantie komen over welke systemen met AI werken, hoe ze werken en met welke data ze getraind zijn. De technologie zal ook correcter en beter werken. Chatbots bijvoorbeeld zullen expliciet moeten aangeven dat ze AI gebruiken. Hetzelfde geldt voor deepfakes: beelden of video's die echt lijken, maar een bestaand iemand of iets nabootsen via AI. Compleet nieuwe teksten, afbeeldingen en video's die door AI zijn gemaakt, zullen een soort watermerk moeten hebben. Ze moeten misschien niet op het eerste gezicht, maar wel via andere tools kunnen worden herkend."
EU hanteert vier categorieën
- Minimaal risico AI (bv. spamfilters, AI videospelletjes): wordt vrij toegestaan
- Beperkt risico AI (bv. chatbots op websites van banken of vliegtuigmaatschappijen): moet voldoen aan transparantieverplichtingen
- Hoog risico AI (bv. zelfrijdende wagens, robotchirurgie): wordt onderworpen aan strenge verplichtingen ter controle
- Onaanvaardbare AI (bv. voor sociaal kredietsysteem): wordt verboden
Verboden
Systemen die een onaanvaardbaar risico met zich meebrengen, worden verboden. Het gaat dan over AI-systemen die de rechten van burgers in gevaar brengen, zoals een sociale score toekennen op basis van gedrag. Ook realtime gezichtsherkenning of emotieherkenning op het werk of op school worden verboden. Bedrijven zullen ook geen databanken voor gezichtsherkenning mogen aanleggen door lukraak foto's en video's van het internet te plukken. Daarnaast komt er een verbod op voorspellend politiewerk dat enkel bedoeld is om mensen te profileren of hun kenmerken te beoordelen. AI-systemen waarmee menselijk gedrag wordt gemanipuleerd of de kwetsbaarheden van mensen worden uitgebuit, zijn ook niet toegelaten in Europa.
Uitzonderingen
Toch zijn er nog uitzonderingen mogelijk. Realtime gezichtsherkenning zal wel nog kunnen onder heel strikte voorwaarden, met toestemming van een rechter bijvoorbeeld, om gericht te zoeken naar een vermiste of om terroristische aanslagen te voorkomen. De details in de nieuwe wet zullen dus nog heel belangrijk worden. De meeste regels en verplichtingen zijn er voor AI-systemen met een hoog risico, omdat ze mogelijk schade kunnen veroorzaken voor de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat.
Het gaat dan onder meer over AI-technologie die gebruikt wordt in sectoren als justitie, politiek, de gezondheidszorg, de banksector, werkgelegenheid of onderwijs. Volgens de nieuwe regels moeten dit soort AI-systemen transparant en nauwkeurig zijn, en moeten de risico's ervan worden beoordeeld en beperkt. "Bovendien moeten er logboeken worden bijgehouden en moet menselijk toezicht mogelijk zijn", schrijft het Europees Parlement in een persbericht. "Burgers hebben het recht om klachten over AI-systemen in te dienen en uitleg te krijgen over beslissingen die zijn genomen op basis van AI-systemen met een hoog risico en die gevolgen hebben voor hun rechten."
De nieuwe AI-wet moet nog door de lidstaten officieel worden goedgekeurd, maar dat zou een formaliteit zijn. De nieuwe regels gaan daarna in fases in. De volledige wet zou pas in 2026 volledig van kracht zijn.
Meer informatie
- Europa keurt nieuwe regels over artificiële intelligentie goed: zo zal jij dat merken
- Regels voor artificiële intelligentie: EP keurt baanbrekende wet goed
Bron: VRT NWS, Europees Parlement