AI-wet: een mijlpaal in de regelgeving voor Artificiële Intelligentie 

Inwerkingtreding van de eerste bepalingen van de Wet AI: februari 2025

De Wet AI stelt bepaalde praktijken vast die een "onaanvaardbaar risico" vormen voor de veiligheid, vrijheid en waardigheid van mensen. Sinds begin februari zijn de volgende verboden van kracht. We geven ook enkele concrete voorbeelden om ze beter te begrijpen.

Deze verboden richten zich vooral op AI-systemen die:

• manipulatie,
• buitensporige bewaking,
• of algoritmische discriminatie.

Belangrijk: Deze regels gelden niet voor individuen die AI uitsluitend voor persoonlijke doeleinden gebruiken. Maar zodra AI in een professionele context wordt ingezet, of dat nu door een zelfstandige of een bedrijf gebeurt, moeten de regels van de verordening worden nageleefd.

Op 4 februari heeft de Europese Commissie richtsnoeren gepubliceerd over verboden AI-praktijken. Deze aanbevelingen helpen om de verordening in de hele EU op een consistente manier toe te passen. Let op: de richtsnoeren zijn niet juridisch bindend; alleen het Hof van Justitie van de Europese Unie (HvJEU) kan de officiële interpretatie bepalen.

Terug naar boven

Praktijken die verboden zijn door de AI-wet

1. Subliminale of misleidende manipulatie

AI-systemen mogen geen technieken gebruiken die mensen onbewust beïnvloeden en schade kunnen veroorzaken. Denk aan verborgen boodschappen in video's, nauwelijks hoorbare geluiden die beslissingen sturen, of algoritmes die inspelen op cognitieve vooroordelen om keuzes te manipuleren.

Voorbeeld: Een chatbot die investeringsopties op een bevooroordeelde manier presenteert om financiële beslissingen van gebruikers te beïnvloeden.

2. Uitbuiten van kwetsbaarheden

AI mag niet worden ingezet om misbruik te maken van iemands leeftijd, handicap of sociale status. Dit voorkomt dat bedrijven systemen ontwikkelen die bijvoorbeeld de onervarenheid van kinderen of de kwetsbaarheid van ouderen en kansarmen uitbuiten.

Voorbeeld: Een slim speelgoedje dat kinderen verleidt tot gevaarlijk gedrag in ruil voor digitale beloningen.

3. Sociaal scoren

De AI-wet verbiedt sociale scoresystemen die de toegang tot essentiële diensten beïnvloeden, zoals in het Chinese model. AI mag geen score toekennen aan individuen op basis van hun onlinegedrag of sociale interacties.

Voorbeeld: Een bank die een lening weigert op basis van een algoritme dat consumentengewoonten analyseert.

4. Voorspellend politiewerk

AI mag niet worden gebruikt om misdaad te voorspellen op basis van profilering. Het is verboden om personen als "potentieel gevaarlijk" te bestempelen op basis van persoonlijke kenmerken.

Voorbeeld: Een AI-programma dat mensen beoordeelt als risicovol op basis van hun nationaliteit of economische situatie.

5. Ongerichte gezichtsherkenning

Het massaal verzamelen van gezichtsherkenningsgegevens van het internet of publieke surveillance is niet toegestaan. Dit voorkomt dat beelden van sociale media of bewakingscamera’s worden gebruikt zonder expliciete toestemming.

6. Emotieherkenning

AI mag geen emoties afleiden op de werkvloer of in onderwijsinstellingen, behalve om medische redenen.

Voorbeeld: Software die gezichtsuitdrukkingen van werknemers analyseert om hun motivatie te beoordelen en managementbeslissingen te beïnvloeden.

7. Biometrische categorisatie

AI mag niet worden gebruikt om iemands ras, seksuele geaardheid of politieke overtuiging te bepalen op basis van biometrische gegevens. Dit voorkomt discriminatie op basis van gevoelige informatie.
Voorbeeld: AI die mensen op raciale kenmerken indeelt om gerichte advertenties te tonen.

8. Real-time gezichtsherkenning

Gezichtsherkenning in openbare ruimten voor toezichtdoeleinden is verboden, behalve in uitzonderlijke gevallen zoals terrorismebestrijding of de opsporing van vermiste personen. Dit gebruik moet altijd onder strenge regelgeving vallen.

De nieuwe Belgische regering overweegt gezichtsherkenning toe te staan

Terug naar boven

Hoe identificeer je verboden AI ACT-praktijken? 

De uitvoering

De EU richt verschillende organen op om ervoor te zorgen dat de verordening wordt toegepast:

• AI Office: toezichthoudend en regelgevend orgaan dat verantwoordelijk is voor de naleving van het wetgevingskader.
• AI-comité: brengt deskundigen uit de lidstaten samen voor coördinatie en regelmatige beoordeling.
• Verplichting tot transparantie: vanaf 2026 moet alle door AI gegenereerde inhoud duidelijk worden aangegeven, bijvoorbeeld door een watermerk op afbeeldingen of een expliciete vermelding op teksten.

Er moet rekening mee worden gehouden dat verboden praktijken meestal niet op te sporen zullen zijn door gebruikers...

Wat moet ik doen? 

Gebruikers moeten:

• Hun accounts instellen om het verzamelen van gegevens te beperken en ongewenste personaliseringsopties uit te schakelen.
• De algemene voorwaarden van onlinediensten controleren en eventuele misbruikclausules met betrekking tot het gebruik van persoonlijke gegevens weigeren.
• Misbruik melden bij de bevoegde autoriteiten en juridische stappen ondernemen als hun rechten worden geschonden.

Terug naar boven

Wat zijn de sancties bij niet-naleving van de AI Act?

Elk EU-land moet uiterlijk in augustus 2025 een toezichthoudende instantie aanwijzen om de naleving van de AI Act te handhaven.

De hoogte van de sancties hangt af van de ernst van de overtreding:

• Ernstige inbreuken: Het overtreden van de verboden in artikel 5 – zoals AI-toepassingen met een “onaanvaardbaar risico”: kan leiden tot een boete van maximaal 35 miljoen euro of 7% van de jaaromzet.
• Kleinere overtredingen: Deze worden bestraft met lagere, maar afschrikkende boetes.

Ook overheidsinstanties moeten zich aan deze regels houden. Naast financiële boetes moeten bedrijven die de wet overtreden onmiddellijk stoppen met het gebruik van niet-conforme AI-systemen. Doen ze dat niet, dan kunnen ze te maken krijgen met aanvullende beperkingen.

Wij zien de AI Act als een belangrijke stap naar ethische en transparante AI in Europa. De wet stelt strenge eisen aan bedrijven en beschermt tegelijkertijd burgers tegen misbruik van AI. De handhaving ervan wordt nauwlettend gevolgd door regelgevende instanties, die streng zullen toezien op naleving.

BESCHERM JEZELF BIJ HET GEBRUIK VAN AI

Terug naar boven