Sinds 2 augustus 2026 gelden nieuwe verplichtingen uit de Europese AI Act. Aanbieders van bepaalde AI-systemen moeten gebruikers voortaan duidelijk informeren wanneer zij met AI communiceren en wanneer beelden, video’s, audio of tekst door AI zijn gegenereerd of bewerkt. Tegelijkertijd is ook de handhaving van een belangrijk deel van de AI Act officieel van start gegaan.
De Europese Commissie benadrukt dat de nieuwe regels moeten bijdragen aan meer transparantie, minder misleiding en meer vertrouwen in AI-toepassingen. Voor organisaties betekent dit dat zij niet alleen moeten nagaan of hun AI-systemen onder de AI Act vallen, maar ook of zij voldoen aan de nieuwe informatie- en documentatieverplichtingen.
Nieuwe transparantieverplichtingen
Een van de belangrijkste wijzigingen is dat gebruikers in bepaalde situaties expliciet moeten worden geïnformeerd dat zij met een AI-systeem te maken hebben.
Zo moeten chatbots en andere interactieve AI-systemen duidelijk aangeven dat de gebruiker niet met een mens communiceert. Daarnaast moeten deepfakes – beelden, video’s of geluidsfragmenten die met AI zijn gegenereerd of gemanipuleerd – als zodanig herkenbaar zijn.
Ook andere AI-gegenereerde of door AI gewijzigde content moet voortaan worden voorzien van een machineleesbare markering, zodat deze eenvoudiger kan worden herkend en geverifieerd. Daarmee wil de Europese Commissie voorkomen dat AI-content ongemerkt wordt verspreid en burgers beter in staat stellen de herkomst van digitale informatie te beoordelen.
Handhaving AI Act van start
Naast de transparantieverplichtingen is sinds 2 augustus ook de handhaving van verschillende onderdelen van de AI Act begonnen.
De AI Office van de Europese Commissie krijgt daarbij een centrale rol. Deze nieuwe toezichthouder ziet onder meer toe op aanbieders van general-purpose AI-modellen (GPAI), zoals grote taalmodellen die voor uiteenlopende toepassingen kunnen worden ingezet.
Aanbieders van dergelijke modellen moeten onder meer:
- technische documentatie beschikbaar stellen aan toezichthouders en afnemers;
- een auteursrechtenbeleid hanteren;
- een voldoende gedetailleerde samenvatting publiceren van de gegevens die zijn gebruikt voor het trainen van hun modellen.
Voor de krachtigste AI-modellen die een systemisch risico kunnen vormen, gelden aanvullende verplichtingen. Daarbij gaat het onder meer om risico’s voor de cyberveiligheid, fundamentele rechten, grootschalige manipulatie en situaties waarin AI zich buiten menselijke controle zou kunnen ontwikkelen.
Verboden AI-praktijken
Sinds 2 augustus worden ook de bepalingen over verboden AI-praktijken gehandhaafd. De AI Act verbiedt onder meer AI-systemen die mensen manipuleren, kwetsbare personen op schadelijke wijze uitbuiten of burgers op een onrechtmatige manier beoordelen of rangschikken wanneer dit hun rechten of vrijheden aantast.
Verdeling van het toezicht
De handhaving wordt verdeeld over meerdere toezichthouders.
De AI Office houdt toezicht op AI-systemen die door dezelfde aanbieder worden geleverd als het onderliggende general-purpose AI-model en op AI-systemen die zijn geïntegreerd in zeer grote onlineplatforms en zoekmachines die onder de Digital Services Act vallen.
Voor andere AI-systemen zijn de nationale bevoegde autoriteiten verantwoordelijk. AI-systemen die worden gebruikt door Europese instellingen vallen onder het toezicht van de European Data Protection Supervisor (EDPS).
Nieuwe meldpunten
Om de handhaving te ondersteunen heeft de AI Office verschillende meldinstrumenten geopend. Burgers en organisaties kunnen via een Complaint Tool mogelijke overtredingen van de AI Act melden. Daarnaast is een beveiligd Whistleblower Tool beschikbaar voor medewerkers die misstanden binnen organisaties willen melden. Ook aanbieders die AI-systemen bouwen op basis van general-purpose AI-modellen kunnen mogelijke overtredingen door modelaanbieders via een speciaal meldkanaal doorgeven.
Uitstel voor hoog-risico AI
Niet alle onderdelen van de AI Act zijn inmiddels van toepassing. De Europese Commissie heeft via de AI Omnibus de regels voor hoog-risico AI-systemen uitgesteld tot 2 december 2027. Voor hoog-risico AI die is geïntegreerd in gereguleerde producten geldt een verdere uitsteltermijn tot 2 augustus 2028.
Daarnaast introduceert de AI Omnibus een nieuw verbod op AI-systemen die niet-consensuele seksueel expliciete beelden of materiaal met seksueel misbruik van kinderen genereren. Deze bepalingen treden op 2 december 2026 in werking.
