De ongemakkelijke waarheid van de EU AI-Act

Begin deze maand is de AI Act aangenomen in Europa. Volgens velen een ‘baanbrekende wet’ die het gebruik van AI, algoritmes en machine learning moet gaan beperken en eist dat risico’s voor mensen en maatschappij worden geminimaliseerd. De belangrijkste punten van de AI-Act zijn:
1. Een risico-gebaseerde aanpak de AI-Act onderscheidt vier risiconiveaus voor AI-systemen: onaanvaardbaar risico, hoog risico, beperkt risico en minimaal risico. AI-systemen met een onaanvaardbaar risico zijn verboden, terwijl AI-systemen met een hoog risico aan strengere eisen moeten voldoen.
2. Transparantie en traceerbaarheid: AI-systemen moeten transparant en traceerbaar zijn. Dit betekent dat gebruikers van AI-systemen moeten kunnen begrijpen hoe het systeem werkt en hoe de beslissingen worden genomen. Ook moeten de gegevens die worden gebruikt om het systeem te trainen, bewaard worden.
3. Niet-discriminatie: AI-systemen mogen niet discrimineren op basis van ras, geslacht, religie, seksuele geaardheid, politieke overtuiging of andere persoonlijke kenmerken.
4. Milieuvriendelijkheid: AI-systemen moeten worden ontworpen en gebruikt op een manier die milieuvriendelijk is.
5. Menselijke controle: AI-systemen moeten onder toezicht staan van mensen. Dit betekent dat mensen de beslissingen van het systeem moeten kunnen controleren en corrigeren.
De AI-Act is wet die de ontwikkeling en het gebruik van AI in de EU moet reguleren. De wet stelt hoge eisen aan AI-systemen, maar biedt ook kansen voor innovatie en groei. De AI-Act zal in 2026 in werking treden.

Vervolgens komt een aantal praktische vragen op: 1) welk probleem lost deze wet op? 2) wie gaat hier toezicht op houden? en 3) gaat de wet werken? De ongemakkelijke waarheid is namelijk dat er door de explosieve ontwikkeling van AI inclusief ‘de democratisering van AI’ sinds ChatGPT vorig jaar werd gelanceerd, wereldwijd op basis van OpenAI, Google AI en Microsoft (Open-AI) based technologieën inclusief in alle landen van de EU dagelijks duizenden ‘AI-systemen’ online uitkomen.

Ik heb zelf inmiddels meer dan 50 non-corporate AI-powered apps die over de hele wereld in alle landen op het internet in de Cloud worden gehost. AI-apps die mij enorme productiviteitsverbeteringen opleveren ten behoeve van mijn klanten.

Daarnaast bouwt Google inmiddels in alle apps eigen AI in en geeft bovendien de mogelijkheid om dat zelf ook te doen. Microsoft bouwt overal ‘eigen AI’ in alle eigen software inclusief in Microsoft Office! En veel derde partijen waaronder veel online platforms zoals LinkedIn, bouwen ook AI in hun platforms in. Op basis van de LLM’s van die drie grote partijen en van kleinere partijen. Het antwoord op alle drie de vragen is dus praktische gezien ‘nee’.

Het lijkt er op dat onze politici en mensen binnen de EU opnieuw denken dat men ‘het internet’ kan reguleren. De ongemakkelijke realiteit is dat diegenen die wetten voorbereiden en maken geen flauw benul hebben hoe snel de ontwikkelingen wereldwijd gaan online met betrekking tot AI. Net als tijdens de lancering van het Internet trouwens. Mede op basis van ronduit incorrecte inschattingen en aantoonbaar incorrecte beantwoording van vragen van leden van de 2e kamer m.b.t. de impact van AI op de arbeidsmarkt en op het onderwijs bv. Zoals ik inmiddels in Den Haag heb kunnen constateren.

Als er iets nodig is op korte termijn is snelle bijscholing van iedereen die bij het voorbereiden en maken van wetten betrokken is. Inclusief de leden van de 2e en 1e kamer. En dat geldt ook voor de ambtenaren op de betrokken ministeries en de profs en hoogleraren die ik heb ontmoet. Hun kennis is niet up to date. En dat is een zorgwekkende constatering nu we inmiddels online in generatie 4 zitten met AI-powered apps wereldwijd. Terwijl men in Den Haag en Brussel nog aan het praten is over ChatGPT (kaal) en Midjourney (kaal). Inclusief Alexandra van Huffelen (D66), staatssecretaris Koninkrijksrelaties en Digitalisering die het gebruik door ambtenaren van ChatGPT en Midjourney wil gaan verbieden.