Martin Aarnoudse over de EU regels voor het gebruik van AI – Family7 Uitgelicht!

Op 8 december heeft de Europese Unie een voorlopig akkoord bereikt met de AI-wet (EU AI act). Martin Aarnoudse werd hier 11 december over geïnterviewd door Family7.

Wat houden die regels voor AI in?

De AI-wet gaat over het reguleren van nieuwe AI-toepassingen. Deze wet moet ervoor zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. Het Europese Parlement vindt dat AI-systemen nooit volledig geautomatiseerd mogen zijn, maar altijd onder menselijk toezicht moeten staan om schadelijke gevolgen te kunnen voorkomen. Dat is een belangrijk item. Niemand wil dat de controle op AI verloren gaat. We zagen bij het toeslagenschandaal wat er gebeurt als een algoritme klakkeloos vertrouwd wordt.

Het Parlement pleit daarnaast voor een technologie neutrale, uniforme definitie van AI die geldt voor alle toekomstige AI-systemen zodat niet alleen de huidige systemen gereguleerd zijn maar ook toekomstige systemen.

Hoewel AI al jaren wordt toegepast in onze maatschappij, heeft de komst van AI-tools als ChatGPT de urgentie van wetgeving enorm vergroot. Dergelijke tools worden door de nieuwe wet gereguleerd. Zo moeten zij de risico’s van hun technologie inschatten en ondervangen, en rapporten over hun energieverbruik.

De laatste dagen werd er fel gedebatteerd in het parlement. Het ging met name over de impact op Europese bedrijven. Uiteindelijk zijn ze erop uitgekomen dat: “de wet de fundamentele rechten en de democratie respecteert, terwijl bedrijven kunnen floreren en uitbreiden”.

En aantal systemen is echter verboden:

  • Het ongericht opbouwen van databases met (beveiligings)beelden voor gezichtsherkenning
  • Systemen die een surveillance staat kunnen creëren zoals het bestraffen en belonen van fout of goed gedrag met punten
  • Emoties herkennen (uitzondering voor politiediensten bij inzet van een misdrijf).

Hoe belangrijk zijn regels voor AI?

Regulatie van AI is belangrijk. Tegenwoordig is de waarheid steeds moeilijker te achterhalen. Tijdens de verkiezingen zagen we beelden van politici die duidelijk nep waren maar wel als waarheid werden neergezet. Een opmerking die ik toen hoorde: “De afbeelding is niet de waarheid maar het is wel waarheidsgetrouw”. De waarheid wordt met het gebruik van generatieve AI-toepassingen steeds vloeibaarder. Naast de zorgen rondom privacy, auteursrecht, baanzekerheid.

Voor de duidelijkheid. Wat houdt AI in?

Het begrip bestaat uit twee woorden. Kunstmatig en Intelligent. In het Engels Artificial Intelligence. Het wordt ook wel omschreven als de wetenschap die zich bezighoudt met het creëren van een artefact dat een vorm van intelligentie nabootst. Een vorm om dat aan te tonen in de Turing test. Alan Turing ontwikkelde al in 1936 deze test. Als je als mens niet meer weet of je te maken hebt met een computerbrein of een menselijk brein dan was de Turing test geslaagd en kon aangetoond worden dat de machine intelligent is.

AI is een breed begrip. Gelden die regels voor alle vormen van AI?

De AI-wet onderkent 4 categorieën:

  1. Systemen met onaanvaardbaar risico worden verboden (gezichtsherkenning, surveillance state, manipuleren van mensen);
  2. Systemen met een hoog risico worden gemonitord (onderwijs, justitie, luchtvaart);
  3. Generatieve AI moeten transparant zijn over gebruik van data en mogen geen illegale inhoud creëren;
  4. Laag risico, systemen die foto’s of video’s verbeteren, die moeten aangeven dat ze AI gebruiken.

Welke voor- en nadelen heeft AI?

Over de voor- en nadelen van AI kan een heel programma gevuld worden. Een van de beloftes is dat AI ons meer tijd gaat opleveren. Mijn kanttekening is dan altijd wel wat doen we met die vrijgekomen tijd. Kunnen we die besteden aan meer zorg voor elkaar of wordt die tijd weer ingezet voor meer productiviteit?

AI gaat ons en zeker het bedrijfsleven veel brengen. Het wordt steeds eenvoudiger om werk uit handen te geven. Denk aan eerstelijns telefonisten, vertaalwerkzaamheden, diagnoses stellen, voorspellingen doen, tekstverwerking, data interpretatie, uitvoeren van complexe operaties zonder vermoeid te raken.

Worden we minder creatief door het gebruik van AI?

Menigeen zal gretig gebruik maken van de creatieve kunsten die AI te bieden heeft. Om echt iets moois voor elkaar te krijgen heb je ook wel wat creativiteit nodig. Ook verwacht ik dat de creatieve masterminds van deze wereld juist boven kunnen komen drijven door hun authenticiteit en creaties die we van AI nog niet gezien hebben. Religieuze kunst behoeft toch ook een bezielde maker.

Gaat AI de wereld overnemen?

Veel mensen denken wel in die richting. Zelf denk ik dat het wel mee zal vallen. Daarom is het wel goed dat de EU een regel heeft opgesteld dat er altijd onder menselijk toezicht gehandeld moet worden. En niet alles volledig geautomatiseerd mag zijn. Zodra we niet meer begrijpen wat we zelf maken en wat onze creaties weer creëren ga je wel naar een scenario dat AI de wereld in zijn macht gaat krijgen.

Kunnen we stellen nu er regels zijn voor AI dat we het zorgeloos kunnen inzetten?

Zorgeloos niet. Zorgelozer wel. Het is in ieder geval goed om te weten dat er regels zijn waar bedrijven zich aan moeten houden en dat daar ook toezicht op gaat komen. Dat wil niet zeggen dat je alles maar klakkeloos moet gebruiken. Het gebruik heeft nog steeds impact op jezelf en je omgeving.

EU AI act: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

Back to Top