De betovering van de mens
Boekbespreking Techthics door Bart Leenman
Ronald Meester en Marc Jacobs
De onttovering van AI: Een pleidooi voor het gebruik van gezond verstand
Zutphen; Uitgeversmaatschappij Walburg Pers 2024
230 pagina’s
ISBN 9789464563412
Onderstaande uiteenzetting is een samenvatting van het boek gebaseerd op een bespreking door Bart Leenman, Jakob Maljaars en Hugo Peters.
De onttovering van AI
Filosofische en academische discussies rondom kunstmatige intelligentie zijn al enkele decennia gaande. Kunstmatige intelligentie is namelijk helemaal niet nieuw. Wat wel nieuw is, is de razendsnelle verspreiding van kunstmatig intelligente systemen en brede aandacht voor dit onderwerp. Met de opkomst van ChatGPT, DALL-E, Bing AI etc., heeft kunstmatige intelligentie haar intrede gedaan onder het brede publiek.
Maar wat is kunstmatige intelligentie eigenlijk? Meester en Jacobs beginnen hun boek met de stellingname dat kunstmatige intelligentie bepaalde eigenschappen mist die eigen zijn aan de mens en menselijk intelligentie. De term kunstmatige intelligentie is daarom misleidend. Meester en Jacobs geven daarbij aan dat zij de intelligentie van AI willen ‘onttoveren’. Deze onttovering werken zij uit in de eerste drie hoofdstukken van hun boek. Allereerst verduidelijken Meester en Jacobs de geschiedenis van de ontwikkeling van kunstmatige intelligentie verhelderen zij de centrale begrippen. Daarnaast presenteren Meester en Jacobs overtuigende voorbeelden en filosofische gedachtenexperimenten om aan te tonen dat kunstmatige intelligentie inderdaad niet ‘intelligent’ is.
De betovering van de mens?
De vraag is echter wie zij hiermee proberen te overtuigen? Het feit dat kunstmatige intelligentie niet daadwerkelijk intelligent is (zoals de mens intelligent is), is doorgaans breed gedragen. Uiteraard zijn er ook mensen die stellen dat kunstmatige intelligentie wél intelligent is, maar dit doen zij doorgaans niet door AI te ‘betoveren’ (zoals Meester en Jacobs lijken te suggereren), maar door de mens te onttoveren. Zij zullen bijvoorbeeld beargumenteren dat het menselijk brein niets anders is dan een geavanceerde supercomputer die megasnel input verwerkt tot bepaalde output. De mens is volgens hen dus iets anders dan een informatieverwerker ofwel een computer. Het is dus maar sterk de vraag of juist deze groep mensen gevoelig zijn voor de argumenten van Meester en Jacobs teneinde AI te onttoveren. Dit onttoveren van AI impliceert bij Meester en Jacobs namelijk ook direct het betoveren van de mens; een claim die vele male moeilijker te verdedigen is.
Breinreductionisme
In de volgende hoofdstukken wordt duidelijk dat Meester en Jacobs moeite ondervinden deze filosofische discussie te voeren. Het eerste argument voor de betovering van de mens is Meesters en Jacobs afwijzingen van het reductionisme. Hierbij verwijzen zij bijvoorbeeld naar het breinreductionisme van de Nederlandse hersenwetenschapper Dick Swaab. Swaab stelt dat mensen hun brein zijn. Deze opvatting wordt gesterkt door de Amerikaanse filosoof Daniel Dennett die stelt dat bewustzijn een evolutionair neveneffect is van het brein. Bewustzijn bestaat dus niet ‘echt’, het is slecht een illusie van het brein die evolutionaire voordelen oplevert. De mens is dus slecht een slimme en snelle rekenaar, maar een rekenaar desalniettemin. Meester en Jacobs wijzen dit argument af en merken (terecht) op dat zowel Dennett als Swaab niet kunnen verklaren hoe dit bewustzijn is ontstaan. Men kan stellen dat het een evolutionair voordeel oplevert, maar dat bewijst nog niet dat het niet ‘echt’ of ‘illusoir’ is. Dennett en Swaab zouden zich daarom schuldig maken aan ‘wishful thinking’. In plaats van dat Meester en Jacobs dit pleidooi vervolgen met een argument vóór het bestaan van het bewustzijn, laten zij deze filosofische bespreking achterwege. Sterker nog, wat betreft het ontstaan van het bewustzijn, besluiten Meester en Jacobs deze vraag in haar geheel niet te beantwoorden:
“Dennet is hiermee de filosoof van de gaten. Wij zullen in dit hoofdstuk geen poging doen de argumenten van Dennett in directe zin te ontkrachten. Wij volgen een andere route: wij zullen proberen te beschrijven wat de consequentie is van de aanname dat in principe ‘alles’ te reduceren is tot fysica en chemie. Als de consequenties van deze aanname op een bepaalde manier ongeloofwaardig zijn, en dat is wat wij zullen betogen, dan kunnen wij concluderen dat de aanname zelf problematisch is.” (81)
Via dit retorische truckje proberen Meester en Jacobs het probleem van de bewijslast te ontlopen, maar als zij Dennet hiermee de filosoof van de gaten noemen geldt dit mutatis mutandis ook voor hen. Om hun positie kracht bij te zetten, poneren ze een achttal argumenten die huns inziens verduidelijken waarom het breinreductionisme van Dennet en Swaab problematisch is. Ondanks dat deze argumenten geldige kritiek levert op het breinreductionisme van Swaab en Dennet is het vraagstuk met betrekking tot het menselijke bewustzijn nog niet opgelost.
De gevaren van AI
In de volgende delen wordt het boek, mijns inziens, een stuk overtuigender. Meester en Jacobs laten de filosofische discussie achter zich en richten zich op het beschrijven van de mogelijke gevaren van AI. Wederom aan de hand van overtuigende voorbeelden verkennen Meester en Jacobs het terrein van AI en de mens. Daarbij stellen zij kritische vragen over het ‘wezen’ van AI, maar ook het wezen van de mens. Hierbij presenteren Meester en Jacobs zichzelf niet als ‘doomdenkers’, maar zetten de lezers aan tot kritische reflectie. Heeft AI ons leven daadwerkelijk ‘beter’ gemaakt? Wat is het verschil tussen mechanisatie en digitalisatie? Welke eigenschappen van de mens willen we niet verliezen (bijvoorbeeld autonomie)? Ook trekken ze het ongebreidelde vooruitgangsgeloof en technisch opportunisme op overtuigende wijze in twijfel. Technologie en kunstmatige intelligentie dringen zich aan ons op. We kunnen er onszelf daarom wel kritisch opstellen, maar ontkomen aan de roep van de technologie kunnen we niet. Daarom blijven Meester en Jacobs niet hangen in een pessimistisch conservatisme, maar dwingen zij ons de vragen te stellen die ertoe doen. Als namelijk blijkt dat de dwingende roep van AI wezenlijke zaken van ons mens-zijn lijkt te veranderen, moeten we onszelf de vraag stellen hoe dit proces voorkomen of veranderen. Hoe kunnen we dat wat we zo bijzonder vinden aan de mens (autonomie, vrijheid, creativiteit) blijven beschermen?
Richtlijnen voor AI
Het derde en laatste deel van het boek probeert vervolgens richting te geven in de verwarrende wereld van techniek en AI. Daarbij verhelderen Meester en Jacobs op geheel redelijke wijze dat de opkomst van AI niet te stuitten is, maar zoals het een filosoof behoort, durven zij kritische vragen te stellen bij deze ontwikkeling. Niet in de overtuiging het te kunnen weerstaan of te vervallen in conservatieve nostalgie, maar om te zoeken naar hoe wij wensen AI vorm te geven in ons leven. Richtlijnen die niet verbieden, maar ons oproepen verantwoordelijkheid te nemen voor onze omgang met AI. Maakt het gebruik van AI ons bijvoorbeeld creatiever? Wanneer worden wij te afhankelijk van AI? Is het wenselijk om bepaalde menselijk eigenschappen, bijvoorbeeld autorijden, te verliezen?
De morele plicht ten aanzien van AI
Het boek van Meester en Jacobs demonstreert op heldere en overtuigende wijze hoe AI werkt. Daarmee onttoveren Meester en Jacobs kunstmatige intelligentie inderdaad. De vraag die nu rest is hoe wij daar mee om moeten gaan. Tegen deze achtergrond fungeren Meester en Jacobs als typische filosofen door ons lastige vragen voor te schotelen zonder zelf te antwoorden te bezitten. Deze filosofische methode is echter niet bedoelt om mensen te plagen, maar (geheel in overeenstemming met Socrates) om de mens zelf tot inzicht te brengen. Meesters en Jacobs’ pleidooi kan men uiteindelijk samenvatten in de opmerking dat de mens haar verantwoordelijkheid moet nemen als het gaat over AI. Dit betekent dat men niet weg kan kijken, maar dat de mens, ieder voor zich, kritisch moet kijken naar zijn of haar gebruik en verwachtingen van AI.