Magnifica humanitas: wat AI met ons doet – en wat wij ermee moeten

Reinoud Kaasschieter is expert op het gebied van kunstmatige intelligentie en ethiek bij Capgemini. Reinoud begeleidt ook de Alpha in zijn parochie. Hij schreef deze tekst op persoonlijke titel, na eerder voor Techthics te hebben geschreven over het thema: “Algoritmes, ethiek en christelijke waarden”.

Artificiële intelligentie groeit niet alleen snel – ze sijpelt inmiddels door in bijna alles wat we doen. Vaak zonder dat we het doorhebben. In Nederland kun je er eigenlijk niet meer omheen: AI zit in apps en systemen die beslissingen nemen die ons dagelijks raken. Je kiest er meestal niet voor; het is er gewoon.

De encycliek Magnifica humanitas probeert paus Leo XIV precies daar woorden aan te geven. Niet door alleen naar technologie te kijken, maar vooral door te vragen: wat betekent dit voor ons als mens? En misschien nog belangrijker: wat zijn we elkaar verschuldigd in een wereld waarin technologie steeds meer invloed krijgt?

Als AI-ethicus én katholiek las ik deze tekst met een ethiekbril. Natuurlijk is de theologische basis belangrijk, maar de kernvraag voor mij is veel praktischer: heeft deze encycliek iets te zeggen tegen gewone mensen – ook als je niets met kerk of geloof hebt?

Ja, dit document is waardevol voor alle mensen – christenen en niet-christenen – die geïnteresseerd zijn in kunstmatige intelligentie.

Het gaat eigenlijk niet over technologie

Hoewel AI de aanleiding vormt, is Magnifica humanitas in de kern geen technologisch document. Het is een morele beschouwing. De paus schrijft niet alleen over systemen, maar over onszelf: over hoe wij samenleven, en hoe wij omgaan met macht, verantwoordelijkheid en kwetsbaarheid.

Het vertrekpunt is de Sociale Leer van de Katholieke Kerk. In de basis gaat het om iets heel herkenbaars: hoe bouwen we een rechtvaardige samenleving? Hoe verdelen we welvaart? Wat is de rol van de staat? Hoe gaan we om met ongelijkheid?

Die sociale leer is een vorm van christelijk humanisme. En dat betekent vooral dit: de mens staat centraal, niet als robotachtig productiemiddel, als uit te buiten “slaaf”, als een denkend radartje in een ‘machine’ of als datapunt in een database. Maar als wezen met intrinsieke waarde. Technologie is niet verkeerd – maar moet wel in dienst staan van die menselijke waardigheid.

Waardigheid als kompas

Dat begrip “menselijke waardigheid” loopt als een rode draad door de hele encycliek. Het is geen vaag ideaal, maar een concreet uitgangspunt. Volgens de paus heeft ieder mens waarde – simpelweg omdat hij of zij bestaat.

Om dat scherp te maken, maakt de tekst onderscheid tussen vier soorten waardigheid:

• Morele waardigheid
  De manier waarop je keuzes maakt en verantwoordelijkheid neemt.
• Sociale waardigheid
  Het respect en de erkenning die je krijgt van anderen en van de samenleving.
• Existentiële waardigheid
  Hoe je jezelf ziet en ervaart: voel je je waardevol?
• Ontologische waardigheid
  De diepste laag: de waarde die je hebt, los van alles, puur omdat je bestaat.

Juist die laatste vorm is radicaal. Want het betekent dat je waarde niet afhankelijk is van prestaties, succes of nut. En precies daar begint de spanning met AI.

Een bredere morele basis

Naast waardigheid noemt de encycliek een aantal andere principes die samen een moreel kader vormen. Geen abstracte theorie, maar praktische richtlijnen voor hoe we samenleven:

• Complementariteit
  Mensen verschillen van elkaar en kunnen elkaar aanvullen.
• Solidariteit
  Je inzet voor het algemeen belang, niet alleen voor jezelf of je directe omgeving.
• Liefdadigheid (naastenliefde)
  Liefde moet samengaan met waarheid om werkelijk goed te doen.
• Subsidiariteit
  Wat mensen zelf kunnen regelen, moeten ze zelf doen. Pas daarna schaal je op.
• Distributisme
  Eigendom en economische macht moeten zo breed mogelijk verdeeld zijn.
• Duurzaamheid
  We leven niet in een wereld met oneindige middelen.

Deze principes vormen de meetlat waarmee de paus vervolgens naar AI kijkt.

De belofte en de schaduwkant van AI

De encycliek is nergens anti-technologie. Integendeel: AI kan veel goeds brengen. Efficiëntie, medische vooruitgang, betere toegang tot informatie. Maar dat is niet het hele verhaal.

Want dezelfde technologie kan ook iets anders versterken: bestaande ongelijkheden, machtsconcentratie en een manier van denken waarin alles draait om optimalisatie.

De tekst zet de belangrijkste risico’s helder op een rij:

• Ontmenselijking (dehumanisering)
  Mensen worden gereduceerd tot data, profielen of “optimaliseerbare” systemen.
  Waardigheid raakt gekoppeld aan prestaties en efficiëntie.
• Technocratisch wereldbeeld
  Beslissingen draaien steeds meer om controle, meetbaarheid en winst.
  De werkelijkheid wordt iets dat beheerst moet worden.
• Concentratie van macht
  Grote technologiebedrijven krijgen steeds meer invloed.
  Democratische controle verschuift naar de achtergrond.
• Groeiende ongelijkheid en uitsluiting
  Niet iedereen heeft toegang tot technologie.
  Verschillen worden daardoor groter, niet kleiner.
• Aantasting van waarheid en informatie
  Manipulatie wordt makkelijker.
  Het onderscheid tussen waarheid en leugen vervaagt.
• Verlies van menselijke vrijheid en autonomie
  Steeds meer beslissingen worden door systemen beïnvloed of genomen.
  Afhankelijkheid en controle nemen toe.
• Verlies van werk en betekenis
  Automatisering verandert niet alleen banen, maar ook hoe mensen zich waardevol voelen.
• Militarisering en autonome wapens
  AI wordt onderdeel van oorlog en geopolitieke machtsstrijd.
  Wapens die doelen vernietigen zonder menselijke bemoeienis.

Deze punten zijn niet nieuw. Maar door ze samen te brengen en te verbinden aan één centrale norm – menselijke waardigheid – krijgen ze meer gewicht.

Wat is eigenlijk vooruitgang?

Misschien wel de belangrijkste vraag die de encycliek stelt, is deze: wat bedoelen we eigenlijk met vooruitgang?

Als vooruitgang betekent dat alles sneller, efficiënter en goedkoper wordt, dan is AI een succesverhaal. Maar als vooruitgang ook iets zegt over menselijkheid, relaties en betekenis, dan wordt het ingewikkelder.

De paus waarschuwt voor wat hij het technocratisch paradigma noemt: de neiging om de wereld alleen nog te zien in termen van wat meetbaar en optimaliseerbaar is. Dat mensen alleen maar cognitieve – denkende – wezens zijn zonder dat empathie, gemeenschapszin en liefde belangrijk zijn.

Daartegenover plaatst hij een belangrijk onderscheid: AI kan veel, maar het kan niet voelen, niet begrijpen en liefhebben zoals mensen dat doen en geen morele verantwoordelijkheid dragen.

Daarom is er een grens. Beslissingen met echte morele impact – zeker rond leven, dood en waardigheid – mogen nooit volledig aan computersystemen worden overgelaten.

Verantwoordelijkheid begint bij ontwerp

Voor ontwikkelaars van AI is de boodschap duidelijk, en eerlijk gezegd ook stevig.

Elke keuze in een systeem – wat je meet, wat je optimaliseert, wat je weglaat – zegt iets over hoe je naar de mens kijkt.

Daarom worden ontwikkelaars opgeroepen om:

• Transparant te zijn over hoe systemen werken.
• Verantwoordelijkheid te nemen voor de impact.
• Steeds te toetsen of wat ze bouwen daadwerkelijk het goede dient.

Technologie is nooit neutraal. En dat betekent dat ontwerpkeuzes altijd ook morele keuzes zijn.

De rol van gemeenschap en kerk

Ook voor kerken en gemeenschappen heeft de encycliek een duidelijke oproep. Niet om technologie af te wijzen, maar om richting te geven.

• Bewaak en bevorder menselijke waardigheid
  Zie mensen nooit als middel of data.
• Vorm kritische gebruikers van technologie
  Help mensen onderscheid maken tussen waarheid en manipulatie.
• Versterk gemeenschap en solidariteit
  Gebruik technologie om verbinding te ondersteunen, niet te vervangen.
• Zet je in voor rechtvaardigheid
  Bescherm mensen die geraakt worden door automatisering.
• Bescherm vrijheid
  Wees waakzaam voor afhankelijkheid, controle en verslaving.
• Spreek je uit tegen misbruik
  Benoem onrecht en schadelijke toepassingen.
• Blijf een realistisch mensbeeld uitdragen
  Kwetsbaarheid is geen fout, maar onderdeel van mens-zijn.

De encycliek roept kerkleiders en leken op zich actief bezig te houden met technologische ontwikkelingen en de gevolgen ervan voor de gemeenschap. Ook in de kerk moeten we ervan bewust worden wat de gevolgen zijn wanneer je deelneemt – als individu of als gemeenschap – aan deze digitale platformen.

De rol van ethici

Tot slot is de encycliek er ook voor ethici die zich bezighouden met AI.

Het idee dat iets goed is zolang het aan de regels voldoet is volstrekt onvoldoende, de ‘compliance trap’. Ethiek gaat verder dan dat.

De encycliek stelt weer eens dat de ethische verantwoordelijkheid zich uitstrekt voorbij de organisatie waar AI wordt gemaakt of gebruikt. Het gaat over iedereen die de gevolgen van artificiële intelligentie voelt, zoals kwetsbare minderheden, bewoners van onderontwikkelde landen en de schepping zelf.

Want als technologie sneller verandert dan ons vermogen om daarover na te denken, verliezen we iets fundamenteels: de ruimte om zelf te bepalen wat het betekent om mens te zijn.

Misschien is dat wel de belangrijkste boodschap van Magnifica humanitas: niet dat we AI-technologie moeten afremmen of verbieden, maar dat we onze menselijkheid niet mogen verliezen terwijl we artificiële intelligentie meer gaan gebruiken.