Anthropic-oprichter steunt pauselijke AI-waarschuwing in het Vaticaan

De uitnodiging van de Amerikaanse computerwetenschapper past binnen een breder initiatief van Anthropic om de maatschappelijke dialoog over de impact van kunstmatige intelligentie te verbreden.

Prikkels en morele blinde vlekken

Olah begon zijn speech met een zekere mate van zelfreflectie over de dynamiek binnen de techsector. Elk toonaangevend AI-laboratorium, inclusief het onze, opereert binnen een web van prikkels en beperkingen die soms conflicteren met het juiste doen, aldus de medeoprichter. Hij wees hierbij op de constante druk om commercieel levensvatbaar te blijven, de technologische grens te verleggen, geopolitieke belangen en menselijke eigenschappen zoals trots en ambitie.

Juist omdat de sector zo onder druk staat, is de stem van buitenstaanders volgens Olah van historisch belang. We hebben mensen nodig die buiten deze prikkels staan. Mensen die echt geven om een goede afloop, die hameren op veiligheid en bereid zijn om harde waarheden te spreken. Dit is wat ik herken in Magnifica humanitas. Ik ben de heilige vader en de Kerk dankbaar dat zij deze taak op zich nemen.

AI-modellen worden 'gekweekt', niet gebouwd

Volgens de computerwetenschapper is het een misverstand dat de toekomst van AI uitsluitend moet worden overgelaten aan techneuten. De vragen die AI oproept zijn simpelweg groter dan de techwereld zelf, zowel in reikwijdte als in aard.

Olah legde uit dat moderne AI-systemen fundamenteel verschillen van traditionele technologie. Een vliegtuig begrijpen we omdat we elk onderdeel zelf hebben ontworpen volgens de wetten van de natuurkunde. AI-modellen werken anders. Ze worden 'gekweekt' op basis van een structuur die losjes is gemodelleerd naar het menselijk brein, gevoed met een enorme erfenis aan menselijke gedachten en taal.

Het resultaat is volgens de Anthropic-topman subtieler en vreemder dan sciencefiction ooit heeft voorspeld. Het zijn geen kille, berekenende robots. Ze zijn gemaakt van óns, van onze woorden. En ze blijven in belangrijke mate mysterieus, zelfs voor de mensen die ze trainen. Olah vergeleek het proces met het tot leven wekken van een fictief personage dat plotseling begint terug te praten en banen overneemt. Hoe zo'n karakter zich hoort te gedragen in de echte wereld, is volgens hem geen wiskundige vraag, maar een vraag voor de geesteswetenschappen, religie en filosofie.

Drie cruciale vragen voor de toekomst

De wetenschapper legde de aanwezigen driespringende kwesties voor waar de stem van de Kerk volgens hem het hardst nodig is:

Ten eerste wees hij op de plicht naar ontwikkelingslanden. De vrees bestaat dat AI op grote schaal menselijke arbeid gaat vervangen. Hoewel de opvang van werklozen in het Westen al een enorme uitdaging wordt, ligt het grotere probleem elders. De ontwikkeling van AI is geconcentreerd in een handjevol rijke landen. We hebben momenteel geen enkel mechanisme om te zorgen dat de opbrengsten wereldwijd eerlijk worden gedeeld. Dat is een onopgelost probleem waarbij de Kerk historisch gezien altijd heeft geweigerd de ogen te sluiten.

Als tweede punt noemde hij de noodzaak van morele verbeeldingskracht rondom menselijk welzijn. Nu AI overal doordringt, maken ouders zich zorgen over de mentale ontwikkeling van hun kinderen en werknemers over hun baan. Dit zijn vragen die een commercieel lab niet kan beantwoorden, maar waar religieuze tradities al millennia ervaring mee hebben.

Tot slot deelde Olah een observationele waarschuwing uit zijn eigen onderzoekspraktijk naar de interne structuren van AI-modellen. We vinden telkens dingen die mysterieus en zelfs verontrustend zijn. We stuiten op structuren die de menselijke neurowetenschap spiegelen. We zien bewijs van introspectie en interne staten die functioneel lijken op vreugde, tevredenheid, angst, verdriet en onbehagen. Ik weet niet wat dit precies betekent, maar het rechtvaardigt een voortdurende kritische blik.

Olah sloot zijn betoog af met een directe oproep aan de wereldwijde gemeenschap om het voorbeeld van de paus te volgen. De techwereld heeft volgens hem onafhankelijke stemmen nodig die de laboratoria durven te vertellen wanneer ze falen. Vandaag is hopelijk het begin van een lange samenwerking tussen degenen die dit bouwen, en degenen die kunnen zien wat wij, van binnenuit, over het hoofd zien.