De pauselijke brief over ontwapening van AI verdient het om goed en veel gelezen te worden

In dit artikel:

Paus Leo XIV heeft maandag de eerste pauselijke brief aan de samenleving uitgebracht, Magnifica Humanitas, met als ondertitel ‘over het beschermen van de mens in het tijdperk van kunstmatige intelligentie’. De paus stelt dat de mensheid op een kruispunt staat: we kunnen technologie gebruiken om menselijke grootheid te etaleren of kiezen voor een samenleving waarin God en menselijkheid centraal blijven staan. Technologie op zich is niet kwaadaardig, maar AI is niet neutraal omdat het de waarden van zijn makers weerspiegelt; in handen van winstgedreven actoren kan dat gevaarlijk uitpakken.

Bij de presentatie in het Vaticaan zat AI-ondernemer Chris Olah (Anthropic) aan tafel. Olah, die in een rechtszaak verwikkeld is met de Amerikaanse overheid omdat zijn bedrijf zich verzet tegen onbeperkt militair gebruik van AI, benadrukte dat commerciële en geopolitieke druk bedrijven kan doen afwijken van wat moreel juist is. Hij riep op tot onafhankelijke critici en morele stemmen die tekortkomingen durven te benoemen. Zowel de paus als Olah pleiten voor voorzichtigheid: AI-systemen moeten ontworpen worden in het algemeen belang en menselijkheid moet bewaard blijven.

Door samen met een AI-pionier te verschijnen laat het Vaticaan zien dat het zijn oproep breed wil laten meewegen. Magnifica Humanitas poogt, net als Franciscus’ Laudato Si’, maatschappelijke invloed te krijgen buiten strikt kerkelijke kringen en aansporen tot een zorgvuldige, ethisch verantwoorde koers in de ontwikkeling van kunstmatige intelligentie.