Pauselijke brief over ontwapening van AI verdient het om goed en veel gelezen te worden

In dit artikel:

Paus Leo XIV heeft in zijn eerste pauselijke brief aan de samenleving, Magnifica Humanitas, een brede oproep gedaan om de mens centraal te houden in het tijdperk van kunstmatige intelligentie. De brief, woensdag gepresenteerd in het Vaticaan (presentatie vond maandag plaats), waarschuwt dat AI niet neutraal is maar de trekken overneemt van degenen die haar ontwikkelen, financieren en gebruiken. Technologie an sich is geen kwaad, maar kan in verkeerde handen – vooral bij winstgedreven ondernemers – schadelijke kanten krijgen. De paus vraagt AI-bedrijven om terughoudendheid, te bouwen voor het algemeen belang en menselijkheid te waarborgen.

Bij de lancering zat AI-pionier en Anthropic-oprichter Chris Olah aan tafel; zijn aanwezigheid onderstreept de intentie van het Vaticaan om samen met experts maatschappelijke invloed uit te oefenen. Anthropic voert een juridische strijd met de Amerikaanse overheid omdat het zich verzet tegen onbeperkt militair gebruik van zijn systemen, in het bijzonder bij autonome wapens. Olah benadrukte de nood aan onafhankelijke kritiek en morele stemmen en zei onder andere: "We hebben morele stemmen nodig die zich niet laten beïnvloeden."

De brief mikt op een breed publiek en heeft ambities vergelijkbaar met paus Franciscus’ Laudato Si’: niet alleen een kerkelijk document, maar een oproep met maatschappelijke reikwijdte om AI-ontwikkeling richting rechtvaardigheid en menselijke waardigheid te sturen.