Papež Lev XIV. ve svém prvním významném dokumentu vyzval vlády, aby zpomalily vývoj systémů umělé inteligence, a varoval, že tyto systémy šíří dezinformace, upřednostňují konflikty a hrozí, že svět zavedou na cestu nekonečné války.
Papež Lev XIV. v dlouhém textu známém jako encyklika poslal světovým vůdcům řadu výzev. První americký papež vyzval politiky i byznysmeny, aby vlastnictví dat umělé inteligence nezůstalo výhradně v soukromých rukou, aby politici chránili práva zaměstnanců a aby zajistili bezpečnost dětí v souvislosti s touto technologií. Apeloval rovněž, aby se uklidnila konkurence mezi společnostmi zabývajícími se umělou inteligencí.
„Je zapotřebí aktivnější politické zapojení, které je schopné věci zpomalit, když se vše zrychluje,“ uvedl v textu s názvem „Magnifica Humanitas“ (Velkolepé lidstvo). Papež vyzval k „robustním právním rámcům, nezávislému dohledu, informovaným uživatelům a politickému systému, který se nezříká své odpovědnosti“.
Text, který má téměř 43 tisíc slov, se připravoval prakticky od zvolení nového papeže v loňském roce.
Dokument, jehož hlavním tématem je umělá inteligence, rovněž odsoudil množství válek, které zmítají světem, vyjádřil lítost nad oslabením mezinárodních organizací a varoval, že zisky zbrojního průmyslu jsou hnací silou konfliktů. „Posledních šedesát let bylo poznamenáno konflikty s ohromující brutalitou, které často postihovaly civilní obyvatelstvo v masovém měřítku,“ uvedl papež v textu. „Lidstvo upadá do násilné kultury moci, kde se mír již nejeví jako odpovědnost, kterou je třeba převzít, ale jako křehká mezera mezi konflikty,“ konstatoval.
Lev XIV. také učinil jedno z dosud nejjasnějších prohlášení papeže, v němž odmítl teorii spravedlivé války, doktrínu, kterou církev používá přinejmenším od pátého století k hodnocení globálních konfliktů. Tato doktrína, která obecně říká, že války by se měly vést pouze za účelem obrany proti agresi, byla také použita představiteli Trumpovy administrativy, včetně viceprezidenta JD Vance, který je katolík, k obhajobě války s Íránem. „Teorie ‚spravedlivé války‘, která byla až příliš často používána k ospravedlnění jakéhokoli druhu války, je dnes zastaralá,“ napsal papež. „Použití síly, násilí a zbraní odráží chudobu vztahů, která má vždy katastrofální důsledky pro civilní obyvatelstvo.“
Také vyjádřil obavu, že by vůdci mohli rozpoutat války, aby odvedli pozornost občanů od domácích problémů.
AI, války a otroctví
S válkami souvisí i papežova obava ze zneužití AI. Prohlásil, že jakékoli využití umělé inteligence ve válce „musí podléhat nejpřísnějším etickým omezením“, a označil za „nepřípustné“ svěřovat systémům umělé inteligence rozhodnutí o usmrcení.
Lev XIV. odsoudil také fenomén, který nazval „novými formami otroctví“, jimž jsou vystaveni lidé obsluhující systémy umělé inteligence a tovární dělníci, kteří vyrábějí technologická zařízení jako počítače a smartphony, v nichž se umělá inteligence používá. „V některých regionech světa pracují děti a dospívající v nebezpečných podmínkách a drtí materiály, z nichž se získávají prvky vzácných zemin,“ napsal papež.
„Těla těchto lidí jsou zjizvená, zraněná a opotřebovaná, aby výpočetní tok mohl pokračovat bez přerušení,“ uvedl. „Tato realita hluboce provokuje morální svědomí naší doby.“ Papež také uznal, že katolická církev až do devatenáctého století důrazně neodsoudila transatlantické otroctví, a osobně se za to omluvil. „Představuje to ránu v křesťanské paměti,“ napsal. „Za to se jménem církve upřímně omlouvám.“
Papež varoval, že společnost musí čelit „zásadním otázkám“ ohledně vývoje umělé inteligence a obecného směřování globálního vedení. S odvoláním na biblický příběh o Babylonské věži – kde lidský kmen, poháněn pýchou, se pokusil postavit věž tak vysokou, aby dosáhla až do nebe, čímž rozhněval Boha – papež řekl, že tento příběh ukazuje riziko každého podniku, který „usiluje o dosažení nebe bez Božího požehnání“. „Srdcem pastýře a otce žádám všechny, aby upustili od stavby další Babylonské věže a spojili síly při budování společného dobra,“ prohlásil papež.
Vyzval svět, aby se nevzdával řešení možných rizik systémů umělé inteligence. „Může se objevit nenápadné pokušení, a to myšlenka, že problémy jsou příliš velké a my jsme příliš malí a že naše volby proto nemohou nic změnit,“ napsal. „Jistě, ne každý má stejnou moc něco změnit,“ dodal s tím, že nikdo však není bez odpovědnosti a „všichni máme své vlastní oblasti, kde můžeme jednat“.
Technologické firmy a Vatikán
Zpravodajský web Politico upozornil, že kvůli této encyklice, která vznikala řadu měsíců, se v Římě už od zimy objevují zástupci těch největších společností, jež do AI investují. Setkání s papežem a jeho zástupci proběhlo více, naposledy v dubnu. Týkaly se toho, jak by měla jedna z nejstarších a současně nejvlivnějších morálních autorit světa posuzovat technologie, které vznikají v Silicon Valley.
Zástupci Mety, Facebooku, Amazonu nebo Anthropicu se dlouhodobě snaží přesvědčit vlády i veřejnost, že jejich umělé inteligence přinesou světu jen dobro a že jejich vývoj probíhá zodpovědně. Vatikán je natolik důležitá instituce, že AI byznys zajímá i jeho postoj. Nebylo by to totiž poprvé, kdy postoj papeže formoval veřejné mínění i zákony víc, než se z ateistické České republiky může zdát.
Například encyklika Rerum novarum (česky O nových věcech) papeže Lva XIII. z května 1891 se věnovala právům dělníků, měla zásadní vliv na vývoj přinejmenším evropské společnosti na celé století. Podporovala práva pracujících vytvářet odborové svazy, odmítala komunismus i neomezený kapitalismus, ale současně plně potvrzovala lidské právo na soukromé vlastnictví. Pomohla definovat katolickou sociální nauku v období průmyslové revoluce a její vliv přetrvává až dodnes, odkazují se k ní totiž křesťanské politické strany.
Rerum novarum (česky O nových věcech) je encyklika papeže Lva XIII. vydaná 15. května 1891. V dlouho očekávané encyklice Rerum novarum o dělnické otázce zaujala církev oficiální stanovisko k sociálním věcem. Podporuje práva pracujících vytvářet odborové svazy, odmítá komunismus a neomezený kapitalismus a zároveň potvrzuje právo na soukromé vlastnictví.
Pacem in terris (česky Mír na zemi – O míru mezi všemi národy v pravdě, spravedlnosti, lásce a svobodě) je encyklika papeže Jana XXIII. vydaná dne 11. dubna 1963. Zabývá se vztahy mezi lidmi a stávající politickou situací (vznikla pár měsíců po dramatické Karibské krizi), zdůrazňuje nutnost dodržování lidských práv i povinností a říká, že konflikty se mají řešit jednáním. a nikoliv válkou. Požaduje zákaz jaderných zbraní, ukončení závodů ve zbrojení a zahájení odzbrojovacího procesu pod mezinárodní kontrolou.
Laudato si’ (česky Tobě buď chvála nebo Buď pochválen) uvozuje a označuje v pořadí druhou encykliku papeže Františka. Encyklika má podtitul „O péči o společný domov“. Papež v ní kritizuje konzumerismus a nezodpovědný rozvoj, vyzývá k „rychlé a jednotné globální akci“ a k boji proti zhoršování životního prostředí.
Zdroj: Wikipedia
Text dokumentu je tak důležitý i proto, že by měl vydržet smysluplný a aktuální ideálně navždy. Encykliky jsou totiž z principu texty, které mají přetrvat, zásadou církve je, že neodvolává to, co napsala. Jde o papežské dopisy, které se rozšířily od osmnáctého století. Encyklika obsahuje poučení papeže o církevních zásadách v závažných otázkách víry a mravů, někdy se týká stavu církve, jindy se týká přijetí nebo odmítnutí nějakého společenského jevu.
Papež lidí i umělé inteligence
Současný papež Lev XIV. navazuje na svého stejnojmenného předchůdce z konce devatenáctého století nejen svým jménem. Ve svém prvním projevu před kolegiem kardinálů přiznal, že jeho volba papežského jména byla záměrným odkazem na Lva XIII., který je v církvi známý svou obranou lidské důstojnosti, a zejména důstojnosti dělníků, a naznačil, že své učení zasvětí „reakci na další průmyslovou revoluci a vývoj umělé inteligence“.
Jeho vliv se v tomto směru už projevil. Když v lednu společnost Anthropic zveřejnila svou první „Ústavu AI“, ve které popsala hodnoty, jimiž se bude řídit vývoj jejího vlajkového modelu umělé inteligence Claude, vycházela přitom z konzultací s papežským stolcem. Mezi externími přispěvateli totiž byli uvedeni dva vatikánští poradci: biskup Paul Tighe, sekretář vatikánského Dikasteria pro kulturu a vzdělávání, a Brendan McGuire, kněz ze Silicon Valley a bývalý inženýr, který Vatikánu poskytuje poradenství v technologických otázkách.
Role Anthropicu může působit negativně na Spojené státy, které označily tuto společnost za rizikovou a zakázaly ji používat ve všech státních složkách. Současně existuje už od papežova zvolení napětí mezi Vatikánem a administrativou prezidenta Trumpa.
Podle Politica se k encyklice vyjádřil – ještě než vznikla – americký viceprezident Vance. „Až papež vydá encykliku o umělé inteligenci, bude to mít určitý vliv,“ připustil Vance minulý týden na tiskové konferenci v Bílém domě. „Jsem si jistý, že bude obsahovat mnoho postřehů, s některými z nich pravděpodobně budu souhlasit, s jinými možná ne. Myslím si ale, že to bude velmi důležitý dokument.“
