Vliv umělé inteligence na lidstvo neustále roste. Dokazuje to i první papežský list vydaný v pondělí ve Vatikánu Lvem XIV. Encyklika s titulem Magnifica Humanitas představuje oficiální názor Svatého stolce na vliv umělé inteligence na lidskou společnost.
Papež upozorňuje, že technologické řetězce spojené s AI mohou vytvářet nové formy vykořisťování, otroctví a kolonialismu a varuje před komerčními a politickými zájmy, které vývoj AI ovlivňují.
Nabízí také způsob, jak proti negativním vlivům umělé inteligence bojovat. Inspiroval se přitom u jednoho z nejúspěšnějších spisovatelů fantasy literatury J. R. R. Tolkiena.
Smysl dopisu prozrazuje jeho celý název: Encyklika Magnifica Humanitas jeho svatosti papeže Lva XIV. o ochraně člověka v době umělé inteligence. Nejvyšší představitel katolické církve v ní definuje rizika spojená s AI a možné způsoby, jak negativní dopady nové technologie omezit.
Komu vezme práci AI? Jednu činnost určitě nenahradí, asi vás překvapí, o jakou jde
Dokument, který hraje roli podobnou programovému prohlášení vlády, představuje spíše podrobnou studii problematiky umělé inteligence a etiky v pěti kapitolách o celkem 245 odstavcích s bohatým poznámkovým aparátem než „dopis“ určený biskupům.
„Lidstvo, stvořené Bohem ve vší své velkoleposti, stojí dnes před zásadní volbou: buď vystavět novou babylonskou věž, nebo vybudovat město, v němž Bůh a lidé přebývají společně. Každá generace přebírá úkol utvářet svou vlastní epochu, usměrňovat dějiny tak, aby se staly prostorem, kde je chráněna důstojnost každého člověka, prosazována spravedlnost a kde je umožněno bratrství. Zároveň však s sebou každá doba nese riziko, že stvoří méně lidský a nespravedlivější svět,“ píše papež v samotném úvodu encykliky.
Umělá inteligence z jeho pohledu hraje zásadní celospolečenskou roli a posiluje nerovnováhu v rozložení sil. Podle papeže mají lidé posuzovat AI systémy podle toho, komu slouží, koho vylučují a kdo za ně nese odpovědnost.
Encyklika upozorňuje na nebezpečné soustředění digitální infrastruktury, dat a výpočetní síly do rukou několika velkých firem. „Nestačí budování morálnější umělé inteligence, pokud o moralitě rozhoduje malá skupina. Je zapotřebí aktivnější politické angažmá, které dokáže zpomalit dění v době, kdy se vše zrychluje, a zachovat komunitám možnost se i nadále zapojovat a klást otázky,“ stojí v odstavci 107.
Umělá inteligence není podle papeže rovnocenná lidskému intelektu, a proto nesmí nahrazovat lidský úsudek tam, kde se rozhoduje o člověku. AI zároveň nesmí být jen nástrojem, který zlevní výrobu a vytlačí lidi z pracovního trhu. Každé zavádění automatizace má být spojeno s ochranou zaměstnanců, rekvalifikacemi a novými pravidly pro důstojnou práci.
Do stejné části patří i papežské varování před závislostmi, komercializací pozornosti, ohrožením dětí v digitálním prostředí a novými formami otroctví, které mohou vyrůstat z globálních technologických řetězců.
Myšlenku, že umělá inteligence působí jako katalyzátor pro nové formy zneužívání lidských bytostí a nových podob digitálního otroctví, použil papež k omluvě za dřívější pochybení katolické církve v dobách otrokářství.
Poslední, pátá kapitola je nejostřejší politickou částí encykliky. Papež v ní píše o „kultuře moci“, která normalizuje válku a zbrojení. Lev XIV. varuje, že technologie může snížit práh pro použití síly, učinit válku neosobnější a proměnit oběti v data. Zároveň kritizuje vojensko-průmyslový komplex, návrat jaderného odstrašení, oslabování mezinárodního práva a iluzi, že válka je nevyhnutelnou součástí politiky.
Právě v této páté kapitole papež citoval z knihy Pán prstenů: Návrat Krále slova kouzelníka Gandalfa Bílého: „Nám nepřísluší zvládnout všechny zvraty světa, jen udělat, co můžeme, pro dobro let, do nichž jsme postaveni, vykořeňovat zlo na polích, která známe, aby ti, kdo přijdou po nás, mohli obdělávat čistou zemi.“
V závěru pak Svatý stolec doporučuje pět obecných nástrojů, které mohou přinést lepší budoucnost: odzbrojení slov, budování spravedlivého míru, přejímání perspektivy obětí, kultivace zdravého realismu místo cynismu, oživení dialogu a podpora multilateralismu. K tomu papež přidává ještě šestý nástroj: modlitbu.
Přidejte si Hospodářské noviny
mezi své oblíbené tituly
na Google zprávách.
Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.
- Veškerý obsah HN.cz
- Možnost kdykoliv zrušit
- Odemykejte obsah pro přátele
- Ukládejte si články na později
- Všechny články v audioverzi + playlist
