Nový text, ktorý v utorok vydal Vatikán, vyzýva k “etickému” používaniu umelej inteligencie a zároveň upozorňuje na “kritické obavy”, ktoré takáto technológia predstavuje.
Názov Antiqua et Nova je spoločným dielom Dikastéria pre náuku viery a Dikastéria pre kultúru a vzdelávanie. Ako taký je podpísaný prefektmi oboch dikastérií, a to kardinálom víctorom Manuelom Fernándezom a kardinálom José Tolentinom de Mendonça.
Dokument zverejnený 28. januára bez tlačovej konferencie alebo iného formálneho oznámenia - text bol doručený vatikánskemu tlačovému zboru len 12 hodín predtým - je najnovším v rastúcej sérii snáh Vatikánu regulovať používanie umelej inteligencie (AI).
Napriek tomu, že sa Vatikán’pokúša zapojiť do rozkvitajúcej medzinárodnej diskusie o používaní umelej inteligencie, dlhý text vyvoláva značné pochybnosti o efektívnosti takéhoto úsilia.
Vatikán vyzýva k opatrnosti pri používaní umelej inteligencie
Textu sa má venovať “antropologickým a etickým výzvam, ktoré prináša umelá inteligencia,” ako sa uvádza v úvodných odsekoch. Dokument so 117 oddielmi a viac ako 200 poznámkami pod čiarou je skutočne objemný a je plný chvály na spôsoby, akými môže umelá inteligencia pomôcť niektorým aspektom života, a zároveň varuje pred vážnymi nebezpečenstvami, ktoré predstavuje.
Text, ktorý spoločne napísali doktrinálne a vzdelávacie úrady Rímskej kúrie, je určený predovšetkým katolíkom “povereným odovzdávaním viery – vrátane rodičov, učiteľov, pastierov a biskupov,” hoci pozýva aj “širšie publikum” na jeho preštudovanie, aby sa zabezpečilo, že AI bude smerovať k “službe ľudskej osobe a spoločnému dobru.”
Antiqua et Nova načrtol, že hoci UI disponuje “sofistikovanými schopnosťami vykonávať úlohy,” nemá schopnosť “myslieť,” a preto sa k nej musí podľa toho pristupovať ako k produktu ľudských rúk, a nie ako k niečomu, čo stojí v poriadku stvorenia nad človekom.
UI, priznal Vatikán, “dokáže simulovať aspekty ľudského uvažovania a vykonávať špecifické úlohy s neuveriteľnou rýchlosťou a efektívnosťou.”Táto schopnosť však zahŕňa “len zlomok širších schopností ľudskej mysle,” dodáva sa v texte, keďže ľudská inteligencia zahŕňa oveľa širšie spektrum podnetov vrátane morálnych, duchovných a emocionálnych aspektov.
Vzhľadom na veľkú rýchlosť AI’a schopnosť “generovať nové ‘artefakty,’” Vatikán varoval, že táto technológia “vyvoláva kritické obavy o potenciálnu úlohu AI’v rastúcej kríze pravdy na verejnom fóre.”
“Umelá inteligencia by sa mohla používať ako pomoc pre ľudskú dôstojnosť, ak by pomáhala ľuďom porozumieť zložitým pojmom alebo ich nasmerovala na spoľahlivé zdroje, ktoré podporujú ich hľadanie pravdy,” uvádza sa v texte, ale technológia “predstavuje vážne riziko generovania manipulovaného obsahu a falošných informácií, ktoré môžu ľahko zavádzať ľudí kvôli svojej podobnosti s pravdou.”
Vatikán tiež varoval pred možným využitím umelej inteligencie na podporu globálneho konfliktu a zvýšenie dohľadu nad ľuďmi, ktorého cieľom je kontrolovať ich slobodu. Takéto používanie, uvádza sa v texte, “je neospravedlniteľné”
“Technológia ponúka pozoruhodné nástroje na dohľad a rozvoj svetových”zdrojov. V niektorých prípadoch však ľudstvo čoraz viac prenecháva kontrolu nad týmito zdrojmi strojom.”
Aj keď si je vedomé technických schopností umelej inteligencie, Vatikán ju označil len za “bledý odraz ľudskosti – je vytvorená ľudskou mysľou, vycvičená na materiáli vytvorenom človekom, reaguje na ľudský vklad a udržiava sa ľudskou prácou.”
Takisto varoval pred vkladaním neprimeranej dôvery do niečoho, čo je v konečnom dôsledku “omylné,” a zašiel až tak ďaleko, že prílišné spoliehanie sa na umelú inteligenciu sa môže stať formou modlárstva:
AI nemôže mať mnohé schopnosti špecifické pre ľudský život a je tiež omylná. Tým, že sa ľudstvo obracia k UI ako k vnímanému ‘inému’ väčšiemu, než je ono samo, s ktorým má zdieľať existenciu a zodpovednosť, riskuje, že si vytvorí náhradu Boha. V konečnom dôsledku však nie je zbožštená a uctievaná UI, ale samotné ľudstvo – ktoré sa týmto spôsobom stáva otrokom vlastnej práce.
Prečo takýto text z Vatikánu?"
Vzdor mnohým varovaniam pred neetickým používaním UI či vnútorným nebezpečenstvom, ktoré táto technológia sama o sebe ponúka, sa zastrešujúca otázka, ktorá z dokumentu vyplýva, týka jej užitočnosti. Prečo si Vatikán dal takú námahu, aby zostavil a zverejnil takýto text, a kto ho vlastne vezme na vedomie?"
Jasné je, že dokument tvorí súčasť neustále rastúceho množstva materiálov pochádzajúcich z Vatikánu a od pápeža Františka na túto tému. František v posledných rokoch venoval umelej inteligencii niekoľko kľúčových prejavov a najmä sa zúčastnil na stretnutí krajín G7 v júni 2024 venovanom umelej inteligencii.
V iniciatíva, ktorá sa začala v roku 2020, Svätá stolica spustila “Rímsku výzvu pre etiku umelej inteligencie”, ktorej priekopníkom je Vatikánska’pápežská akadémia pre život spolu so spoločnosťami Microsoft, IBM, FAO a talianskym ministerstvom pre inovácie.
Tieto pôvodné orgány, ktoré stoja za Rímskou výzvou pre etiku umelej inteligencie, spoločne podpísali spoločný dokument, ktorý je podľa nich “vypracovaný na podporu etického prístupu k umelej inteligencii a na podporu zmyslu pre zodpovednosť medzi organizáciami, vládami, inštitúciami a súkromným sektorom s cieľom vytvoriť budúcnosť, v ktorej digitálne inovácie a technologický pokrok slúžia ľudskému géniu a tvorivosti, a nie ich postupnému nahrádzaniu.”
Odvtedy sa počet podporovateľov vatikánskeho’úsilia rozrástol a zahŕňa množstvo univerzít a nadácií.
Ale pri najnovšom vatikánskom’texte si skúsení vatikánski pozorovatelia určite položia otázku, čo je jeho cieľom.
V prvom rade je adresovaný predovšetkým učiteľom katolíckej viery – ktorí netrávia svoj profesionálny život zapojení do vývoja alebo používania umelej inteligencie. V prípade potreby by sa mohli poslať určité poznámky alebo memorandá chybujúcim diecézam, ktoré používajú systémy AI spôsobom, ktorý poškodzuje vieru, ale venovať prácu celých dvoch vatikánskych oddelení na napísanie textu takejto dĺžky sa zdá byť pochybným využitím zdrojov.
Po druhé, pozícia Vatikánu – najmä doktrinálneho úradu – vyjadrovať sa k záležitostiam týkajúcim sa AI sa sotva bude v technologickom svete skutočne rešpektovať. Iste, veľké spoločnosti, ako napríklad Microsoft, veľmi radi spolupracujú s Vatikánom na rôznych projektoch, čo vedie k fantastickým PR obrázkom a výletom do Ríma pre tieto spoločnosti spolu s obnovenou marketingovou kampaňou na katolícku zákaznícku základňu.
Ale ak si Vatikán myslí, že svet technológií trpezlivo čakal na takýto dokument, kým sa rozhodne, ako používať AI, potom bude sklamaný.
Tí, ktorí chcú používať AI spôsobmi, ktoré neslúžia spoločnému dobru, to budú robiť a už to robia. Tí, ktorí sa o to nesnažia, sotva potrebovali takýto dlhý text z Vatikánu, ktorý by ich v ich presvedčení utvrdil.
Antiqua et Nova – hoci skutočne reaguje na určité reálne obavy je už dávno oneskorený, príliš dlhý a je nepravdepodobné, že ho budú brať vážne tí, pre ktorých je najviac potrebný.