Umělá inteligence a moudrost srdce: pro plně lidskou komunikaci 

Drazí bratří a sestry,

vývoj systémů takzvané „umělé inteligence“, o němž jsem již uvažoval ve svém nedávném poselství ke Světovému dni míru, rovněž radikálně mění informační a komunikační praktiky a jejich prostřednictvím i některé základy občanského soužití. Jde o změnu, která se týká nás všech, nejen odborníků. Zrychlené šíření podivuhodných vynálezů, jejichž fungování a potenciál jsou pro většinu z nás neuchopitelné, vzbuzuje údiv, který kolísá mezi nadšením a dezorientací, a nevyhnutelně nás staví před základní otázky: co je vlastně člověk, co je jeho specifikem a jakou budoucnost má v éře umělých inteligencí tento náš druh zvaný homo sapiens? Jak můžeme zůstat plně lidskými a usměrňovat probíhající kulturní proměnu ve prospěch dobra?

Začít od srdce

Nejprve je třeba vyčistit půdu od katastrofických scénářů a jejich paralyzujících účinků. Již před sto lety nás Romano Guardini v úvahách o technice a člověku vyzval, abychom se nezatvrzovali vůči „novému“ ve snaze „zachovat krásný svět odsouzený k zániku“. Zároveň však upřímně a prorocky varoval: „Naše role spočívá v tom, že se stáváme. Musíme se na tomto ‚stávání se‘ podílet, každý na svém místě (...), čestně se k němu hlásit, ale s neporušeným srdcem zůstávat citliví ke všemu, co je na něm destruktivní a nelidské“. A uzavřel: „Je pravda, že to jsou problémy technické, vědecké a politické povahy, ale nelze je vyřešit jinak, než že budeme vycházet od člověka. Je třeba vytvořit nový typ člověka, obdařený hlubší spiritualitou, novou svobodou a niterností“ [1] .

V této době, které hrozí, že bude technicky bohatá a lidsky chudá, může naše reflexe vycházet pouze z lidského srdce [2] . Pouze když se vyzbrojíme duchovním pohledem, pouze když obnovíme moudrost srdce, tak dokážeme číst a interpretovat novinky naší doby a znovu objevovat cestu k plně lidské komunikaci. Srdce, biblicky chápané jako sídlo svobody a nejdůležitějších životních rozhodnutí, je symbolem integrity a jednoty, ale vyvolává také vášně, touhy a sny, a je především místem vnitřního setkání s Bohem. Moudrost srdce je tedy tou ctností, která nám umožňuje skloubit celek a části, rozhodnutí a jejich důsledky, přednosti a slabosti, minulost a budoucnost, mé „já“ a naše „my“.

Tato moudrost srdce se nechává najít těmi, kdo ji hledají, a ukazuje se těm, kdo ji milují; předchází ty, kdo po ní touží, a jde hledat ty, kdo jsou jí hodni (srov. Mdr 6,12-16). 

Je s těmi, kdo si nechají poradit (srov. Př 13,10), s těmi, jejichž srdce je poddajné, kdo mají srdce, jež naslouchá (srov. 1 Král 3,9). Ona je darem Ducha Svatého, jenž člověku umožňuje vidět věci Božíma očima, chápat souvislosti, situace a události a objevovat jejich smysl. Bez takovéto moudrosti se život stává mdlým, protože právě moudrost – jejíž latinský kořen sapere připomíná sapore, tj. chuť – dodává životu chuť.

Příležitosti a nebezpečí

Takovou moudrost nemůžeme očekávat od strojů. Ačkoli termín umělá inteligence v současnosti nahradil správnější termín používaný v odborné literatuře, machine learning (strojové učení), samotné použití slova „inteligence“ je zavádějící. Stroje mají jistě nepoměrně větší schopnost než člověk uchovávat data a vzájemně je propojovat, ale dešifrovat jejich smysl je na člověku a pouze na něm. Nejde tedy o to požadovat, aby stroje vypadaly lidsky. Spíše se jedná o probuzení člověka z hypnózy, do níž upadá v důsledku svého blouznění o všemohoucnosti, když se považuje za zcela autonomní a soběstačný subjekt, oddělený od všech společenských vazeb a zapomínající na svou stvořenost.

Ve skutečnosti člověk odjakživa zažívá, že si sám nestačí, a snaží se svou zranitelnost překonat všemi prostředky. Počínaje nejstaršími prehistorickými artefakty, které sloužily jako prodloužené ruce, přes sdělovací prostředky využívané k šíření mluveného slova, jsme dnes dospěli k sofistikovaným strojům, které fungují jako pomůcka k myšlení. Každá z těchto skutečností však může být znečištěna dávným pokušením být bez Boha takový jako Bůh (srov. Gen 3), tj. chtít si vlastní silou vyzískat to, co by naopak mělo být přijímáno jako dar od Boha a prožíváno ve vztahu s druhými.

V závislosti na směřování lidského srdce se všechno, co se člověku dostane do rukou, stává buď příležitostí, nebo nebezpečím. Samotné jeho tělo, stvořené jako nástroj pro komunikaci a společenství, se může stát prostředkem agresivity. Stejně tak se každý z technických výdobytků člověka může stát nástrojem láskyplné služby, nebo nepřátelské nadvlády. Systémy umělé inteligence mohou přispívat k procesu osvobození od nevědomosti a usnadňovat výměnu informací mezi různými národy a generacemi. Mohou například zpřístupnit a učinit srozumitelným obrovské bohatství vědomostí sepsaných v minulých dobách či umožnit lidem komunikovat v jazycích, které neznají. Zároveň však mohou být nástrojem „kognitivního znečištění“, tedy pozměňování reality prostřednictvím částečně nebo zcela falešných výpovědí, kterým se věří – a které se sdílejí – jako by byly pravdivé. Stačí si vzpomenout na problém dezinformací, s nímž se již léta potýkáme v případě fake news [3] a který dnes využívá tzv. deep fakes, tj. vytváření a šíření obrázků, jež vypadají naprosto věrohodně, ale jsou falešné (i já jsem se stal jejich objektem), nebo zvukových zpráv, které používají hlas člověka říkajícího věci, jež nikdy nevyslovil. Simulace, která je základem těchto programů, může být užitečná v některých specifických oblastech, ale stává se zvrácenou tam, kde zkresluje vztah k druhým a ke skutečnosti.

U první vlny umělé inteligence, tedy u sociálních sítí, jsme již pochopili jejich rozporuplnost a hmatatelně vnímáme jak jejich příležitosti, tak i rizika a choroby. Druhá úroveň generativních forem umělé inteligence znamená nesporný kvalitativní skok. Je proto důležité umět pochopit, postihnout a regulovat nástroje, které by v nesprávných rukou mohly otevřít negativní scénáře. Stejně jako vše ostatní, co vzešlo z lidské mysli a rukou, ani algoritmy nejsou neutrální. Proto je třeba jednat preventivně a navrhovat modely etické regulace, které by omezily škodlivé a diskriminační sociálně nespravedlivé důsledky systémů umělé inteligence, aby jejich využívání nevedlo k omezování plurality, k polarizaci veřejného mínění nebo ke konstruování uniformního myšlení. Z tohoto důvodu znovu vyzývám „společenství národů, aby spolupracovalo na přijetí závazné mezinárodní smlouvy regulující vývoj a používání umělé inteligence v jejích mnoha podobách“ [4] . Avšak jako v každé lidské oblasti ani zde regulace sama o sobě nepostačuje. 

Růst v lidskosti

Jsme povoláni ke společnému růstu v lidstvu a jako lidstvo. Stojí před námi výzva učinit kvalitativní skok, abychom dokázali žít v komplexní, multietnické, pluralitní, mnohonáboženské a multikulturní společnosti. Je na nás, abychom si kladli otázky týkající se teoretického rozvoje a praktického využití těchto nových nástrojů komunikace a poznání. Velké možnosti dobra jsou doprovázeny rizikem, že se vše promění v abstraktní kalkul, který zredukuje lidi na data, myšlení na schéma, zkušenost na kauzu, dobro na zisk, a zejména že nakonec popřeme jedinečnost každého člověka a jeho osobní historie a rozmělníme konkrétní skutečnost do řady statistických údajů.

Digitální revoluce nás může učinit svobodnějšími, ale jistě ne tehdy, když nás uvězní v modelech, kterým se dnes říká echo chambers (komnaty ozvěn). V takových případech namísto zvýšení plurality informací riskujeme, že se ztratíme v anonymní bažině a budeme se podřizovat zájmům trhu nebo moci. Je nepřijatelné, aby využívání umělé inteligence vedlo k anonymnímu myšlení, ke shromažďování neověřených dat, ke kolektivnímu zanedbávání redakční odpovědnosti. Zobrazování skutečnosti ve formě big data (hromadných dat), jakkoliv může být funkční pro řízení strojů, totiž znamená podstatnou ztrátu pravdivosti věcí, což brání mezilidské komunikaci a hrozí poškozením samotné naší lidskosti. Informace nelze oddělovat od existenciálního vztahu: zahrnují tělo a přebývání v reálném světě; žádají si propojení nejen dat, ale i zkušeností; vyžadují tvář, pohled, soucit i sdílení.

Mám na mysli zpravodajství o válkách a „paralelní válku“, která se odehrává prostřednictvím dezinformačních kampaní. A myslím na to, kolik reportérů je zraněno nebo zemře v terénu, aby nám umožnili vidět to, co viděly jejich oči. Protože jen když se rukou dotkneme utrpení dětí, žen a mužů, můžeme pochopit absurditu válek.

Využití umělé inteligence bude moci pozitivně přispívat v oblasti komunikace, pokud nezruší roli žurnalistiky v terénu, ale naopak ji podpoří; pokud bude doceňovat profesionalitu komunikace a učiní každého komunikátora odpovědným; pokud vrátí každému člověku roli subjektu samotné komunikace se schopností kritiky.

Dnešní a zítřejší otázky

Spontánně vyvstávají některé otázky: Jak na celém světě ochránit profesionalitu a důstojnost pracovníků v oblasti komunikace a informací, stejně jako uživatelů? Jak zajistit interoperabilitu jednotlivých platforem? Jak zajistit, aby společnosti vyvíjející digitální platformy nesly odpovědnost za to, co šíří a z čeho mají zisk, obdobně jako vydavatelé tradičních médií? Jak zvýšit transparentnost kritérií, která stojí za indexačními a de-indexačními algoritmy (tj. proces realizovaný pomocí automatických postupů ve všech jeho fázích při výběru relevantních výrazů – pozn. překl.) a vyhledávači, jež jsou schopny zviditelňovat nebo naopak odstraňovat lidi a názory, události a pojmy z kultury? Jak zaručit transparentnost informačních procesů? Jak zajistit, aby bylo zřejmé autorství textů a dohledatelné zdroje, a tak zabránit zahalování do roušky anonymity? Jak ozřejmit, zda obrázek nebo video zobrazuje událost, nebo ji jen simuluje? Jak zabránit tomu, aby se zdroje redukovaly na jediný pramen, na jednu algoritmicky vypracovanou myšlenku? A jak oproti tomu podpořit prostředí, které zachovává pluralitu a představuje komplexnost reality? Jak můžeme zajistit udržitelnost tohoto výkonného, nákladného a energeticky extrémně náročného nástroje? Jak jej můžeme zpřístupnit i rozvojovým zemím?

Z odpovědí na tyto a další otázky pochopíme, zda umělá inteligence nakonec vytvoří nové kasty založené na informační nadvládě, což povede k novým formám vykořisťování a nerovnosti, nebo zda naopak přinese větší rovnost, podpoří korektní informace a větší povědomí o proměně epochy, kterou procházíme, a upřednostní naslouchání rozmanitým potřebám lidí a národů v členitém a pluralitním informačním systému. Na jedné straně se rýsuje vidina nového otroctví, na druhé straně získání svobody; na jedné straně možnost několika lidí podmiňovat myšlení všech, na druhé straně možnost všech se na tvorbě myšlení podílet.

Odpověď není nikde napsaná, záleží na nás. Je na člověku, aby se rozhodl, zda se stane potravou algoritmů, anebo bude své srdce živit svobodou, bez níž neroste v moudrosti. Tato moudrost zraje tím, že si vážíme času a přijímáme svou zranitelnost. Roste ve spojenectví mezi generacemi, mezi těmi, kdo mají paměť na minulost, a těmi, kdo mají vizi budoucnosti. Jen společnými silami roste schopnost rozlišovat, být bdělý a vidět věci z hlediska jejich naplnění. Abychom neztratili svou lidskost, hledejme Moudrost, která všemu předchází (srov. Sir 1,4), která prochází čistým srdcem a připravuje Boží přátele a proroky (srov. Mdr 7,27). Ta nám pomůže uvést do souladu i systémy umělé inteligence s plně lidskou komunikací.

Řím, Svatý Jan v Lateránu, 24. ledna 2024 

FRANTIŠEK

[1]  Lettere dal lago di Como, Brescia 2022⁵, 95-97.

[2] V návaznosti na poselství předchozích Světových dnů sdělovacích prostředků, věnovaných setkávání s lidmi tam, kde jsou a jací jsou (2021), naslouchání srdcem (2022) a mluvení srdcem (2023). 

[3]  Srov. „Pravda vás osvobodí“ ( Jan 8,32). Fake news a mírová žurnalistika. Poselství ke Světovému dni sdělovacích prostředků, 2018.

[4]   Poselství k 62. Světovému dni míru, 1. ledna 2024, 8