Pojem kognitivní fatamorgana se v poslední době stále častěji skloňuje v kontextu moderních technologií, zejména v oblasti umělé inteligence. Tento termín se používá pro popis jevu, kdy velké jazykové modely (LLM), navržené po vzoru lidského mozku, generují na první pohled naprosto přesvědčivé, avšak zcela fiktivní odpovědi. Jde o tzv. halucinace, které se staly natolik závažným problémem, že si vysloužily vlastní taxonomii. Vědecká komunita se jimi intenzivně zabývá, a tak vznikla díla jako například přehledová studie „Kognitivní fatamorgana: Přehled halucinací ve velkých jazykových modelech“ (2023), která systematicky analyzuje případy falešných úsudků a tvrzení. Pro kvantifikaci těchto zkreslení byl letos vytvořen i speciální soubor testů s názvem MIRAGE-Bench. Tyto snahy poukazují na ústřední problém: ačkoli stroj dokáže mluvit s naprostou jistotou, jeho tvrzení nemusí vždy odpovídat pravdě.
Jev, který dnes nazýváme kognitivní fatamorganou, však není novinkou digitálního věku. Provází lidstvo po celou jeho historii a nacházíme jej již v raném filozofickém myšlení. Starověký řecký filozof Platón ve svém slavném díle „Alegorie jeskyně“ popisuje situaci, kdy lidé považují stíny na stěně za samotnou realitu. Jedná se o jeden z prvních literárních popisů kognitivní fatamorgany: omezená zkušenost a představivost vedou ke klamné iluzi pravdy. O dva tisíce let později francouzský myslitel René Descartes zpochybnil spolehlivost našich smyslů. Jeho proslulá pochybnost: „Jak víme, že nespíme, když jsme si jisti, že jsme vzhůru?“ ukazuje, že naše mysl je schopna generovat falešné obrazy světa, které vnímáme jako reálné.
V dějinách lidstva existuje řada příkladů grandiózních kognitivních fatamorgán. Jednou z nejvýznamnějších byl Ptolemaiův geocentrismus. Po více než tisíciletí se tento model vesmíru, který předpokládal, že se Slunce, Měsíc a planety otáčejí kolem Země, jevil jako neotřesitelný. Až objevy Koperníka, Galilea a Keplera rozbily tuto iluzi a nastolily heliocentrismus. Podobným příkladem je alchymie, která po staletí slibovala přeměnu obecných kovů na zlato. Ačkoli tato snaha podnítila rozvoj chemie, sama se ukázala být falešným obrazem světa a ztělesněním iluzorního vědeckého poznání.
Kognitivní fatamorgana často pramení z nedostatku informací. V 19. století se například rozšířila víra v lamarckismus, teorii dědičnosti získaných vlastností. Tato hypotéza byla zdánlivě logická, ale opírala se o nedostatek znalostí o genech. Teprve objevy Gregora Mendela a rozvoj genetiky tuto vědeckou fatamorganu vyvrátily. V podobném duchu se počátkem 20. století prosadila eugenika, myšlenka „zdokonalování“ lidstva selekcí. Tato iluze, která se tvářila jako vědecky podložená, nakonec vedla k tragickým důsledkům a byla po druhé světové válce definitivně zdiskreditována.
Mechanismus kognitivní fatamorgany úzce souvisí s jevy dlouhodobě zkoumanými v psychologii. Konfabulace například popisuje situaci, kdy mozek vyplňuje mezery v paměti smyšlenými detaily, které však jedinec vnímá jako skutečné. Podobně fungují percepční iluze, jako je známá Müller-Lyerova iluze, kde mozek vnímá dvě stejně dlouhé čáry jako nestejné. Britský psycholog Richard Gregory popsal vnímání jako proces vytváření hypotéz: náš mozek neustále doplňuje chybějící data, aby vytvořil celistvý a přesvědčivý obraz světa.
V éře informační exploze je tento proces akcelerován a komplikován. Dnes kognitivní fatamorgany nevznikají jen z nedostatku informací, ale paradoxně i z jejich nadbytku. Na sociálních sítích uživatelé často považují své informační bubliny za objektivní realitu. V ekonomii se setkáváme s „fatamorgánou startupů“, kdy investoři vkládají prostředky do projektů s minimálním obsahem, avšak s přesvědčením o jejich budoucím úspěchu. V politice pak propaganda systematicky vytváří iluzorní narativy, manipuluje s fakty a ovlivňuje veřejné mínění.
V tomto ohledu velké jazykové modely v podstatě kopírují kognitivní cestu člověka. Stejně jako lidský mozek vytvářejí iluze poznání a snaží se redukovat nesourodá data do uceleného příběhu. Koncept „kognitivní fatamorgány“ tak představuje most, který spojuje podstatu lidského myšlení s fungováním umělé inteligence. Ať už mluvíme o člověku, nebo o stroji, iluze se často jeví jako věrohodnější než samotná realita.
Úkolem moderní vědy a kultury není kognitivním fatamorgánám úplně se vyhnout, neboť jsou přirozenou součástí poznávacího procesu. Mnohem důležitější je naučit se je včas rozpoznávat. Pouze když si uvědomíme limity našich vlastních znalostí, můžeme rozlišit pravdu od iluze. Právě v této schopnosti – rozeznat fatamorgánu od reality – spočívá hlavní výzva pro člověka i umělou inteligenci v 21. století.
