RECENZE LADISLAVA NAGYE | O AI se dá vyprávět podobný vtip, jaký kdysi koloval o fenoménu zvaném „velká data“: Je to jako sex u teenagerů – každý o tom mluví, každý to chce, nikdo to neumí. Opatrně se mluví o tom, že AI je nafouknutá bublina, která možná záhy splaskne jako jiné internetové bubliny v minulosti. Co když je to ale i případ nejnovější Harariho knihy Nexus?
Yuval Noah Harari se stal globální hvězdou poté, co v angličtině – tři roky po hebrejském originále – vyšla kniha Sapiens (česky v roce 2014 jako Sapiens: Úchvatný i úděsný příběh lidstva v nakladatelství Leda). V ní vyzdvihuje lidskou schopnost spolupracovat, kterou vnímá jako důvod, proč náš druh na planetě převážil.
Jeho nová studie Nexus už vyšla letos v září hned anglicky a souběžně se objevila i ve francouzštině. Harari v ní rozvíjí své myšlenky, které předtím publikoval v tisku, zejména že nástup AI je konec lidských dějin a že může znamenat triumf neosobní byrokracie.
Tato témata rozebíral i v diskusi, které se v polovině letošního září zúčastnil s IT podnikatelem Mustafou Suleymanem v týdeníku The Economist.
Izraelský myslitel je často oslavován za to, že navzdory obrovskému historickému záběru dokáže složité myšlenky podávat hutně a jednoduše. Ze stejných důvodů je pochopitelně i často kritizován.
V nové knize začíná v době kamenné, překvapivě velký prostor věnuje Bibli a její roli v utváření společnosti. Bohužel škála jeho postřehů je dosti pestrá, od pronikavých k banálním. Například tvrzení, že Bible i AI jsou pokusem vytvořit nějakou neomylnou nadlidskou autoritu.
Lidská společnost jako informační síť
Sporná je už premisa. Harari popisuje lidskou společnost jako informační síť a následně čtenářům předkládá dvě pojetí informace: „Naivní pohled říká, že informace je pokusem reprezentovat skutečnost, a když tento pokus uspěje, nazýváme ho pravdou… tato kniha však též tvrdí, že většina informací není pokusem reprezentovat skutečnost a že informaci definuje úplně něco jiného. Většina informací v lidské společnosti a vlastně i dalších biologických a fyzických systémech nereprezentuje totiž vůbec nic.“
Má nepochybně pravdu v tom, když zdůrazňuje, že více informací neznamená automaticky více moudrosti: „I proto se naivní pohled mýlí, když se domnívá, že výkonnější vývoj bude mít nutně za následek pravdivější porozumění světu.“
Nicméně je asi dosti bláhové se domnívat, že by přijetí určitých opatření mohlo zaručovat pravdivost toho, co se šíří – tak jak to formuluje Harari: „Nebudou-li zavedeny dodatečné kroky, aby rovnováhu zvrátily ve prospěch pravdy, zvýšení objemu a rychlosti šíření informací zahltí relativně vzácné a nákladné pravdivé výpovědi podstatně obyčejnějšími a lacinými typy informací.“
Yuval Noah Harari (* 1976)
Izraelský historik, specializující se původně na středověké dějiny a dějiny vojenství. Působí jako profesor historie na Hebrejské univerzitě v Jeruzalémě. Jeho dosud nejúspěšnější knihou je studie Sapiens: Od zvířete k božskému jedinci. Po překladu do angličtiny se stal globální mediální hvězdou a všem jeho dalším titulům se dostává obrovské pozornosti. Jedněmi je chválen jako vynikající vypravěč, druhými zatracován jako autor, který příliš zjednodušuje a málo se opírá o skutečně ověřená fakta.
V jistém ohledu se tak jeho kniha Nexus mění na varování před tzv. „dezinformacemi“, jejichž dopad s rozvojem technologií roste. Jako příklad uvádí vynález knihtisku a případ dvou knih – De revolutionibus orbium coelestium (O oběhu nebeských těles) Mikuláše Koperníka a Malleus Maleficarum (Kladivo na čarodějnice) Heinricha Kramera.
Zatímco prvně zmiňovaná kniha (vyšla až o půl století později než Kladivo) byla naprostý propadák, druhá přispěla ke spuštění čarodějnických procesů po celé Evropě. Harari z toho vysuzuje banální závěr, že rozvoj technologie nutně nepřispívá k rozvoji vědění, ale že to může být i naopak.
Z nedávné historie pak zmiňuje nástup fašismu v Německu. Tvrdí, že „historii často utvářejí nikoli deterministické mocenské vztahy, ale spíše tragické chyby vyvěrající z víry v uhrančivé, leč škodlivé příběhy.“ Přitom ovšem opomíjí – na historika trestuhodně – dodat, že jen příběhy tyto katastrofy nezpůsobují. Nástup fašismu a komunismu skutečně nebyl zapříčiněn výhradně tím, že by se mase lidí dostávalo „škodlivých“ informací a příběhů. Předně muselo existovat nějaké podhoubí, které by je přijalo.
Svůdnost příběhů
Sám tady trochu padá do pasti. Počítá s tím, že jeho publikum bude vůči moderním technologiím alarmisticky naladěné, a tak mu servíruje svůdný příběh vývoje lidské společnosti od pravěku k digitální apokalypse. Jenže ani jeden z případů, které uvádí, není přesvědčivý: algoritmy mohou pracovat tak či onak, ale konkrétní činy, zejména činy násilné, koná vždy a jen člověk.
V něj ovšem Harari – zdá se – příliš velkou víru nemá: „Po tisíce let proroci, básníci a politici používali jazyk, aby manipulovali a přetvářeli společnost. Teď se to učí počítače. A nebudou vůbec muset posílat nějaké zabijácké roboty, aby nás postříleli. Dokáží zmanipulovat lidské bytosti, že ty samy stisknou spoušť.“
Varování před AI se v podstatě ničím neliší od jejího adorování za účelem nalákat investory – obojí je součástí jedné bubliny.
Vracíme se tím ale k předchozímu problému. Opravdu je člověk tak nesvéprávný, že se dokáže nechat takto snadno zmanipulovat? A stačí k tomu jen příběh? Anebo – perspektivou raného Wittgensteina – jsou skutečně hranice jazyka hranicemi našeho myšlení (a v tomto případě i konání)?
AI – kterou ostatně dosud nikdo přesně nedefinoval – se zatím projevuje v tzv. LLM, neboli velkých jazykových modelech. Tam, kde pracuje na základě určitého objemu dat, z nichž se učí, například v překladech, jsou její výsledky překvapivě dobré. Ale tam, kde má chatbot sám něco koherentního vytvořit, jsou překvapivě ploché a povrchní.
Harari samozřejmě klade legitimní otázky po tom, co prudký rozvoj technologie znamená pro naši společnost, pro její budoucnost, pro demokracii. Tyto otázky však nejsou nové a nástup AI nepřináší zase tak proměnlivou změnu – anebo ji aspoň Harari nedokáže přesvědčivě popsat a analyzovat způsobem, který by byl něco víc než jen snůška různých anekdotických kauz.
Jeho varování před AI a slova o konci lidských dějin tak skutečně nejsou vůbec odlišné od přepjatých marketingových triků lákající další investory. Obojí je v podstatě jen součástí jedné bubliny.
🔥🗞️ Přidejte si INFO.CZ do svých oblíbených zdrojů na Google Zprávy. Díky.
