Facebook slaví 20 let: Do koktejlu manipulací a lidské blbosti se míchá smrtící ingredience

Když Mark Zuckerberg spouštěl před dvaceti lety síť TheFacebook, byl nejspíš ještě plný ideálů. Dnes je z něj tvrdý byznysman. Vypadá ale pořád stejně – jako reptiliánský mimozemšťan, jak ho v žertu označuje mládež z TikToku a ve vší vážnosti dezinformacím podléhající starší uživatelé jeho sítě. Že není ještěrem, který chce ovládnout svět, dokonce v roce 2016 veřejně vyvracel. 

Že jeho firma chce prostřednictvím algoritmů ovládnout naše mozky, není dezinformace, ale prostý fakt. Facebook používá algoritmy, které určují, jaké příspěvky se zobrazují v našem feedu a jaké reklamy jsou nám nabízeny. 

Vytváří tak pro každého uživatele personalizovaný obsah, který má za cíl udržet ho na síti co nejdéle a zvýšit jeho zapojení. Uživatelé nakonec získají dojem, že jim „čte myšlenky“. Algoritmy přitom jednoduše čerpají z předchozích preferencí a dokáží servírovat „žádoucí“ obsah. Proč se sociální sítě tolik snaží vyjít nám vstříc?

Pěkně natvrdo vysvětlil, jak celá mašinérie funguje, ve vystoupení před americkým Senátem v roce 2019 bývalý designér Googlu, technologický etik a spoluzakladatel Centra pro humánní technologie Tristan Harris: „Soutěží se o vaši pozornost. A protože je omezená, musí být firmy čím dál tím agresivnější. Říkám tomu závod do centra mozku. Feed se chová jako hrací automat. A vyvolává stejnou závislost.“ 

Později snaha o udržení zájmu postoupila až ke společenskému schvalování v podobě lajků a sledujících. „Je mnohem levnější vytvořit závislost na dostávání pozornosti od ostatních lidí. A to způsobilo hromadný narcismus a další kulturní problémy, které dnes postihují zejména mladé lidi. Po dvou dekádách úpadku vzrostla míra duševních problémů u dívek mezi 10 a 14 lety o 170 % za posledních 8 let,“ prohlásil před pěti lety Harris před zákonodárci. 

Vývoj jde stále kupředu. Do hry vstupuje umělá inteligence, která je schopná z našich interakcí na sociálních sítích vytvořit naše „avatary“. „Avatar je vymodelován z vašich kliků, lajků atp. To jsou vaše částečky, díky kterým se avatar chová víc a víc jako vy. Takže počítač dokáže lépe a lépe odhadovat, jak dlouho se vydržíte dívat. Obchodní model je udržet vaši pozornost co nejdéle,“ vysvětloval technologický etik.

Facebook dokáže také „předvídat věrnost“. „Dokáží inzerentovi říct, že přestáváte být věrnými zákazníky. Takže pokud jste matka a kupujete pampersky, mohou říct firmě Pampers, že brzy změníte značku. Jinými slovy dokáží předvídat věci, které sami o sobě nevíme. A tohle je nová úroveň asymetrické moci,“ varoval Tristan Harris. 

Sociální sítě o nás ví prakticky vše. Vytváříme s nimi velmi důvěrný vztah, který ale jedna ze stran porušuje. „Stejný standard důvěry vyžadujeme od knězů, doktorů nebo právníků. Představte si svět, ve kterém kněží vydělávají peníze prodáváním zpovědí cizím lidem. Až na to, že Facebook a Google poslouchají zpovědi dvou miliard lidí. Mají na ně napojený superpočítač, který počítá a předvídá vaše zpovědi ještě předtím, než je učiníte. 

Z jednoho příspěvku lze posoudit politickou příslušnost s přesností 80 %. Počítače dokáží předpovědět, že jste homosexuál dříve než vy sám. S 95% přesností umí predikovat, že opustíte svou práci, dokáží předvídat, že vaše žena je těhotná,“ upozornil Harris. 

Že nejde jen o nakupování, ukázal například případ Cambridge Analytica. Britská společnost Cambridge Analytica získala neoprávněně osobní údaje a data milionů uživatelů Facebooku. Ta byla použita k vytvoření personalizovaných politických reklam a manipulaci s voličským chováním během amerických prezidentských voleb v roce 2016 a dalších volebních kampaní. 

Algoritmy však nefungují jen jako podpora prodeje nebo politiků, ale i jako katalyzátor dezinformací. Červenou pilulku“, která některým lidem „otevřela oči“, jim často podaly právě sociální sítě. Konspirační teorie sice přímo nevytváří, ale obsah s rozbuškovým potenciálem vám doručí až před nos. 

Sociální média zrcadlí to nejhorší v nás. Neodráží realitu, tedy společnost rozdělenou na dva tábory – vytváří ji. Algoritmy sociálních sítí „pochopily“, že nejvíce táhne morální pobouření. V souboji o pozornost tak upřednostňují příspěvky, které ho vyvolávají. Rozdělení společnosti je tedy rovněž součástí obchodního modelu sociálních sítí.

Facebook nás může izolovat do informačních bublin, kde se setkáváme jen s těmi názory, které nám vyhovují, a nevidíme celou škálu různých perspektiv. Sociální síť může být lehce zneužita k šíření dezinformací, manipulace a propagandy. 

Facebook nemá dostatečné mechanismy, jak ověřovat pravdivost a kvalitu obsahu, který se na něm objevuje. Často dochází k paradoxním situacím, kdy banuje neškodné vtipy a odhalené bradavky, ale skutečně problematický obsah nechá běžet dál. Příkladem budiž například deepfake video o „skvělých investicích“ s Petrem Pavlem nebo Andrejem Babišem, kde trvalo velmi dlouho, než Facebook klamavý obsah stáhl. Mezitím na evidentní fake reagovala spousta lidí jako na realitu. 

Sociobiolog Edward O. Wilson řekl, že základní problém lidstva spočívá v tom, že máme prastaré paleolitické emoce, středověké instituce a božské technologie. Jsme tedy šimpanzi s atomovkami, reálnými i informačními. Naše mozky nestačí na prudce rostoucí technologie, které předvídají naše chování. V některých případech je ale obelstí i „informační šmejdi“ s poměrně průhledným podvodem.

Otázkou je, dokdy budeme schopni odhalit manipulaci kritickým myšlením. Vývoj AI je neúprosný a legislativa příliš pomalá. To koneckonců přiznává i jeden ze zneužitých, prezident Petr Pavel v nedávno vysílaném pořadu 20 minut Radiožurnálu. Na otázku, zda dělá naše vláda pro boj s dezinformacemi maximum, odpověděl, že nedělá ani minimum. Boj s dezinformacemi je teď podle něj na bodu mrazu. Brzy nám všem ale mohou pěkně zatopit.