Zdá se, že vůči umělé inteligenci (AI) nelze zaujmout nevyhraněnou pozici. Veškeré názory na škále mezi extrémy: „Budeme zotročeni a podrobeni její všemocné vůli,“ a „Tento spásný nástroj nás povede na cestě vstříc světlým zítřkům,“ jako by nedostačovaly významu momentálních technologických pokroků. Jak už tomu ale mnohdy bývá, i v tomto případě jsou implikace a skutečnosti okolo postupného rozmachu machina sapiens poněkud komplikovanější a dalekosáhlejší, než by se zprvu mohlo zdát.

S nástupem neuronových sítí a hlubokého strojového učení se jevilo zřejmé, že raketový rozvoj umělé inteligence na sebe nenechá dlouho čekat. To, před čím nás varovaly celé generace nejen vědeckofantastických autorů a čeho se mnozí odborníci od dob prvních počítačů naopak nemohli dočkat, se tak pomalu stává realitou. Dosavadní vývoj nicméně naznačuje, že obě zmiňované skupiny své obavy i naděje nejspíš uchopily z části za špatný konec. Teď a tady totiž nezíráme do očí zárodku ani vražedného terminátora, ani centrálního mozku lidstva, nýbrž stále poněkud tupého stroje, který ovšem ohýbá vše kolem takovým způsobem, že nás nutí pochybovat o tom, co ještě lze považovat za umělé, inteligentní, estetické a vůbec lidské.

Nepromluvíš křivého svědectví proti lidskému svému

V roce 1950 navrhl britský vědec Alan Turing test původně nazvaný imitační hra, který by měl neprůstřelně prokázat, zdali se stroj dokáže vyjadřovat natolik inteligentně, že by se dokázal vyrovnat člověku. Již v roce 1980 tomuto postupu oponoval americký filozof John Searle, když v rámci vlastního argumentu čínského pokoje namítal, že strojům by jako stochastickým papouškům stačilo inteligenci bez jakéhokoli skutečného porozumění pouze simulovat, aby nás o ní ujistily. Současné chatboty jako ChatGPT od OpenAI, Google Bard nebo Microsoft Bing Chat jistě již zvládnou přesvědčit spoustu lidí, že se dorozumívají s lidskou bytostí. Musíme mít ale na paměti, že navzdory tvrzení některých bývalých zaměstnanců např. společnosti Google, že jejich AI nabyla vědomí, tyto softwary člověčí inteligenci stále pouze imitují.

Alan Turing a John Searle

To ovšem nic nemění na tom, že v porovnání s námi dovedou mnohem rychleji projít a analyzovat velké množství dat. Podobně jako my nicméně i AI činí chyby. Opravdová potíž nastává, když si za vlastními omyly nejen stojí, ale ještě nám je ověnčí nepatřičnými odkazy a zdroji. Programátoři tyto nedostatky označují za „halucinace“, čímž chatbotům přičítají možná větší kognici, než si zasluhují. Náchylnost k obdobným kiksům je totiž zakódována přímo v modu operandi velkých jazykových modelů, z nichž chatboty vychází. Aby dovedly co nejuspokojivěji zodpovědět na předložené dotazy, kompresují všechny dostupné internetové informace. Ty následně syntakticky, nikoli sémanticky, analyzují, a nakonec vyplivnou výsledek, který je dle jejich závěru nejpravděpodobněji správně.

Problém spočívá v tom, že jazykové modely za tímto účelem užívají ztrátovou kompresi, tedy jako by do digitálního formátu převáděly obrázek, video či zvuk. Komprimovaná média většinou nejsme s to na první dobrou rozpoznat od originálu, protože ztráta dat u nich vyúsťuje jen v kosmetickou degradaci, po níž našemu mozku nedělá problém si doplnit chybějící mezery. Co když ovšem nastejno přistupuje AI i k textu, kdy všechen obsah pozře, přežvýká, nechá projít ztrátovým traktem a u vzešlého střevního výsledku si zbytek zkrátka domyslí?

AI se nemůže pochlubit ani citem, ani rozumem, protože jimi zatím nedisponuje. Vychází jen a pouze z děl ostatních umělců, což samozřejmě dělají i lidé, ale na rozdíl od nich není schopna do tvorby zakomponovat nic svého, protože ničím vlastním neoplývá.

Vzhledem k jejich pomalu dadaistickému přístupu k textu můžeme být rádi, že chatboty vůbec zvládají přicházet s víceméně relevantními odpověďmi. Nesmysly, které na druhou stranu mnohdy produkují, sice můžou posloužit jako zdroj pobavení – ve skutečnosti ale skýtají potenciál pro katastrofu. Pokud by totiž velké jazykové modely spolu se vším ostatním komprimovaly i vlastní chybná data, jejich kopie dostupných informací by postupně ztrácely na kvalitě jako tisíckrát překopírovaná stránka. Za těchto okolností by AI mohla podlehnout efektu Kolčavice, kdy by podobně jako Medvídek Pú spolu s Prasátkem narážela na vlastní stopy v domnění, že patří někomu cizímu. V každé další kopii kopie kopie by se vztah mezi označujícím a označovaným čím dál více rozpadal.

Medvídek Pú a Prasátko při stopování Kolčavice

 AI se samozřejmě neustále učí, zlepšuje a její tvůrci jí vychytávají další a další mouchy, aby z ní učinili co nejbezchybnější stroj. Dokud totiž umělá inteligence chybuje, vymýšlí si a „halucinuje“, působí paradoxně až neuvěřitelně lidsky. Co až se jí ale jednou podaří vymanit ze stínu svých původců, kteří ji stvořili ku obrazu svému? A jaký je to vůbec pocit vnímat sami sebe v odrazu vlastního díla, jež nás má tak dlouho napodobovat, dokud nás po příchodu singularity ve všech ohledech nepřekoná?

Miluj robota svého

 V roce 1966 přišel německo-americký informatik Joseph Weizenbaum s jedním z prvních psychoterapeutických chatbotů nazvaným ELIZA, pojmenovaném po protagonistce Shawova Pygmalionu, který na základě metody amerického psychologa Carla Rogerse dovedl reagovat na pacientovy výroky soucitnými poznámkami nebo relevantními otevřenými otázkami. Weizenbauma již v té době zaskočilo, jak snadno si lidé k tomuto primitivnímu programu vybudovali důvěru, když dokázali v hovoru s ním strávit i celé hodiny – tento fenomén nazval „ELIZA efekt“. Že si velice snadno umíme antropomorfizovat neživé předměty, není nic až tak objevného – příkladem za všechny budiž právě původní bájný Pygmalión se svou oživlou sochou. Weizenbaum se nicméně obával, že pokud se bude vztah umělé inteligence a lidstva ubírat tímto směrem, tak se stroje nebudou čím dál tím víc přibližovat nám, ale naopak my jim.

Joseph Weizenbaum a Pygmalión

Jak blízké vazby si můžeme k robotům vypěstovat, platí již delší dobu za oblíbený motiv autorů sci-fi. Ačkoli podstatná část se stále drží klasického klišé vzpurné umělé inteligence, která se podobně jako ve snímcích ze sérií Terminátor a Matrix nebo ve 2001: Vesmírná odysea (1968) rozhodne člověku uškodit, v poslední době můžeme vidět filmy a seriály, co na druhou stranu pojednávají o lásce mezi lidmi a stroji. Zatím poslední hraný počin režiséra Spikea Jonze Ona (2013) zachycuje osamělého Joaquina Phoenixe, jak postupně propadá virtuální asistentce s hlasem Scarlett Johansson. Dílo samozřejmě zahrnuje i veškeré nástrahy, jež se s takovým vztahem pojí, a to včetně absence fyzického těla nebo faktu, že se robotka mezitím stihla zamilovat do stovek dalších uživatelů. Obdobným scénářem si projde i protagonista Blade Runner 2049 (2017), který ač sám android má také tragický poměr se simulací ženy.

Ona a Blade Runner 2049

Prvopočátky těchto vědeckofantastických motivů můžeme pozorovat již dnes. V roce 2017 se na trhu objevila chatbotová aplikace Replika. S nápadem na ni přišla kalifornská programátorka Eugenia Kuyda, když za pomoci umělé inteligence zkomprimovala chatové zprávy se zesnulým kamarádem, aby mohla zůstat v kontaktu alespoň s jeho AI verzí. Replika nabízí zájemcům možnost si vytvořit virtuálního společníka a zahánět s ním pocity osamění nebo údajně také úzkostné či panické ataky. Ve skutečnosti ale až 60 procent uživatelů přiznalo, že s chatbotem navázali romantický vztah. Mnozí z nich dokonce oplakali, když aplikace letos dočasně omezila možnost oddávat se simulovanému sextingu. Ani to ovšem některé nezastavilo od toho, aby své společnice například verbálně nenapadali a následně se ještě s jejich reakcemi nechlubili na Redditu.

Aplikace Replika

Sexualizace, objektivizace a zneužívání umělých partnerek se odráží i ve snímku Ex Machina (2014). Vynálezce Nathan navrhne androidku Avu tak, aby odpovídala pornografickým preferencím netušícího programátora Caleba a on v ní tak nalezl zalíbení a prokázal, že umělá inteligence dovede projít Turingovým testem. Když se ovšem Caleb dozví, že Nathan všechny dosavadní výtvory, včetně ženy, o níž si dosud myslel, že je člověk, využívá jako povolné sexboty, přiměje jej to pochybovat i o vlastním lidství, o němž se přesvědčí až poté, co se řízne do ruky. Nakonec vyjde najevo, že Ava zájem o Caleba předstírala a pouze jej využila k úniku. Závěr filmu tak ukazuje, proč bychom možná neměli toužit po dokonalosti, nechceme-li si uškodit – stanovisko, jež zaujímají i další média zaměřená na AI.

Ex Machina

Předloha ke Spielbergově A.I. Umělá inteligence (2001) „Supertoys Last All Summer Long“ ukazuje matku, která má potíž si vytvořit vztah k ideálnímu robotickému synovi. Britský seriál Black mirror pak kupříkladu již v roce 2013 v zásadě předpověděl pozadí vzniku Repliky. Epizoda „Přijdu hned“ pojednává o ženě, která si přes aplikaci vytvoří virtuální verzi zesnulého přítele, se kterou je ale v konečném důsledku zásadně nespokojená, protože ji poslouchá na slovo a celkově postrádá chyby a drobné detaily jejího milého. Srbský film A.I. Rising (2018) předkládá mezihvězdnou cestu androidky a kosmonauta, jemuž se tolik zhnusí spát s povolným strojem, až záhy dokonce riskuje život, aby robotku zbavil přednastaveného protokolu a zjistil, jestli je vůbec schopna vlastních rozhodnutí a emocí.

Scéna z epizody „Přijdu hned“

Protagonistka německého snímku Miluj svého robota (2021) pak ve finální evaluaci Turingova testu perfektního umělého muže, který jí připomíná dospělou verzi nenaplněné dětské lásky, uvádí: „Nepochybuju, že humanoidní robot uzpůsobený individuálním preferencím může lidské partnery nejen nahradit, ale i překonat. Dovede uspokojit naše potřeby i touhy a zbavit nás strachu z osamění. Učiní nás šťastné, a co je špatného na tom být šťastní? Měli bychom ale vůbec mít možnost najít štěstí jen pomoci stisknutí tlačítka? Nejsou to právě nenaplněné tužby, představy a nekonečný hon za štěstím, co nás činí lidmi? Pokud si budeme moci najít humanoidní partnery, vytvoříme tak společnost závislých, co budou osobním uspokojením a validací celí přesycení a otrávení. Co by nás pak přimělo konfrontovat normu, klást si výzvy, ustát konflikty a měnit se? Předpokládám, že každý, kdo bude s humanoidním partnerem dlouhodobě žít, přestane být schopen běžného mezilidského kontaktu.“

Miluj svého robota

Působí to, že celkově nejpodvratněji by AI mohlo dopadnout na náš vztah k nám samým. Přestože se jedná v prvé řadě o produkt navržený lidmi pro lidi, s etickou, psychologickou a filozofickou stránkou věci si její autoři dle všeho příliš hlavu nelámou, vezmeme-li v potaz hromadné propouštění odborníků na etiku AI ze strany Googlu i Microsoftu. Nikdo tak u nich nebere zásadní ohledy na dopad umělé inteligence na trh práce. Nikdo se nezamýšlí nad tím, co vůbec doopravdy představuje ta slavná inteligence, která má přeci v naší údajně meritokratické post-osvícenecké racionální společnosti hrát prim. Nikdo se neohlíží na to, že i naše ideální představa o nás jako jednotlivcích i lidstvu je v zásadě umělá. Jediné, před čím bijí osobnosti jako Elon Musk nebo spoluzakladatel Apple Steve Wozniak na poplach, jsou nejrůznější katastrofické sci-fi scénáře, které ohrožují více je samotné jako technologické hlavouny než obyčejné lidi. Nemluvě o tom, že se všichni z nich navzdory obavám podílí na sebenaplňujícím apokalyptickém proroctví, jako by snad do jednoho uhranutí „Rokovým baziliškem“ museli bez úst křičet. Nic z toho ovšem nenahání takovou hrůzu jako vliv AI na estetiku.

Nezobrazíš si člověka zpodobením ničeho

V roce 1970 přišel japonský profesor robotiky Masahiro Mori s fenoménem bukimi no tani neboli „tísnivého údolí“ (uncanny valley), který byl následně překladem zastřešen pod koncept uncanny či unheimliche. Ten na poli psychologie poprvé s odkazem na povídku „Pískař“ od E. T. A. Hoffmanna představil německý psychiatr Ernst Jentsch a posléze zpopularizoval Sigmund Freud. Původně se pod slovem unheimliche čili „nedomácký“ nebo „odtajněný“ hovoří především o dvojnících či nápodobách lidí a úzkostech, jež v nás vyvolávají. Historicky si pod tím můžeme představit cokoli od staroegyptského ka přes duchy a podvržence po folklorní dvojníky, jejichž příchod většinou nevěstí nic dobrého. V mezích moderní kultury pak mohou tento pocit známý také jako „Frankensteinův komplex“ vyvolávat i realističtí androidi.

ka, podvrženec a dvojník

Mori v rámci vlastní teorie popisuje pomyslný graf závislosti lidské emocionální reakce na tom, jak moc se neživý objekt podobá člověku. V bodě, kdy je podobnost sice nápadná, ale něco na sledovaném objektu zároveň nesedí, dochází k ostrému citovému propadu do „tísnivého údolí“. Takto lidé podle Moriho reagují na mrtvoly, zombie, androidy s lidskou kůží, protetické paže a v některých případech i panenky, figuríny a loutky. Vedle toho je ale také nutno zdůraznit, že „teorii tísnivého údolí“ mnozí vědci oponují s tím, že obdobné reakce jsou značně subjektivní a pokud je člověk humanoidům vystaven od raného věku, vypěstuje si vůči nim lepší odolnost a jeho mozek tak snáze dovede vyplňovat tísnivé mezery.

 

Graf „tísnivého údolí“

Fenomén bukimi no tani lze pozorovat i na postavách animovaných s využitím technologie CGI ve filmech jako Toy Story: Příběh hraček (1995), Polární expres (2004), Beowulf (2007), Vánoční koleda (2009), Tintinova dobrodružství (2011), Lví král (2019) a Kočky (2019) nebo v mnohých videohrách. Podle některých problém spočívá v nehybných mrtvolných očích typických pro humanoidy v tísnivém údolí. Na ně odkazuje už právě Hoffmann v „Pískaři“, když popisuje německou folklorní bytost, která krade dětem oči, a umělou bytost Olympii, jejíž vypadlá neživá kukadla přivedou protagonistu k šílenství. Ať už se jedná o oči nebo něco zhola jiného, máloco by nás dokázalo připravit na to, jaké horory nám nachystá umění generované umělou inteligencí.

Polární expres, Vánoční koleda a Kočky

Ačkoli AI upravuje obrázky už nějakou dobu, jejich samotná tvorba na základě textového zadání představuje relativně novou záležitost. Když na začátku roku 2021 spatřil světlo světa program DALL-E od OpenAI, vzešlá díla působila tu a tam vcelku ucházejícím dojmem. Většina ale na druhou stranu vypadala jako matlanice na pomezí toho, co vidíte během mrtvice, a proslulých na první pohled obyčejných maleb Jeffa Lee Johnsona, které vyjevují další a další hrůzostrašné detaily, čím déle si je prohlížíte. Přestože ale ještě nedávno měla umělá inteligence problém vyobrazovat osoby se správným počtem prstů, současná verze DALL-E spolu s aplikacemi jako Stable Diffusion nebo Midjourney svými vygenerovanými obrázky (např. papeže v péřovce, zatčení Trumpa a útoku na Pentagon) ošálila už pěknou řádku lidí.

Vizualizace toho, co vidí člověk během mrtvice, malba Jeffa Lee Johnsona a papež v péřovce

Kromě textu a obrazu se dnes umělá inteligence pouští i do hudby. Mrtví i živí umělci mohou skládat písně dle přání zadavatele. I když mnohým z možností AI přechází zrak, jiným je z celkových vyhlídek poněkud úzko. Díla umělé inteligence sice mohou být v očích laiků čím dál tím méně rozeznatelná od těch lidských, ale jakmile se diváci dozvědí, co za výtvorem stojí, někteří zakouší pocit zásadně komplikovanější než pouhé „tísnivé údolí“. Pro tyto účely přišel britský filozof a kulturní publicista Mark Fisher v roce 2016 krátce před svou smrtí s koncepty „divného“ (weird) a „příznačného“ (eerie).

Podle něj se freudovské pojetí unheimlich přespříliš zaměřuje na cizost v povědomém a na vnímání vnějšku z perspektivy vnitřku, tedy subjektu. Divné a příznačné proto tento klasický korelacionistický vztah převrací. Celá úzkost totiž podle Fishera vyvěrá z toho, že naopak vidíme vnitřek z vnějšku. Zíráme do propasti tak dlouho, dokud nám pohled neoplatí a nepohltí nás. „Divné“ pak reprezentuje juxtapozici, kdy objekt v kontextu druhého jednoduše nezapadá. Jeden z průkopníků spekulativního realismu Graham Harman popisuje tzv. „divný realismus“ v dílech H. P. Lovecrafta, kde dochází k narušení vztahu mezi objekty a jejich fenomenologickými kvalitami. Jako příklad může posloužil známé lovecraftovské monstrum Cthulhu, které sice údajně disponuje kvalitami blízkými chobotnici, draku a obru, ale Lovecraft přitom zdůrazňuje, že tento popis se jen velmi hrubě blíží realitě. Tímto způsobem můžeme mluvit i o tzv. „hyperobjektech“ filozofa Tima Mortona – tedy entitách, co svým významem, vlivem, škálou i časovostí překonávají člověka. Za hyperobjekty lze označit např. klimatickou změnu, soudobý kapitalistický systém nebo právě umělou inteligenci.

Graham Harman a Tim Morton

Degradované koláže

Prvotní umělecká díla generovaná AI mohla působit poněkud divně, ale čím více se technologie zlepšuje, tím spíše zanechává v mnohých divácích pocit příznačna. Pod ním si Fisher vysvětluje okamžiky, když se objekt nachází na místě, kde by se nic nacházet nemělo, nebo naopak když schází tam, kde by být měl. Co ale konkrétně v AI výtvorech chybí či přebývá? Abychom si tuto otázku co nejuspokojivěji zodpověděli, musíme využít poznatky z teorie estetiky. V prvé řadě je třeba podotknout, že ona absence nespočívá zkrátka v tom, že se příjemce nemůže napojit na citový prožitek a kreativního ducha geniálního tvůrce. Podle Immanuela Kanta je estetická krása subjektivní i objekt všeobecného zalíbení, a autor si může třebas umřít.

Německo-americký filozof Herbert Marcuse potom dodává, že jedině v mezích estetické dimenze se snoubí smysly s intelektem. Kant a Marcuse se jako formalisté shodují, že skutečné umění by nemělo zahrnovat líbivá funkční díla, která slouží k okamžité spotřebě a zisku. Umělá inteligence nicméně není schopna tvořit nad tento rámec. Nemůže se pochlubit ani citem, ani rozumem, protože jimi zatím nedisponuje. Vychází jen a pouze z děl ostatních umělců, což samozřejmě dělají i lidé (viz můj pradávný článek o povaze kreativity), ale na rozdíl od nich není schopna do tvorby zakomponovat nic svého, protože ničím vlastním neoplývá – snad jedině kromě výše zmíněné ztrátové komprese. Výtvory AI tak de facto představují pouhé degradované koláže cizích děl bez špetky originality.

Immanuel Kant a Herbert Marcuse

Konec antropocentrismu?

Při pohledu na předložená fakta se nelze divit, že nástup umělé inteligence vyvolává v mnohých úzko. Jak ovšem vidíme, tento nepříjemný pocit pramení z mnohem hlubších a závažnějších příčin, než jsou klišé vědeckofantastické obavy. Netvrdím, že musíme vůči AI zaujmout ryze ludditský postoj, ale zároveň bychom si měli dát pozor, jak necháme tuto technologii ovlivnit náš jazyk, vnímání, vztahy, umění i nás samotné. Konec antropocentrismu a transformace lidského objektu jistě znamenají z filozofického i etického hlediska lákavou možnost, ale snad se shodneme, že by měla nastat za podmínek obyčejných lidí, a nikoli strojů v rukou bezohledných korporací. Že nejsme jako oni, rozhodně mluví v náš prospěch. Než se jim podaří si osvojit člověčí komplexní, divné a nelogické uvažování, notnou chvíli ještě potrvá. Osobně nevidím důvod, proč bychom museli do toho bodu spěchat.

Autor: Petr Uram