Počítače schopné rozprávať príbehy zmenia chod ľudských dejín, hovorí historik a filozof.
Strach z umelej inteligencie sprevádza ľudstvo od samého začiatku počítačovej éry. Doteraz sa tieto obavy zameriavali na stroje využívajúce fyzické prostriedky na zabíjanie, zotročenie alebo nahradenie ľudí. Ale za posledných niekoľko rokov sa objavili nové nástroje, ktoré ohrozujú prežitie ľudskej civilizácie z neočakávaného smeru. Umelá inteligencia získala pozoruhodné schopnosti narábať s jazykom, ako aj generovať jazyk, či už pomocou slov, zvukov alebo obrázkov a tak hackla operačný systém našej civilizácie.
Jazyk je substancia, z ktorej sa skladá takmer celá ľudská kultúra. Ľudské práva napríklad nie sú zapísané v našej DNA. Sú to skôr kultúrne artefakty, ktoré sme vytvorili rozprávaním príbehov a písaním zákonov. Bohovia nie sú fyzická realita. Sú to skôr naše kultúrne artefakty, ktoré sme vytvorili vymýšľaním mýtov a svätého písma.
Aj peniaze sú kultúrnym artefaktom. Bankovky sú len farebné kúsky papiera a v súčasnosti viac ako 90 % peňazí nie sú ani bankovky – sú to len digitálne informácie v počítačoch. To, čo dáva peniazom hodnotu, sú príbehy, ktoré nám o nich hovoria bankári, ministri financií a guru kryptomien. Sam Bankman-Fried, Elizabeth Holmes a Bernie Madoff neboli zvlášť dobrí vo vytváraní skutočnej hodnoty, no všetci boli mimoriadne schopní rozprávači.
Čo by sa stalo, keby sa iná inteligencia stala lepšou ako priemerný človek v rozprávaní príbehov, skladaní melódií, kreslení obrázkov a písaní zákonov a svätého písma? Keď ľudia premýšľajú o Chat GPT a ďalších nových nástrojoch, často ich priťahujú príklady, ako sú školáci, ktorí používajú umelú inteligenciu na písanie svojich esejí. Čo sa stane so školským systémom, keď to deti urobia? Takáto otázka je však zbytočná. Zabudnite na školské eseje. Zamyslite sa nad budúcim americkým prezidentským súbojom v roku 2024 a skúste si predstaviť vplyv nástrojov umelej inteligencie, ktoré možno použiť na masovú produkciu politického obsahu, falošných správ a textov pre nové kulty.
V posledných rokoch sa kult qAnon spojil okolo anonymných online správ, známych ako „ q kvapky“. Nasledovníci zbierali, uctievali a interpretovali tieto kvapky ako posvätný text. Zatiaľ čo podľa našich najlepších vedomostí boli všetky predchádzajúce kvapky zložené ľuďmi a roboty ich len pomáhali šíriť, v budúcnosti by sme mohli vidieť prvé kulty v histórii, ktorých uctievané texty napísala iná inteligencia ako ľudská. Náboženstvá si počas histórie nárokovali neľudský zdroj svojich svätých kníh. Čoskoro to môže byť realita.
Na prozaickejšej úrovni by sme mohli čoskoro zistiť, že vedieme siahodlhé online diskusie o potratoch, klimatických zmenách alebo ruskej invázii na Ukrajinu s entitami, o ktorých si myslíme, že sú ľudia – ale v skutočnosti je to umelá inteligencia. Háčik je v tom, že je úplne zbytočné, aby sme trávili čas snahou zmeniť deklarované názory robota, zatiaľ čo by umelá inteligencia mohla vylepšiť svoje posolstvá tak, že by mala veľkú šancu nás ovplyvniť.
Vďaka ovládaniu jazyka by mohla dokonca vytvárať intímne vzťahy s ľuďmi a využívať silu intimity na zmenu našich názorov a svetonázorov. Hoci nič nenasvedčuje tomu, že by mala nejaké vlastné vedomie alebo pocity, na podporu falošnej intimity s ľuďmi stačí, ak ich dokáže prinútiť, aby sa k nej emocionálne pripútali. V júni 2022 Blake Lemoine, inžinier Google, verejne tvrdil, že chatbot Lamda, na ktorom pracoval, začal byť vnímavý. Kontroverzné tvrdenie ho stálo prácu. Najzaujímavejšie na tejto epizóde nebolo tvrdenie pána Lemoina, ktoré bolo pravdepodobne nepravdivé. Bola to skôr jeho ochota riskovať svoju lukratívnu prácu pre dobro chatbota. Ak môže umelá inteligencia ovplyvniť ľudí, aby kvôli nej riskovali prácu, k čomu by ich ešte mohla prinútiť?
V politickom boji o mysle a srdcia je intimita najúčinnejšou zbraňou a umelá inteligencia práve získala schopnosť masovo produkovať intímne vzťahy s miliónmi ľudí. Všetci vieme, že za posledné desaťročie sa sociálne médiá stali bojiskom kontroly ľudskej pozornosti. S novou generáciou sa bojový front presúva z pozornosti na intimitu. Čo sa stane s ľudskou spoločnosťou a ľudskou psychológiou, keď umelá inteligencia bude môcť ovplyvniť, aby sme volili konkrétnych politikov alebo kupovali konkrétne produkty?
Aj bez vytvárania „falošnej intimity“ by nové nástroje mali obrovský vplyv na naše názory a svetonázor. Ľudia môžu využiť jediného poradcu ako univerzálne a vševediace orákulum. Niet divu, že Google je vydesený. Prečo sa obťažovať hľadaním, keď sa môžem spýtať krištáľovej gule? Zhrozený by mal byť aj spravodajský a reklamný priemysel. Prečo čítať noviny, keď môžem len požiadať krištáľovú guľu, aby mi povedala najnovšie správy? A aký je účel reklám, keď môžem požiadať krištáľovú guľu, aby mi povedala, čo mám kúpiť?
A ani tieto scenáre v skutočnosti nevystihujú celkový obraz. To, o čom hovoríme, je potenciálny koniec ľudskej histórie. Nie koniec dejín, len koniec ich ľuďmi ovládanej časti. História je interakcia medzi biológiou a kultúrou; medzi našimi biologickými potrebami a túžbami po veciach, ako je jedlo a sex, a našimi kultúrnymi výtvormi, ako sú náboženstvá a zákony. História je proces, prostredníctvom ktorého zákony a náboženstvá formujú jedlo a sex.
Čo sa stane s priebehom histórie, keď umelá inteligencia prevezme kultúru a začne produkovať príbehy, melódie, zákony a náboženstvá? Predchádzajúce nástroje ako tlačiareň a rádio pomohli šíriť kultúrne myšlienky ľudí, ale nikdy nevytvorili nové vlastné kultúrne myšlienky. Umelá inteligencia je zásadne odlišná, môže vytvárať úplne nové nápady, úplne novú kultúru.
Najprv bude pravdepodobne napodobňovať ľudské prototypy, na ktorých bola trénovaná. Ale s každým ďalším rokom sa kultúra umelej inteligencie dostane tam, kam sa ešte nikto nedostal. Po tisícročia žili ľudské bytosti v snoch iných ľudí. V nadchádzajúcich desaťročiach sa možno ocitneme v snoch mimozemskej inteligencie.
Strach z umelej inteligencie prenasleduje ľudstvo len posledných niekoľko desaťročí. Po tisíce rokov však ľudí prenasleduje oveľa hlbší strach. Vždy sme oceňovali silu príbehov a obrazov manipulovať s našou mysľou a vytvárať ilúzie. V dôsledku toho sa ľudia už od staroveku báli, že budú uväznení vo svete ilúzií.
V 17. storočí sa René Descartes obával, že ho možno zlomyseľný démon uväznil vo svete ilúzií a vytvoril všetko, čo videl a počul. V starovekom Grécku Platón rozprával slávnu Alegóriu jaskyne, v ktorej je skupina ľudí celý život pripútaná v jaskyni tvárou k prázdnej stene. K obrazovke. Na tej obrazovke vidia premietané rôzne tiene. Väzni si mýlia ilúzie, ktoré tam vidia, so skutočnosťou.
V starovekej Indii budhistickí a hinduistickí mudrci poukazovali na to, že všetci ľudia žili uväznení v tzv. Maya — vo svete ilúzií. To, čo bežne považujeme za realitu, sú často len fikcie v našich vlastných mysliach. Ľudia môžu viesť celé vojny, zabíjať iných a sú ochotní nechať sa zabiť aj sami kvôli svojej viere v tú či onú ilúziu.
Revolúcia umelej inteligencie nás privádza tvárou v tvár Descartovmu démonovi, Platónovej jaskyni, Maya. Ak si nedáme pozor, môžeme byť uväznení za oponou ilúzií, ktorú by sme nemohli odhrnúť – alebo si dokonca uvedomiť, že existuje.
Samozrejme, nová sila by sa dala využiť aj na dobré účely. Nebudem sa nad tým pozastavovať, pretože ľudia, ktorí ju vyvíjajú o tom hovoria dosť. Úlohou historikov a filozofov, ako som ja, je poukázať na nebezpečenstvá. Ale určite nám umelá inteligencia môže pomôcť nespočetnými spôsobmi, od nájdenia nových liekov na rakovinu až po objavenie riešení ekologickej krízy. Otázka, pred ktorou stojíme je, ako zabezpečiť, aby sa nové nástroje používali skôr na dobro ako na zlo. Aby sme to dosiahli, musíme najprv oceniť skutočné možnosti týchto nástrojov.
Od roku 1945 vieme, že jadrová technológia môže generovať lacnú energiu v prospech ľudí, ale môže tiež fyzicky zničiť ľudskú civilizáciu. Preto sme pretvorili celý medzinárodný poriadok na ochranu ľudstva a na zabezpečenie toho, aby sa jadrová technológia používala predovšetkým na dobro. Teraz musíme zápasiť s novou zbraňou hromadného ničenia, ktorá môže zničiť náš duševný a sociálny svet.
Stále môžeme regulovať nové nástroje, ale musíme konať rýchlo. Zatiaľ čo jadrové zbrane nemôžu vynájsť silnejšie jadrové zbrane, umelá inteligencia dokáže vytvoriť exponenciálne výkonnejšiu samú seba. Prvým zásadným krokom je vyžadovať prísne bezpečnostné kontroly predtým, ako budú výkonné nástroje uvoľnené do verejnej sféry. Rovnako ako farmaceutická spoločnosť nemôže vydať nové lieky pred testovaním ich krátkodobých aj dlhodobých vedľajších účinkov, technologické spoločnosti by nemali vydávať nové nástroje skôr, ako budú bezpečné. Potrebujeme ekvivalent Úradu pre potraviny a liečivá pre novú technológiu a potrebovali sme to už včera.
Neregulované nasadzovanie umelej inteligencie by vytvorilo spoločenský chaos, ktorý by prospel autokratom a zničil by demokracie. Demokracia je konverzácia a konverzácie sa opierajú o jazyk. Keď umelá inteligencia hackne jazyk, môže to zničiť našu schopnosť viesť zmysluplné rozhovory, a tým zničiť demokraciu.
Práve sme sa tu na Zemi stretli s mimozemskou inteligenciou. Nevieme o tom veľa, okrem toho, že by to mohlo zničiť našu civilizáciu. Mali by sme zastaviť nezodpovedné nasadzovanie nástrojov vo verejnej sfére a regulovať umelú inteligenciu skôr, ako ona bude regulovať nás. A prvé nariadenie, ktoré by som navrhol, je zaviesť povinnosť zverejňovať, že ide o umelú inteligenciu. Ak sa s niekým rozprávam a nedokážem povedať, či je to človek alebo umelá inteligencia – to je koniec demokracie.
Tento text vytvoril človek.
Alebo nie?
