AI nám nevezme dušu

Možno sa nebojíme toho, že stroje začnú písať ako ľudia. Možno sa bojíme toho, že veľa ľudí už dávno písalo ako stroje.

Nebojím sa umelej inteligencie takým tým lacným spôsobom, že jedného dňa príde veľký studený stroj, pozrie sa na nás bez očí a vezme nám všetko, čím sme boli výnimoční. Tento druh strachu mi pripadá až príliš pohodlný, skoro filmový. Je v ňom jasný nepriateľ, jasná dramatická hudba, jasná predstava, že my sme tí živí, citliví a skutoční, zatiaľ čo technológia je niečo cudzie, neľudské a nebezpečné. Lenže čím viac sa o AI hovorí, tým menej mám pocit, že najväčší problém je v strojoch. Oveľa viac ma znepokojuje niečo iné. AI podľa mňa neprichádza ukradnúť ľudskú dušu. Ona skôr prichádza ako nepríjemne presné zrkadlo, ktoré nám ukáže, že niektoré veci, ktoré sme roky nazývali osobnosťou, názorom, kreativitou alebo profesionalitou, boli možno len dobre nacvičené šablóny.

A to je oveľa nepríjemnejšie než sci-fi strach. Lebo pri sci-fi strachu sa môžeme tváriť, že problém je niekde mimo nás. V dátových centrách, algoritmoch, korporáciách, modeloch, robotoch, čipoch, serveroch a technických slovách, ktoré znejú dostatočne cudzo na to, aby sme sa cítili ako obete niečoho väčšieho. Lenže ak AI dokáže za pár sekúnd vyrobiť text, ktorý znie ako tisíc firemných statusov, motivačných príspevkov, marketingových e-mailov, politických vyhlásení, školských úvah, dating profilov, PR odpovedí a poloprázdnych článkov, možno problém nie je iba v tom, že AI je taká dobrá. Možno problém je aj v tom, že veľa nášho verejného jazyka bolo už dávno také zlé, také opakovateľné a také bezkrvné, že stroj nemal veľa práce.

Toto je na celej veci najostrejšie. Nie že AI vie napísať text. Ale že vie napísať text, ktorý často znie úplne prijateľne, pretože naše kritériá prijateľnosti sú už roky žalostne nízke. Naučili sme sa čítať vety, ktoré nič neriskujú, nič neodhalia, nič presne nepomenujú, nikoho skutočne nevyrušia a zároveň sa tvária ako komunikácia. Naučili sme sa akceptovať slová, ktoré sú hladké, ale prázdne. Naučili sme sa žiť medzi vetami, ktoré vyzerajú profesionálne, lebo sú mŕtve. A potom prišla AI a ukázala nám, že tento druh mŕtveho jazyka sa dá vyrábať donekonečna.

Preto mi príde trochu komické, keď sa niektorí ľudia zrazu tvária, že AI ohrozuje autenticitu. Ako keby autenticita bola predtým v nejakom skvelom stave. Ako keby internet posledných desať rokov nebol zaplavený príspevkami písanými podľa rovnakého emocionálneho receptu. Najprv háčik. Potom osobná kríza. Potom lekcia. Potom jedna veta, ktorá sa dá odfotiť ako citát. Potom výzva na komentár. Ako keby LinkedIn dávno nebol plný ľudí, ktorí premenili každé meškanie vlaku na lekciu o leadership-e. Ako keby Instagram dávno nevedel vyrobiť autenticitu cez správny filter, trochu rozmazané svetlo a vetu o tom, že dnes si dovolujem byť nedokonalá. Ako keby politické prejavy neboli často len výmena slov v rovnakej kostre. Ako keby značky dávno nehovorili ľudským hlasom bez človeka. Ako keby celé segmenty internetu už dávno nefungovali ako veľký mechanický organizmus, ktorý len mení tváre, ale ponecháva rovnaké frázy.

AI tento stav nevytvorila. AI ho iba zrýchlila, zviditeľnila a zahanbujúco zjednodušila. Predtým sme si mohli nahovárať, že šablónovitý prejav je normálny, lebo ho predsa píše človek. Teraz sa tá istá šablóna dá vygenerovať jedným promptom, a zrazu je ťažšie predstierať, že v nej bolo niečo hlboko ľudské. Ak sa tvoj hlas dá nahradiť po troch odsekoch napodobňovania, možno to nebol hlas. Možno to bol len štýl bez vnútorného tlaku.

Nechcem tým povedať, že každý musí písať ako umelec, mysliteľ alebo prorok v kríze. To by bolo neznesiteľné. Nie každý text musí meniť život. Nie každý e-mail musí mať dušu. Nie každá správa musí niesť existenciálnu váhu. Niekedy potrebujeme obyčajné formulácie, praktické odpovede, technické zhrnutia, preklady, jednoduché vysvetlenia, administratívu, veci, ktoré majú fungovať a nie sa predvádzať. V tomto je AI užitočná a nebudem sa tváriť, že nie. Bolo by pokrytecké nadávať na nástroj len preto, že je silný. Silný nástroj nie je sám o sebe morálny problém. Problém začína vtedy, keď človek nevie, čo s ním chce robiť, a tak mu postupne dovolí robiť aj to, čo by malo zostať jeho vlastnou prácou: rozlišovať, cítiť, niesť následky, mať vkus, mať odpor, mať hranicu, mať vlastnú vetu.

Pre mňa duša v texte neznamená niečo mystické, posvätné alebo romanticky nedotknuteľné. Neznamená to, že každá veta musí byť napísaná krvou pri sviečke. Duša je skôr stopa rozhodnutia. Je to pocit, že niekto mohol napísať aj bezpečnejšiu vetu, ale nenapísal ju. Že mohol zostať v neutrálnom priestore, ale rozhodol sa pomenovať vec presnejšie. Že mohol použiť frázu, ale niečo v ňom sa proti nej vzbúrilo. Duša v texte je vkus, pamäť, skúsenosť, hanba, tvrdohlavosť, neochota klamať si, rytmus vnútorného života. Je to niečo, čo sa nedá pridať ako efekt. Nedá sa to len prikázať slovami „napíš to autenticky“. Autenticita nie je filter. Autenticita je cena, ktorú platíš za to, že nepovieš iba to, čo prejde bez odporu.

A práve preto bude AI taká krutá k priemernosti. Nie k obyčajnosti, to je rozdiel. Obyčajnosť môže byť krásna. Obyčajný človek môže mať presný jazyk, hlboké postrehy, jemný humor, čistý spôsob videnia sveta. Priemernosť, o ktorej hovorím, nie je sociálna kategória ani urážka. Je to duchovný zvyk. Je to ochota hovoriť bez toho, aby človek niečo skutočne videl. Je to zvyk napodobňovať názory, ktoré majú dobrý spoločenský obeh. Je to schopnosť vyzerať zaujímavo bez toho, aby človek niečo riskoval. Je to produkcia obsahu namiesto premýšľania. A AI bude v tomto nemilosrdná, pretože všetko, čo je iba vzor, sa dá napodobniť. Všetko, čo je iba póza, sa dá zopakovať. Všetko, čo je iba tón bez pravdy, sa dá syntetizovať.

Preto sa mi zdá, že najviac ohrození nie sú ľudia, ktorí majú skutočný hlas. Najviac ohrození sú ľudia, ktorí si pomýlili hlas s výstupom. Roky sme žili v kultúre, kde sa od človeka nevyžadovalo, aby mal čo povedať, ale aby niečo produkoval. Post, update, newsletter, status, video, caption, komentár, thread, odpoveď, reakciu, stanovisko. Neustále niečo. Neustále byť prítomný. Neustále byť viditeľný. Neustále dokazovať, že existuješ v správnom formáte. A keď sa z existencie stane obsahový plán, nemôžeme sa čudovať, že príde nástroj, ktorý obsahový plán zvládne rýchlejšie než my.

Vlastne sme si sami pripravili scénu. Najprv sme zredukovali komunikáciu na “content”. Potom sme zredukovali tvorbu na “output”. Potom sme zredukovali osobnosť na “brand”. Potom sme zredukovali vzdelanie na “skills”. Potom sme zredukovali myslenie na “takes”. Potom sme zredukovali blízkosť na “engagement”. A keď sa človek stane súborom výstupov, je logické, že sa začne báť stroja, ktorý výstupy produkuje efektívnejšie. Lenže človek nemal byť iba výstup. Človek mal byť aj pôvod. Mal byť niekto, kto nielen vypľuje vetu, ale vie, prečo ju vôbec potrebuje povedať.

Toto je pre mňa dôležitý rozdiel. AI vie skladať vety. Vie zhrnúť, napodobniť, navrhnúť, preformulovať, rozšíriť, vyčistiť, usporiadať. Vie byť užitočná. Niekedy až desivo užitočná. Ale nevie niesť ľudský dôvod. Nevie zažiť tú chvíľu, keď niečo napíšeš a cítiš, že si si tým trochu skomplikovala život, ale konečne je to presné. Nevie poznať rozdiel medzi vetou, ktorá je pekná, a vetou, ktorá je pravdivá práve preto, že nie je úplne pohodlná. Nevie sa hanbiť za vlastné zjednodušenie. Nevie cítiť, že niektoré slová by boli síce úspešné, ale zradili by teba samú. Nevie mať vnútorný odpor k vlastnej lži. A ak toto človek ešte má, AI mu nemusí zobrať nič. Môže mu dokonca pomôcť. Ak to už nemá, AI mu to neukradla. Len odkryla prázdne miesto.

Najväčší omyl v debate o AI je podľa mňa predstava, že hranica vedie medzi človekom a strojom. Tá skutočná hranica vedie skôr medzi živým a mechanickým prejavom, a tá hranica prechádza aj cez ľudí. Existujú ľudské texty, ktoré sú mŕtve. Existujú ľudské názory, ktoré sú iba importované. Existujú ľudské úsmevy, ktoré sú naučené pre kameru. Existujú ľudské profily, ktoré sú také optimalizované, že v nich nezostal žiadny človek, iba dobre spravovaný dojem. A existujú aj texty vytvorené s pomocou AI, v ktorých je stále jasne cítiť človeka, pretože človek určil tlak, smer, hranicu, pravdu, rytmus, zámer. Nástroj nie je automaticky smrť. Smrť je, keď už nemáš čo vložiť do nástroja okrem priania vyzerať schopne.

Preto mi nestačí moralizovanie typu: AI je zlá, nepoužívajte ju, skutoční autori píšu len sami, skutočné umenie musí byť nedotknuté technológiou. Toto je podľa mňa príliš jednoduché a trochu pyšné. Ľudia vždy tvorili s nástrojmi. Pero je nástroj. Klávesnica je nástroj. Fotoaparát je nástroj. Redakčný softvér je nástroj. Slovník je nástroj. Internet je nástroj. Aj pamäť je zvláštny nástroj, ktorý nás niekedy klame a niekedy drží pokope. Otázka nikdy nebola len či používame nástroje. Otázka je, či ešte vieme byť viac než ich obsluha.

A tu sa dostávame k nepríjemnej časti. Mnoho ľudí nebude AI používať na to, aby sa vyjadrili lepšie. Budú ju používať na to, aby nemuseli zistiť, čo si naozaj myslia. To je veľký rozdiel. Použiť nástroj na spresnenie myšlienky je jedna vec. Použiť nástroj na zakrytie neprítomnosti myšlienky je vec druhá. A presne tam sa začne lámať dôvera. Nebude problém, že niekto použil AI na opravu gramatiky, štruktúru textu, preklad, rešerš, technické vysvetlenie alebo brainstorm. Problém bude, keď ľudia začnú vydávať za vlastnú hĺbku niečo, čo je len uhladená prázdnota. Keď sa z AI stane kozmetika duše. Keď človek nebude používať technológiu ako pomoc, ale ako masku.

A možno práve preto je okolo AI toľko nervozity. Nie preto, že všetci tvorcovia sa boja konkurencie. Ale preto, že sa rozpadá jeden veľký spoločenský trik. Doteraz sa veľa ľudí vedelo schovať za kompetentne znejúci jazyk. Za profesionálny tón. Za naučené frázy. Za správne slová v správnom poradí. Za text, ktorý vyzeral, že niečo znamená, pokiaľ ho človek nečítal príliš pozorne. Lenže keď vie rovnakú hladkosť vyrobiť stroj, hladkosť prestáva byť dôkazom. Zrazu bude oveľa dôležitejšie niečo iné: či je v texte skutočné rozlišovanie. Či je v ňom skúsenosť. Či je v ňom vkus. Či je v ňom nejaký druh ľudskej zodpovednosti. Či je v ňom veta, ktorú by priemerný prompt nenapísal, lebo by bola príliš konkrétna, príliš osobná, príliš nepohodlná alebo príliš mimo očakávaného vzoru.

Možno teda AI paradoxne neoslabí skutočný hlas. Možno ho zvýrazní. Keď bude všade viac textu, viac obrázkov, viac hudby, viac videí, viac syntetického obsahu, viac dokonale hladkých výstupov, ľudia možno začnú byť citlivejší na stopu človeka. Nie na deklaráciu človeka, nie na nálepku “human-made”, nie na romantickú pózu utrápeného autora, ale na ten zvláštny vnútorný dôkaz, ktorý cítiš, keď niekto nepíše len preto, aby vyplnil priestor. Keď niekto skutočne niečo nesie. Keď veta nevznikla len z možnosti, ale z potreby. Keď text nie je iba obsah, ale následok života.

Lenže na to bude treba zvýšiť nároky. A to sa mnohým nebude páčiť. Pretože zvýšené nároky znamenajú, že nestačí produkovať. Nestačí byť viditeľný. Nestačí mať pekný štýl. Nestačí používať slová ako autenticita, komunita, rast, hranice, trauma, odvaha, sloboda, kreativita, ak za nimi nie je konkrétny človek s konkrétnym spôsobom myslenia. Slová sa opotrebovali. AI ich bude opotrebovávať ešte rýchlejšie. Každé veľké slovo, ktoré nebude podopreté skutočným obsahom, sa zmení na plast. A možno to bude dobre. Možno konečne prestaneme veriť vetám len preto, že znejú ako niečo, čo by mal povedať múdry človek.

V tomto zmysle AI nie je iba technologická otázka. Je to kultúrna skúška. Skúška toho, či vieme rozoznať výraz od výplne. Skúška toho, či vieme čítať hlbšie než povrch. Skúška toho, či ešte rozumieme rozdielu medzi informáciou a múdrosťou, medzi štýlom a hlasom, medzi odpoveďou a postojom. Lebo odpoveď sa dá vygenerovať. Postoj sa musí niesť. Informácia sa dá vyhľadať. Múdrosť vzniká až vtedy, keď informácia prejde cez človeka, ktorý má pamäť, strach, hodnoty, chyby, jazvy a nejaký druh zodpovednosti. Štýl sa dá napodobniť. Hlas vzniká tam, kde niekto opakovane odmieta zradiť vlastné videnie sveta.

A áno, bude to nepríjemné aj pre autorov. Možno hlavne pre nich. Lebo AI donúti píšucich ľudí položiť si otázku, ktorej sa mnohí dlho vyhýbali: čo presne je na mojom písaní moje? Nie čo je pekné. Nie čo funguje. Nie čo má dobrý reach. Nie čo znie profesionálne. Ale čo by bez môjho konkrétneho života, môjho rytmu, môjho odporu, mojej pamäte, môjho spôsobu spájania vecí, jednoducho nevzniklo. To je nepríjemná otázka, ale aj oslobodzujúca. Pretože ak na ňu človek pozná odpoveď, nemusí panikáriť. Môže sa učiť používať nové nástroje bez toho, aby sa v nich rozpustil. Ak ju nepozná, možno problém nezačal s AI.

Myslím si, že najbližšie roky budú plné textov, ktoré budú správne, ale ničomu nebudú patriť. Budú plynulé, ale bez pôvodu. Budú informované, ale bez skúsenosti. Budú empatické, ale bez rizika skutočnej empatie. Budú odvážne bezpečným spôsobom, feministické šablónovým spôsobom, politické marketingovým spôsobom, osobné bez osobnej ceny, duchovné bez ticha, kritické bez vlastnej zodpovednosti. A popri tom budú stále existovať ľudia, ktorí možno nebudú najrýchlejší, najproduktívnejší ani najdokonalejší, ale budú mať niečo, čo sa nedá tak ľahko vygenerovať: vnútornú nevyhnutnosť. Tú zvláštnu potrebu povedať vec tak, ako ju vidia oni, nie tak, ako by mala dobre fungovať.

Možno toto bude nová forma luxusu. Nie mať prístup k technológii, lebo ten bude mať skoro každý. Ale mať prístup k sebe. Vedieť, čo si myslíš, skôr než požiadaš stroj, aby ti to pomohol formulovať. Vedieť, čo nechceš povedať, aj keď by to bolo úspešné. Vedieť rozoznať vetu, ktorá je iba elegantná, od vety, ktorá je tvoja. Vedieť si ponechať vnútornú pomalosť vo svete, ktorý dokáže vyrobiť desať verzií teba za päť sekúnd. Lebo toto bude pokušenie: nechať si vyrobiť lepšie, hladšie, prijateľnejšie, múdrejšie, pokojnejšie, trhovejšie ja. Lenže možno najľudskejšia vec bude práve odmietnuť niektoré vylepšenia.

Ja nechcem žiť v panike z AI. Ale nechcem ani žiť v naivite, že je to len ďalší neutrálny nástroj, ktorý nič nezmení. Zmení veľa. Zmení prácu, vzdelanie, médiá, umenie, dôveru, jazyk, aj to, ako budeme posudzovať jeden druhého. Ale najviac možno zmení jednu vec: už nebude stačiť vyzerať ako človek, ktorý má čo povedať. Bude treba tým človekom byť. A to je možno spravodlivejšie, než sa nám páči.

AI nám nevezme dušu. Nie tak jednoducho. Duša nie je súbor dát, ktorý sa dá ukradnúť cez aktualizáciu. Duša, ak to slovo ešte vôbec chceme používať, je skôr spôsob, akým človek odmieta byť iba mechanizmom. Je v tom, čo si všimne. Čomu neverí. Čo ho zabolí. Čo ho rozosmeje nesprávnym spôsobom. Kde sa zastaví. Kde povie nie. Kde sa nepodvolí lacnejšej vete. Kde si vyberie presnosť namiesto pohodlia. Kde nezamení zrozumiteľnosť za poslušnosť. Kde dovolí, aby jeho text nebol najhladší, ale bol živý.

A ak niekomu AI túto dušu “vezme”, možno je fér položiť si otázku, či mu ju naozaj vzala. Možno iba odstránila dekoráciu. Možno iba ukázala, že pod uhladeným jazykom nebolo veľa vlastného pohybu. Možno najväčšie poníženie tejto doby nebude, že stroje začnú byť ako ľudia. Možno najväčšie poníženie bude, že veľa ľudí sa príliš ľahko ukáže ako napodobniteľných.

Preto ma AI desí menej ako ľudia, ktorí sa jej boja iba navonok, ale vnútorne jej už dávno odovzdali to najdôležitejšie: vlastný úsudok, vlastný vkus, vlastnú vetu, vlastné ticho pred odpoveďou. Desí ma kultúra, ktorá si roky odúčala ľudí myslieť a teraz sa čuduje, že niečo dokáže myslieť namiesto nich aspoň dosť presvedčivo na prvý pohľad. Desí ma škola, ktorá trestala osobný hlas a potom sa bojí, že študenti budú písať genericky. Desí ma pracovný svet, ktorý miloval prázdne profesionálne frázy a teraz panikári, že prázdne profesionálne frázy vie vyrábať softvér. Desí ma internet, ktorý odmeňoval najpredajnejšiu verziu človeka a teraz sa tvári prekvapene, že predajné verzie človeka sa dajú automatizovať.

Možno by sme sa teda nemali pýtať iba to, ako rozoznáme text od AI. Možno by sme sa mali pýtať aj to, prečo je tak veľa ľudských textov rozoznateľných tak ťažko. Prečo sme dovolili, aby sa jazyk stal takým hladkým, predvídateľným a bezbranným. Prečo sme prestali veriť neuhladenosti, presnosti, zvláštnosti, oneskorenej myšlienke, nedokonalej ale pravej vete. Prečo sme sa tak báli byť konkrétni, až sme sa stali napodobniteľní.

A možno najlepší odpor voči AI nebude póza čistoty, ale návrat k vlastnej nenahraditeľnosti. Nie v pyšnom zmysle, že nikto nie je ako ja a svet ma musí obdivovať. Skôr v tichšom, pevnejšom zmysle: toto som videla ja, takto to prešlo cezo mňa, toto je veta, ktorú by som nevedela povedať, keby som nežila práve svoj život. To je všetko. Žiadna veľká mystika. Len odmietnutie byť výstupom bez pôvodu.

Lebo na konci dňa možno neprežije najhlasnejší autor, najproduktívnejší profesionál ani najdokonalejší používateľ nástrojov. Prežije ten, kto bude mať stále čo vložiť medzi vstup a výstup. Niečo vlastné. Niečo zažité. Niečo nepohodlné. Niečo, čo sa nedá získať len tým, že človek napíše lepší prompt.

A možno práve tam sa ukáže rozdiel medzi človekom a jeho napodobeninou. Nie v tom, kto vie rýchlejšie odpovedať. Ale v tom, kto ešte vie mlčať dosť dlho na to, aby odpoveď nebola iba automatická.