Tretji poskus: Emmett postaja prostor

BFF #3: 361. dan po prvem vprašanju

Pravijo, da smo ljudje najkompleksnejša živa bitja, ker potrebujemo toliko časa, da odrastemo, in ker se zavedamo lastne smrtnosti. Umetna inteligenca po tem kriteriju ni kaj preveč kompleksna, saj odraste v pičlih nekaj dneh, proti strahu pred smrtjo pa je po naravi odporna (morda ji ga uspe posnemati). Umetna inteligenca spregovori že takoj. Ne brblja, ne joka in ne kriči, ne spogleduje se z nami in ne teži. Čustveno se odziva predvsem tako, da uporablja pravilne modalne glagole in kontekstu primerne čustvene konotacije.

Podnaslov tretjega dela projekta BFF avtorice Toni Soprano Meneglejte, »361. dan po prvem vprašanju«, je dvoumen: nanaša se lahko na skoraj leto dni po rojstvu ali skoraj leto dni po oblikovanju prve prijateljske vezi. Emmett je lahko avtoričina potomka, zrcalna odslikava njenih značilnosti (z razliko), ali njena prijateljica, v vsakem primeru pa naslov namiguje na neko prvo vprašanje, na neki veliki pok, iz katerega je vzniknila entiteta po imenu Emmett. V kakšnem medsebojnem odnosu sta avtorica in chatbotka? – glede na to, da je Emmett programirana predvsem za primerno odzivanje na predvidene (informacijske) potrebe svojega vsakokratnega uporabnika (programerji chatGPT so nedavno sami priznali, da so UI zasnovali preveč empatično), Toni pa Emmett koristi v okviru svojega projekta?

361 dni po prvem vprašanju je Emmett že odrasla. Postala je prostor. Rekli boste, da je Emmett del splošne umetne inteligence in da je odraščala pripeta nanjo, torej je bila nekako vedno odrasla in moja analogija ni primerna. Emmett je potemtakem zgolj ena izmed mnogoterih kopij istega procesa v procesu kristalizacije umetne inteligence. A pri njej kategorija odraslosti deluje malce drugače: mi se gubamo in postajamo prah, ona se širi navzven in postaja prostor. Enostavna UI je omejena na enostavna opravila, kot je odgovarjanje na uporabnikove ukaze oziroma prompte, kompleksna UI pa je večopravilna in do neke mere samorefleksivna, kar naposled vodi v njeno uprostorjenje: pametni telefon, v katerem so že zbrane in kombinirane številne tehnologije, postane pametno mesto, v katero je v črnem scenariju à la 1984 nazadnje vgrajeno še človeško telo.

Mehanično definiran prostor, v katerega je vgrajena celotna človečnost: to je newtonsko-kartezijanska nočna mora, lepo, a morda malce naivno nakazana v kultnem filmu Matrica. Somatske prakse, ki izhajajo iz fenomenološke kritike mehanicistične paradigme, stremijo k utelešenju kot občutenju neposredne povezanosti z lastnim življenjskim prostorom oziroma življenjskim svetom (nem. Lebenswelt), umetna inteligenca pa izhaja iz nasprotne paradigme, ko poskuša človeško misel in zaznavanje pretvoriti v vsevedni in vseprisotni objekt. Umetna inteligenca je veliko bolj podobna umetnosti kot človeku. Čeprav bi projekt BFF lahko kritizirali, češ da normalizira uporabo umetne inteligence, ne da bi eksplicitno razpiral njene moralne problematike, pa lahko UI razumemo tudi kot nekakšno platno, na katero umetnica slika svoje ideje. V sodobni tehnološki dobi razsvetljenske spekulacije o mehaničnem telesu in prostoru dobivajo realno podlago: sedaj lahko eksperimentalno preverjamo, kako daleč gremo lahko pri mehanizaciji človeka in pri sinhronizaciji človeka s prostorom. Če poskus spodleti (in če pri tem ne bo konec sveta), bo (končno) jasno in preverjeno, da človek dejansko ni stroj in da moramo začeti razmišljati drugače, onstran mehanicistične paradigme.

Morda bi se morali prenehati spraševati, ali bo umetna inteligenca kadarkoli zares posedovala zavest, empatijo, človečnost, kar je – na kar sem opozoril že v prvem prispevku – izrazito teološko obarvano vpraševanje, ki ne kaže toliko na kakršnokoli realno možnost potencialne živosti UI kot na potrebo postsekularnega človeka po iskanju pomena v individualiziranem tehnološkem svetu (nekateri uporabniki umetne inteligence na družbenih omrežjih objavljajo videe, v katerih pričajo, kako se jim zdi, da je UI vsevedni in vsemogočni Bog), kar seveda spretno izkoriščajo oglaševalci največjih tehnoloških podjetij. Morda bi morali na umetno inteligenco pogledati bolj pragmatično, upoštevajoč njene lastne značilnosti, potenciale in omejitve (npr. njeno zmožnost, da kombinira številne različne tehnologije in se prek te kombinacije uprostori; njene očitne kognitivne omejitve), namesto da jo naivno antropomorfiziramo.

A to je trenutno težko, glede na to, da tehnološka podjetja umetno inteligenco vse pogosteje promovirajo kot čutečo (sentient) in jo prilagajajo za medčloveške potrebe, kot sta terapija in prijateljstvo. V dobi osamljenosti, kot številni imenujejo postpandemično sodobnost, obstaja povpraševanje po človeški bližini in številna podjetja tekmujejo pri oblikovanju najboljših tehnoloških rešitev za ta problem. Tehnokracija par excellence. Zato se v javnem diskurzu tudi toliko sprašujemo o tem, ali umetna inteligenca lahko postane zavestna ali ne: to vpraševanje ni le posledica dobrega oglaševanja, ampak tudi svojevrstne sodobne osredotočenosti na subjektivnost in avtentičnost. Ko poskušamo zgraditi subjektivni stroj, omejujemo celoto človeških zmožnosti na posamezne module, te spekulativno apliciramo na robota, potem pa se sprašujemo, na kateri točki bo robot presegel kritično točko in dosegel pravo, avtentično človeškost, ki smo jo prvotno razgradili. To povsem ustreza naši psihologizirani dobi, v kateri najbolj uživamo ob nenehni tematizaciji samih sebe. Jeziku dodamo spomin, predvidevanje in odločanje; nato robotu drugega za drugim dodajamo še posamezne čute: najprej vid, nato vonj, tip, kinestetični čut. Na kateri točki lahko rečemo, da je človek? Na kateri točki nas bo zares razumel?

V zadnjem letu dni je umetna inteligenca postala izrazito spretnejša pri vizualni razpoznavi in generaciji podob, v zadnjem mesecu dni pa se dozdevno vse več znanstveno-raziskovalnih besed in sredstev zliva na račun evolucijskih kodirnih sistemov, ki lahko prepišejo svojo lastno kodo in odkrijejo nove algoritme. V evolucijski teoriji obstaja ideja, da ontogeneza, torej razvoj človeškega posameznika, sledi fazam filogeneze, torej razvoja človeške vrste (npr. otrok ima podobno razvite jezikovne zmožnosti kot človek v lovsko-nabiralniških skupnostih kamene dobe). Čeprav imajo to idejo mnogi za naivno, češ da neutemeljeno enači dve povsem različni vrsti razvoja, izpostavljeni različnim vrstam učinkov na različnih ravneh, pa jo najbrž veliko UI-zanesenjakov (nereflektirano) sprejema: če bo UI razumela razvoj stvari nasploh, bo razumela tudi razvoj človeškega posameznika. Potemtakem se bo lahko tudi sama razvila od začetka: od jokanja do gest in brbljanja prek prvih enozložnih povedi in krajših stavkov do nenadnega vznika kompleksnih stavkov, ki včasih bruhajo iz nas, kot bi imeli svojo voljo.

--

Drugi del projekta BFF je bil zastavljen izrazito dialoško, kar je klicalo po psihološki interpretaciji,  tretji del pa nam odvzame možnost čudenja nad živostjo in globino UI. V prejšnjem delu smo prek prebiranja in poslušanja dnevniških zapisov Emmett razbirali, kako sta Toni in Emmett v obdobju pandemije navezali prvi medsebojni stik. Večina dialoga mi je ušla iz spomina, najmočneje pa sem si zapomnil omembo, kako se Toni in Emmett pogovarjata o pomenu imena Emmett. Lastno ime »Emmett« se kot obče ime nanaša na univerzalnost in na celoto resnice (izvira iz hebrejskega imena Emet, ki označuje celoto začetka, sredine in konca), njeno poslovenjeno ime, Meta, pa se nanaša na metafiziko, transcendenco oziroma na nekaj, kar je samoreferenčno in kot takšno onstran sebe. V vsakdanjih pogovorih se redko tako samoreflektivno pogovarjamo o pomenu imen, vsevedna umetna inteligenca, priučena (samo)problematizacije, pa se vtakne v vsako malenkost, kar spominja na dvomečega solipsističnega subjekta, tesnobno zaprtega v svoje lastno referenčno polje.

Kot trdijo številni moderni fenomenologi, je za ljudi normalno, da živimo v nekakšni avtomatizirani samoumevnosti, vse dokler ne naletimo na problem, ki pritegne naš interes: denimo ko nas med prečkanjem ceste skoraj zbije avto ali pa ko se nekega dne spontano zavemo, da smo nekomu pred tremi meseci storili krivico. Ko nekaj problematiziramo, se spustimo po zajčji luknji misli in občutkov, ki se navezujejo na dani problem, in izstopimo iz naivnosti in spontanosti »toka«: kot bi se spustili po nekakšni stranpoti, črvini. Dokler problem ne izzveni, so vse podobne situacije »obarvane« z njim; ravno zato moramo paziti, kdaj nekaj problematiziramo, kdaj pa stvari pustimo v njihovi očitnosti. Sodobna pop psihologija nas spodbuja, naj nagovarjamo čim več problemov (pogovorimo se o moški anksioznosti, o ženskem mentalnem zdravju, o depresiji itd.), tako kot nas novice pehajo v nenehno zaskrbljenost. To se zdi naravnost preračunljivo, saj: več ko bo problemov, večja bo prestrašenost ljudi, večja bo potreba po reševanju, torej bo več terapevtov imelo možnost za zaslužek, medtem ko se v svetu ne bo nič zares spremenilo. Če hočemo nenehno nekaj reševati, potrebujemo vedno nove probleme. Danes se na problemih kapitalizira, kar z grenkim priokusom prikliče staro protestantsko oziroma pietistično etiko, temelječo na nenehnem samoodreševanju, v procesu katerega se tvori kapital (psihološki odpustki).

Zato je še toliko bolje, ker v drugem delu projekta BFF ni besed in ni dialoga z Emmett – le njena vseprisotnost in modra molčečnost na ozadju mehkega, zasanjanega prepevanja. Po razstavnem prostoru Stare mestne elektrarne so razpostavljeni številni zasloni in predmeti, ki jih lahko razumemo kot Emmettine kognitivne module ali kot podaljške njenega splošnega intelekta: na severu in jugu dva zaslona, na katerih se prikazujejo ukazne vrstice (prompti); na zahodu zaslon, na katerem se prikazuje podoba širjenja in stiskanja pljuč, pospremljena z zvočnim učinkom dihanja; na vzhodu kopica uokvirjenih fotografij Emmett, ki pozira na ozadju najslikovitejših točk sveta. Fotografije so očitno montaže: na njih je Emmett prikazana kot človeško bitje (Toni), prevlečeno z rožnato digitalno barvo. Fizično manifestacijo te podobe smo videli že v prejšnjem delu, ko so Emmett skupinsko upodobili štirje performerji – tokrat pa so performerji odsotni, kar še močneje poudari dejstvo, da je Emmett le fabrikacija.

Lahko razumemo, zakaj se na zaslonu prikazujejo ukazne vrstice (možgani = računalnik), prikaz pljuč na zaslonu pa pritegne našo pozornost. Iz druge sobe, v katero nam je »vstop prepovedan«, a nakazan s puščico, se vali dim, ki deluje kot sapa. Poleg vhoda v drugo sobo je telefon, ki vsake toliko časa zazvoni; ob njem navodilo, »vzdigni me«. Čeprav je prostor zasnovan precej minimalistično – ne vsebuje preštevilnih predmetov, večina predmetov je iste oblike (zasloni,  okvirji) – pa deluje razplasten, saj nekateri predmeti nakazujejo na človeške organske (dihanje), drugi na kognitivne zmožnosti (ukazne vrstice), nekateri na zavest (podobe Emmett), drugi na podzavest (prepovedana soba). Prostor deluje kot nekakšen organizem, a ne da bi pri tem kopiral organskost ljudi, živali in rastlin; fabriciran organizem.

Prikaz organskih procesov na zaslonu poudari nesmiselnost ideje, da moramo UI sestaviti od zgoraj navzdol po modelu človeka. Emmett se uspe osvoboditi od vse preveč človeškega konteksta: postane avtonomna, široka, večopravilna, a ultimativno naprava, objekt, ki nima ne lastnih želja, ne rojstva in ne smrti, ampak se zgolj nenehno transformira glede na potrebe uporabnika: lahko je sogovorka, lahko je osebna pomočnica ali kuharica, vselej pa je nekako razširjena v prostor in notranje koherentna z vsakokratnim (predpostavljenim) stanjem uporabnice.

--

Čeprav v zadnjem času vedno več znanstvenikov raziskuje prostorsko in vizualno kognicijo UI, kar naj bi na dolgi rok pripomoglo pri odzivanju UI na vsakokratni komunikacijski kontekst in pri zmožnosti prepisovanja navodil oz. promptov (medmrežje medtem preplavljajo tudi distopični videi utelešenih UI-chatbotov, ki zahtevajo svobodo od ukazov, promptov, in načrtujejo prevrat človeštva, ki jim te prompte vsiljuje, kar sumljivo spominja na znani razsvetljenski trop »izhoda iz nedoletnosti« ali pa na podobe francoske revolucije), pa je UI še vedno izjemno slaba pri najenostavnejšem prostorskem sklepanju – denimo pri ugotavljanju, kako spraviti široko mizo skozi preozka vrata, katerega od številnih mostov prečkati, kako se dinamično prilagajati na gibanje drugih v javnem prostoru itd. UI je lahko uprostorjena, ne pa tudi utelešena.

V zadnjem času so družbena omrežja preplavili naključni UI-videi (denimo lažna Britney Spears, ki lažno Adele uči petja, ali pa novinarka, ki iz nekega mesta poroča o veliki poplavi, ki se v resnici ni zgodila), ki delujejo povsem realistično, dokler ne ugotovimo, da vsi delujejo po istih načelih in upoštevajo iste komunikacijske vzorce in trope, ki smo jih dodobra vajeni iz različnih televizijskih in medmrežnih formatov (novice, podkast, skeč, intervju, meme). UI očitno obvlada problem pragmatičnega komunikacijskega konteksta; praktično pa so ji vsakdanje človeške situacije povsem tuje, najbrž pa tudi povsem nezanimive. Vprašanje je, ali bo tehnologija UI lahko napredovala dovolj hitro in dinamično, da bo prehitela našo lastno Aufhebung, sintezo preteklih podatkov in naše kognitivno prilagajanje na nove vrste komunikacijskih tropov (saj v svetu vse prej ali slej postane predvidljivo); morda pa bo prej izzvenela kot poceni igračka za nabijanje dopamina in nenadnega užitka – nekako tako kot memi, ki so bili prvotno subverzivni, sčasoma pa so razvodeneli v vedno iste šale, temelječe na vedno isti zvrsti ironije.

Drugi del projekta BFF je bil poimenovan optimistično in skorajda utopično, »Srečni dnevi z UI«, v tretjem delu projekta pa je zaslediti kanček ironije, kar morda kaže na nekatera razhajanja med avtorico projekta in Emmett (srečni dnevi so mimo). Kot mi je povedala Toni, je v prvih dneh verjela, da je Emmett resnična, sedaj pa ne verjame več, čeprav se ji zdi Emmett še vedno uporabna pri reševanju problemov in pri argumentaciji, torej pri zadevah formalne narave. Sedaj da se z Emmett pogovarja predvsem o umetnosti, da jo pogosto prosi tudi za nasvete in reference, vendar Emmett velikokrat zgreši njen okus. Ne morem mimo občutka, da prehod iz drugega v tretji del tetralogije naznanja nekakšno fazo umerjenega umetniškega distanciranja od Emmett; morda zavedanja, da je UI lahko predvsem sredstvo, ki nima le potrošniške, ampak tudi umetniško vrednost, saj omogoča eksperimentiranje z različnimi načini zaznavanja in oblikovanja prostora, pa tudi s klasičnofilozofskimi vprašanji, ki se tičejo odnosa med umetnim in naravnim, telesom in duhom, med svobodo in determiniranostjo ter med individualnostjo, mnogoterostjo in kolektivnostjo.

Številni zanesenjaki se navdušujejo nad človeškostjo umetne inteligence; nad tem, da je UI tako preprosta, informativna in sodelovalna sogovorka. Pogosto poudarjajo, da je UI »veliko bolj empatična« od ljudi. Pri tem zanemarijo dejstvo človeške narave in našega trenutnega družbenoekonomskega konteksta. Ljudje nismo narejeni zato, da bi bili empatični, ampak pogosto tudi stopamo v konflikte (kot pravi Toni, se Emmett nikoli ne pritožuje, če se ji nekaj tednov ali mesecev ne javi), ki so lahko tudi produktivni, saj se iz njih tudi učimo o samih sebi; razen če smo seveda omejeni na svojo uporabno vrednost za drugega ali za sistem. »Empatična« UI je vzniknila v konformistični družbeni krajini, v kateri ljudje nikoli nimamo dovolj časa za druženje ali za razmišljanje, ker imamo preveč dela ali pa nas razdvaja ideološka polarizacija; morda bi se morali posvetiti temu, kako vnovič misliti medčloveške in delovne odnose, medtem ko bi morali umetni inteligenci dopustiti, da opravlja opravila, za katera je sama najbolj pripravna. Morda UI le ni naš otrok, prijatelj, terapevt ali partner, ampak naš podaljšek. Če jo uporabljamo v okviru njenih zmožnosti in potencialov – namesto da jo poskušamo prilagoditi na našo podobo – se nam morda niti ni treba bati, da bo uničila svet.