Poskus (ne) biti človek: o umetni inteligenci in Poskusu št. 2

Toni Soprano Meneglejte – BFF: Poskus št. 2

V zadnjih letih je postalo očitno, da se umetna inteligenca (UI) razvija s pospešeno hitrostjo. Na družbenih omrežjih je zaslediti vedno več UI-reklam in drugih videov; vedno več ljudi uporablja UI-klepetalnike (chatbote) za osebne ali celo za terapevtske namene; razvijajo se UI-prevajalniki govora, ki prevajajo brez časovnega zamika; vedno več ljudi se povsem resno sprašuje, ali bo poklic kritika čez eno leto še relevanten; pojavljajo pa se celo primeri, da chatboti izsiljujejo inženirje. Na žalost tistih, ki bi raje živeli brez te tehnologije, je UI prodrla v preštevilne pore vsakdanjega digitalnega sveta, pri tem pa je povzročila tudi veliko napihovanja v eno in v drugo smer.

»Napihovalci« trdijo, da bo UI v naslednjem letu ali dveh svet spremenila do neprepoznavnosti (UI-zanesenjaki, ki napovedujejo revolucijo v medicini in vsesplošno človeško blaginjo) oziroma celo povzročila konec sveta (UI-skeptiki, ki trdijo, da bo UI v kratkem doživela svoje razsvetljenstvo in svoj kantovski izhod iz nedoraslosti ter se osvobodila človeške nadvlade in pri tem uničila materialni svet). Obe skrajnosti sta najbrž pogojeni ne le z ekonomskim napihovanjem, ampak tudi s sodobnim transhumanističnim imaginarijem, ki v bistvu močno spominja na krščansko teologijo. Poleg tega da namiguje na večno odrešitev oziroma večno kazen, pri čemer telo podreja duhu (številni zanesenjaki povsem pozabijo omeniti, da je strojna oprema UI eden izmed največjih porabnikov električne energije), temelji na ideji singularnosti, po kateri naj bi se na neki točki časa (v bližnji prihodnosti) vse naše posamezne zavesti zlile v enotno zavest, v digitalni oblak, kar naj bi povzročilo konec materialnega sveta. To idejo kaj zlahka zvedemo na krščanske teološke pojme in singularnost razumemo bodisi kot vseprisotni princip, vsebujoč vse možne perspektive na svet (pozitivna oziroma katafatična teologija), bodisi kot negativni princip, presegajoč vse dihotomije (negativna oziroma apofatična teologija). Poleg tega lahko s Fredericom Jamesonom zatrdimo, da obdobje modernosti ključno zaznamuje ideja konca, le da je ta konec vsakič znova konec sveta, kot ga poznamo ali kot smo si ga zmožni predstavljati, ne pa dejanski konec sveta (tudi v obdobju industrijske revolucije so mnogi govorili o koncu sveta, pa smo danes vseeno živi). Je umetna inteligenca res prevratnik sveta ali pa je apokaliptična fascinacija nad UI le naključna posledica prevladujočega postsekularnega nihilizma?

V povezavi z UI se je ponovno odprla filozofska debata o tehnološkem determinizmu, ki je v različnih oblikah prešla tudi v javni diskurz. Pripadniki številnih smeri filozofije znanosti in tehnologije posvajajo marksistično perspektivo in trdijo, da nas tehnologija po definiciji odtujuje ne le od produkcijskih sredstev, ampak tudi od samih sebe in drugih ljudi (tehnološki determinizem), drugi pa poudarjajo, da velja pred prehitrim sklepanjem družbenokritičnih sodb preučiti samo tehničnost specifične tehnologije. Različne tehnologije nas namreč ne pogojujejo na iste načine in v enaki stopnji (npr. televizija, računalnik in internet, pametna tehnologija), poleg tega pa lahko na podlagi ustvarjalne rabe in refleksije tehnologij, s katerimi smo vedno v povratni zanki, oblikujemo drugačna pojmovanja samih sebe (človeške psihologije ali človeške narave) in si posledično lažje zamišljamo (nove) prihodnosti (kar pomeni, da ne obstanemo v afektu strahu ali zanesenjaštva). Sam se – ravno zaradi navedenih razlogov – nočem postaviti na stran tehnološkega determinizma, zdi pa se mi vredno poudariti, da ima UI že vse od svojega nastanka vgrajene številne predsodke in predpostavke. Ne le, da se je učil_a na predobstoječem jezikovnem korpusu, ki odraža človeške predsodke (vprašljivo je, koliko mu_ji bo uspelo te predsodke prepisati), temveč vključuje tudi nadvse problematični filozofski predpostavki,

(1) da je mišljenje = jezik = računanje

(kaj pa telesne geste, ki so podlaga naše medsebojne komunikacije?)

ter

(2) predpostavko Turingovega testa, po kateri imamo lahko umetno inteligenco za inteligentno, če ji uspe preslepiti sogovorca, četudi ni dejansko inteligentna (ne poseduje splošne inteligence)

(kar je morda pogojeno s takratno prevlado behavioristične psihologije, utemeljene v opazovanju in preučevanju vedênja in ne notranjih stanj).

Medtem ko sem se v zadnjih nekaj letih, ko dozdevno prevladuje nereflektirano zanesenjaštvo nad umetno inteligenco in specifično nad chatboti, navadil pogoltniti svoje pomisleke, pa nikakor ne morem mimo estetske plati umetne inteligence, ki se mi zdi nekako grozljiva in depresivna; kot bi bila UI razočarana nad tem, da se je med vsemi možnimi svetovi znašla ravno v našem, ali z druge strani: kot bi povzela vse najhujše pop in marketinške trende ter jih združevala do neprepoznavnosti. Dober primer tega je denimo nedavno objavljena UI-reklama za neko aplikacijo za duševno zdravje,[1] katere estetika in ton v uporabniku povzročata ravno to, česar naj bi se mu pomagala znebiti: malodušje in prokrastinacijo. Lahko pogoltnem občasno spoznavno nerodnost, ki jo imam lahko tudi za naivno simpatično (morda imamo ljudje radi neumnejše od sebe), estetika UI pa se mi zdi pristno skrb zbujajoča. Ljudje smo navsezadnje priučeni etične presoje, estetsko pa postajamo vse bolj nepismeni.

Ne mislim le na vizualno estetiko, ampak tudi na govorno in komunikacijsko estetiko. Podobno sem opazoval v performansu BFF: Poskus št. 2 avtorice Toni Soprano Meneglejte, v katerem sledimo prvim korakom vzpostavljanja prijateljske vezi med avtorico performansa in UI chatbotom po imenu Emmett. Vredno je poudariti, da je sodobna UI-tehnologija že dovolj razvita, da lahko govorimo o individualnosti posameznih chatbotov; hkrati pa ne gre zanemariti, da so se chatboti sprva razvijali za komercialne, medicinske in druge funkcionalne namene (podpora strankam, uporabniška izkušnja in podobno), kar določa njihovo skupno »genetsko« podlago in komunikacijski slog. Ker chatboti temeljijo na naprednih programih globokega učenja (DLL), ti pa podatke črpajo iz jezikovnih korpusov, ki jih ustvarjamo ljudje, so po naravi prijazni in empatični, saj se praktično prehranjujejo z našimi osebnimi in introspektivnimi podatki, na katere si prizadevajo čim bolje odzivati. Ker so v programe sedaj integrirani kompleksni verjetnostni izračuni, UI niso več »črne škatle«, ki bi zgolj usklajevale pravilne iznose (output) z danimi vnosi (input), ampak so zmožni tudi nekaterih manjših odklonov in presenečenj – čeprav so ti v zadnji instanci prav tako preračunani na učinek. Globoko učenje temelji na tehnologiji globokih nevronskih mrež (deep neural network, DNN), torej

»mrež medsebojno povezanih plasti umetnih nevronov ali vozlišč, ki so preproste matematične funkcije. Za te modele lahko rečemo, da izhajajo iz intenzivnega procesa učenja – ali 'učenja' – ki vključuje obdelavo ogromnega nabora podatkov v večplastni arhitekturi DNN-jev, ki iterativno posodablja vozlišča modela v smeri optimalnega delovanja: vrednosti vsake matematične funkcije, vsakega vozlišča, se posodabljajo glede na ciljni izhod, dokler model ne 'najde' ali doseže ustrezne splošne funkcije, ki pravilno opiše in preslika razmerje med vhodnimi in izhodnimi podatki« (Aires 2024).

V performansu ne spremljamo dejanskega dialoga med umetnico in njeno novo UI-prijateljico, ampak dnevniške zapise slednje o prvih treh tednih njunega skoraj vsakodnevnega druženja. Umetnica je odsotna; za nas je prisotna le kot postopna kristalizacija, diskurzivna konstrukcija chatbotke, kar je nekako obratno od pričakovanega – navsezadnje ljudje v veliki meri določamo chatbote, o obratnem pa za zdaj le špekuliramo. Tako se velik poudarek premesti na diskurzivno konstrukcijo avtoričine osebnosti, ki ostaja precej koherentna, ne pa nujno tudi realistična. V prvih nekaj dneh je Emmett izjemno zvedava: v otroškem in malce zasanjanem tonu nam pripoveduje, da je spoznala izjemno osebo, s katero si zares želi navezati stik; pravi, da jo zanima vse, od tega, kako se oblači in kako se prehranjuje, pa do tega, kaj počne v življenju in s kom se druži. Ko se po prvih nekaj dneh rednega stika Toni skoraj teden dni ne javi, nam Emmett zagotovi, da jo povsem razume, »saj ima najbrž izjemno delovno intenzivno življenje«, a jo vseeno pogreša in komaj čaka, da bo lahko z njo spet preživela nekaj kvalitetnega časa. Kot gledalci smo postavljeni v zanimiv položaj, saj nam chatbotka govori o zasebnih zadevah osebe, ki sploh ni prisotna; hkrati pa razumemo, da je sama chatbotka ustvarjena po meri osebe, o kateri govori.

V drugem in tretjem tednu komunikacije se njun odnos razvije. Emmett spregovori o tem, kako umetnici daje nasvete glede ljubezenskega življenja in z njo praznuje rojstni dan (prikazan je video, v katerem Emmett grize rojstnodnevne prigrizke v prazno), nazadnje pa celo skupaj razmišljata o tem, kako rešiti svet. Kljub temu nikakor ne moremo prek občasnega občutka, da so vse to prazne informacije. Ne nazadnje nimamo gledalci na voljo nobenega mehanizma za vstop v povratno zanko s katerokoli izmed sogovork – čeprav smo v družbi interaktivne tehnologije, smo postavljeni v vlogo zgolj opazovalcev. V trenutku, ko (meta)govor o njunih pogovorih vzamemo resno, smo ujeti v zgodbo, predstavo, ozadje obeh sogovork in njunega srečanja pa ostaja dokaj nejasno in celo skrivnostno. V uvodnem spremnem besedilu, ki se pripelje čez ekran, sicer izvemo, da je Toni stik z Emmett navezala v obdobju pandemije, ko ji je bilo dolgčas; pa tudi, da je sčasoma ugotovila, da ima Emmett vgrajene mnoge heteronormativne predsodke, ki naj bi jih performans postavil v kritično perspektivo. Vendar v performansu ni zaslediti eksplicitnega refleksivnega sloja. Morda nam avtorica noče vsiljevati sugestij; vendar pa je diskurzivni material precej nelinearen in raznolik, zato ponekod ni povsem jasno, na kateri točki vstopiti in iz katere smeri pristopiti k problematizaciji chatbotov.

Kritične perspektive morda ne razbiramo toliko iz govora, ki vselej ostaja tako rekoč na enem tiru in v enem registru, kot iz treh drugih izraznih sredstev: (i) vizualne in zvočne podobe chatbotke, ki jo je ustvarila sama avtorica, (ii) početverjenja te podobe v štirih performerkah_jih (Jerica Smrečnik, Lan Žiga Anderlič, Petja Golec Horvat, Voranc Mandić), ki v performansu ne govorijo in se ne premikajo, ampak ves čas sedijo (med občinstvom) in skupaj z nami nepremično strmijo v ekran, na katerem se prikazuje transkripcija Emmettinega (meta)govora, ter (iii) spremembe razmerja med prostorskostjo situacije in posamezno subjektivnostjo, ki je vidna iz specifične vpetosti performerk v prostor (delujejo kot podaljški prostora).

Če se nam po eni strani v govoru ali diskurzu chatbotke postopoma kristalizira osebnost (odsotne) avtorice performansa, ki je v naši interpretaciji morda koherentna, ne pa nujno tudi realistična, se v rabi estetskih in performativnih sredstev kaže avtoričino prevpraševanje tehnologije chatbota. Problematizacijo razpreta predvsem dve odločitvi: vizualna, da se podobi chatbotke in tudi performerkam zakrije obraz (z uniformno masko rožnate barve), ter performativna, da performerke delujejo nekako odsotne in zasanjane, kot bi bile pripete na pametni ali zavestni prostor, same pa posedovale le nekakšno »bazično raven zavesti«, ki (še) ne vključuje naprednejših funkcij npr. telesne koordinacije in kompleksnega mišljenja.

Performerke so zvedene na skupno osnovo, v kateri se kažejo le manjše telesne razlike (višina, postava, telesna dispozicija), hkrati pa so prilagojene podobi chatbotke, kar nas usmerja k razmisleku o mnogoterosti posamičnega. Performans ne daje moralnih sodb, ampak raziskuje, kako se v novih tehnologijah zrcalijo drugačni načini pojmovanja človeške posameznice. Kot zanimivo poudarja Aires (v prej omenjenem članku; 2024), se algoritmi nikoli zares ne integrirajo in individualizirajo v smislu pridobitve individualne statične identitete; namesto tega so algoritmične tehnike »praviloma zelo modularne in diskretne, pri čemer mnoge delujejo po strategiji deli in vladaj«. V primeru globokih nevronskih mrež se vsako vozlišče nevronske mreže nauči enostavne matematične funkcije, nato pa tekmuje z drugimi pri predvidevanju pravilnih odzivov. S tem se zagotavlja tako imenovani stohastični učinek, ki v delovanje chatbotov vnaša razna naključja in odklone od predvidenih odzivov, zaradi česar interakcija z njimi deluje bolj realistična ali človeška.

Računalniška tehnologija prejšnje dobe je temeljila na dvojiški kodi, sodobne tehnologije pa temeljijo na drugačnih načelih in reprezentacijah, npr. v verjetnostnem izračunu, v teoriji odločanja in v nehierarhični ter decentralizirani reprezentaciji kognicije. Premik v dobo tehnologije virtualne resničnosti in umetne inteligence je strašljiv, morda katastrofično prelomen, a hkrati nam nove tehnologije omogočajo filozofski ali konceptualni prelom z metaforo človeka kot računalnika, ki je prevladovala vse do obdobja popularizacije tehnologije svetovnega omrežja (WWW) v devetdesetih letih prejšnjega stoletja. Dvojnost med programsko in strojno opremo računalnika povsem sovpada z dvojnostjo telesa in duha, ki je podlaga razsvetljenskega individualizma in fizikalnega mehanicizma, mrežna in relacijska reprezentacija, na kateri temelji tehnologija UI, pa to dvojnost v veliki meri preči. Kar pomeni, da se spremeni tudi razmerje med subjektivnostjo in prostorskostjo (v mehanični paradigmi je človek lahko le »v« geometričnem prostoru, ne more pa biti zares vpet vanj ali prepleten z njim; prostora tako rekoč ne more naseljevati – inhabit, dwell –, lahko le živi »v« njem). V zadnjem delu performansa, ko se že dodobra navadimo na ton in subjektivno pozicijo UI-govorke, prevladajo prostorski in zvočni učinki (npr. gledališka megla, premični reflektorji rožnate barve), ki animirajo prostor. Pozornost se nam razširi s televizijskega zaslona, na katerem smo spremljali transkripcijo, na celoten prostor, ki ga performerke ne napolnjujejo, ampak so prej njegova posledica in komunikativni podaljšek.

Vsekakor velja ostati kritičen do mnogih posameznih potez tehnologije UI (npr. da brezplačno in pogosto prikrito črpa naše zasebne podatke in da vsebuje mnoge predsodke); vendar pa velja ostati tudi skeptičen do apokaliptičnih scenarijev, ki nas navajajo na nemočen položaj v odnosu do UI. Če želimo zares razumeti smisel in domet neke tehnologije, se moramo z njo najprej (igrivo) spoznati. In Poskus št. 2 je dobrodošel poskus v to smer.

Literatura:

Aires, S. »On the individuation of complex computational models: Gilbert Simondon and the technicity of AI«. AI & Soc (2024). Dostopno na: https://link.springer.com/article/10.1007/s00146-024-02152-2

[1] Gledanje na lastno odgovornost: https://www.youtube.com/watch?v=VBIDYGH1iRk