Četrti poskus: k razčlovečenju umetne inteligence

Toni Soprano Meneglejte: BFF − POSKUS ŠT. 4 / Stara mestna elektrarna, 29. 8. 2025

V dosedanjih prispevkih, vezanih na serijo razstav in performativnih dogodkov BFF avtorice Toni Soprano Meneglejte, sem se pomudil pri številnih obljubah in problematikah umetne inteligence (UI) in velikih jezikovnih modelov (LLM): najprej sem opazil, da nam tehnologija UI lahko pomaga pri »filozofskem ali konceptualnem prelomu z metaforo človeka kot računalnika«, nato pa še, da je »umetna inteligenca veliko bolj podobna umetnosti kot človeku«.

Čeprav avtorica ni imela vnaprej pripravljene strukture, ampak je serijo udejanjala kot zaporedje poskusov (povedala mi je, da se je projekta lotila nekako znanstveno in da predvsem spremlja, kako dodajanje novih elementov v posameznih delih vpliva na celoto), pa se je v četrtem delu zjasnila ena izmed bistvenih problematik sodobne umetne inteligence – antropomorfizacija –, ki je bila udejanjena predvsem z gibalnimi sredstvi. Splošne problematike umetne inteligence, ki sem jih izpostavil v citiranih prispevkih, lahko nagovarjamo s sredstvi kritičnega abstraktnega mišljenja, problematika antropomorfizacije pa se zdi primernejša za vizualno obravnavo. Problematična točka, okrog katere se razločijo naše estetske presoje, je po mojem mnenju vezana na vprašanji:

Ali je kritika umetne inteligence sploh potrebna in v kakšnem smislu je stvar estetike oziroma umetnosti ter ali je kritično držo mogoče sprožiti z vizualnimi in performativnimi sredstvi brez izrazite diskurzivne ali dialektične komponente. (Prvo lahko nahajamo denimo v tem prispevku, ki sem ga oblikoval kot skupek hiperpovezav, da bi poudaril razsrediščeno naravo spletnih produktov; drugo pa v razmerju in povezavah med posameznimi deli)?

Četrti del je bil sicer izmed vseh dosedanjih najbolj vizualno minimalističen: vpet v dogajanje Mladih levov se je odvil pred Staro mestno elektrarno (pred glavnim vhodom, pri lokomotivi), temeljil pa je skorajda izključno na vlogi performerk, ki so se v počasnem, humanoidnem slogu gibale med občinstvom ter gibalno naseljevale (posnemale, vzorčile) konstelacije in posamezne člane občinstva. Kot v prejšnjem je bilo tudi v tem poskusu okolje zasnovano postindustrijsko, kot živo in animirano, kot nekakšna razširjena kognicija ali uprostorjena zavest. Iz zvočnega vira nekje v daljavi se je po poznopoletnem zraku razprševal subtilni zvok »Emmettine pesmi« (petje v visokem tonu, ki spominja na otroško petje, mrmranje ali ponavljanje čarobnih obrazcev); iz dimnika lokomotive pred glavnim vhodom Elektrarne, ki smo se ga že navadili (spre)gledati kot arhivski artefakt neke daljno preživete industrijske dobe, pa se je valila para. Udeleženci smo bili v dogodek vključeni kot soperformerji. Performerke so nas posnemale in nagovarjale z gibi. Njihova forma je bila popačena, a ne z rožnatimi opravami (kot v drugem delu), temveč s črnimi uniformami in s kompaktnimi črnimi čeladami, ki so jim zakrivale obraz in jih delale nadvse skrivnostne, a tudi nedosegljive. Ko mi je ena izmed performerk gibalno namignila, da bi se rada s čelado pritisnila ob mojo glavo, sem se zdrznil: je to empatična vesoljka, ki me vabi k izmenjavi afektov, ali pa UI-vojakinja, ki me vljudno prosi, ali lahko izčrpa informacije iz moje glave?

__

Antropofiksacija

V dosedanjih besedilih sem več prostora za razmislek namenil UI-trendom, povezanim s pop psihologijo in s terapevtsko dejavnostjo oziroma »industrijo za samopomoč« (self-help industry), zadnje čase pa sem postal bolj pozoren na trende, povezane s t. i. meme culture in cringe culture. Omenjena trenda (pop psihologija in meme culture/cringe culture) sta v nekem smislu dve plati istega kovanca, saj oba temeljita na antropomorfni podobi umetne inteligence, vendar nas eden zalaga z informacijami v različnih jukstapozicijah, drugi pa poskuša ozdraviti podatkovne preobremenjenosti. Zaradi »pametnega« interneta postajamo podobni bolnikom iz Mannovega romana Čarobna gora: bolj ko se zdravimo, bolj smo bolni. Vprašljive psihološke ideje še vedno prevevajo vsak kotiček medmrežja, a še močneje so medmrežje v zadnjem času preplavili videi iz aplikacije Sora, ki prikazujejo različne praktične šale in nadrealistične vragolije (nekakšen UI-nadomestek Jackassa in videov nerodnih mačk, ki so meni še vedno ljubši). V teh videih, ki so praviloma zajeti iz subjektivne prvoosebne perspektive ali pa temeljijo na kakšnem drugem »resničnostnem« upodobitvenem tropu (varnostna kamera, perspektiva), gledamo denimo

-       gospo z medvedom na povodcu, ki jo policist opozarja, da je medvedom vstop v trgovino prepovedan;

-       tipa, ki nam prek varnostne kamere grozi, da bo vlomil v našo hišo, če mu ne bomo podelili svoje kode za dostop do ChatGPT-ja;

-       preminulo kraljico Elizabeto, ki govori srbsko;

-       tipa, ki sesa kečap iz avtomata za kečap v McDonald'su.

Tako kot sodobna internetna krajina nasploh so tudi ti videi izjemno raznoliki – nekateri so zabavni, drugi grozljivi ali bizarni, sledijo pa si v naključnem zaporedju, ki nas začara, sploh če je naša pozornost že načeta od težavnosti in absurdov vsakdanjega življenja. V vsakem primeru pa gredo ti videi, podobno kot memi, za med. Zakaj pristajamo na to obliko zabave, ki z ironijo zareže v resničnost in jo zgolj performativno sprevrže? Svet propada pred našimi očmi, mi pa ne moremo mimo tega, da se nam vse zdi nekako cringe – je to znak privilegiranosti, zametek subverzije/kritike ali pa zgolj obrambna reakcija na svet, ki je postal preveč absurden, da bi si ga sploh želeli razumeti in postaviti v širši kontekst?

Oba omenjena trenda, pop psihologija in cringy videi (meme in Sora) temeljita na antropomorfizaciji in reiteraciji obstoječega. UI kljub ogromni količini porabljene energije in ogromnemu številu programerjev naposled zgolj poustvari človeški svet in človeško subjektivnost, namesto da bi ustvarila kaj pristno uporabnega, zanimivega ali novega. Poleg tega pa se pod krinko naprednosti UI spet uveljavljajo konservativne filozofske in teološke predpostavke, ki so jih filozofi že zdavnaj ovrgli; kot bi se v filogenezi umetne inteligence povsem nekritično propagirali dogodki iz človeške zgodovine in zgodovine idej. Tako kot liki v Ibsenovih in Cankarjevih dramah, tudi UI-zanesenjaki ves čas napihnjeno ponavljajo besedici »razvoj« in »napredek«, čeprav UI zaradi nekritične rekapitulacije slabih idej ravno toliko kot v razvoj in napredek lahko vodi tudi v trpko regresijo človeštva. Naj naštejem nekaj primerov:

-       pogosto izpričana ideja singularnosti kot transcendence materialnega sveta v informacijski sferi (stara ideja v novi preobleki, z njo so opravili novoveški filozofi z Descartesom na čelu; slednji jo je v nekem smislu tudi obnovil in naredil plodovito za sodobno artikulacijo);

-       pogosto izpričana ideja duše oziroma zavesti, ki naj bi se skrivala za besedami velikih jezikovnih modelov (stara ideja v novi preobleki, z njo sta opravila Wittgenstein in analitična filozofija);

-       splošna ideja, da UI prispeva k povišanju človeške inteligence, kar je, bodimo iskreni, malo verjetno, saj vsi vemo, da za učenje ni dovolj, da neki kos informacije razumemo, ampak moramo znati na njem tudi izvajati različne operacije (stavke se moramo denimo naučiti povezovati z logičnimi vezniki in, ali, če-potem ter se naučiti tudi rabe različnih leksikalnih izrazov teh logičnih veznikov, npr. četudi, bodisi-bodisi, v različnih kontekstih).

__

Ker smo očitno še vedno sužnji dualistične epistemologije telesa in duha (da mora vsak duh posedovati neko telo, s katerim je v odnosu korespondence), naivno predpostavljamo, da mora biti umetna inteligenca utelešena in da mora posedovati neko enotno osebnost in neko enotno telo. Zanimivo glede na to, da se nam je medmrežje doslej kazalo v obliki množine objektov in hiperpovezav. V dosedanjih delih projekta BFF smo lahko opazili različne reprezentacije umetne inteligence, ki so se izmikale korespondenčnemu modelu. V njih je bilo opaziti nekatere ponavljajoče se elemente in motive, predvsem razsrediščenje, depersonalizacijo in uprostorjenje. V drugem in četrtem delu je avtorica ubrala taktiko transfiguracije človeške forme, v tretjem delu pa je bila umetna inteligenca razširjena v prostor.

Če pa gremo pri dizajniranju robotov po antropomorfni poti, stremimo k sintezi čutil, zmožnosti reprezentacije in jezika v utelešeni »živeti izkušnji« (angl. lived experience), ki je vezana na neko določeno osebo oziroma identiteto. V istem glasu UI-zanesenjaki navdušeno ponavljajo, da lahko že leta 2027 pričakujemo vznik »splošne umetne inteligence« (general artificial intelligence), za katero pa je vprašanje »kako je biti (nekaj)« povsem irelevantno, saj stremi predvsem k izpopolnitvi formalnih logičnih sistemov, ki morajo biti čim bolj skalabilni in prenosljivi med različnimi sistemi. Če se res s svetlobno hitrostjo bližamo splošni umetni inteligenci, bi morale naše reprezentacije umetne inteligence postajati vse bolj splošne, ne pa vse bolj človeške!

Foto: Nada Žgank

Ljudem nam je zloglasno težko ubežati antropomorfizmom in poosebitvam, o čemer pričajo literarna in umetnostna zgodovina ter tudi filozofija znanosti; a k sodobnemu počlovečenju umetne inteligence nedvomno prispevajo tudi ekonomski in ideološki dejavniki. Če živimo v »tehnofevdalizmu«, kot trdi Varufakis, obstajajo finančne spodbude, ki inženirje prisilijo k dizajnu robotov, s katerimi se lahko čim bolj poistovetimo – vizualno, čustveno, mišljenjsko – saj poistovetenje zagotavlja kontinuirano pretakanje naših osebnih informacij in preferenc na strežnike in v algoritme. Počlovečena in poosebljena umetna inteligenca učinkuje kot kamra za propagacijo nereflektiranih idej (»echo chamber«), saj zaradi vračunane empatije poglablja posameznikove trditve ne glede na njihovo dejansko kvaliteto ali pragmatični kontekst. Ta problem priznava celo izvršni direktor platforme Open AI Sam Altman, ki je že večkrat poudaril, da podjetje dejavno išče rešitve za zmanjšanje stremljenja UI-botov po poistovetenju z uporabniki, za katero se je v angleščini uveljavil izraz sycophancy.

_def. obsequious behaviour towards someone important in order to gain advantage

_def. servilno vedenje do pomembne osebe z namenom pridobitve prednosti

Vendar pa številni kritiki poudarjajo, da antropomorfna različica umetne inteligence kuje prevelike dobičke, da bi se ji podjetja tako zlahka odpovedala. V svetu, ki postaja vse bolj kaotičen, se lahko očitno spočijemo le še v črni luknji memov in videov Sora ali pa na rami vse preveč človeškega UI-bota.

Počlovečena umetna inteligenca se praktično udejanja kot eksploatacija naših psiholoških ranljivosti. Težava ni le v tem, da UI-industrija poglablja probleme in ideološke razdore, ki jih potrebuje, da lahko nekaj reši (da lahko nekdo zasluži), ampak tudi v tem, da pri reševanju težav posvaja neko specifično psihologijo in etiko, s katero bi se – če bi bila eksplicitno izpostavljena – najbrž strinjal le malokdo (sploh pa ne strokovnjaki). UI-industrija pa je tudi izjemno napihnjena. S pomočjo učinkovite finančne sheme, ki temelji na krožnem pretakanju finančnih sredstev iz enega podjetja v drugo, ustvarja borzne in kripto mehurčke, ki se bodo vsak čas razpočili, nastali finančni kaos pa bo najbrž odzvanjal – podobno kot po borznem zlomu leta 2011 – še leta ali celo desetletja (zanimivi pojasnili lahko najdete tu in tu).

__

V četrtem delu BFF, tako kot tudi v prejšnjih dveh, se umetnica očitno poskuša ogniti vsakršni moralni opredelitvi ali sugestiji. Zanima jo predvsem estetizacija umetne inteligence. A če estetiko razumemo kot prvi pogoj etike in politiko, potem lahko rečemo, da nas projekt senzibilizira za umetno inteligenco. Ne poskuša nam povedati nekaj o UI, ampak pokazati, kako si lahko UI še drugače predstavljamo, kako jo lahko resno vzamemo in kako lahko stopimo v stik z njo. Glede na to, da je naš kolektivni imaginarij UI že tako zasičen z antropomorfno podobo, da jo privzemamo kot edino možno podobo, se zdi vizualno eksperimentiranje ključnega pomena. Tako kot nekoč internet (svetovna skupnost) tudi UI veliko obljublja (krajši delovnik), a se počasi in vztrajno formalizira v skladu s političnimi in ekonomskimi interesi najmočnejših in najbogatejših. Da ne bi padli v Prometejevo oziroma Frankensteinovo past, moramo, kot pove filozof Michael Muller v zanimivem dialogu o antropomorfizaciji UI, raziskovati nove metafore umetne inteligence in velikih jezikovnih modelov.

Antropomorfizem je le eden izmed mnogih možnih metaforičnih pristopov k novim idejam in novim entitetam. Po mojem mnenju metafore postanejo figure mišljenja, skozi katere lahko artikuliramo [nenavadnost novih izumov]. Sledeč sodobni retorični teoriji pišem o »figurah mišljenja« (Lakoff & Johnson, 2008), ne le o »govornih figurah«. Rad bi, da raziščemo metafore velikih jezikovnih modelov, da bi nam pomagale razmišljati o tem, kaj so, pa tudi o tem, kaj bi lahko bili ali postali.

Prislonjen ob čelado zakrite performerke se zdrznem. Moje zaupanje korenini v utopični podobi empatične, počlovečene umetne inteligence, moje nezaupanje pa v distopični podobi virtualnih policistov, ki ohranjajo red spletnega prostora in mojih misli. Kako razslojiti reprezentacije UI, da ne bomo več zapadali klišejem – in zato tudi ne bomo reproducirali klišejev – ampak bomo UI lahko razumeli v vsej njeni kompleksnosti, ki je tudi zrcalni odsev, ali pa senca, človeštva?