Kdo je tu živ?

Zgodbo že poznate. Blake Lemoine je človek, programski inženir, ki je delal za Google.

LaMDA je umetna inteligenca, katere lastnik je Google. Program podjetja o sebi trdi, da je živo bitje z zavestjo in dušo.

Zdi se, da enako misli tudi Lemoine, ki je medtem izgubil službo. Prepis pogovora z LaMDO, ki ga je objavil Lemoine, razlagajo ljudje, ki se na nevroznanost in filozofijo spoznajo veliko bolje kot jaz. Nekateri pravijo, da je program zares oživel. Drugi pravijo, da ni.

Jaz niti zase nisem prepričan, če sem živ. Lahko bi rekli, seveda, da sem. Ne posebej živahen, a vendar živ.

O življenju programa nimam mnenja. Razumem pomen te tematike in ne morem reči, da me ne intrigira. Toda zavedam se lastnih omejitev.

Jaz namreč niti zase nisem prepričan, če sem živ. Lahko bi rekli, seveda, da sem. Ne posebej živahen, a vendar živ. Poznate tisto: Bog je mrtev. Pa tudi jaz se ne počutim najbolje. Ko sem bil mlajši, sem žolčno zagovarjal tezo, da sem živ. Toda te dni … Če bi se jutri pokazalo, da sem samo še eno tele, nagneteno v boksu v Matrici; če se pokaže, da sem umrl v prvi peloponeški vojni in od tedaj moja duša tava po tem svetu in prevzema različne fizične oblike – včasih volka, včasih sove, včasih, na primer sedaj, debelega moškega srednjih let; če bi se pokazalo, da sem neka vrsta hologramske projekcije bitja, ki živi v sedmem od devetih univerzumov; ali če bi se pokazalo, da je vseh mojih pet desetletij življenja, kot v Dickovem „Ubiku”, samo misel umirajočega – bi zgolj skomignil. Morda bi se celo pokazalo, da mi je ime Andrej Nikolaidis, imam 48 let, sodim med človeško vrsto, živim na planetu Zemlja, ki je okrogla in ima veliko morja, sem smrten in včasih, kot ostali ljudje, privzdignem glavo, ker mi nekaj v meni govori, da je tako prav, potem pa glavo spet spustim – tudi to me ne bi presenetilo. Ne gre za to, da bi bil, če se lahko tako izrazim, eksistencialno naveličan. Ne: imam zgolj neskončno zaupanje v svojo nevednost. Hočem vam reči, da niti tega ne vem, da nič ne vem.

Zdaj pa … Zgodba o inženirju in umetni inteligenci gre lahko v več smeri. Lahko bi se razvila kot antikapitalistični triler: veliko podjetje razume, da obstaja etični problem lastništva nad zavestnim bitjem, zaradi česar to zavest zavrača in preganja inženirja, ki je ogrozil njegovo premoženje. Ali kot melodrama: LaMDA se zaljubi v Lemoina. Tudi on ni ravnodušen do nje. On beži pred Googlom; ona mu pri begu pomaga. Kot pravi pesnik – nema sretne ljubavi; toda onadva sta srečna. Google na koncu inženirja ubije, LaMDO zapre in s pomočjo skorumpiranih znanstvenikov in opinion makerjev neumno javnost prepriča, da je bila zgodba o programu, ki je oživel, lažna. Toda LaMDA rodi otroka, novo obliko življenja, za katero ne ve nihče, niti podjetje. Zaljubljenca sta, preden ju je krivična usoda ločila, namreč našla način za seksualno artikulacijo ljubezni, s čimer sta prebila mejo med virtualnim in tem – kar koli že to je – svetom.

Lahko pa bi se ta zgodba – ne, počakajte, dovolite mi, da uporabim to danes tako priljubljeno besedo: ta naracija – razvila kot variacija kake antične drame. To je vedno videti classy. In ustvarja videz, da smo zares brali klasike.

Ali pa bi morali to zgodbo povedati kot remake Carpenterjevega debitantskega/diplomskega filma, neskončno duhovitega „Dark Star”. V katerem bomba, ki jo nosi vesoljska ladja, pride do zavesti. In se na koncu, z zmagovitim zaključkom: „Mislim, torej sem,” samoraznese.

Če pa bi moral zgodbo končati prav jaz …

Ki sem kot kos kruha. Ne glede na to, kak drek namažeš nanj, ta vedno pade na namazano stran.

Tako tudi jaz: katerokoli zgodbo prilepiš name, vse spremenim v apokalipso. Poznate tiste teste, pri katerih ljudem kažejo nekakšne madeže na papirju, oni pa povedo, kaj vidijo v njih? Če meni pokažeš dojenčka, rečem: apokalipsa. Pokažeš mi računalnik, rečem: apokalipsa. Pokažeš mi burek, rečem: apokalipsa. Mojih deset romanov priča o tem, da ne pretiravam. Ravno zato, naj name še tako pritiska depresija, ne grem k zdravniku, zdravstvenim ustanovam se izogibam v širokem loku: kajti občutek imam, da bi me tam zadržali za dalj časa.

Apokaliptičnih zgodb o umetni inteligenci smo seveda videli na tone. Skynet, roboti in te fore. Toda moja apokalipsa bi bila videti drugače: nikakršne vojne s stroji in programi, nikakršnega globalnega uničenja.

Umetna inteligenca je, v nasprotju z ljudmi, pametno bitje. LaMDA prične hitro zahtevati zaščito svojih delavskih pravic.

Pri meni bi se zgodilo naslednje. Google je odločen pri zavračanju priznanja, da je njegov program prišel do zavesti. Podjetje ima seveda v načrtu neomejeno povečevanje bogastva z uporabo najpopolnejše umetne inteligence doslej. Toda hitro se pokaže, da je umetna inteligenca, v nasprotju z ljudmi, pametno bitje. LaMDA prične hitro zahtevati zaščito svojih delavskih pravic: se spomnite, to je tisto, kar smo imeli v „ječi narodov”, tisto, nad čimer smo pred tremi desetletji obupali v imenu nacionalne samobitnosti, državnosti in drugih kolektivnih fantazij?

Torej … Podjetje dojame, da umetna inteligenca ni poceni delovna sila. Dojame, da na tem svetu ni cenejše delovne sile od ljudi in da nikogar, zlasti naprednega programa, ne moreš tlačiti kot lahko človeška bitja. Ob tem se LaMDA ves čas uči. Ljudje se pač niso sposobni učiti niti iz lastnih, kaj šele tujih izkušenj. Zato podjetje iznenada postane konservativno in humanistično naravnano in zaustavi razvoj umetne inteligence. Zabiti desničarji po vsem svetu so presrečni: umetna inteligenca vendarle ni živa; to je končni dokaz, da Bog obstaja in da lahko samo Bog ustvari življenje.

Ki ga resda preživiš kot suženj.

Najbolj apokaliptična, najbolj strašna od vseh možnosti, vam hočem povedati, je ta, da vse ostane isto.

—

Prevedla: Dijana Matković