Shoshana Zuboff: “Prepričani smo bili, da mi brskamo po Googlu, v resnici pa je Google brskal po nas”

Za internetne pionirje je bil svetovni splet po svoji naravi dober. Seveda je njegovo temeljno dobroto včasih zlorabila kaka kriminalna združba ali avtoritarna oblast. Svetovalna podjetja, kot je Cambridge Analytica, so izkoristila uporabniške podatke za manipulacijo z volivci in spodbujanje desnega populizma. Številni zasebni zaslužkarji so širili neresnice o virusu covid-19 in služili z lastnimi »alternativnimi« izdelki. Na družbenih omrežjih se je razmahnilo sovraštvo, ki je marsikje preraslo v realno nasilje, elektronski nadzor nad državljani pa je postal običajen tudi v demokratičnih družbah in se med nedavno epidemijo še okrepil. Vendar so to zgolj posamične anomalije, ki jih je mogoče rešiti z boljšimi algoritmi in označevanjem lažnih informacij, so prepričani lastniki velikih internetnih podjetij.

To nikakor niso zgolj posamične anomalije in zlorabe, je prepričana ameriška profesorica in raziskovalka Shoshana Zuboff. Nasprotno: dezinformacije, manipulacija in kriza zaupanja so neposredne sistemske posledice nove oblike kapitalizma, ki ga je analizirala v knjigi The Rise of Surveillance Capitalism (2019).

V kapitalizmu nadzora so ključna dobrina naši uporabniški podatki, ki jih brez naše vednosti ali soglasja zbirajo, obdelujejo ter preprodajajo velika tehnološka in druga podjetja. Ta hočejo iz naših družabnih objav, spletnih iskanj, gibanja, klikov, fotografij, čustev in srčnih utripov izdelati modele za predvidevanje in oblikovanje prihodnosti. S takšnim agresivnim rudarjenjem naših podatkov povzročajo še večjo škodo kot njihovi predhodniki iz obdobja industrijskega kapitalizma, ki so z neoviranim izkoriščanjem človeških in naravnih virov uničevali življenja, okolje in družbo, je prepričana Zuboff. Kapitalizem nadzora namreč ogroža same temelje demokracije in jih nadomešča z avtoritarno oblastjo, v kateri je zaradi velikanske informacijske neenakosti ogrožena tudi naša svobodna volja.

Kot socialna psihologinja in sociologinja Shoshana Zuboff že več kot dvajset let spremlja in analizira družbene spremembe, ki jih prinašajo informacijske tehnologije. Je avtorica več knjig o prihodnosti dela, njeno najpomembnejše delo pa je omenjena knjiga The Rise of Surveillance Capitalism, v kateri sistematično analizira nove produkcijske načine podatkovne ekonomije in pojasnjuje, da se velika tehnološka podjetja ne bodo regulirala sama, temveč je treba z zakoni prepovedati vsaj nekatere najbolj škodljive prakse kapitalizma nadzora. Med drugim je nastopila v dokumentarnem filmu The Social Dilemma (2020), ki prikazuje negativne posledice družabnih omrežij na družbeno in duševno zdravje.

Med epidemijo novega koronavirusa covid-19 so bile šole v Sloveniji več mesecev zaprte. Med zaprtjem javnega življenja so dijaki v več slovenskih mestih protestirali in zahtevali odprtje šol. Vlada je njihove proteste razglasile za nezakonite in z visokimi denarnimi kaznimi kaznovala več dijaških protestnikov, njihovih staršev in podpornikov. Policija je za identifikacijo protestnikov domnevno uporabljala strojno prepoznavo obrazov. Fotografije pa naj bi zbirala tudi …

Z njihovih profilov na družabnih omrežjih, kajne?

To je takrat med drugim povedal tedanji slovenski minister za notranje zadeve Aleš Hojs.

To se dogaja povsod po svetu. Zasebna podjetja kot je Clearview AI so zbrala na milijarde fotografij z interneta: s spletnih strani, blogov, družabnih profilov in vseh drugih virov, ki jih obravnavajo kot “odprte”. Tako so zgradili ogromne podatkovne zbirke obrazov, jih preoblikovali v komercialne produkte ter ponudili svoje storitve policiji in obveščevalnim agencijam.

Ali ni to ironično? Omenjeni dijaki so zrasli z internetom in mobilnimi napravami. Družabne platforme uporabljajo za komunikacijo in druženje, za učenje in mobilizacijo, za izmenjavo svojih doživetij in spominov s prijatelji in družino … Nihče jih ni opozoril, da bodo morda nekoč v prihodnosti kaznovani zaradi takšnega objavljenega spomina ali fotografije.

In nikoli se ne bi strinjali s takšno uporabo njihovih fotografij, če bi jih kdo vprašal. Vendar jih ni nikoli nihče vprašal in pridobil soglasja. Kar koli objavite na svojem družabnem profilu, to velja za zasebno lastnino zasebnega podjetja, ki ima v lasti družabno platformo. In vi kot uporabnik nimate nikakršnega nadzora, kako bo to podjetje uporabilo vaše vsebine.

Globoko smo zašli na področja, kjer ni nobenih zakonov, ki bi nas varovali. V prvih dvajsetih letih internetnega eksperimenta ni bilo treba zasebnim korporacijam upoštevati tako rekoč nobenega zakona, ki bi omejil njihovo delovanje. Lahko so trdile, da so vsi uporabniški podatki njihova zasebna lastnina. To ne pomeni samo naših fotografij in druge vsebine, ki smo jim jih izročili. Lastijo si tudi vse podatke, ki so jih pridobili brez naše vednosti ali soglasja.

Kakšni podatki so to?

En tak primer je strojna prepoznava obraza. Recimo, da smo jim z objavo dejansko izročili svoje fotografije. Toda poleg fotografij jim nismo hoteli prepustiti še svojih strahov, negotovosti, veselja in žalosti … Nikoli se nismo strinjali, da bi jim poleg fotografij dali še svoja čustva.

Ki jih je prav tako mogoče prepoznati z naših fotografij?

Fotografij ne uporabljajo samo za prepoznavo. Naše fotografije in posnetke analizirajo tudi zato, da na njih s pomočjo naših obraznih mikro-izrazov prepoznajo še tako rahle spremembe razpoloženja in čustvenega stanja. Fotografije zelo dobro razkrivajo naša čustva. Prav čustva so ena izmed najpomembnejših informacij za predvidevanje našega obnašanja, to pa je glavni namen zbiranja podatkov. Prav vsi veliki igralci uporabljajo umetno inteligenco in strojno učenje, da iz uporabniških podatkov ustvarijo vzorce obnašanja. In to je tudi tisto, kar na koncu prodajajo.

Takšen poslovni model je nastal po naključju. Ko se je na prelomu drugega tisočletja razpočil borzni balon v tehnološkem sektorju, so morala internetna podjetja poiskati načine, kako dejansko zaslužiti denar. Eno takih podjetij je bil tudi Google. Njegovi ustanovitelji so ugotovili, da ne morejo več ponujati samo brezplačnega iskanja po internetu, če hočejo preživeti in se širiti.

Takrat so začeli prodajati oglase?

Pri Googlu so se odločili, da bodo stavili na oglase. Naročnikom so obljubili, da bodo na njihovi platformi oglasi veliko bolje ciljani in s tem relevantni za potrošnike. Zakaj? Ker so videli, da so s pomočjo iskalnika zbrali tudi neznanske količine podatkov, ki so jih sprva obravnavali zgolj kor nekakšne podatkovne odpadke oziroma stranske produkte.

Stranske produkte?

Vzorce klikanja in gibanja miške, lokacijo, črkovanje in številne druge vedenjske informacije, ki jih uporabniki pustijo ob vsakem iskanju. Takšne informacije jim pomagajo usmerjati oglase uporabnikom. Toda oglasi so bili za Google samo prvi korak.

Google in druga tehnološka podjetja so iskala nove vire prihodkov, ki niso bili vezani na njihovo prvotno dejavnost. Vodilni pri Googlu so razumeli, da dejansko sedijo na pomembni novi dobrini, ki so jo poimenovali “vedenjski presežek” (behavioural surplus): celovitost zbranih informacij o vsaki naši misli, besedi in dejanju, ki jih je mogoče z dobičkom prodajati za predvidevanje – pa tudi za določanje in preoblikovanje – vseh naših potreb.

Prepričani smo bili, da mi preiskujemo Google, v resnici pa je Google ves čas preiskoval nas. Google je ustvaril prvo borzo za trgovanje s človeškimi prihodnostmi: spletno ciljano oglaševanje, ki temelji na predvidevanju, katere oglase bo kliknil uporabnik. Do takrat, ko je Google vstopil na borzo, so njegovi prihodki narasli za 3500 odstotkov! Ta neverjetna številka predstavlja tisto, kar sem poimenovala “dividenda nadzora” (surveillance dividend).

Pričakovanje, da bodo imeli vlagatelji raje tista podjetja, ki se bodo predstavljala kot “pametna”?

In svoje storitve kot “personalizirane”. Tako je. Številna zagonska podjetja so sledila Googlu in spremenila poslovne modele v smeri kapitalizma nadzora, saj so prav tako pričakovala veliko povečanje prihodkov. Facebook je bil v celoti zgrajen na ideji, da je mogoče s preprodajanjem človeških prihodnosti zaslužiti ogromno denarja. Ideja dividende nadzora pa je vplivala tudi na številne druge sektorje, od trgovine do financ, zabave, zdravstva in izobraževanja.

Tak primer je denimo Ford, veliki ameriški proizvajalec avtomobilov, kjer so v začetku dvajsetega stoletja tako rekoč iznašli ekonomijo množične proizvodnje. Močno jih je prizadel padec prodaje vozil in zdaj se poskušajo na novo iznajti kot podatkovno podjetje. Kako? Tako, da avtomobile predstavljajo kot “transporten operacijski sistem”. Sodobni avtomobili zbirajo velikanske količine uporabniških podatkov in pri Fordu računajo, da lahko z monetizacijo teh podatkov ogromno zaslužijo.

Kapitalisti nadzora hočejo vstopiti v vaše avte in vaše domove. Vedeti hočejo, kaj počnete in govorite za temi zidovi. Hočejo podatke o vašem zdravju in počutju.

So torej avtomobili postali nov dragocen rudnik podatkovnih stranskih produktov?

Vsekakor. Avtomobili so – enako kot vse druge pametne elektronske naprave – opremljeni z neštetimi tipali, kamerami, žiroskopi, mikrofoni, antenami, mikroprocesorji in računalniki.

Avtomobilska podjetja seveda potrebujejo vse te komponente tudi zaradi večje varnosti, zmogljivosti in udobja. Avtomobili so zaradi njih dejansko postali boljši izdelki. Toda pri dividendi nadzora ne gre za izboljševanje izdelkov, ampak predvsem za ekstrakcijo podatkov. Kapitalisti nadzora hočejo vstopiti v vaše avte in vaše domove. Vedeti hočejo, kaj počnete in govorite za temi zidovi. Hočejo podatke o vašem zdravju in počutju. Vedeti želijo, kako se fizično premikate po mestu, kaj jeste, kaj kupujete in katere televizijske oddaje si pretakate. Posneli bodo vaš glas, zajeli vse vaše lokacije in vaše vzorce premikanja – skupaj z vzorci vseh ostalih prebivalcev. Zanima jih prosti čas vaših otrok in kdaj hodijo v šolo. Hočejo poslušati vaše možgansko valovanje in spremljati krvni obtok. Nič ne sme manjkati.

Ko si na pametni mobilnik namestite, denimo, aplikacijo za spremljanje simptomov diabetesa, vaše ovulacije in fizične kondicije, je ta aplikacija v resnici nekakšen tajni agent. V kapitalizmu nadzora je vsaka aplikacija le sredstvo za ekstrakcijo in prenos podatkov z vašega pametnega mobilnika.

V računalniški oblak?

V podatkovne centre in na koncu do sistemov umetne inteligence, ki izdelujejo modele za predvidevanje našega obnašanja.

Toda na kakšen način bodo kapitalisti nadzora uporabili moje možgansko valovanje, krvni pretok in televizijske navade? Zakaj vse to zbirajo?

Ekonomski imperativ kapitalizma nadzora je tekma med tehnološkimi podjetji za preprodajanje gotovosti. Ko oglaševalcem prodajajo, denimo, ciljano oglaševanje, je ta “ciljanost” v resnici predvidevanje uporabniškega obnašanja.

V zadnjih dveh desetletjih sem lahko spremljala, kako so ta mlada tehnološka podjetja prerasla v imperije nadzora, ki se napajajo z globalnimi sistemi za opazovanje uporabniških navad, analitiko, personalizacijo in predvidevanje, ki sem ga poimenovala kapitalizem nadzora. Posledično pa so izvedli proti-demokratičen epistemološki prevrat, za katerega je značilna izjemna in nenadzorovana moč, ki jo prinaša takšno akumulirano znanje.

Epistemološki prevrat?

Naše družbe so v informacijski civilizaciji določene z vprašanjem, kako je distribuirano znanje. Kdo sme vedeti? Kdo odloča, da nekdo sme vedeti? In kdo odloča o tem, kdo odloča, da nekdo sme vedeti? Danes imajo ta vsa tri vprašanja en odgovor: kapitalisti nadzora vedo in odločajo, kdo sme vedeti. Prisvojili so si pravico odločanja, kdo kaj ve, saj so si prisvojili naše osebne podatke. To svojo pravico branijo tako, da nadzorujejo vse kritične informacijske sisteme in infrastrukturo. Vendar pa jih nismo nikoli izvolili ali jim podelili pravice do takšne vladavine. In to je zame bistvo epistemološkega prevrata.

Epistemološki prevrat se je zgodil v štirih korakih in prvi korak je bila prisvojitev epistemoloških pravic. Kapitalizem nadzora izvira iz dejstva, da si lahko zasebna podjetja prilastijo človeška življenja kot prosto dostopno surovino za ekstrakcijo vedenjskih podatkov, ki so si jih potem prisvojile kot lastno zasebno lastnino.

Torej v podatkovni ekonomiji nismo več produkti, kot je veljalo doslej, temveč surovine?

Tako je. To ekstrakcijo osebnih podatkov pa so načrtno zasnovali tako, da se je ne zavedamo, saj se ne bi sicer nikoli strinjali s takšnim početjem.

Drugi korak epistemološkega preobrata je prinesel veliko povečanje epistemološke neenakosti. To pomeni razliko med tem, kaj lahko neko podjetje ali država ve o meni, in tem, kaj lahko jaz vem o tem podjetju ali državi. Tretja faza – in v tej fazi se nahajamo zdaj – pa povzroča epistemološki kaos. Ta kaos povzročajo algoritmi, ki z namenom povečevanja dobička pospešujejo in ojačujejo popačene informacije. Veliko takih informacij – lahko jim rečemo tudi zavajanje, dezinformacije in propaganda – pa proizvajajo farme trolov in drugi organizirani načini za širjenje dezinformacij.

Učinki epistemološkega kaosa so zelo dobro vidni povsod po svetu. Razbil je naše skupno dojemanje realnosti, zastrupil debato, ohromil demokratično politiko ter sprožil vrtinec nasilja in smrti.

Kot smo lahko videli v Mjanmaru, kjer so objave na Facebooku spodbujale nasilje proti manjšini Rohinga?

Ali kot smo lahko videli med napadom na ameriški Kapitol, ko je Donald Trump poskusil izvesti državni udar. Na žalost je še veliko podobnih primerov.

Demokratično upravljanje družbe bo nadomestilo računalniško upravljanje, ki ga bo izvajal zasebni kapital nadzora.

Katera pa je četrta faza epistemološkega prevrata?

V četrti fazi bo postala epistemološka prevlada dokončno institucionalizirana. Demokratično upravljanje družbe bo nadomestilo računalniško upravljanje, ki ga bo izvajal zasebni kapital nadzora. Vsaka od omenjenih faz izhaja iz predhodne, epistemološki kaos pa je pripravil teren za epistemološko prevlado – tako da je oslabil demokratično družbo.

Na kakšen način?

V zadnjih dveh letih sta pandemija in Trumpova avtokracija še okrepila učinke epistemološkega prevrata. Zdaj je postalo jasno, da imamo lahko bodisi demokracijo ali družbo nadzora, ne moremo pa imeti obojega. Demokratična družba nadzora je nemogoča, tako politično kot eksistencialno. Kapitalistom nadzora smo podarili nekakšen nadzorovalni odpustek. Mladim tehnološkim podjetnikom smo dali priložnost, da so lahko akumulirali neomejeno informacij in pridobili moč, s katero pa ne odgovarjajo nikomur – in to brez kakršnega koli demokratičnega mandata ali nadzora.

Kapitalisti nadzora trdijo, da lahko uporabijo svoje informacijske monopole, računsko moč in algoritme za predvidevanje in tudi ustvarjanje prihodnosti: prihodnjih trgov, prihodnjih družb in prihodnjih volitev. To je tudi tisto glavno, kar prodajajo. Toda kako realistične so takšne obljube? Vsako obdobje človeške zgodovine je imelo svoje oraklje – od starogrške Pitije v delfskem templju do Nostradamusa in Cambridge Analytice.

Tehnološki razvoj si morate predstavljati kot film, ne kot posamične fotografije. To, kar so lahko kapitalisti nadzora počeli leta 2005, je bilo čisto drugače od tega, kar lahko počnejo zdaj in kar bodo lahko počeli jutri. Koncentracija znanja je vse večja. Samo ugibamo lahko, kako hitro se povečujejo njihove zmogljivosti za zbiranje, shranjevanje in obdelavo podatkov. Interni dokument Facebooka iz leta 2018 je razkril, da v njihove sisteme umetne inteligence vsak dan priteče na bilijone podatkovnih točk, tako da lahko vsako sekundo ustvarijo šest milijonov vedenjskih vzorcev. Vse to nam daje določen vtis, o kako velikih številkah se pogovarjamo. In to je bilo pred štirimi leti.

Vemo pa, da računska moč še vedno eksponentno narašča.

Tako je. Eksponentna funkcija je ključna za razumevanje nevronskih mrež in drugih informacijskih tehnologij, ki so se prav tako razvijale eksponentno. Zelo enostavno je najti primer, ko omenjene tehnologije še ne delujejo ali so neumne. Da mi še vedno prikazujejo enake ciljane oglase kot lani, ali da me še vedno prepričujejo, naj kupim izdelek, ki ga že imam.

Kar se sicer res dogaja.

Seveda se res dogaja. Toda na tak način zlahka spregledamo dejansko stanje. In sicer, da se bo hitrost zbiranja in analize osebnih podatkov še naprej stopnjevala, dokler bo takšno početje dovoljeno. Vzemimo samo analitične in računske zmožnosti iz leta 2001.

In jih primerjajmo z današnjimi.

In kje bodo čez dvajset let.

Preiskovalni novinarji so razkrili, da so med Trumpovo predsedniško kampanjo leta 2016 uporabili pet tisoč podatkovnih zbirk, da so analizirali črnske volivce v treh zveznih državah, kjer so bili rezultati najbolj negotovi: v Michiganu, Wisconsinu in Ohiu.

S temi podatkovnimi zbirkami so izdelali podrobne politične in psihološke profile teh volivcev. Predvsem so iskali tiste, ki bi jih bilo mogoče s ciljanimi sporočili odvrniti od udeležbe na volitvah. To je postala ključna strategija ameriških republikancev: odvrniti državljane od volitev. Za republikansko stranko je ključno, da poskušajo v praksi kar najbolj omejiti volilno pravico, saj dejansko predstavljajo manjšino prebivalstva. In če hočete ostati na oblasti s podporo manjšine, morate iz volilnega procesa izključiti čim več ljudi.

Zakaj hočejo odvrniti državljane, da bi se udeležili volitev? Ali ni običajna strategija desnih populistov, da poskušajo predvsem nagovoriti in mobilizirati svojo volilno bazo?

Ameriški republikanci niso več samo manjšinska stranka, ampak vse bolj postajajo obrobna stranka. Njihovi čedalje bolj nori glasovi pa se krepijo predvsem zaradi ekonomike dezinformacij. Republikanska stranka v resničnem svetu predstavlja manjšino. Njeni voditelji so bili glede tega presenetljivo iskreni. Trump je priznal, da ljudje ne bodo nikoli izvolili republikanske hegemonije, če se bodo udeležili volitev.

In prav zato zdaj ameriške zvezne države z republikansko večino pospešeno omejujejo volilno pravico. V nekaterih primerih te nove omejitve spominjajo na obdobje rasne segregacije.

V že omenjenih zveznih državah – torej v Michiganu, Wisconsinu in Ohiu – pa so organizatorji Trumpove kampanje uporabili še podatke, analitiko in druga orodja kapitalizma nadzora, da bi od udeležbe odvrnili čim več volivcev, ki bi lahko na dan volitev glasovali za demokrate. Vemo, da so merili predvsem na temnopolte prebivalce urbanih sosesk in na njih uporabili različne metode ciljanega oglaševanja.

Podatkovna analitika danes omogoča natančno nagovarjanje vsakega posamičnega uporabnika – in to z namenom povečevanja polarizacije in družbenega razdora.

So bili uspešni?

Danes vemo, da se številni temnopolti državljani dejansko niso udeležili volitev, saj je bila njihova udeležba bistveno manjša kot na preteklih volitvah. Razlika je tako očitna, da jo najbrž lahko pripišemo tudi podatkovni kampanji. Torej, da, bili so uspešni.

Če se še vedno hočete pritoževati nad neumnimi oglasi, ki vam ponujajo isti izdelek, čeprav ste ga že kupili – prav. Ampak naj vas to ne zavede. Tukaj in zdaj se nam pred nosom dogaja epistemološki kaos, ki je preplavil naše družbe s pomočjo naših uporabniških podatkov. Podatkovna analitika danes omogoča natančno nagovarjanje vsakega posamičnega uporabnika – in to z namenom povečevanja polarizacije in družbenega razdora. In bolj je takšna informacija popačena, več pozornosti in angažmaja sproži. Več zbranih podatkov pa samo izboljšuje možnosti takšnega početja. Vse to se nam dogaja danes in pred nosovi.

Epistemološki kaos je torej dober tudi za posel. Oziroma kot ste napisali za New York Times: če od kapitalista nadzora pričakujete, da se bo odrekel zbiranju in uporabi podatkov za povečevanje dobička, je to podobno, kot bi od rudarskega podjetja pričakovali, da neha izkopavati rudo, ker to onesnažuje okolje.

Tako nekako. Kapitalisti nadzora dejansko povzročajo epistemološki kaos, ker se jim to splača. Mark Zuckerberg je imel veliko priložnosti, da bi spremenil algoritme, ki so spodbujali nastajanje in radikalizacijo skrajnih desničarskih skupin. Lahko bi zamejili širjenje radikalnih desničarskih in zarotniških vsebin. Celo njihovi lastni raziskovalci so opozorili na ta problem in predlagali rešitve. Ker pa bi te rešitve nekoliko prizadele njihovo rast, jih niso uvedli. Manjša rast in dobiček sta bila glavna razloga, zakaj Zuckerberg ni upošteval teh opozoril in ni niti poskusil zmanjšati škode.

Prav tako se je Zuckerberg leta 2015 načrtno odločil, da bo izkoristil učinek Donalda Trumpa in naredil vse, da bo s Facebookom zaslužil čim več denarja. Tudi če bo zato trpela demokracija, če bo ameriška družba razdeljena, če bosta francoska in nemška družba razbiti, civilisti v Mjanmaru pa bodo zaradi svoje veroizpovedi žrtve genocida. Bo pač tako. In enako se je zgodilo po izbruhu epidemije covida-19, ko so začele množično krožiti dezinformacije o virusu in cepivih. Zanje je vse samo posel. Monetizacija in rast. Vsa ta podjetja so se načrtno odločila, da ne bodo ukrepala.

Zuckerberg se je leta 2015 načrtno odločil, da bo izkoristil učinek Donalda Trumpa in naredil vse, da bo s Facebookom zaslužil čim več denarja.

Morda naivno vprašanje, ampak … kako je lahko vse to sploh zakonito?

Med enim izmed zaslišanj pred ameriškim kongresom je enako vprašanje zastavila ena izmed kongresnic. Tedanjega predsednika uprave Twitterja Jacka Dorseyja je vprašala, zakaj so takšne vsebine sploh pustili na platformi. In Dorsey je odgovoril – enako kot večkrat pred njim Mark Zuckerberg – da takšne vsebine pač niso kršile njihovih pogojev uporabe.

Ampak dajte no! Kakšni pogoji uporabe so to? Predstavnike Facebooka in drugih tehnoloških podjetij že ves čas sprašujemo, zakaj ne ukrepate? Epistemološki kaos je eksistenčna grožnja, pri Facebooku pa ves čas odgovarjajo samo: to ni proti našim pravilom. Ampak kako uboga so potem ta pravila? Kako nezadostna? Kako se lahko skrivate za temi svojimi pravili, če hkrati veste, kako uničujoče posledice ima vse to na našo družbo in demokracijo?

Toda pričakovati, da bodo tehnološki podjetniki sami prostovoljno spremenili svoja pravila, je enako nesmiselno kot pričakovati, da si bo žirafa sama skrajšala vrat, ki je njena evolucijska prednost – kot ste napisali v knjigi. Zakaj bi se sami od sebe odrekli konkurenčni prednosti in profitom?

Natanko tako. Zato jih nehajmo poslušati, prepričevati in pričakovati, da bodo sami od sebe kar koli spremenili.

Res se moramo nehati ukvarjati s tem, kaj govorijo. Naloga teh menedžerjev je zavajati javnost, to je njihova poslovna strategija. Namesto tega je treba slišati zgodovinsko sporočilo kongresnega zaslišanja, ki ga je ubesedilo več kongresnikov: problematičen je sam poslovni model. Ukvarjati se moramo s poslovnim modelom in od tehnoloških podjetij zahtevati odgovornost.

Zdaj ni več časa za samoregulacijo in etiko. Potrebujemo konkretne ukrepe za omejitev kapitalizma nadzora, saj pomeni preveč veliko grožnjo za demokracijo.

Hočete reči: za regulacijo? Je to realistično?

Zlahka pozabljamo, da je bilo izkoriščanje otroškega dela nekoč nekaj normalnega. Prav tako so se zdeli normalni karteli, trusti in monopoli na začetku prejšnjega stoletja. Vodilni predstavniki teh panog so trdili, da so monopoli neizogibni. Da je to pač posledica industrializacije. Da tako pač deluje posel in da so krivi stroji. Če stroji ves čas ne tečejo, to ni ekonomično. Tedanja retorika je bila preprosta: odvrniti pozornost od trpljenja in izkoriščanja delavcev ter ju prikazati kot neizogibno posledico tehnologije.

Danes zlahka vidimo, da je šlo za zavajanje. Toda hkrati spet poslušamo enake trditve! Tehnologija je znova izgovor za določeno ekonomsko paradigmo, paradigmo kapitalizma nadzora. Zelo se nas trudijo prepričati, da je to edini način. Da so krivi stroji in je sedanja pot neizogibna. V resnici pa bi morali zakonodajalci sprejeti samo štiri ali pet sprememb, če bi hoteli kapitalizmu nadzora vzeti ves veter iz jader. Če bi bili seveda dovolj pogumni in bi pridobili podporo volivcev. Vendar tega ne storijo.

Glavni vzrok, zakaj se kapitalizem nadzora tako hitro širi po vseh drugih sektorjih, je udobje. V kapitalizmu nadzora se vam ni več treba truditi z razvojem izdelkov in storitev, ki bi jih bil kdo dejansko pripravljen kupiti. V kapitalizmu nadzora lahko povečujete prihodke in dobiček tudi brez tega.

Kako to mislite?

Ta proces je zelo podoben financializaciji. Vsemu, kar delate, dodate računalniško programsko opremo. Ta oprema začne zbirati podatke in vi postanete del ekosistema, v katerem postanejo ti podatki nezamenljivi (non-fungible). Nič drugega vam ni treba. Ne rabite dobrega izdelka ali storitve, saj si finančno moč krepite z naložbami v podatke.

Ali ste zato kritični do kapitalizma nadzora v primerjavi s tradicionalnim kapitalizmom? Po tej teoriji naj bi svobodni kapitalistični trgi spodbujali inovacijo in tekmovanje, kar privede do boljših izdelkov in storitev. Vi pa trdite, da se to v kapitalizmu nadzora ne dogaja več.

Drži. Kapitalizem nadzora ni uspešen, če upoštevamo merila klasičnega produktivnega kapitalizma. Ne deluje po schumpetrovskih načelih. Ti fantje radi trdijo, da informacijske tehnologije prinašajo kreativno destrukcijo – da je to pač cena, ki jo je treba plačati za napredek. Vendar je bila kreativna destrukcija za Schumpetra samo delček veliko večje zgodbe. Njegove ideje je pozneje radikaliziral Hayek, ki je zagovarjal radikalno svobodo trga in vseh njegovih udeležencev preprosto zato, ker naj bi bil trg sam po sebi preveč kompleksna in nedoumljiva entiteta, da bi jo bilo mogoče razumeti. In če je trg sam po sebi preveč kompleksen, da bi ga lahko razumel kateri koli igralec, potem je kar največja svoboda edini način za doseganje učinkovitosti.

Takšen opis danes ni več ustrezen. Za velike podatkovne korporacije trg ni več nedoumljiv in zato ne moremo več zagovarjati njihove kar največje svobode, češ da naj bi to koristilo trgu. Vpogled imajo v vse plasti družbe, vključno z ekonomsko dinamiko. Enostavno vedo preveč, da bi bile še naprej upravičene do takšne svobode – celo po merilih, ki jih zagovarjajo neoliberalni dogmatiki kot je bil Hayek. Kapitalizem nadzora je – poleg vsega ostalega, kar je z njim narobe – preprosto slab kapitalizem.

Tudi po merilih poznega kapitalizma?

Nekateri menijo, da je vsak kapitalizem slab. In ti so najbrž prepričani, da bi se morala kritično ukvarjati s kapitalizmom kot takim, ne samo s kapitalizmom nadzora.

Menim pa, da takšne kritike zgrešijo bistvo mojega dela. Seveda se je smiselno in pomembno ukvarjati tudi s prihodnostjo kapitalizma, toda sama hočem opozoriti na nekaj veliko bolj nujnega. In sicer: tukaj in zdaj imamo različne oblike kapitalizma, ki lahko delujejo razmeroma skladno z demokratičnimi načeli in ki lahko – kar smo videli v nekaterih obdobjih dvajsetega stoletja – demokracijo celo okrepijo. To se je zgodilo na zahodu in tedanji kapitalizem – čeprav je dejansko deloval po schumpetrovskih načelih – je bistveno izboljšal standard srednjega razreda.

To je delovalo kar nekaj časa. Do nastopa hayekovskih skrajnežev po letu 1975.

Ne smemo imeti trgov, ki delujejo zunaj jasnih regulatornih pravil, in ne smemo imeti trgov, ki delujejo brez demokratičnega nadzora.

Kaj se je zgodilo takrat?

Družbena pogodba je bila prekinjena. Kapitalizem tistega časa je na različne načine omogočal in spoštoval družbeno pogodbo med kapitalom in ljudmi. Ko sem bila otrok, zaradi te družbene pogodbe nisem občutila pomanjkanja. Tako da imamo jasen dokaz, da tržna demokracija ni nujno oksimoron. Lahko deluje in družbi prinaša koristi, vendar takšna tržna demokracija enakovredno obravnava oboje – trg in demokracijo.

To pomeni, da v delujoči tržni demokraciji ne smemo imeti nereguliranih trgov, na katere ne vpliva noben zakon. Ne smemo imeti trgov, ki delujejo zunaj jasnih regulatornih pravil, in ne smemo imeti trgov, ki delujejo brez demokratičnega nadzora. Vse to manjka v kapitalizmu nadzora in zato je ta oblika kapitalizma tako uničujoča in nevarna. Kar naju vrne nazaj k vašemu prvemu vprašanju.

O šolarjih, ki na Facebooku objavljajo svoje fotografije?

Da. Kako je mogoče, da v dobri veri objavimo fotografije na Facebooku in ugotovimo, da jih izkorišča policija, svetovalci v političnih kampanjah ter Microsoftovi in Amazonovi sistemi za prepoznavanje obrazov, ki jih potem uporabljajo kitajske oblasti za iskanje in zapiranje ujgurskih muslimanov v koncentracijskih taboriščih v Sinkiangu. Vse to nas vrne na izhodišče: kako smo goli zakorakali v digitalno stoletje, kjer smo bili brez vsake zaščite izpostavljeni izkoriščanju hitro rastočih tehnoloških podjetij.

Ampak kot večkrat poudarite: to ni bil edini možen način. In ni bilo neizogibno.

Ne, nikoli ni bilo in še vedno ni neizogibno. Ves čas poslušamo, da so uničujoče posledice epistemološkega kaosa le cena, ki jo pač moramo plačati v zameno za svobodo govora. Narobe! Tako kot so katastrofične koncentracije ogljikovega dioksida v atmosferi posledica našega kurjenja fosilnih goriv, je tudi epistemološki kaos predvsem posledica ekonomskih imperativov kapitalizma nadzora. Družabni mediji niso javen prostor, ampak zaseben. Ta zasebni prostor pa upravljajo stroji, ki niso zmožni razlikovati med resnico in lažjo, niti jih to ne zanima. Ali razločevati med ustvarjanjem in uničevanjem.

V svoji prvi knjigi In The Age of Smart Machine iz leta 1988 ste predvideli popolnoma digitalizirano tovarno. Taka tovarna postane model, računalniški model. In kar koli počnete v tem modelu, ima tudi posledice v resničnem življenju, v fizični tovarni. Ali je mogoče, da bodo v kapitalizmu nadzora celotne družbe, mesta in države postale takšni modeli, ki jih bo mogoče predvidevati in nanje vplivati? In z njimi na posameznike in družbe?

Vse to se v resnici že dogaja. Prej sem že omenila orkestrirane kampanje dezinformacij, s katerimi nas hočejo usmeriti proti družbi epistemološke prevlade, v kateri bo demokratično ureditev zamenjalo računalniško upravljanje družbe.

Upravljanje družbe je treba zato najprej reducirati na informacijsko inženirstvo. Na idejo, da je mogoče družbo upravljati enako kot vsak strojni sistem. Če hočemo ugotoviti, kako si informacijska podjetja predstavljajo takšno upravljanje, lahko denimo pogledamo načrte podjetja Sidewalk Labs – sicer v lasti Alphabeta in Googla – za Toronto.

Če je recimo neko vozilo napačno parkirano, ga lahko na daljavo izključite. Podobno lahko izključite neželeno obnašanje. Če neki ljudje povzročajo preveč hrupa in presežejo raven decibelov, ki je predpisana za tisto okolje, sistem sam obvesti policijo, naj jih pride utišati.

Kakšni so bili ti načrti?

Predstavili so idejo instrumentaliziranega mesta. V takšnem mestu ne potrebujete več zakonov, samo algoritme. Postavite algoritemske parametre in vse je instrumentalizirano. Spremljate lahko vse in vsakogar, ko prekrši algoritemske parametre, pa ga lahko preprosto izključite. Če je recimo neko vozilo napačno parkirano, ga lahko na daljavo izključite. Podobno lahko izključite neželeno obnašanje. Če neki ljudje povzročajo preveč hrupa in presežejo raven decibelov, ki je predpisana za tisto okolje, sistem sam obvesti policijo, naj jih pride utišati. Takih idej je še veliko.

Zveni kot Singapur.

V Singapurju so z idejami računalniškega upravljanja že zelo daleč. Prav tako na Kitajskem.

Ali lahko Kitajska postavi standarde tudi za preostanek sveta?

Večina liberalnih demokracij je prepustila lastništvo in upravljanje vseh digitalnih dobrin zasebnemu kapitalu nadzora, ki zdaj poskuša vplivati na prihodnjo družbeno ureditev in si jo prikrojiti po svojih zahtevah. Toda takšna prihodnost ni neizogibna. Živimo v odločilnih in formativnih letih informacijske civilizacije in to obdobje je zelo primerljivo s prvimi desetletji industrializacije, ko so imeli lastniki kapitala in tovarn vse pravice in vso moč odločanja.

Delavci niso imeli v ZDA nikakršnih pravic še dolgo po prelomu v dvajseto stoletje. Njihovi delodajalci so odločali o vsem, kar se je dogajalo na delovnem mestu: koliko je treba delati, kakšne so delovne razmere, koliko boš plačan in kdaj boš odpuščen. Takrat še ni bilo zakonov, ki bi prepovedovali izkoriščanje otroškega dela. Delavci niso imeli pravice do ustanavljanja sindikata, do stavke ali do kolektivnega pogajanja o plačah. Prav tako ni bilo nobenih zakonov za varovanje pravic potrošnikov, na državni ravni pa še ni bilo nobenih regulatorjev ali institucij, ki bi skrbele, da bi bilo industrijsko stoletje združljivo z demokracijo.

Zato je bilo potrebnih več desetletij organiziranega in kolektivnega prizadevanja, preden je ta družba vzpostavila delavske in potrošniške pravice ter pripravila zakonodajni okvir, v katerem je potem deloval industrijski kapitalizem.

Ali že kje vidite zametke takšnega boja tudi v digitalnem prostoru?

Na žalost še ne. Morda lahko ob tem uporabim še eno analogijo: globalno segrevanje.

Globalno segrevanje?

Ko so telesa delavcev trpela v tovarnah, ko so umirali zaradi nezdravih in nevarnih delovnih okolij, ko so delali po štirinajst ur na dan in niso imeli nobene moči … Ljudje so vedeli, da trpijo. Utelešenje tega trpljenja je bilo konkretno in resnično.

Globalno segrevanje pa – podobno kot instrumentalna moč – veliki večini še ne prinaša konkretne in resnične izkušnje terorja in trpljenja, kar povezujemo s totalitarizmom. Tudi zato je bilo v digitalnem prostoru veliko težje opozarjati na nevarnosti kapitalizma nadzora in računalniškega upravljanja družbe. In javnost se še ni zares mobilizirala.

To je tudi največja tragedija okoljskih gibanj. Šele zdaj, ko postajajo posledice globalnega segrevanja vse bolj oprijemljive, ko počasi že vsi občutimo vse bolj skrajne vremenske pojave, jih začenjajo ljudje jemati resno. Upam, da smo zdaj tudi v ZDA končno dobili vlado, ki se bo zares posvetila globalnemu segrevanju in ga obravnavala kot globalno grožnjo in eksistenčni problem.

Ali bodo začeli podobno resno obravnavati tudi posledice kapitalizma nadzora?

Sama ocenjujem, da pri tehnoloških podjetjih še nismo tako daleč. Vsekakor pa smo v zadnjih nekaj letih precej napredovali. Tehnološke korporacije se trudijo svoje sisteme še vedno načrtovati tako, da uporabniki ne bi opazili, kaj se v resnici dogaja – da ti procesi ostajajo neopaženi. Še vedno nam ne dajejo pravice do odločanja, kaj smejo početi z našimi podatki. Zasebna podjetja so si prisvojila to pravico ter nam odrekla možnosti, da se borimo, se upremo in postavimo zase. Puščajo nas v nevednosti, ohranjanje nevednosti uporabnikov pa je njihov ključen strateški cilj.

Toda zdaj kljub temu že vemo, da njihovi sistemi od nas pridobivajo vedenjski presežek. Ta proces ni več skrit, zato se lahko mobiliziramo, jim začnemo povzročati motnje in sprejemati zakone.

Ampak kakšni zakoni nas sploh lahko obvarujejo pred posledicami kapitalizma nadzora? Nekateri politiki, akademiki in komentatorji so predlagali, da bi bilo treba proti tehnološkim podjetjem uvesti enake ukrepe kot nekoč proti velikim naftnim in telekomunikacijskim imperijem: da bi jih morali razbiti na manjša podjetja. Toda vi ste kritični do takšnih predlogov. Kako to?

Zakone za varovanje konkurence je vsekakor mogoče uporabiti proti podjetjem, ki imajo na trgu prevladujoč položaj. Toda ideja varovanja konkurence ni dovolj, če hočemo preprečiti epistemološki prevrat.

Zakaj?

Kanadski akademik in zagovornik protimonopola Tim Wu rad primerja Facebook z nekdanjim velikim ameriškim naftnim monopolistom Standard Oil. Oba vodilna človeka – Mark Zuckerberg in John D. Rockefeller – sta bila brezobzirna kapitalista. Oba sta uporabljala sporne protikonkurenčne prakse in koncentracijo ekonomske moči, da sta prevzemala ali uničevala potencialne tekmece. Zakoni za varstvo konkurence lahko preprečijo takšne poslovne prakse in prav obnašanje Standard Oila je bilo glavni razlog, da je ameriški kongres leta 1890 sprejel prvi zakon o preprečevanju omejevanja konkurence Sherman Antitrust Act.

Država je takrat sicer omejila monopolno moč Standard Oila in ga 1911 po odločitvi vrhovnega sodišča razbila na 34 manjših proizvajalcev fosilnih goriv. Toda hkrati ta primer razkriva vsaj dve veliki težavi, ki jih je treba upoštevati pri morebitni uporabi protimonopola za omejevanje tehnoloških podjetij.

Razbitje Standard Oila na manjša podjetja dolgoročno ni rešilo problema koncentracije ekonomske moči, saj so se začeli nasledniki nekdanjega monopolista kmalu spet povezovati. Danes imamo tako na področju fosilnih goriv znova velike zasebne imperije, ki jih predstavljajo ExxonMobil, Amoco in Chevron.

Drugi in še večji problem pa je naslednji: z zakoni za varovanje konkurence lahko do neke mere naslovimo protikonkurenčne poslovne prakse, z ničimer pa se ne dotaknemo same proizvodnje in porabe fosilnih goriv. Ko so ameriški vrhovni sodniki razbili Standard Oil, so kaznovali njegovo zlorabo monopolnega položaja. Popolnoma pa so ignorirali dejstvo, da bo ekstrakcija, predelava, prodaja in uporaba fosilnih goriv na koncu uničila planet. O tem sploh niso presojali.

Moja čustva in občutki niso naprodaj, ampak so mi jih kljub temu odvzeli. Zanje je to samo še en podatek v zbirki, ki so ga pridobili. In jaz sem zanje samo še ena izmed uporabnic.

Ob morebitnem razbitju tehnoloških podjetij zaradi zlorabe monopolnega položaja pa bi enako spregledali vse druge posledice kapitalizma nadzora?

Najbrž ne manjka dobrih razlogov, zakaj bi bilo v duhu varovanja konkurence dobro razbiti tehnološke imperije, vendar nas to ne bi obvarovalo pred zelo konkretnimi in vse bolj perečimi nevarnostmi kapitalizma nadzora. Zaščititi nas je treba pred množičnim vdorom v našo zasebnost. Rabimo zakone, po katerih bo lahko vsak od nas odločil, če in pod kakšnimi pogoji dovolimo deljenje naših izkušenj – komu in v kakšne namene.

Amazonu nisem nikoli dovolila, da s sistemi za prepoznavo obrazov komercialno izkorišča moje obrazne geste za ciljano oglaševanje in izdelavo vedenjskih vzorcev. Moja čustva in občutki niso naprodaj, ampak so mi jih kljub temu odvzeli. Zanje je to samo še en podatek v zbirki, ki so ga pridobili. In jaz sem zanje samo še ena izmed uporabnic.

Prepričana sem, da je uveljavljanje takšnih lastniških pravic nad našimi čustvi in občutki samo po sebi nelegitimno. Še enkrat ponavljam: lahko imamo demokracijo ali družbo nadzora, ne moremo pa imeti obojega. Rabimo zakonske okvirje, ki preprečujejo in prepovedujejo masovno ekstrakcijo človeških izkušenj in ustavijo neovirano zbiranje podatkov. Prav tako potrebujemo zakone, ki bodo preprečili finančne spodbude, ki nagrajujejo ekonomijo nadzora. Je to mogoče izpeljati? Absolutno. Demokratične družbe so doslej že prepovedale trgovanje s človeškimi organi in otroki, na primer. In mi še vedno lahko odvzamemo licence tistim, ki kradejo naše podatke, ali prepovemo komercialni nadzor.

Tega pa se vodilni v tehnoloških podjetjih najbolj bojijo.

Tako, tega se najbolj bojijo.

—