Chat Control: lažna dilema med zasebnostjo in varnostjo
Razvoj digitalnih tehnologij je bliskovit, močno vpliva na življenja posameznikov in prinaša globoke družbene spremembe. Živimo v dobi odločanja o naravi teh sprememb in njihovem dolgoročnem vplivu. Eno najpomembnejših orodij za vplivanje na dogajanje je sprejemanje zakonske regulacije digitalnih tehnologij in njihove uporabe, ki določa stopnjo zaščite digitalnih osebnih svoboščin Evropejcev. Glede na pomen, ki ga ima evropski zakonodajni proces za življenja prebivalcev, ta prepogosto poteka brez širše javne pozornosti. Takšen je predlog uredbe Chat Control, ki ga je leta 2022 podala nekdanja komisarka za notranje zadeve in migracije Ylva Johannsson. Predlog je naletel na ostre kritike, ker bi njegova implementacija grobo posegla v pravico do zasebnosti uporabnikov elektronskih naprav. Kljub temu se novi komisar za notranje zadeve Magnus Brunner ni jasno ogradil od predloga.
Chat Control predvideva uvedbo splošnega avtomatskega skeniranja vse zasebne internetne komunikacije prebivalcev Evropske unije, in to kljub temu, da so tovrstne tehnologije skeniranja izredno nezanesljive ter proizvajajo veliko število lažno pozitivnih rezultatov.
Chat Control naj bi bil prvenstveno namenjen umiku vsebin, povezanih s spolnimi zlorabami otrok (CSAM), s spleta, čemur seveda nihče ne nasprotuje. Velja poudariti, da se predlog uredbe ne ukvarja s samimi zlorabami, ki se žal najpogosteje dogajajo v otrokovem domačem okolju, njihovi povzročitelji pa so večinoma otrokovi bližnji. Prav tako ne predvideva ukrepov za vzpostavitev ustreznih varnostnih mrež v otrokovem socialnem okolju in izobraževanje pedagogov ter strokovnjakov, da bi prepoznali primere zlorab. Chat Control predvideva »le« uvedbo splošnega avtomatskega skeniranja vse zasebne internetne komunikacije prebivalcev Evropske unije, in to kljub temu, da so tovrstne tehnologije skeniranja izredno nezanesljive ter proizvajajo veliko število lažno pozitivnih rezultatov, kar je med drugimi ugotovila tudi dopolnilna študija vplivov Evropskega parlamenta o predlogu Chat Control. Evropski parlament je nadalje zavzel odločno stališče v bran pravice do zasebnosti v luči morebitnega trialoga, medinstitucionalnih pogajanj med Evropskim parlamentom, Svetom EU in Evropsko komisijo, ki bo sledil, če predlog podpre kvalificirana večina držav članic v Svetu EU. Vsi dosedanji poskusi, da bi se to doseglo, so bili sicer neuspešni, vključno z nedavnim predlogom madžarskega predsedstva, ko je tudi Slovenija zavzela odklonilno stališče do Chat Controla, ker bi nesorazmerno posegel v pravico do zasebnosti.
Preberite tudi: Neja Berger: Mit o umetni inteligenci.
Sprejetje Chat Controla bi pomenilo obvezno skeniranje vsebine vseh internetnih sporočil, ki bi ga morali izvajati ponudniki pogovornih aplikacij in e-pošte, kot so WhatsApp, Messenger, Telegram, Gmail itd. Vršilo bi se z uporabo tehnologije skeniranja na strani uporabnika (Client-side scanning – CSS), ki pregleduje vsebino sporočil na sami napravi uporabnika in se pogosto nepravilno prestavlja kot rešitev, ki zagotavlja varnost in ohranja zasebnost. Te trditve so mišljene v smislu, da CSS ne posega v celovito end-to-end šifriranje (end-to-end encryption – E2EE), ki zagotavlja, da je vsebina sporočil berljiva le pošiljatelju in prejemniku. Kar je tehnično sicer res, saj se pri client-side skeniranju vsebina sporočila pregleda na napravi, preden je bila šifrirana in odposlana, vendar pa je pri tem že prišlo do posega v zasebnost. CSS nadalje napravo izpostavi varnostnemu tveganju, saj omogoči dostop do naprave programski opremi za skeniranje in nadzornim organom, kar odpira možnost za zlorabe in razširi površino, ki je lahko podvržena hekerskemu napadu. Zaradi naštetega sta Signal in Threema, dva ponudnika, ki svojo blagovno znamko gradita na poudarjanju varstva zasebnosti uporabnikov, napovedala, da se bosta umaknila z evropskega tržišča, če bo vpeljana zakonska rešitev, ki bo zahtevala obvezno skeniranje vsebine sporočil.
Signal in Threema, dva ponudnika, ki svojo blagovno znamko gradita na poudarjanju varstva zasebnosti uporabnikov, sta napovedala, da se bosta umaknila z evropskega tržišča, če bo vpeljana zakonska rešitev, ki bo zahtevala obvezno skeniranje vsebine sporočil.
Sprejetje Chat Controla bi torej pomenilo grob poseg v pravico do zasebnosti Evropejcev in bi njihove naprave izpostavilo zlonamernim napadom. Nezanesljivi sistem skeniranja vsebine internetnih sporočil prebivalcev EU bi preplavil preiskovalne organe z lažno pozitivnimi rezultati in tako v končni fazi celo otežil preprečevanje in pregon zlorab otrok. Poleg tega bi se vzpostavila obsežna nadzorna infrastruktura, ki bi jo bilo težko demokratično nadzirati. Kljub vsemu se Chat Control vedno znova vrača na dnevni red Sveta EU, saj za njim stojijo močni interesi. Nekdanja komisarka za notranje zadeve Ylva Johannsson je predlog pripravila v tesnem stiku z vplivno ameriško organizacijo Thron, ki jo je soustanovil in predstavljal igralec Asthon Kutcher. Organizacija je sicer registrirana kot neprofitna, ampak deluje kot tehnološko podjetje, ki razvija programsko opremo za zaznavanje vsebin, povezanih z zlorabo otrok, in ji je v interesu, da zlorabe predstavlja kot »internetni« problem. Svoje produkte prodajajo internetnim podjetjem, ponudnikom pogovornih aplikacij in preiskovalnim organom ter so v središču široke interesno-lobistične mreže z dobrimi povezavami v vrhovih evropskih institucij, ki je vplivala na oblikovanje predloga Chat Control. Zanimanje za predlog je pokazal tudi Evropski policijski urad (Europol), ki je izrazil interes, da bi neomejeno dostopal do nefiltriranih množičnih podatkov, zbranih s Chat Controlom, z namenom urjenja sistemov umetne inteligence, in predlagal, da se sistem skeniranja spletne komunikacije uporabi tudi za odkrivanje drugih kaznivih dejanj.
Čeprav Chat Control tako očitno krši pravico do zasebnosti, ki jo zagotavljata Listina EU o temeljnih pravicah in Evropska konvencija o varstvu človekovih pravic, da bi zagotovo padel pred Sodiščem Evropske unije, bi bil postopek dolgotrajen. Do takrat pa bi bila masivna nadzorna infrastruktura že vzpostavljena, zasebni podatki počrpani, dividende izplačane in UI modeli izurjeni.
Pristojne službe nedvomno potrebujejo ustrezen dostop do informacij. To je pomembno zlasti z vidika pregona najhujših kaznivih dejanj, kot je ravno zloraba otrok, pa tudi teroristične dejavnosti in delovanje kriminalnih združb, vendar mora biti takšen dostop skladen z demokratično ureditvijo.
Pristojne službe nedvomno potrebujejo ustrezen dostop do informacij. To je pomembno zlasti z vidika pregona najhujših kaznivih dejanj, kot je ravno zloraba otrok, pa tudi teroristične dejavnosti in delovanje kriminalnih združb, vendar mora biti takšen dostop skladen z demokratično ureditvijo. Ambivalentnost med zapletenim prepletom tehnoloških, ekonomskih in družbenih vidikov, ki tvorijo sodobni množični nadzor, ter demokratično ureditvijo analizira socialna psihologinja in sociologinja Shoshana Zuboff.
V delu The Age of Survelliance Capitalism analizira zapleteni preplet tehnoloških, družbenih in ekonomskih problematik, ki ga prinaša podatkovna ekonomija. Ekonomski sistem, ki temelji na zbiranju in analizi podatkov ter trgovanju z njimi, označuje kot kapitalizem nadzora. Tehnološka podjetja zajemajo čedalje večje količine podatkov, ki se stekajo v podatkovne baze in napajajo sisteme umetne inteligence, strojnega učenja ter nevronskih mrež. Tam se ustvarjajo modeli za napovedovanje vedenja uporabnikov digitalnih naprav, ki omogočajo monetizacijo zbranih podatkov. Podatki digitaliziranega življenja se uporabljajo za napovedovanje življenja. Nakupovalne navade, izbor filmov in serij, gibanje po mestu, potovanja, zdravstveno stanje, svetovni nazor, politično prepričanje ali izid volitev. Vse se lahko meri in napoveduje. In, seveda, manipulira.
Zuboff pojav personaliziranih modelov napovedovanja vedenja, kakršne na primer uporabljata Google in Facebook, znan pa je tudi primer svetovalnega podjetja Cambridge Analytica, ki je z manipulacijami znatno vplivalo na izid ameriških predsedniških volitev in britanskega referenduma za Brexit, označuje kot epistemološki kaos in ga obravnava kot posledico epistemološkega prevrata. Eden od glavnih vzvodov družbene moči je namreč dostop do informacij. Ko se je na prelomu tisočletja vzpostavljal sistem podatkovne ekonomije, praktično ni bilo zakonske regulacije, ki bi podjetjem omejevala dostop do podatkov, tako da so si kapitalisti nadzora lahko prilastili dostop do infrastrukture informacijskih sistemov. Imajo neoviran dostop do digitaliziranih človeških življenj, iz katerih črpajo podatke, ki poganjajo ekonomski model kapitalizma nadzora. To je epistemološki prevrat, ki je privedel do stanja hude epistemološke neenakosti – do prepada med neoviranim dostopom do podatkov o posameznikih, ki ga imajo kapitalisti nadzora, in omejenim dostopom do informacij, ki ga ima prebivalstvo. Kot rečeno se nadzor nad podatki uporablja za sejanje epistemološkega kaosa. Algoritmi krojijo zaprte personalizirane mehurčke, s katerimi razbijajo skupno dojemanje realnosti, banalizirajo in polarizirajo politični diskurz ter manipulirajo z javnim mnenjem in volilnim procesom. Vse to je nezdružljivo z demokratično ureditvijo. Kot edino zdravilo za ohranitev demokracije Zuboff predlaga regulacijo kapitalizma nadzora.
Industrijska revolucija je povzročila primerljivo ekonomsko transformacijo in družbene pretrese, kot jih je 21. stoletju prinesla digitalizirana podatkovna ekonomija. Tehnološki napredek je grobo posegel v življenja ljudi, spremenil naravo dela, preoblikoval ekonomska razmerja in družbene dinamike. V prvih desetletjih industrializacije je bilo otroško delo običajno, delavci brezpravni, sindikalno organiziranje prepovedano. Potrebni so bili dolgotrajni politični boji, da so države uvedle regulacijo nad odnosi industrijske proizvodnje in izboljšale življenja ljudi. Tudi kapitalizem nadzora je nastal v nereguliranih razmerah, kar mu je omogočilo prevzem dostopa do informacijske infrastrukture in vzpostavitev totalnega nadzora nad ekstrakcijo podatkov iz življenja ljudi, vendar to počne na neopazen in neboleč način, saj je vsakodnevna izkušnja z digitalnimi tehnologijami večinoma udobna. Prav to je glavna razlika med našo dobo in časom zgodnje industrializacije, ko sta bila trpljenje in pomankanje med ljudmi otipljiva. Totalen nadzor ni bil nikoli udobnejši. Poteka neopazno, če ni zlorabljen, je neboleč in prinaša udobno personalizirano uporabniško izkušnjo. Tukaj gre iskati vzroke za nizko stopnjo ozaveščenosti širše javnosti o ogroženosti osebnih svoboščin v digitalni dobi. Potrebna je digitalna samozaščita na osebni ravni z vpeljavo kibernetske varnosti na naših osebnih napravah in aktivacija ljudi v političnem boju za obrambo človekovih pravic v digitalni dobi.
__
Naslova fotografija: Nathan Dumlao, Unsplah.