Istorijski i vrlo javni eksperiment -Istorijska promjena web narativa: Internetski govor se više nikada neće vratiti na normalno Istaknuto

Autor  Apr 29, 2020

Otkrićemo kako će se tim potezima /nadzora ljudi u slučaju Covod 19/ upravljati u Sjedinjenim Državama. Odgovori za nadzor i kontrolu govora u slučaju COVID-19 i suradnja privatnog sektora s vladom u ovim naporima su historijski i vrlo javni eksperiment o tome kako će se naša ustavna kultura prilagoditi našoj digitalnoj budućnosti.

COVID-19 je ojačao američke tehnološke platforme koje su izašle iz obrambene mreže. Prije pandemije, oni su bili meta bijesa javnosti zbog života pod njihovom dominacijom. Danas platforme ponosno surađuju jedna s drugom i slijede vladine smjernice kako bi cenzurirale štetne informacije povezane s koronavirusom, piše The Atlantic. Koriste svoje ogromne kapacitete za prikupljanje podataka, u koordinaciji sa saveznim i državnim vladama, za poboljšanje traženja kontakata, provođenje karantene i druge zdravstvene mjere. Kao što se nedavno na Facebooku Mark Zuckerberg hvalio, „Svijet se prije suočio sa pandemijama, ali ovaj put imamo novu supersilu: sposobnost za prikupljanje i razmjenu podataka trajno.“
Grupe civilnih prava tolerišu ove mjere - hitni problemi zahtijevaju hitne mjere - ali također zahtijevaju brzi povratak u normalu kada virus oslabi. Moramo „osigurati da se naša država, kad prođemo kroz ovu krizu, nije transformisana u mjesto u kojem ne želimo živjeti“, upozorava Jay Stanley iz Američke unije za građanske slobode. "Sve izvanredne mere koje se koriste za upravljanje određenom krizom ne smiju postati trajni zapleti u  upadanju vlasti u svakodnevni život", izjavljuje Electronic Frontier Foundation, grupa za digitalna prava. To su stvarne brige, jer, kako zaklada napominje, „programi za spašavanje života poput ovih i njihovi upada u digitalne slobode [imaju tendenciju] da nadžive svoju hitnost.“

Ali "izvanredne" mjere koje vidimo nisu sve tako izvanredne. Snažne snage gurale su se prema većoj cenzuri i nadzoru digitalnih mreža mnogo prije nego što je koronavirus iskočio s vlažnih tržišta u Wuhanu, Kina, i to će nastaviti raditi nakon prolaska krize. Praksa koju su američke tehnološke platforme preduzele tokom pandemije ne predstavlja odstupanje od prethodnih kretanja, već njihovo ubrzanje.

Koliko god to zvučalo iznenađujuće, digitalni nadzor i kontrola govora u Sjedinjenim Državama već pokazuju mnoge sličnosti s onim što se može naći u autoritarnim državama poput Kine. Ustavne i kulturne razlike znače da privatni sektor, umjesto savezne i državne vlade, trenutno preuzima vodeću ulogu u tim praksama, koje dalje vrednuju i rješavaju prijetnje različite od onih u Kini. Međutim, trend većeg nadzora i kontrole govora, kao i sve većeg učešća vlasti, nesporan je i vjerovatno neumoljiv.

U velikoj raspravi u posljednja dva desetljeća o slobodi na webu, Kina je bila u velikoj mjeri u pravu, a Sjedinjene Države uglavnom u krivu. Značajno nadgledanje i kontrola govora neizbježne su komponente zrelog interneta, a vlade moraju igrati veliku ulogu u tim praksama kako bi osigurale da je internet kompatibilan s društvenim normama i vrijednostima.
Počevši od 1990-ih, američka vlada i moćne mlade tehnološke firme počele su promovirati neregulaciju i slobodu govora u američkom stilu kao osnovne značajke interneta. Ovaj pristup je pretpostavljao da će se autoritarne države raspasti pred digitalnim mrežama za koje se činilo da su u njih ugrađene američke ustavne vrijednosti. Internet je bio sredstvo za širenje američkih građanskih i političkih vrijednosti; više govora značilo bi i bolje govorne platforme, što bi zauzvrat vodilo do demokratskih revolucija širom svijeta.

Kina se brzo zabrinula zbog nereguliranog digitalnog govora - i kao prijetnje kontroli Komunističke partije i uopšte domaćem društvenom uređenju. Započela je sa izgradnjom sve snažnijih mehanizama nadzora i kontrole kako bi se zadovoljile ove prijetnje. Druge autoritarne nacije slijedile bi vođstvo Kine. Kina, Rusija i druge članice Šangajske organizacije za saradnju 2009. godine objavile su „sporazum o saradnji u oblasti međunarodne informacione sigurnosti“. Sporazum je, naime, upozorio na nadolazeći "informativni rat", u kojem će internetske platforme biti naoružane na načine koji bi prijetili nacionalnim "društvenim i političkim sistemima".

Za vrijeme administracije Georgea W. Busha i Obame, Sjedinjene Države pomogle su osigurati digitalne slobode za ljude koji žive u autoritarnim državama. Dali su im je resurse da podrže proizvode za šifriranje i skrivanje filtera koji su osmišljeni kako bi pomogli pojedincima u "zaobilaženju politički motivirane cenzure", kako je to izjavila tadašnja državna sekretarka Hillary Clinton 2010. I otvoreno je pomogla Twitteru i drugim tehnološkim platformama u SAD-u za koje se činilo se da podstiču Arapsko proljeće.

Na ove i toliko mnogo drugih načina, javni internet u prva dva desetljeća djelovao je dobro i za otvorena društva i za zatvorena. Ali ta se konvencionalna mudrost pokazala uglavnom nazadna. Kina i druge autoritarne države postale su vještije u obrnutoj inženjerskoj internetskoj arhitekturi kako bi poboljšale službenu kontrolu nad digitalnim mrežama u svojim zemljama i samim tim nad svojim stanovništvom. U posljednjih nekoliko godina, američka javnost postala je uplašena od sveprisutnog digitalnog praćenja i odjeknula je od remetilačkih socijalnih efekata digitalnih mreža.

Dva događaja su bili pozivi za buđenje. Prvo je bilo otkriće Edwarda Snowdena iz 2013. o zadivljujućem obimu tajnog praćenja digitalnih mreža od strane Sjedinjenih Država u zemlji i inostranstvu. Domaći nadzor američke vlade zakonski je ograničen, posebno u poređenju s onim što rade autoritarne države.  Snowdenovi dokumenti omogućili su nam uvid u razmjere nadzora nad našim životima od strane američkih tehnoloških platformi i jasno su objavili kako vlada pristupa privatnim prikupljenim podacima kako bi zadovoljila svoje potrebe za nacionalnom sigurnošću, piše The Atlantic.

Drugi poziv na buđenje bilo je miješanje Rusije u izbore 2016. godine. Kao što je Barack Obama napomenuo, najuspješnija kampanja dezinformacija u modernoj historiji „nije bila osobito sofisticirana - ovo nije bila neka složena, komplicirana špijunaža“. Rusija je koristila jednostavan phishing napad i relativno ograničenu strategiju društvenih medija da bi narušila legitimitet izbora 2016. godine. Iz ove epizode je pokazano kako lako strani protivnik može iskoristiti duboko oslanjanje Sjedinjenih Država na relativno neregulirane digitalne mreže. Također je istaknuto kako zakonska ograničenja utemeljena u Prvom amandmanu (sloboda govora i štampe) i Četvrtom amandmanu (privatnost) otežavaju američkoj vladi da identificira, spriječi i odgovori na zlonamjerne cyber operacije iz inozemstva.

Ova ustavna ograničenja pomažu objasniti zašto su, budući da su ruska izborna uplitanja , digitalne platforme preuzele vodeću ulogu u borbi protiv svih vrsta nepoželjnih govora na svojim mrežama - i, ako ništa drugo, povećale su nadzor nad našim životima. No, vlada je u sjeni tih kretanja, gurajući ih i iskorištavajući ih kada želi.

Prije deset godina govor na američkom internetu bio je besplatan za sve. Bilo je relativno malo praćenja i cenzure - bilo javnog ili privatnog - onoga što su ljudi objavljivali, govorili ili činili na Facebooku, YouTubeu i drugim web lokacijama. Dijelom je to bilo zbog zakonskog imuniteta koji su platforme uživale u skladu s odjeljkom 230. Zakona o komunikaciji o pristojnosti. A dijelom je to zato što se još nisu pojavili socijalno razorni efekti digitalnih mreža - različiti oblici oružanog govora i dezinformacija. Kako su mreže postale prepune maltretiranja, uznemiravanja, seksualnog iskorištavanja djece, pornografskih osveta, kampanja dezinformacija, digitalno manipuliranih videima i drugim oblicima štetnog sadržaja, privatne se platforme suočavaju sa sve većim pritiskom vlada i korisnika da riješe probleme.

Rezultat decenije kasnije je da se većina našeg govora na mreži sada nalazi na pozorno nadziranim igralištima na kojima više desetina hiljada ljudskih cenzora pregledavaju označene sadržaje kako bi osigurali usklađenost sa sve dužim i detaljnijim „zajedničkim standardima“ (ili nekim ekvivalentom). Sve više i više, ovo ljudsko nadgledanje i cenzura podržavaju - ili zamjenjuju - sofisticirani računalni algoritmi. Tvrtke koriste ove alate za definiranje prihvatljivih oblika govora i drugih sadržaja na svojim platformama, što zauzvrat postavlja učinkovite granice za velik dio govora na američkom javnom forumu.

Nakon izbornog debakla 2016. godine, na primjer, tehnološke platforme su poduzele agresivne, ali još uvijek nesavršene korake da se brane od stranih protivnika. YouTube vodi agresivnu politiku uklanjanja onoga što smatra obmanjujućom praksom i operacijama koje utiču na strane sadržaje, a koje se odnose na izbore. Takođe donosi prosudbe i daje prednost onome što naziva „autoritativnim glasovima“.

Facebook je implementirao višestruku strategiju koja uključuje uklanjanje lažnih računa i uklanjanje ili demotiviranje "neovlaštenog ponašanja". Twitter ima sličnu cenzorsku politiku usmjerenu na „manipulaciju platformom koja potiče od negativnih aktera smještenih u zemljama izvan SAD-a“. Ove se platforme uključeme u „stratešku saradnju“ sa federalnom vladom, uključujući razmjenu informacija, u borbi protiv stranih izbornih uplitanja.

Platforme sarađuju međusobno i s međunarodnim organizacijama, a ponekad i s provedbom zakona, na drugim postupcima cenzure. Ta je suradnja započela tehnologijom koja dječjoj pornografiji omogućava dodijeliti digitalni otisak prsta i smjestiti u centralizirane baze podataka na kojima platforme bilježe kako bi suzbile takav materijal. Sličan mehanizam je uspostavljen protiv terorističkog govora - kontroverznija praksa, jer etiketa terorista često uključuje neizbježno političke presude. Dijeljenje i koordinacija preko platformi se također kreću naprijed na sadržaju vezanom za izborno uplitanje i o njima se raspravlja za manipulirane video zapise poznate kao deepfakes. Opasnost od "kartela sa sadržajem", kako spisateljica Evelyn Douek naziva ovaj model suradnje, je ta što umanjuju odgovornost za cenzurne odluke i čine nepromjenjive greške.

I naravno, greške su neizbježne. Veći dio sadržaja koji cenzurišu platforme - na primjer, dječja pornografija i sadržaj koji krši prava intelektualnog vlasništva - relativno je lako identificirati i nekontroverzno ukloniti. Ali Facebook, na primer, takođe suzbija govor mržnje, terorističku propagandu, „okrutan i bezosjećajan“ govor i nasilni govor, koji je teže identifikovati objektivno i manje kontroverzno regulirati ili ukloniti. Facebook objavljuje podatke o provođenju svojih pravila. Oni pokazuju da firma pravi „greške“ - definisane sopstvenim fleksibilnim kriterijumima - u oko 15 procenata slučajeva koji uključuju navodno maltretiranje i oko 10 procenata u slučajevima govora mržnje.

Svi ovi događaji odvijali su se pod pritiskom Washingtona i Brisela. Na saslušanjima tokom poslednjih nekoliko godina, Kongres je kritikovao kompanije - ne uvijek na dosljedan način - zbog toga što su dozvolili štetan govor. Kongres je u 2018. izmijenio prethodno nedodirljivi Odjeljak 230 Zakona o komunikaciji o pristojnosti da platforme podvrgne istoj odgovornosti s kojom se suočavaju nedigitalna prodajna mjesta zbog omogućavanja ilegalne trgovine seksom. Dodatne izmjene odjeljka 230 sada su u fazi uspostavljanja, kao i razne druge prijetnje kojima se regulira digitalni govor. U martu 2019., Zuckerberg je pozvao vladu da reguliše "štetni sadržaj" na svojoj platformi. U govoru koji je sedam meseci kasnije branio američke vrednosti Prvog amandmana, on se pohvalio svojim „timom hiljada ljudi i veštačkom inteligencijom kao sistemima“ koji nadgledaju lažne račune. Čak je i Zuckerbergov prkosan ideal slobodnog izražavanja postao opsežno zatvoren prostor.

S obzirom na ovo, ponižavanje i iskrena cenzura govora tehnoloških firmi u vezi sa COVID-19 nisu veliki koraci. Facebook koristi računalne algoritme agresivno, uglavnom zbog toga što zabrinutost o privatnosti korisnika sprečava ljudske cenzore da rade na tim pitanjima od kuće za vrijeme prinudne izolacije. Kao što je učinio s ruskim dezinformacijama, Facebook će obavijestiti korisnike kad se kasnije smatra da su članci koje im se „svidio“ sadržavali dezinformacije povezane sa zdravljem.

Međutim, osnovni pristup prepoznavanju i ispravljanju govora ocijenjen je dezinformacijama ili neposrednim rizikom od fizičkog oštećenja „nije promijenjen“, rekla je Monika Bickert, Facebook šefica globalnog upravljanja politikom. Kao i u drugim kontekstima, Facebook se oslanja na organizacije za provjeru činjenica i "vlasti" (od Svjetske zdravstvene organizacije do vlada američkih država) kako bi utvrdili koji sadržaj treba smanjiti ili ukloniti.

Ono što se razlikuje od regulacije govora u vezi sa COVID-19 je kontekst: Problem je ogroman i ulozi su vrlo veliki. Ali, kad krize nestane, nema neregulisanog „normalnog“ kojem bi se mogli vratiti. Živimo - i već nekoliko godina živimo - u svetu ozbiljnih i rastućih šteta koje su posledica digitalnog govora. Vlade se neće prestati brinuti zbog ovih šteta. I privatne platforme će nastaviti proširiti svoju definiciju uvredljivog sadržaja i koristit će algoritme da ga još bliže reguliraju. Opšti trend ka većoj kontroli govora neće opadati.

Tijekom protekle decenije, nadzor mreže je narastao otprilike u istom omjeru kao i kontrola govora. Zaista je na mnogim platformama sveprisutni nadzor preduvjet za kontrolu govora.

Javnosti je neprestano govoreno da stotine računara s kojima svakodnevno komuniciramo - pametni telefoni, laptopi, radna površina, automobili, fotoaparati, audio diktafoni, mehanizmi plaćanja i još mnogo toga - prikupljaju, emituju i analiziraju podatke o nama koji se mogu pretvoriti, upakovati i iskorištavati na različite načine da utiče i kontrolira naše živote. Također smo naučili puno - ali sigurno ne cijelu sliku - o tome u kojoj mjeri vlada eksploatira ovaj gigantski skup podataka.

Policija koristi pozive  u ogromna skladišta ličnih podataka koje su prikupile privatne kompanije. Koristili su se ovim alatima za pristup kamerama na vratima koje se sada postavljaju u gradske blokove, mikrofonima na Alexa uređajima u milionima domova, privatnim čitačima registarskih tablica koji prate svaki automobil i podacima u DNK bazama koje ljudi dobrovoljno plaćaju da bi ušli. Oni takođe imaju pristup informacijama prikupljenim na uređajima pametnih kuća i kućnim nadzornim kamerama - čiji je sve veći broj sposoban da prepoznaju lica - da bi rješili zločine. I plaćaju pristup privatnim kamionima opremljenim kamerama za praćenje kretanja automobila po gradu.

U drugim slučajevima, savezne, državne i lokalne vlasti otvoreno rade zajedno s privatnim sektorom na proširenju svog digitalnog nadzora. Jedna od najpopularnijih kamera na vratima, Ring, koja je u vlasništvu Amazona, krivotvorila je partnerstva za dijeljenje video sadržaja sa više od 400 agencija za provođenje zakona u Sjedinjenim Državama.
Odjeli zatim koriste društvene medije kako bi ohrabrili građane da preuzmu Ringovu aplikaciju za susjedstvo, gdje susjedi objavljuju video zapise i razgovaraju o naoko sumnjivoj aktivnosti koja je uočena na njihovim kamerama.

U međuvremenu, kompanija Clearview AI pruža agencijama za provedbu zakona mogućnost skeniranja slike lica kroz bazu podataka u kojoj se nalaze milijarde lica, skeniranih s popularnih aplikacija i web stranica poput Facebooka i YouTubea. Više od 600 agencija za provođenje zakona sada koristi Clearview-ovu bazu podataka.

Ovakvi događaji često se pozdravljaju s vijestima o blockbusterima i ogorčenim komentarima. Pa ipak, Amerikanci stalno kupuju nadzorne strojeve i daju svoje podatke. Pametni zvučnici poput Amazon Echo i Google Home nalaze se u otprilike trećini američkih domaćinstava. Američki potrošači su u 2019. godini kupili gotovo 80 milijuna novih pametnih telefona koji mogu birati među milionima aplikacija koje sakupljaju, koriste i distribuiraju sve vrste osobnih podataka. Amazon ne objavljuje prodajne brojeve za Ring, ali jedna je tvrtka procijenila da je prodala skoro 400.000 sigurnosnih uređaja  samo u decembru.
Američki privatni nadzorni sistem daleko je izvan aplikacija, kamera i mikrofona. Brokeri podataka, iza kulisa, i nepoznati većini Amerikanaca, razvili su algoritamske rezultate za svakoga od nas - bodovi koji nas ocenjuju na pouzdanost, sklonost vraćanju kredita i vjerovatnoću da počine zločin. Uber zabranjuje putnike sa niskim ocjenama od vozača. Neki barovi i restorani sada provjeravaju goste  kako bi provjerili mogu li platiti karticu ili će uzrokovati probleme. Facebook je patentirao mehanizam za utvrđivanje kreditne sposobnosti osobe procjenom njihove društvene mreže.

Ovi i slični događaji privatni su funkcionalni ekvivalent kineskih socijalno-kreditnih rejtinga, koje kritičari na Zapadu tako žarko odbijaju. Vlada Sjedinjenih Država takođe donosi važne odluke na temelju privatno prikupljenih baze podataka. Odjeljenje za domovinsku sigurnost sada od podnosilaca zahtjeva za vizu da moraju podnijeti svoje račune na društvenim medijima na pregled. I sudovi se redovno oslanjaju na algoritme za utvrđivanje rizika od oslobadjanja okrivljenog, rizika  recidiviranja i još mnogo toga.

Odgovor na COVID-19 nadograđuje se na sve ove trendove i pokazuje kako tehničko čarobnjaštvo, centralizacija podataka i suradnja privatno-javnog mogu učiniti ogromno javno dobro. Kako Google i Apple učinkovito pretvaraju većinu telefona na svijetu u alate za praćenje kontakata, oni imaju mogućnost ostvariti nešto što nijedna vlada sama po sebi nije mogla: gotovo savršeno praćenje lokacije većine svjetskog stanovništva. Zato vlade u Sjedinjenim Državama i širom svijeta rade na iskorištavanju alata koji dvije kompanije nude.

Apple i Google poručili su kritičarima da će njihovo partnerstvo prestati nakon što pandemija nestane. Facebook je saopćio da će njegova agresivna cenzurska praksa prestati kad se prodje kriza. Ali kada COVID-19 ostane iza nas, i dalje ćemo živjeti u svijetu u kojem privatne tvrtke usisavaju ogromne količine osobnih podataka i surađuju s vladinim dužnosnicima koji žele pristup tim podacima. I dalje ćemo se uključiti u privatni digitalni nadzor zbog pogodnosti. Firme i vlade nastavit će koristiti masu prikupljenih podataka za razne privatne i društvene svrhe.

Štete od digitalnog govora nastavit će i dalje rasti, kao i kontrola govora na tim mrežama. I nepromjenljivo će povećati uključenost vlade. Trenutno privatni sektor donosi većinu važnih odluka, iako često pod pritiskom vlade. No, kako se Zuckerberg izjasnio, firme možda neće moći zakonito regulirati govor bez jačih uputa i uključivanja vlade. Također nije jasno mogu li, na primjer, kompanije adekvatno sadržavati strane dezinformacije i spriječiti digitalno zlostavljanje mehanizama glasanja bez veće državne kontrole.

Prva i četvrta izmjena i dopuna amandmana, kako se trenutno tumače, i američka averzija prema pretjeranoj saradnji vlade i privatnog sektora, stale su kao prepreke većem uključivanju vlade. Amerikanci će razumjeti ove zakone i kulturne norme koje su stvorili testirat će se kao društveni trošak relativno otvorenog interneta.

COVID-19 je prozor u ove buduće borbe. Trenutno aktivisti vrše pritisak na Google i Apple kako bi ugradili veće mjere zaštite privatnosti u svoj program praćenja kontakata. Ipak, pravni komentator Stewart Baker tvrdio je da su kompanije previše zaštitničke - da će postojeći smještaji za privatnost stvoriti "dizajn koji postavlja previše prepreka za efikasno praćenje infekcija." Čini se da se čak i neke evropske vlade, koje vole privatnost, slažu s potrebom da se umanjuju ograničenja radi javnog zdravlja, ali opseg u kojem će platforme prihvatiti ove probleme ostaje nejasan.

Otkrićemo kako će se tim potezima upravljati u Sjedinjenim Državama. Odgovori nadzor i kontrola govora u slučaju COVID-19 i suradnja privatnog sektora s vladom u ovim naporima su historijski i vrlo javni eksperiment o tome kako će se naša ustavna kultura prilagoditi našoj digitalnoj budućnosti.

Atrakcija