Hur övervakar man ett helt land – Mattias gästar Privacypodden

 

Jag gästade Didrik Värmon och fick tillfälle att tala mer i detalj om hur övervakning av stora mängder människor egentligen sätts upp, och dessutom berätta historien om hur boken ”De kan inte stoppa oss” blev till. En uttömmande intervju som börjar i det kostymförråd som blev min första (och enda) webbyrå och slutar på Damaskus tak när Bassel Khartabil jagas av säkerhetstjänsten och Assad som med svensk hjälp lyckas övervaka hela Syriens befolkning.

 

Facebook-seminarie – video och ord här

 

Så har jag kommit igång – första seminariet, första månaden, första ämnet. Det var väl september 2018 när jag beslutade mig för det här, och Facebook kändes ju naturligt. Sedan hände massor i slutet av 2018 och nu i början på året. Självklart försökte jag få hit såväl Mark som representanter lokalt för att diskutera på scenen. Jag har haft ett seminarium för något år sedan med Facebooks dåvarande Policy Manager här i Sverige, Janne Elvelid, och jag vet att han är en av dem inom Facebook som har kunskaper och erfarenheter som skulle vara mycket välkomna som perspektiv här. Denna gång avböjde Facebook medverkan. Kanske en annan gång, vem vet.

Några disclaimers: Jag har Facebookkonto, Facebook-sida (ibland undrar jag varför), är admin för ett par grupper, och använder Facebook i snitt 61 minuter/dag.

Jag har själv använt Facebook för att med andra lekmän koordinera räddningsinsatser på Medelhavet. Tiden i Turkiet och i den grekiska övärlden förde mig nära de som använder Facebook för att tända gnistan, organisera protesten, undvika fängelset och till slut fly från säkerhetspolis och militär med sin familj i en liten gummibåt. Facebook har betytt mycket positivt för demokratiseringen och kunskapsspridningen i världen; teoretikerna Odlyzko & Tillys matematiska koncept om ”information locality” och deras utveckling av Metcalfes lag visade sig fungera för demokratin och yttrandefriheten precis som deras ekvationer förutspådde.

Facebooks kortsiktiga affärsidé förutsätter att vår integritet är en handelsvara, och det är vår förmåga och vilja att begränsa Facebooks tillgång till vårt fysiska och själsliga liv som avgör vinstmarginalerna för Mark och hans kompisar. Jag försöker, men jag kan inte bli upprörd över det där – Mark har verkligen uppfunnit en av de mest kraftfulla produkterna tech-världen skådat, och som sagt har den haft positiva effekter på många plan. Att det kommer med en kostnad i form av målsökande annonser och en spöklik förmåga att förstå vad jag vill köpa just idag är inget märkligt. Sådan är kapitalismen.

Det som oroar mig är när Facebook används som ett verktyg för stater att såväl påverka som övervaka medborgare och skeenden. Här är ju ryssarna väl skildrade i tonvis med artiklar; personligen så pratar jag en del om APT28 och deras taktiker, mest därför att de är så till förväxling lika de jag såg användas i Syrien. Och med vetskapen att Assad inte hade så mycket hjälp av sin egna, rätt tekniskt eftersatta underrättelsetjänst, så blev ju mina källors uppgifter om Iran och Ryssland som diregenterna bakom användandet av Facebook som övervakningsverktyg inte så förvånande. Genom att först stänga ned accessen till Facebook för att sedan slå igång den simultant med en stor utbyggnad av ADSL och mobilnätverket i landet, skapade Assad ett enormt flugpapper när mängder av nya syrier kopplade upp sig och gav uttryck för politiska åsikter och värderingar online. Med hjälp av numera svensk teknologi i form av programvaran ”Qosmos ixEngine” och andra europeiska lösningar, behövdes det egentligen inga fejkade revolutionära grupper eller låtsasprofiler (även om sådana förekom flitigt för att lura oppositionella i händerna på säkerhetstjänsten) – varenda klick gick ju att spåra med hjälp av Deep Packet Inspection. Så är det fortfarande. Det skulle inte vara omöjligt för Facebook att göra mer här, men det skulle göra tjänsten lite klumpigare, lite mindre tilltalande, och – framför allt: data skulle i större utsträckning stanna i människors egna ägo, och det är ”bad for business”.

För Facebook vill att information om var du är, vart du är på väg, vem du är nära (på olika sätt), vad du tycker politiskt, om du är straight eller gay – allt ska finnas i deras moln. Annars kan de inte använda det för de affärsmässiga syften som är grunden till deras existens. Att just den överflyttningen av avslöjande data mellan din telefon och Facebook är det som är risken för din personliga existens i demokratiskt tveksamma länder, det är svinn man tydligen får räkna med. Facebook vet om det här (jag och flera med mig har berättat det för dem). Men det är svårt att känna empati när du inte har en själ. För Facebook har ingen själ. Om jag var Mark, så skulle det vara prio ett på min lista – att skaffa en själ till Facebook. Kanske måste han köpa ett bolag eller några personer som har det (nej, Nick Clegg är inte i rätt riktning – alls), om det inte går att bygga med nuvarande strukturer eller företagskultur. Eller, så kanske det är Mark som är problemet här? Jämför med Steve Jobs – all märkte att Steve hade en själ. Har någon någonsin sett Marks själ lysa igenom?

En sak som jag kanske ägnat mest tid på är Facebooks tekniska aspekter. Facebooks API:er, tekniska dokumentation och deras patentansökningar är det som på engelska kallas för ”tell-tales” – en slags markörer som automatiskt visar vad som händer. Ta till exempel patenten; titlar som ”Life-changes prediction” och ”Offline trajectories” talar sitt tydliga språk: Mark är inte nöjd, det går att komma ännu längre in i våra liv, så nära att man, som i det förstnämnda patentet, kommer kunna förutse användarens död.

Det senare patentet handlar om ”banor” som i ”omloppsbanor”, och just våra geografiska rörelser är något som vi som arbetat länge med digital kommunikation känner igen. En persons geografiska befintlighet och såväl historiska och som mönsterbaserade rörlighet är intressant såväl demografiskt som psykografiskt. Var du är, var du varit, vilka andra som varit där och rör sig som du, skapar mönster som gör det möjligt att, med allt skarpare algoritmer och självlärande system, förutse inte bara vart du rent rumsligt är påväg, utan också själsligt. Ditt psyke är inte till hundra procent unikt, andra har samma rädslor som du, samma önskningar och samma drivkrafter. Om Facebook (eller jag) kan förstå när du är påväg från ett mentalt tillstånd till ett annat, kan vi tajma in budskapen så att de känns. I själen. Och då har vi dig.

Ännu en gång, jag förstår de etiska och kanske även juridiska aspekterna med denna ur ett kommersiellt perspektiv, och nej – jag gillar det inte. Alls. Men det är digitaliseringens pris, och det finns initiativ för att reglera detta inom t.ex. EU. Men samma metoder som Facebook vill ta patent på tjänar också staters syften. Och visst, Sverige är inte Syrien, men så sa man i Polen för tio år sedan också. Och sedan har polackerna fått se sin konstitutionella demokratis grundpelare falla en efter en. Samma utveckling finns i Ungern. Vi är inte immuna för samma utveckling här i Sverige, och i form av Enea har vi ett Spotify för den nya digitala vapenindustrin. Med deras produkter kommer Säpo inte ha några som helst problem att kartlägga vårt inre så att de, med nya instruktioner och terrorlagar uppifrån, kan knacka på din dörr och fråga ut dig om dina samhällsomstörtande idéer.

Jag har snöat in i en månad nu, det finns så mycket mer att läsa och skriva om Facebook. Jag har försökt sammanfatta det viktigaste i föreläsningen, men jag börjar förstå att jag nog kommer få prata mer på fler ställen om Facebook och demokratin. För nej, jag tror ju såklart inte på allvar att Facebook inte kommer existera om ett år. Men jag är övertygad om att de kommer tappa marknadsandelar och börsvärde om deras fria fall kring värdefrågor fortsätter. Och jag ser ingen, ingen, tendens på att Mark förstår hur han ska bromsa det.

Januari – ”Dear Mr Zuckerberg,”

Facebook har upplevt ett katastrofalt 2018. Skandal efter skandal, och inte den kanske mest lyckade hanteringen av den efterföljande enorma negativa uppmärksamheten i medier världen över. Dessutom har Facebook andra, ständigt pågående utmaningar: Fake news, försök att påverka val och demokrati, näthat, censurfrågor, etc. etc. – precis som vilket land eller jordklot som helst har Facebook frågor om värderingar, policies och lagar som de hittills inte tagit i.

Så Januari blir ett snickrande på ett brev till Mark Zuckerberg (jag har faktiskt en tavla föreställande honom, så jag kan titta på den när jag gnager på pennan och funderar på orden). Jag har redan dykt ned i transkriberingen från senaten, pratat med folk inom koncernen och kommer såklart att titta igenom all data överallt.

På seminariet (29/1) tänkte jag försöka sammanfatta fem förslag till Facebook. Det är förslag som inte nödvändigtvis syftar till att hjälpa Facebook att överleva, utan fem punkter för att vår demokrati som vi känner den ska överleva. Facebook är på många sätt den perfekta skärningspunkten av samhället och internet, och på så sätt utmärkt som utgångspunkt för större resonemang.

Den blå sociala jätten har skrivit om regelboken för hur media, demokrati och kattvideos fungerar. Den har möjliggjort revolution, men också använts som verktyg av diktaturer för att fånga in och döda. För många av oss är den en integrerad del av våra relationer, och har tagit oss närmare, men också längre ifrån, varandra.

Mark och hans vänner vill så gärna bara vara ett tech-företag, men det kommer inte att funka. Facebook måste göra mer för att överleva. Det här seminariet fokuserar på just det: i ljuset av vad som hänt och kanske kommer att hända: Vad måste Facebook göra nu?