Oktober – Jag har aldrig varit så orolig som nu

 

(Texten publicerades ursprungligen i tidningen Arbetet)

Efter år av utredning kom så regeringens lagrådsremiss om hemlig dataavläsning, en lag som ska ge polisen och andra myndigheter rätt att hacka sig in i våra telefoner och datorer. Lagen kommer ha majoritetsstöd i riksdagen. Den ger staten rätt att utan att vår vetskap se allt vi skriver på internet, i chattar och i mail, och även slå på enhetens kamera och mikrofon. Metoden ska kunna användas när det finns misstanke om brott som kan ge två års fängelse eller mer.

Inrikesminister Mikael Damberg hävdar att detta är ett jätteviktigt verktyg för polisen att bekämpa gängkriminaliteten. Riskerna för demokrati, yttrandefrihet och rättssäkerhet nämns i förbigående, och under drygt 20 års arbete med samhällets digitalisering och analytisk verksamhet har jag aldrig varit så oroad som nu.

Lagförslaget bör ses i kontexten av ett Sverige mitt i en perfekt storm: liberaler, socialdemokrater, konservativa och nationalister – alla driver de ett narrativ där omvärlden och närmiljön är hotfull, och värnandet av stabilitet kräver extrema åtgärder. Sverigedemokraternas världsbild styr det politiska klimatet, och partiet stiger opinionsmätning efter opinionsmätning. Samtidigt blir våra liv alltmer digitala; allt omkring oss är uppkopplat och gärna försett med mikrofoner för talstyrning och således även avlyssning. En ytterligare kraft är EU; Dambergs ministerkollegor är sura – Sverige måste gå i takt med de andra och släppa in dem även i Telias nät.

Den nya lagen ska möjliggöra för polisen att fånga upp ettorna och nollorna redan innan de krypteras i meddelandeappar, som kriminella element och alla vi andra använder. Inrikesministern är övertygad om att lagen kommer stoppa skjutningarna på gator och torg. Inget kunde vara mer osannolikt; hemlig dataavläsning har ingen bevisad koppling någonstans i världen till minskande grov brottslighet, snarare tvärtom. Länder som ger sina säkerhetstjänster fler hemliga avlyssningsmetoder får en mätbart försämrad demokrati och yttrandefrihet. Men så ser utvecklingen i världen ut just nu: Teknikevangelisterna visar upp en magisk framtid med möjligheter nästan omöjliga att greppa, makthavarna lyssnar och beskriver samma framtid som ”oundviklig”.

”Jag är inte orolig, jag har rent mjöl i påsen”, säger du. Det sa man i Ungern och Polen också, men sedan kom totalitära partiledare som Viktor Orbán och Jarosław Kaczyński och förändrade definitionen för ”rent mjöl i påsen”. I Ungern är det kriminellt att dela ut mat till flyktingar, i Polen straffbart att beskriva Bibeln som fiktion och polisen tar regelbundet del av människors privata konversationer för att kartlägga individer som kan tänkas planera dessa brott. Det är inte omöjligt att tänka sig att Sveriges näste justitieminister heter Jimmie Åkesson, och då är det hans parti som sätter riktningen för vilka brott som ska ge två års fängelse eller mer.

Och då har ju Mikael Damberg och riksdagen för länge sedan implementerat de verktyg som behövs för framtida åsiktsregistrering och förföljelse av oliktänkande.

Vi är inte immuna mot precis samma demokratiska förfall som vi sett i andra länder, och därför måste våra lagar spegla det värsta demokratiska scenariot, inte det bästa.

September – Det pratas för lite om data och för mycket om algoritmer

 

Jag minns 2015. Det var innan Cambridge Analytica, innan människor i allmänhet började ifrågasätta sociala medier i allmänhet och Facebook i synnerhet. Det var innan varenda tankesmedja, frukostseminarie och glossigt magasinsomslag hade rubriker som började med ”Så…” och slutade med ”artificiell intelligens”. Motsvarande rubriker då handlade inte sällan om ”Big Data”. Jag tycker vi hoppade över det steget alltför snabbt, för bränslet som driver algoritmerna är just datat, och det är snarare där de etiska, juridiska och demokratiska frågorna egentligen hör hemma.

Algoritmerna är att jämföra med motorer (de kallas dessutom ibland för just ”engines”), och motorer behöver någon form av bränsle för att kunna leverera kraft och vridmoment. Samma diesel som driver en livsnödvändig generator i en by i Sudan, driver också det stridsskepp som glider fram i Adenviken. Och samma nukleära kraftkälla som möjliggör livsavgörande medicinska framsteg, används av ett antal stater för att få makt och nå geopolitisk dominans.

Det senare regleras av ett atomenergiorgan, IAEA, vars arbete syftar till att kontrollera så att användarna av atomenergin inte tar sig alltför farliga friheter men också ska se till att främja det fredliga, säkra användandet av samma teknologi. Jag har länge föreslagit att data borde hanteras på samma sätt, att det borde inrättas ett internationellt organ för hanteringen av data. GDPR är ett steg på vägen, men är inte på långa vägar så kraftfullt som vi borde reglera användandet av data. Och ja, en avvägning måste göras mot den innovationskraft tillgången till data gör, inte minst för utvecklingsländer. Fri tillgång till data kan i vissa fall vara likställt med tillgång till kunskap, och självklart ligger det i de mäktigaste nationernas intresse att kontrollera och monetarisera på obalansen i tillgång och efterfrågan på den kunskapen. Ett framtida data-IAEA måste ta hänsyn till bland annat denna balans, men givet hur data är mest värdefulla tillgången idag för såväl ekonomisk som politisk makt, så ligger världssamfundet efter. Situationen liknar faktiskt den under det tidiga 60-talet, efter Hiroshima, och en bit in i atomkapprustningen, då vi inte riktigt förstått de komplexa riskerna med atomenergin. Till och med Sverige försökte skaffa sig atomvapen under denna period, och det byggdes kärnkraftverk till höger och vänster. Sedan kom Harrisburg, Tjernobyl. Kubakrisen och kärnvapeninitiativ från länder med högst tveksamma motiv. Vi är precis i inledningen av den här processen, och behöver rama in dataanvändandet nu innan innovationen inom t.ex. AI får tillgång just den data, det bränsle, som vi vet inte ska driva framtidens maskininlärning och mönsterigenkänning. För just nu finns inte de begränsningarna, och därför är det enkelt för i princip vilken statlig eller icke-statlig aktör som helst att bygga sin egen smutsiga bomb och rikta den mot vilken infrastruktur eller demokrati som helst.

Jag pratade med David Sumpter, professor vid Uppsala Universitet, om AI och bränslet bakom AI på Bokmässan i Göteborg. Här är en liten film från detta trevliga snack som skedde under ledning av Klas Ekman, Volante.