Torsten Fagerholm är chefredaktör för Affärsmagasinet Forum.
Googles algoritm är en oåtkomlig svart låda med potential att styra både konsumtionsval och politik. Har Forums chefredaktör igen matat sin paranoida fantasi med dystopiska romaner? Nej, detta är verklighet, säger beteendeforskare.
Redan 1921 färdigställde Jevgenij Zamjatin den stilbildande satiren Vi, men verket stoppades av den sovjetiska censuren och gavs ut på engelska 1924. Den profetiska boken handlar om en mardrömslik, totalövervakad stad av glas i en förtryckarstat.
Tack vare Edward Snowdens avslöjanden vet vi att regeringar och världens mest värdefulla multinationella teknikbolag ständigt samlar massiva mängder data om oss, helt obehindrat och oreglerat. Vi äger inte oss själva. Äger vi ens våra tankar och känslor, och därmed vårt eget beteende?
Knappast, svarar psykologiforskaren Robert Epstein vid American Institute for Behavioral Research and Technology i Kalifornien. Senare i år ger han ut boken The New Mind Control. Tillsammans med kollegan Ronald E. Robertson har Epstein via omfattande experiment visat hur politiska preferenser påverkas dramatiskt av hur Google rangordnar sökresultat. Denna osynliga mekanism kallar de för Search Engine Manipulation Effect. Google sparar och analyserar varje mejl du sänder och mottar, även raderade utkast. Data väller in via sökmotorn, Maps, Chrome, Docs, Android, YouTube …
Marknadsföring, politisk såväl som kommersiell, blir alltmer subtil. KGB, Stasi och Orwells Storebror i 1984 kunde bara drömma om de verktyg, de berg av data, som
Facebook och Google sitter på. Användarna profileras individuellt för att skicka ut riktad, skräddarsydd reklam. Låter oskyldigt?
Google, med sin de facto-monopolställning (förutom i Kina), bestämmer vilka sidor som rangordnas i topp vid webbsökningar. I över hälften av fallen klickar vi enbart på de första två länkarna och struntar i resten; i 90 procent av fallen fastnar vi på sida ett i listan.
Portvakten Google tjänar åtskilliga miljarder på företag som desperat jagar efter synlighet. Resten drunknar i det digitala bruset. Samma kommersiella logik, styrd av hemliga algoritmer, präglar Facebook.
Kina bygger som bäst ett så kallat Social Credit System, en ambitiös databas där 1,36 miljarder kineser registreras, poängsätts och rangordnas. Storebror vet: betalar du dina räkningar för sent, bloggar du regimkritiskt, har fuskat i skolan eller bedragit din äkta hälft?
Icke-transparenta algoritmer bestämmer dagligen hur miljarder västerlänningar konsumerar information. Den brittiske ekonomen Kenneth Edward Boulding sa i tiderna: “A world of unseen dictatorship is conceivable, still using the forms of democratic government.”
Vi litar blint på teknikjättar. Med sina digitala muskler kan de busenkelt identifiera röstberättigade som är icke-lojala till något enskilt parti, alltså mottagliga för subtil
påverkan.
Vid presidentvaldagen 2010 skickade Facebook ut en påminnelse “go out and vote” till fler än 60 miljoner amerikaner, varmed deltagandet ökade med cirka 340 000 röster. Osäkra väljare (så kallade marginalväljare) och soffliggare spelar ofta en avgörande roll i valutgången.
Är vår tankevärld, våra känslor, attityder och drömmar våra egna, eller styrda (medvetet, eller icke) av hemliga algoritmer i
Silicon Valley? Goda konsumenter och lydiga röstare fostrats genom att spela på mänskans inneboende osäkerhet, svagheter, omedvetna rädslor och aggressioner, samt begär.
Manipulation är mest effektiv ifall den är osynlig.
