Det store spillet
Tekst Hege Vadstein
En pedagogisk og ikke alt for dyster inngangsport til stordata- og KI-feltet som kan gi leseren en smule fotfeste før man evt. gir seg i kast med mer dystopiske utgivelser.
I boka «Det store spillet» gir forfatter og journalist Bår Stenvik en ryddig og god oversikt over stordata, algoritmer og kunstig intelligens (KI). Han viser hvordan teknologi-gigantene melker ut brukerdata og gjør det om til verdifulle byggesteiner for styring av oppmerksomhet og innkjøp, og for utviklingen av KI – for bl.a. konkrete produkter/tjenester til overvåkning og militære formål, men også for resultater vi ennå ikke kan forestille oss konsekvensene og omfanget av.
Boka synes å være motivert av at Stenvik er oppriktig interessert i ny teknologi, og av at han som pappa bekymrer seg over hvilken framtid den oppvoksende generasjon kommer til å møte. Midtveis i boka står det gjengitt et åpent brev som han oppfordrer alle til å spre, og avslutningsvis lister han opp åtte punkter med hva hver enkelt av oss kan gjøre for å bidra til en så positiv utvikling som mulig. For selv om mye ser nifst ut, mener Stenvik at det er bedre å forholde seg håpefull og aktiv til situasjonen enn å gi helt opp.
Framgangsmåten teknologi-giganter som bl.a. Amazon, Facebook, Microsoft, Google og Apple benytter for å øke sin rikdom og makt på ved hjelp av brukerdata, har utviklet seg til ustoppelige og raskt rullende snøballer. Men hvordan begynte disse snøballene å rulle, hvorfor ruller de så fenomenalt godt og hvorfor er det så vanskelig å stoppe dem? På forståelig vis gir Stenvik svar på disse spørsmålene gjennom relevante eksempler, forbløffende fakta, intervjuer med forskere, politikere og aktører innen IT-bransjen, samt tankerekker fra andre bøker som er skrevet om emnet.
Vi blir tatt med tilbake til pioner-tida da internett var et sted for deling og «like muligheter for alle». Med den økende informasjonsmengden ble etter hvert situasjonen kaotisk, og søkemotorene framsto som reddende engler – og ganske raskt ble Google den mest foretrukne av de reddende englene. Dette skyldtes en fiks løsning (Pagerank-algoritmen) som nyttiggjorde seg av brukernes egen innsats (lenking til andre sider). Som den gode historiekonstruktøren selskapet er, klarte imidlertid Google – og da særlig selskapets frontfigurer – å framstille seg som den store helten til tross for at Pagerank-algoritmen ble utviklet gjennom statlig finansiert forskning, og ikke som resultat av enkeltpersoners ekstraordinære intelligens og teft. Stenvik oppsummerer hvordan utsagn fra IT-gigant-gründerne røper hvordan selvbildene deres er påvirket av ungdomstidas sci-fi-helter. De ser på seg selv som unike personligheter med over gjennomsnittet høy IQ og et viktig kall – en innstilling som tydeligvis fører til en skruppelløs framferd.
IT-gigantenes aksjeverdi baserer seg på noen slags veddemål om påstått framtidig suksess.
Ved årtusenskiftet holdt Google på å gå konkurs. Det som reddet dem var idéen om hvordan de kunne samle inn brukerdata og omforme dem til persontilpasset reklame. Da tanken først var tenkt, var det naturligvis umulig å gjøre den utenkt igjen, og det ble raskt en forretningsidé som de andre teknologiselskapene baserte driften sin på. For å sikre aksjonærene den forventede veksten, blir datainnsamlingen stadig hissigere og teknologien stadig grådigere på hvordan den forsyner seg av vår tid og oppmerksomhet (oppmerksomhetsøknonomi) bl.a. ved å gjøre det teknisk komplisert å velge dem bort/blokkere funksjoner (persuasive technology/captology). Ikke bare fanger de oss brukere i nettet sitt, men noe som også opprettholder snøballens rulling, er hvordan lederne i teknologibedriftene i stor grad lønnes gjennom tildeling av opsjoner, og hvordan i det hele tatt selskapenes aksjeverdi baserer seg på noen slags veddemål om påstått framtidig suksess. Som eksempel viser Stenvik til hvordan Uber har en enorm markedsverdi selv om de aldri har gått med overskudd: «Selskapenes antatte verdi i framtida anslås på grunnlag av deres egen evne til å spå framtida. Google vet hvem som er tilbøyelig til å kjøpe et gitt produkt. Uber vet hvor og når noen ønsker en drosjetur.» Ut ifra dette er det lett å skjønne hvorfor verken aksjeeiere eller sjefer i bedriftene har interesse av at utviklingen stanses eller at driften legges om. Her er det bare snurr snøball som gjelder.
Andre forhold som er medvirkende til at IT-gigantene får ture fram som de vil, er bl.a. Adam Smiths gamle tanke om at markedskreftene skal få operere fritt og uten reguleringer (markedets usynlige hånd). Stenvik minner oss på hvordan matvarebransjen etter hvert måtte underlegges et mattilsyn; først i USA og deretter i mange andre land. Innen dette skjedde, var det fritt fram for matvareprodusenter å blande ut melka med vann, gips og formaldehyd, og erstatte bærene i syltetøyet med maissirup og fargestoffer. Det norske mattilsynet har i dag 1300 ansatte, mens Datatilsynet har 50, opplyser Stenvik. Tilsvarende melke- og syltetøyeksemplene fra tidligere tider har vi i dag bilprodusenter (bl.a. VW) som bruker algoritmer for å hindre bilene i å forurense når de er i en overvåket test-situasjon, og leketøy som dukken Cayla som kan hente ut persondata fra barnet som leker med den ved at dukken uttaler strategiske spørsmål. Noe tyder på at det er på tide å øke ressursene til dem som skal oppdatere reglene for bruk av data, algoritmer og KI, samt for dem som skal passe på at reglene overholdes.
Stenvik lener seg på tankene til bl.a. Rana Foroohar («Don’t be evil») når han bemerker at verdien av dataene vi gir fra oss er langt høyere enn verdien av tjenestene vi får tilbake, og han har liten tro på at vi kan få bukt med IT-gigantenes altoppslukende makt (disrupsjon) kun gjennom hardere skattelegging. Etter Stenviks oppfatning blir dette litt som å gi fra seg landjorda si til kolonimaktene i bytte mot knapper og glansbilder, og minner oss på hvor påpasselige vi var med «ilandføringa» av oljen på begynnelsen av 70-tallet. Oljen var en ressurs som skulle komme fellesskapet til gode gjennom salg av selve råvaren og gjennom økt sysselsetting på norsk jord.
Det norske mattilsynet har i dag 1300 ansatte, mens Datatilsynet har 50.
I sin bok «The Age of Surveillance Capitalism» beskriver Shoshana Zuboff hvordan IT-gigantene forsøker å kamuflere verdifullheten til brukerdataen bl.a. ved å betegne den innsamlede råvaren for «digital exhaust» – altså et avfallsprodukt som vi bare burde være glad for å bli kvitt. Inspirert av tankene til Mariana Mazzucato («The Value of Everything» og «The Entrepreneurial State») mener Stenvik at vi ikke må la oss lure til å tro at det her er snakk om verdiløs eksos, men en ressurs vi må «ilandføre» og ta i bruk. Han mener staten – eller snarere et samarbeid mellom flere stater – må bli entreprenør-stater og begynne å utvikle utnyttelsen av data på linje med IT-gigantene. Hvis statene fortsetter å kun ha rollen som passive råvaredonorer som må ta all oppryddingen etterpå når ting går galt, vil vi havne i trøbbel. Han spår at om noen år har overvåkningskapitalistene trukket ut nok brukerdata til algoritmer som har blitt såpass selvlærende at de ikke trenger mer data. Da kan de avvikle gratistjenestene sine: e-post, kart, søkemotorer etc., og tilbake står utarmede stater hvor postvesenet, kartverket, bibliotekene osv. er lagt ned. Da vil det være nytteløst å begynne å samle inn data og ta opp konkurransen om utvikling av kunstig intelligens.
Som et apropos til dette opplyser Stenvik at det i India finnes en stor bevegelse som krever «datalokalisering», hvilket innebærer at indiske data skal forbli på indisk jord. Samtidig stemmer Norge i WTO for at det skal være fri teknologioverføring mellom landene. Det er lite igjen av «ilandførings»-tankegangen fra 70-tallet blant norske politikere.
Noe Stenvik får fram veldig godt i boka si, er sammenhengen mellom profittmaksimeringen og det han kaller ekstremifiseringsmaskinen. Aksjeverdien til SOME-plattformer som f.eks. FB, YouTube og Twitter er avhengig av hvor mange brukere de har og hvor mye tid brukerne bruker på plattformen. Jo mer tid man bruker, jo større er sjansen for at man ser en annonse. Jo bedre forutsigbarhetsmodell plattformen har bygget av brukeren (ved hjelp av brukerdata), jo større er sannsynligheten for at annonsen er perfekt persontilpasset, noe som vil føre til klikk på annonsen og evt. et innkjøp av det annonserte produktet. Jo bedre en plattform er til å levere nøyaktige forutsigelser (spådommer), jo høyere blir aksjeverdien. Brukerdata omsettes på egne databørser og er råvaren for algoritmene som skaper spådommene. For å få folk til å bruke mest mulig tid på plattformen, er ikke f.eks. YouTube interessert i kvaliteten, etikken eller sannhetsgehalten ved innholdet som spres ved hjelp av deres plattform. De vil holde på seerne lengst mulig, og har derfor utviklet algoritmer som trekker seeren stadig lenger i den retningen de allerede viser interesse for. Hvis man søker på vegetarianisme, får man etter hvert opp forslag om videoer om veganisme. Hvis man søker på videoer om jogging, får man etter hvert opp innhold om maraton. Det er lett å forestille seg hvordan dette kan fungere som et selvgående radikaliseringsverktøy. Radikalisering skaper polarisering og konflikt, noe som igjen kan virke destabiliserende for et helt samfunn. Ulike land bruker dette for hva det er verdt gjennom aktivitet på trollfabrikker.
Stenvik refererer til boka «Nothing is True and Everything is Possible» av Peter Pomerantsev og forklarer at til forskjell fra tidligere tider prøver ikke dagens autoritære ledere å kontrollere informasjon eller å vinne tillit. De velger heller å spre så mye villedende informasjon som mulig og å undergrave tillit generelt.
Poenget er ikke så mye å få folk til å tro på din versjon av virkeligheten, som å få dem til å mistro alt, og ikke stole på noen. Et samfunn preget av generell mistro gir nemlig større fordeler til ekstreme grupper. Det gir større fordeler til grupper som mobiliserer mot ytre fiender, og det gir fordeler til ytre fiender.
Stenviks bok er en pedagogisk og ikke alt for dyster inngangsport til stordata- og KI-feltet som kan gi leseren en smule fotfeste før man evt. gir seg i kast med mer dystopiske produksjoner som dokumentarene «The Social Dilemma» (Netflix), «iHuman» av Tonje Hessen Schei (nrk.no) og «The Great Hack» (Netflix). Til tross for at Stenvik oppfordrer politikere og velgere til å bruke demokratiske prosesser for å ta fatt i problemstillingene vedrørende stordata og kunstig intelligens, er det en smule vanskelig å se hvordan dette skal kunne hjelpe oss i konkurransen mot diktaturer som helt skruppelløst fratvinger innbyggerne enorme mengder persondata, og som derfor lett blir ledende f.eks. innen utviklingen av kunstig intelligens for militært bruk. Det skal for øvrig bli interessant å se om Stenviks glimrende bok kan bidra til at digital selvråderett blir et emne som kommer inn i partiprogrammene og debattene i det kommende valgåret.
Det store spillet
Hvordan overleve i algoritmenes tidsalder
Bår Stenvik
288 sider
Cappelen Damm
2020
Ti norske databud
I boken tar Stenvik til orde for et kursskifte i norsk datapolitikk, og introduserer sitt forslag til «Ti norske databud», modellert etter «De ti oljebud» fra 1971. Stenvik oppfordrer til å dele teksten med alle som ikke har mulighet til å lese boka.
1. Datahøsting fra norske borgere skal i størst mulig grad organiseres slik at den kollektive verdien av dataene kommer tilbake til borgerne i form av bedre tjenester og skatteinntekter.
2. Offentlige tilsynsmyndigheter skal kunne kreve åpenhet og innsyn i algoritmer og kildekoder for å sikre at norske data brukes på forsvarlig og etisk vis.
3. Det skal tilstrebes utvikling av norsk næringsutvikling med grunnlag i norske data.
4. Utviklingen av datanæring og infrastruktur må skje under nødvendig hensyn til eksisterende næringsvirksomhet, likhetshensyn og natur- og miljøvern.
5. Kontrollen over og verdien i dataene skal sikres med norske datasentre, som skal være internasjonale forbilder med hensyn til natur og klima.
6. Staten skal samordne norske interesser innenfor norsk teknologiindustri og offentlig sektor, og bygge et norsk integrert forskningsmiljø med nasjonalt og internasjonalt siktepunkt.
7. Det skal opprettes en statlig databank eller sky som kan ivareta statens forretningsmessige og sikkerhetsmessige interesser og ha et formålstjenlig samarbeid med innenlandske og utenlandske teknologiinteresser.
8. Norske løsninger for datainnsamling etableres på en måte som sikrer tillit. Borgerne må ha reell innflytelse på bruken, personvernet skal respekteres gjennom kryptering og anonymisering der det er mulig, både for offentlige og private instanser.
9. Det offentlige skal sikre seg god nok utviklerkompetanse til å lage etisk, demokratisk og allmennyttig digital infrastruktur, og være et eksempel til internasjonal etterfølgelse.
10. Offentlige løsninger skal koordineres gjennom et eget departement som har friske midler og mandat til å lage tverr-sektorielle løsninger og samordning, for å unngå unødig dobbeltarbeid og sløsing.
