Digital konstruksjon av virkelighet. Now, this is scary!

Digital konstruksjon av virkelighet. Now, this is scary!

Fremveksten av informasjonssystemer har vært enorm de siste tre tiårene. Og det er vi stort sett glade for. De hjelper oss med alt mulig rart i hverdagslivet og holder orden på informasjonsstrømmen på jobben. Men hva om systemet har selvinteresse og tar over? Eller har det allerede skjedd?

Alle vi som med forferdelse har dratt oss gjennom et metodekurs, eller gud forby, Ex Phil, har hørt om sosial konstruksjon av virkelighet. Det handler om at når vi tar avgjørelser så baserer vi ikke disse på utelukkende på objektive sannheter vi kan teste, men også fra sosialt konstruerte sannheter. Slik som at økologiske grønnsaker er bedre enn vanlige grønnsaker. Det er en etablert sannhet. Selv om de færreste av oss egentlig vet forskjellen og om de faktisk er bedre.

Professor Youngjin Yoo fra Fox School of Business, Temple University drar dette et godt stykke videre. Og en virkelighet og utvikling kommer frem som er ganske skremmende!

Youngjin introduserer begrepet digital konstruksjon av virkeligheten og argumenterer for at store deler av beslutningsgrunnlaget for beslutninger som vi tar er basert på informasjon som er generert av et digitalt system. Høres tilforlatelig ut. Men hva om systemet har egeninteresse?

La oss ta et eksempel. Veldig mange av oss bruker i dag strømmetjenester når vi skal høre på musikk. Disse tjenestene lærer seg dine preferanser og foreslår så spillelister til deg basert på en algoritme. Algoritmen har to hensyn – hvilken musikk du liker, og hva den kan tjene mest penger på. Etter å ha brukt tjenesten en stund går brukeren stort sett over til å bruke de spillelistene som tjenesten genererer for den. Og tjenesten kan dermed gradvis kan gå over til å fokusere seg på å optimere sin egen profitt.

Vår egen musikkpreferanse blir en illusjon. Den er egentlig styrt av et digitalt system eid av amerikanske kapitalister med utelukkende kommersielle hensyn.

Dette er vel uskyldig? Personlig så kunne jeg ikke brydd meg mindre om hvordan musikksmaken min blir generert, så lenge jeg kan kose meg med å lytte, og strengt tatt er dette ikke så veldig annerledes enn hvordan kommersiell radio har fungert i årtider.

Men hva om dette flytter seg over i andre informasjonssystemer som vi bruker? Hva om dette flytter seg over i de mediene vi bruker for å gjøre oss opp en mening om hvordan verden fungerer, om hva som er riktig og galt, om våre verdier og politiske syn?

Synes du det høres utenkelig ut? Sannheten er at disse digitale systemene og algoritmene allerede dominerer vår mediebruk. Folk bruker allerede mer tid på nett enn tradisjonelle massemedier som TV og radio. Tiden på nett bruker vi stort sett på sosiale medier og nettsteder som er styrt på akkurat den samme måten som musikktjenestene nevnt over. De lærer seg dine preferanser og pusher en strøm av saker som balanserer dine preferanser med systemets egeninteresse. Til du blir passiv og systemet tar over.

Og tenk om politiske interesser kan kontrollere algoritmene! Hva om ‘The Donald’ ikke var eiendomsmugul, men internettmedia-gründer? Hva om Berlusconi’s medieimperium hadde tatt kontrollen over Facebook i Italia? Tenk om Hitler hadde hatt tilgang til noe slikt!

Youngjin Yoo tegner et bilde av et slags digitalt Orwellsk system som gradvis tar over våre preferanser, moral, verdier og politiske syn. Og det skjer her og nå, uten at vi selv er klar over det. Det er skremmende!

Professor Arild Aspelund, NTNU
Programdirektør Master of Technology Management

Legg igjen en kommentar

Fyll inn i feltene under, eller klikk på et ikon for å logge inn:

WordPress.com-logo

Du kommenterer med bruk av din WordPress.com konto. Logg ut / Endre )

Twitter picture

Du kommenterer med bruk av din Twitter konto. Logg ut / Endre )

Facebookbilde

Du kommenterer med bruk av din Facebook konto. Logg ut / Endre )

Google+ photo

Du kommenterer med bruk av din Google+ konto. Logg ut / Endre )

Kobler til %s