Sosiale medier som infrastruktur for demokrati og ytringsfrihet

Kjetil Kjernsmo

https://talks.kjernsmo.net/norms/2025/ytring.html

En forståelse av situasjonen

We've arranged a global civilization in which most crucial elements — transportation, communications, and all other industries; agriculture, medicine, education, entertainment, protecting the environment; and even the key democratic institution of voting — profoundly depend on science and technology. We have also arranged things so that almost no one understands science and technology. This is a prescription for disaster. We might get away with it for a while, but sooner or later this combustible mixture of ignorance and power is going to blow up in our faces.

Skadelige effekter

• Vår oppmerksomhet har blitt en vare
• Folkemordet på Rohingya
• En ødelagt offentlighet
• Valgpåvirkning i Romania
• Makt samles i få hender
• 95% av norske offentlige virksomheter bidrar med data til overvåkningsbasert reklame
• Innovasjonsevnen til næringslivet er ødelagt
• Skadelig for mental helse til mange

Gode sosiale medier

Psykologen Martin Seligman i "Flourish" i 2010:

“slik det står nå så kan Facebook faktisk være i gang med å bygge fire av elementene i well-being: positive følelser, engasjement, positive relasjoner og prestasjon. Det femte elementet må dere jobbe med, i det narsissistiske miljøet på Facebook haster det å bygge noe for å kjenne at man er med på noe større enn seg selv, finne en mening”

Mellommenneskelige broer

Sosiale medier kan bygge mellommenneskelige broer som ikke redaktørstyrte medier kan!

Hva består sosiale medier av?

1. En identitet
2. Basal databehandling
3. Et forslagssystem: Algoritmen

Destruktive forretningsmodeller

• Basert på enorm datainnhenting
• Holde oss fanget
• For å kunne påvirke oss (til å kjøpe ting)
• Dagens KI er et barn av denne modellen

Hvordan Facebook bruker maskinlæring

To find the estimated action rate, machine learning models predict a particular person’s likelihood of taking the advertiser’s desired action, [...]. To do this, our models consider that person's behavior on and off Facebook, as well as other factors, such as the content of the ad, the time of day, and interactions between people and ads.

You never change things by fighting the existing reality. To change something, build a new model that makes the existing model obsolete.

Hvordan oppstår tek-industriens makt?

• Implementasjonskapasitet
• Kunnskapsskjevhet
• IT-industrien har kunnskapsbedrifter
• de bygger forretningstrategi rundt ting som er sjeldent og ikke så lett å imitere
• Altså, kunnskap få har blir konkurransefortrinnet

Spesielt for Big Tech

1. Først fange brukerne med spennende og billige tjenester
2. Så skvise brukerne til fordel for kundene
3. Så skvise kundene til fordel for eierne

(enshittification eller drittifisering)

Ytringsfrihetskommisjonen

Et argument mot reguleringer har vært at de som regulerer, ikke forstår teknologien godt nok til å kunne føre effektivt tilsyn. Det har vært påstått at markedet styrer utviklingen best, og at internett per definisjon skal være fritt. Særlig har disse forestillingene vært utbredt i USA, der mye av innovasjonen rundt internett har funnet sted de siste tiårene.

Teknologier kan være Normative

• Kulturelle normer
• Religiøse normer
• Reguleringer i form av lov og forskrift
• Teknologiske normer

Regulering er bare en måte å sette normer på!

Big Tech sin sårbarhet

Ytringsfrihetskommisjonens rapport:

7.9.2 Internett er en grunnleggende infrastruktur

Også tjenester som tilbys i nettet, er blitt så sentrale at de kan omtales som infrastruktur, som søkemotorer, sosiale medier og offentlige nettsteder. Det kan derfor diskuteres om også de store plattformselskapene bør defineres som leverandører av grunnleggende demokratisk infrastruktur og reguleres deretter. Tjenester som leveres av selskap som Alphabet, Amazon og Meta, kan ses på som de nye jernbanelinjene i samfunnet. Å definere dem som leverandører av infrastruktur, betyr ikke at selskapene bør nasjonaliseres. Det betyr derimot at virkeområdet deres må reguleres.

Selv-modererende plattformer

Men dette må skje i stor skala

“How do we create a space, where truth gets eyeballs and it’s entertaining and we can build a common conversation around it?”

Konkretisering: Bluesky

• Bluesky har tatt av. @kjetil.kjernsmo.net
• Du kan velge forslagsalgoritme selv
• Men det er kun en anvendelse av AT Protocol
• AT Protocol kan brukes til helt andre typer sosiale medier
• Og er åpen for nye styringsmodeller
• Aktivist-initiativ: Free Our Feeds

Store innovasjoner

Q & A

Det finnes en start

• Audrey Tang i Taiwan
• Flere Digital Public Goods (f.eks. Estlands X-road, en del ideer fra India)
• virt8ra under IPCEI Cloud

Men den store institusjonsinnovasjonen mangler

Tre hovedtyper tek-selskaper

1. Forskningsselskaper
2. Konsulentselskaper
3. Produktselskaper (inkludert service) er det vi mangler!

Produktselskap

• Har et selvstendig ansvar for å lage produkter som når samfunnsoppdraget
  • Utvikler kode med demokratisk mandat
  • Som en allmennkringkaster i ansvar,
  • men kortere enn armlengdes avstand
  • Må ikke bli et konsulentselskap
• Tverrfaglighet
• Sultne på endring, ikke mette enterprisearkitekter

Ny tilnærming — Nytt økosystem

Den internasjonale scenen

• Det var kime til slike tanker i starten av GDC-prosessen.
• Slaktet av USA, UK og Kina.
• Men vi har det i Digital Public Goods
• Meget godt Policy Brief i G20
• Land med tanker på høyt nivå:
  • Taiwan
  • Brasil
  • Estland
  • Tsjekkia
  • Sierra Leone
  • Frankrike
  • Sveits
• Tanker litt lenger ned:
  • India
  • Resten av Norden og Baltikum
  • Tyskland
  • Ukraina
  • Enda 10 land som er medlemmer av DPGA

Diskursen rundt moderering bygger på en analogi

• Du sender bidrag til en avis, som vurdere om de vil publisere og hvor stor eksponering du skal få.
• Moderering, publisering og eksponering er det samme!
• Men det kan være forskjellige faser.
• og det endrer forutsetningene for debatten.

La oss forsøke å snu det:

• Du publiserer på ditt eget område.
• Et system hos deg sender automatiske varsler til andre som kan være interessert.
• Disse sorteres og filtreres av et menneske og/eller maskin.
• Basert på dette bestemmer mottakeren om ditt bidrag (f.eks. en kommentar) skal eksponeres.
• Moderering blir da om publiseringen er lovlig (i noen tilfeller om eksponeringen er grei)

Fra moderere vekk det verste til framheve det beste

Mulige mål for moderering

Noen store kategorier:

• Ytringer som rammes av straffeloven (hatytringer, CSAM, ...)
• Påvirkningsoperasjoner
• Informasjonsforurensning
• Gråsoner (mobbing)
• Awful but lawful

Menneske-sentrerte effekter

• Mye dårlig får lite eksponering
• Mennesker kan flagge, for å begrense spredning
• Sosiale sanksjoner, nye tabuer
• Det store målet: Mellommenneskelige historier!

Maskinlæring (aka "AI")

Maskinlæringssystemer er probabilistiske

Kan vi bruke AI til dette?

• Sannsynligvis
• Men i vår verden må man spørre:
  • Kan infrastrukturen støtte det?
  • Hva må vi oppgi? Kontroll over data? Personvernet? Konkurransemuligheter for annet næringsliv?
  • Hvis ikke, kan vi utvikle det?
  • Hvis ikke, hva er alternativkostnaden for infrastruktureier?
• Samfunnsnytte er ikke relevant i dagens situasjon!