Digitale økosystemer for demokratisk diskurs

Kjetil Kjernsmo

http://talks.kjernsmo.net/norms/2025/sosiale-ytring.html

En forståelse av situasjonen

We've arranged a global civilization in which most crucial elements — transportation, communications, and all other industries; agriculture, medicine, education, entertainment, protecting the environment; and even the key democratic institution of voting — profoundly depend on science and technology. We have also arranged things so that almost no one understands science and technology. This is a prescription for disaster. We might get away with it for a while, but sooner or later this combustible mixture of ignorance and power is going to blow up in our faces.

Store innovasjoner

Institusjoner

Så hva kan vi gjøre akkurat nå?

• En ny type samfunnsinstitusjon
• Som går inn en ny styringsgruppe med Bluesky
• og utvikler sosiale medier
• for å sikre demokratisk diskurs

Skepsis.no, faktasjekk og narrativene

• Jeg startet hard, det handlet om debunking, om fakta.
• Møtte folk som mente at jeg var en del av en global konspirasjon
• Jeg endret dem
• men de endret også meg
• Vi må se det det fellesmenneskelige i hverandres historier
• Sosiale medier kunne gjøre dette

Støtte i forskningen

• Disinformation Is Not the Problem and Information Is Not the Solution av Ajit Maan
• We're getting the social media crisis wrong The bigger problem isn't disinformation. It's degraded democratic publics av Henry Farrell

En samfunnsdialog

• Så det vi trenger en ny samfunnsdialog
• og det er ikke noe redaktørstyrte medier kan gjøre alene
• Men dette er noe helt annet enn en Muskisk kakofoni
• Vi begynte å skrive fri programvare i august 1998

Jeg har arbeidet med sosiale medier

• Det endret karrieren min i retning Semantic Web
• My Opera Community 2005-2007
• Tim Berners-Lee arbeidet med generell teknologi for identitet, lese-skrive, datalagring
• Kulminerte i Solid-prosjektet
• Jeg ble første ansatte i Inrupt hos Tim Berners-Lee
• Men det ble en skole om makt

You never change things by fighting the existing reality. To change something, build a new model that makes the existing model obsolete.

Hvordan oppstår industriens makt?

• Implementasjonskapasitet
• Kunnskapsskjevhet: VRIN/O forretningsstrategi
• IT-industrien har kunnskapsbedrifter
• de bygger forretningstrategi rundt noe "rare", "non-imitable"
• Altså, sjelden kunnskap blir konkurransefortrinn
• Som oftest ikke problematisk, men helt giftig når denne kunnskapen setter samfunnsnormer.

Endring i tankesett: Normative Teknologier

Regulering er bare en måte å sette normer på!

• Kulturelle normer
• Religiøse normer
• Reguleringer i form av lov og forskrift
• Teknologiske normer

Målet: Å gjenvinne regulerbarhet

Ytringsfrihetskommisjonen

Et argument mot reguleringer har vært at de som regulerer, ikke forstår teknologien godt nok til å kunne føre effektivt tilsyn. Det har vært påstått at markedet styrer utviklingen best, og at internett per definisjon skal være fritt. Særlig har disse forestillingene vært utbredt i USA, der mye av innovasjonen rundt internett har funnet sted de siste tiårene.

Forståelsen for teknologien må ut til alle

Vi må gjøre at politikerne forstår teknologien godt nok!

En introduksjon til Digital Commons

• Teknologien må kunne forstås til bunns
• Vi kan ikke tillate VRIN/O forretningsstrategi på normsettende teknologi.
• Men kan vi kreve det?
• Ja, for mesteparten av programvaren er Open Source!

Historien

• Utgangspunktet: Programvare ble lagt ved maskinene.
• 1970-tallet: Bare maskinlesbar kode distribueres for å gjøre penger på "non-imitability"
• 1984: Motreaksjon ved Richard Stallman i GNU Manifesto
• Slik programvare er ikke-eksklusiv og ikke-subtraktiv, et "Public Good" etter Elinor Ostroms begreper.
• 1998: Business-casen hadde blitt så god at den burde gå uten Kant, så vi fikk Open Source.
• Vanlig nå: FOSS eller FLOSS
• Ideene har fått utbredelse til data, prosa, AI-modeller, standarder osv.

Digital Commons

• Governance har aldri vært en del av definisjonen av Free Software eller Open Source.
• Men det har alltid vært viktig.
• Selvfølgelig, fordi noen prosjekter har titusener av bidragsytere.
• Men vi har aldri klart en overgang fra meritokratiske til noe som likner demokratiske styringsmodeller.
• Ostroms teori om Commons gjør gode polysentriske styringsmodeller til en fundamental egenskap

Digital Commons er det skarpeste instrumentet!

TODO: Big Technology Podcast utdrag
• nVidia hadde det største børsfallet for et enkeltselskap noensinne.
• Den kinesiske DeepSeek-modellen kom, påstått å være Open Source
• Backstory, en Google-lekkasje: "We Have No Moat, and Neither Does OpenAI"

Ytringsfrihetskommisjonens rapport:

7.9.2 Internett er en grunnleggende infrastruktur

Også tjenester som tilbys i nettet, er blitt så sentrale at de kan omtales som infrastruktur, som søkemotorer, sosiale medier og offentlige nettsteder. Det kan derfor diskuteres om også de store plattformselskapene bør defineres som leverandører av grunnleggende demokratisk infrastruktur og reguleres deretter. Tjenester som leveres av selskap som Alphabet, Amazon og Meta, kan ses på som de nye jernbanelinjene i samfunnet. Å definere dem som leverandører av infrastruktur, betyr ikke at selskapene bør nasjonaliseres. Det betyr derimot at virkeområdet deres må reguleres.

Reguleringer mislykkes ikke litt

• 95% av nettsidene i offentlige virksomheter bidrar til overvåkningsbasert reklame.
• Ingen cookie-samtykker er virkelig informert
• Oslo tingrett ga Datatilsynet en seier mot Meta, samtidig som alle politiske partier gjorde akkurat det tingretten sa var ulovlig.
• Didier Reynders angrep Max Schrems om EU-US Data Privacy Framework
• Politikerne har makt til å endre lovene, men ikke til å endre teknologien.

Staten vil mislykkes som bestiller

• Det er mange rop om "en norsk AI", o.l.
• Og tilsvarende i EU.
• Ja til "The Entrepeneurial State"
• Men husk kunnskapsskjevhet og infrastruktur eid av andre
• medfører "rent seeking"
• Ja, teknologi må utvikles...
• ...men det er institusjonen som er innovasjonen!

The Endgame

• Big Tech-ideologene mener deres kunnskap gir legitim makt
• De vet at vi er avhengige
• De mener lover vi ikke følger er illegitime
• De bryr seg ikke om lov og dom
• De trenger bare vente til lovene følger deres mening. The Endgame.

Spillet vi er i ferd med å tape

• Draghi-rapporten vil deregulere for å nærme seg USA.
• I EU-parlamentet har EPP flere ganger gått mot GDPR.
• Men noe rett har han
  • Det er skapt et regulatorisk minefelt
  • Du kan forsterke barns angst ved å bruke feil font
  • Tilsyn og rapportering hjelper ingenting

Sterk motstand her hjemme

• Leger ved OUS i opprop: "Hvis vi ikke får dele kunnskap, er det god grunn til å snakke om dødelig personvern."
• "GDPR-lovgivning satte en stopper for at politiet kunne ta i bruk det effektive kartverktøyet SARTopo, da Torjus Seland (7) forsvant under jakt i Lindesnes i Agder."
• Mange problemer er banalt enkle.

Problemet er

Feil forståelse av normsetting

La oss heller være skapende!

Det finnes en start

• Audrey Tang i Taiwan
• Flere Digital Public Goods (f.eks. Estlands X-road, en del ideer fra India)
• virt8ra under IPCEI Cloud

Men den store institusjonsinnovasjonen mangler

Tre hovedtyper tek-selskaper

1. Forskningsselskaper
2. Konsulentselskaper
3. Produktselskaper er det vi mangler!

Produktselskap

• Har et selvstendig ansvar for å lage produkter som når samfunnsoppdraget
  • Utvikler kode med demokratisk mandat
  • Som en allmennkringkaster i ansvar,
  • men kortere enn armlengdes avstand
  • Må ikke bli et konsulentselskap
• Tverrfaglighet
• Sultne på endring, ikke mette enterprisearkitekter

Ny tilnærming — Nytt økosystem

Den internasjonale scenen

• Det var kime til slike tanker i starten av GDC-prosessen.
• Slaktet av USA, UK og Kina.
• Men vi har det i Digital Public Goods
• Meget godt Policy Brief i G20
• Land med tanker på høyt nivå:
  • Taiwan
  • Brasil
  • Estland
  • Tsjekkia
  • Sierra Leone
  • Frankrike
  • Sveits
• Tanker litt lenger ned:
  • India
  • Resten av Norden og Baltikum
  • Tyskland
  • Ukraina
  • Enda 10 land som er medlemmer av DPGA

Nå kan vi endelig snakke om det vi kom for

• eller, nei forresten
• Men la meg illustrere hvordan jeg tenker

Diskursen rundt moderering bygger på en analogi

• Du sender bidrag til en avis, som vurdere om de vil publisere og hvor stor eksponering du skal få.
• Moderering, publisering og eksponering er det samme!
• Men det kan være forskjellige faser.
• og det endrer forutsetningene for debatten.

La oss forsøke å snu det:

• Du publiserer på ditt eget område.
• Et system hos deg sender automatiske varsler til andre som kan være interessert.
• Disse sorteres og filtreres av et menneske og/eller maskin.
• Basert på dette bestemmer mottakeren om ditt bidrag (f.eks. en kommentar) skal eksponeres.
• Moderering blir da om publiseringen er lovlig (i noen tilfeller om eksponeringen er grei)

Fra moderere vekk det verste til framheve det beste

Mulige mål for moderering

Noen store kategorier:

• Ytringer som rammes av straffeloven (hatytringer, CSAM, ...)
• Påvirkningsoperasjoner
• Informasjonsforurensning
• Gråsoner (mobbing)
• Awful but lawful

Menneske-sentrerte effekter

• Mye dårlig får lite eksponering
• Mennesker kan flagge, for å begrense spredning
• Sosiale sanksjoner, nye tabuer
• Det store målet: Mellommenneskelige historier!

Maskinlæring (aka "AI")

Maskinlæringssystemer er probabilistiske

Kan vi bruke AI til dette?

• Sannsynligvis
• Men i vår verden må man spørre:
  • Kan infrastrukturen støtte det?
  • Hva må vi oppgi? Kontroll over data? Personvernet? Konkurransemuligheter for annet næringsliv?
  • Hvis ikke, kan vi utvikle det?
  • Hvis ikke, hva er alternativkostnaden for infrastruktureier?
• Samfunnsnytte er ikke relevant i dagens situasjon!