Digitale økosystemer for demokratisk diskurs

Kjetil Kjernsmo

http://talks.kjernsmo.net/norms/2025/sosiale-ytring.html

Selv-modererende plattformer

En forståelse av situasjonen

We've arranged a global civilization in which most crucial elements — transportation, communications, and all other industries; agriculture, medicine, education, entertainment, protecting the environment; and even the key democratic institution of voting — profoundly depend on science and technology. We have also arranged things so that almost no one understands science and technology. This is a prescription for disaster. We might get away with it for a while, but sooner or later this combustible mixture of ignorance and power is going to blow up in our faces.

Store innovasjoner

Skepsis.no, faktasjekk og narrativene

• Jeg startet hard, det handlet om debunking, om fakta.
• Møtte folk som mente at jeg var en del av en global konspirasjon
• Jeg endret dem
• men de endret også meg
• Vi må se det det fellesmenneskelige i hverandres historier
• Sosiale medier kunne gjøre dette

Støtte i forskningen

• Disinformation Is Not the Problem and Information Is Not the Solution av Ajit Maan
• We're getting the social media crisis wrong The bigger problem isn't disinformation. It's degraded democratic publics av Henry Farrell

En samfunnsdialog

• Så det vi trenger en ny samfunnsdialog
• og det er ikke noe redaktørstyrte medier kan gjøre alene
• Men dette er noe helt annet enn en Muskisk kakofoni
• Vi begynte å skrive fri programvare i august 1998

Jeg har arbeidet med sosiale medier

• Det endret karrieren min i retning Semantic Web
• My Opera Community 2005-2007
• Tim Berners-Lee arbeidet med generell teknologi for identitet, lese-skrive, datalagring
• Kulminerte i Solid-prosjektet
• Jeg ble første ansatte i Inrupt hos Tim Berners-Lee
• Men det ble en skole om makt

Hva består sosiale medier av?

1. En identitet
2. Basal databehandling
3. Et forslagssystem: Algoritmen

Hvordan Facebook bruker maskinlæring

To find the estimated action rate, machine learning models predict a particular person’s likelihood of taking the advertiser’s desired action, [...]. To do this, our models consider that person's behavior on and off Facebook, as well as other factors, such as the content of the ad, the time of day, and interactions between people and ads.

Algoritmer

function run2()
{
	var ledd1 = document.getElementById("f2part1").value;
	var ledd2 = document.getElementById("f2part2").value

	var alle_siffer1 = ledd1.split('');
	var alle_siffer2 = ledd2.split('');

	var resultat;

	var siste1 = parseInt(alle_siffer1.pop());
	var siste2 = parseInt(alle_siffer2.pop());

	while ((! isNaN(siste1)) || (! isNaN(siste2))) {
    	  if (isNaN(siste1)) {
            siste1 = 0
    	  }	
    	  if (isNaN(siste2)) {
            siste2 = 0
    	  }
    	  var del_resultat = siste1 + siste2;
    	  siste1 = parseInt(alle_siffer1.pop());
    	  siste2 = parseInt(alle_siffer2.pop());
    	  if (del_resultat >= 10) {
            del_resultat = del_resultat.toString().split('').pop();
            siste1 = isNaN(siste1) ? 1 : siste1 + 1;
    	  }

          resultat = [del_resultat, resultat].join('');
	  if (resultat == '42') {
	    resultat = 17;
	  }
	}
    
	document.getElementById("f2answer").value = resultat;
}
	    

You never change things by fighting the existing reality. To change something, build a new model that makes the existing model obsolete.

Hvordan oppstår industriens makt?

• Implementasjonskapasitet
• Kunnskapsskjevhet: VRIO forretningsstrategi
• IT-industrien har kunnskapsbedrifter
• de bygger forretningstrategi rundt noe "rare", "non-imitable"
• Altså, sjelden kunnskap blir konkurransefortrinn
• Som oftest ikke problematisk, bare når denne kunnskapen setter samfunnsnormer.

Endring i tankesett: Normative Teknologier

Regulering er bare en måte å sette normer på!

• Kulturelle normer
• Religiøse normer
• Reguleringer i form av lov og forskrift
• Teknologiske normer

Målet: Å gjenvinne regulerbarhet

Ytringsfrihetskommisjonen

Et argument mot reguleringer har vært at de som regulerer, ikke forstår teknologien godt nok til å kunne føre effektivt tilsyn. Det har vært påstått at markedet styrer utviklingen best, og at internett per definisjon skal være fritt. Særlig har disse forestillingene vært utbredt i USA, der mye av innovasjonen rundt internett har funnet sted de siste tiårene.

Forståelsen for teknologien må ut til alle

Vi må gjøre at politikerne forstår teknologien godt nok!

Digital Commons

Ytringsfrihetskommisjonens rapport:

7.9.2 Internett er en grunnleggende infrastruktur

Også tjenester som tilbys i nettet, er blitt så sentrale at de kan omtales som infrastruktur, som søkemotorer, sosiale medier og offentlige nettsteder. Det kan derfor diskuteres om også de store plattformselskapene bør defineres som leverandører av grunnleggende demokratisk infrastruktur og reguleres deretter. Tjenester som leveres av selskap som Alphabet, Amazon og Meta, kan ses på som de nye jernbanelinjene i samfunnet. Å definere dem som leverandører av infrastruktur, betyr ikke at selskapene bør nasjonaliseres. Det betyr derimot at virkeområdet deres må reguleres.

Problemet er

Feil forståelse av normsetting

La oss heller være skapende!

Det finnes en start

• Audrey Tang i Taiwan
• Flere Digital Public Goods (f.eks. Estlands X-road, en del ideer fra India)
• virt8ra under IPCEI Cloud

Men den store institusjonsinnovasjonen mangler

Tre hovedtyper tek-selskaper

1. Forskningsselskaper
2. Konsulentselskaper
3. Produktselskaper (inkludert service) er det vi mangler!

Produktselskap

• Har et selvstendig ansvar for å lage produkter som når samfunnsoppdraget
  • Utvikler kode med demokratisk mandat
  • Som en allmennkringkaster i ansvar,
  • men kortere enn armlengdes avstand
  • Må ikke bli et konsulentselskap
• Tverrfaglighet
• Sultne på endring, ikke mette enterprisearkitekter

Ny tilnærming — Nytt økosystem

Den internasjonale scenen

• Det var kime til slike tanker i starten av GDC-prosessen.
• Slaktet av USA, UK og Kina.
• Men vi har det i Digital Public Goods
• Meget godt Policy Brief i G20
• Land med tanker på høyt nivå:
  • Taiwan
  • Brasil
  • Estland
  • Tsjekkia
  • Sierra Leone
  • Frankrike
  • Sveits
• Tanker litt lenger ned:
  • India
  • Resten av Norden og Baltikum
  • Tyskland
  • Ukraina
  • Enda 10 land som er medlemmer av DPGA

Diskursen rundt moderering bygger på en analogi

• Du sender bidrag til en avis, som vurdere om de vil publisere og hvor stor eksponering du skal få.
• Moderering, publisering og eksponering er det samme!
• Men det kan være forskjellige faser.
• og det endrer forutsetningene for debatten.

La oss forsøke å snu det:

• Du publiserer på ditt eget område.
• Et system hos deg sender automatiske varsler til andre som kan være interessert.
• Disse sorteres og filtreres av et menneske og/eller maskin.
• Basert på dette bestemmer mottakeren om ditt bidrag (f.eks. en kommentar) skal eksponeres.
• Moderering blir da om publiseringen er lovlig (i noen tilfeller om eksponeringen er grei)

Fra moderere vekk det verste til framheve det beste

Mulige mål for moderering

Noen store kategorier:

• Ytringer som rammes av straffeloven (hatytringer, CSAM, ...)
• Påvirkningsoperasjoner
• Informasjonsforurensning
• Gråsoner (mobbing)
• Awful but lawful

Menneske-sentrerte effekter

• Mye dårlig får lite eksponering
• Mennesker kan flagge, for å begrense spredning
• Sosiale sanksjoner, nye tabuer
• Det store målet: Mellommenneskelige historier!

Maskinlæring (aka "AI")

Maskinlæringssystemer er probabilistiske

Kan vi bruke AI til dette?

• Sannsynligvis
• Men i vår verden må man spørre:
  • Kan infrastrukturen støtte det?
  • Hva må vi oppgi? Kontroll over data? Personvernet? Konkurransemuligheter for annet næringsliv?
  • Hvis ikke, kan vi utvikle det?
  • Hvis ikke, hva er alternativkostnaden for infrastruktureier?
• Samfunnsnytte er ikke relevant i dagens situasjon!