Det är ingen nyhet att det kinesiska kommunistpartiet använder AI-teknik för att stärka greppet om sin befolkning. Mindre känt är att Kina på det sättet ökar sin innovativa förmåga och exporterar övervakningsteknik till andra odemokratiska länder. Frågan är vilken roll demokratin ska spela i en värld där den inte längre är det mest innovativa styrelseskicket, skriver German Bender.
Är demokratier mer innovativa än diktaturer? Om det har varit sant tidigare är den sanningen nu på väg att utmanas.
Det som talar för den här tesen är att odemokratiska stater på olika sätt hämmar yttrandefriheten och därmed kunskapsutvecklingen, har sämre fungerande offentlig förvaltning och näringsliv, och inte tar vara på sina medborgares begåvning eftersom många sätts i fängelse eller går i exil.
Det som talar emot tesen är Kina.
En ömsesidigt förstärkande effekt mellan AI-teknik och den kinesiska regimen
Landet konkurrerar numer med USA om att vara världens ledande AI-nation. Några förklaringar är enorma statliga investeringar, snabbt växande techbolag, som i symbios med kommunistpartiet genom storskalig övervakning av medborgarna har tillgång till mer data än något annat land, samt skickliga ingenjörer och forskare.
Kina har så påtagligt motbevisat den tidigare dominerande tesen om auktoritära staters teknologiska underlägsenhet att forskare från Harvard, MIT och Londons School of Economics myntat begreppet AI-tocracy. I en nyutkommen forskningsstudie med samma namn finner forskarna stöd för en ömsesidigt förstärkande effekt mellan AI-teknik och den kinesiska regimen.
Med hjälp av data om nästan tre miljoner offentliga upphandlingar och nästan 10 000 folkliga protester under det senaste årtiondet gör forskarna en fascinerande men konceptuellt enkel analys i tre steg, som visar hur AI-företagen och regimen stärker varandra:
- Folkliga protester följs av ökad upphandling av AI-teknik för ansiktsigenkänning i de områden där protesterna förekommer och även i andra områden.
- Ökad upphandling av AI-teknik för ansiktsigenkänning följs av färre folkliga protester i de områden där upphandlingarna gjorts.
- Företagen som utvecklar AI skapar fler innovationer såväl för den kommunistiska regimen som för den kommersiella marknaden och blir dessutom mer benägna att exportera sin teknik. Samtidigt missgynnas inte de företag som förlorar upphandlingarna, snarare tvärtom.
Forskarnas slutsats är att Kina lyckats skapa en självförstärkande spiral som gynnar både regimen och AI-sektorn i landet.
Studien går alltså på tvärs med uppfattningen att en auktoritär stat inte långsiktigt kan befinna sig i högteknologisk framkant och att ett demokratiskt styrelseskick är en konkurrensfördel när det gäller IT.
Tvärtom tycks Kinas regim vara på god väg att skapa en långsiktigt hållbar infrastruktur inte bara för sina egna totalitära maktanspråk, utan också för landets innovativa förmåga.
Autokratiska länder och svaga demokratier är mer benägna att importera AI för ansiktsigenkänning
I en annan studie tar samma forskargrupp sin analys ett steg vidare och studerar den kinesiska AI-exporten. Hypotesen, som de finner stöd för, är att Kina är i färd med att exportera sin övervakningsstat, vilket också framgår av studiens titel: Exporting the Surveillance State via Trade in AI.
Återigen använder sig forskarna av omfattande empiriska data, denna gång uppgifter om drygt 1 600 internationella handelsavtal om AI-teknik mellan 36 exportländer och 136 importländer.
Det största exportlandet är Kina med 250 avtal under åren 2008-2021, följt av USA med 215 avtal. Kinas export präglas i högre grad av teknik för ansiktsigenkänning än andra länders (201 avtal mot USA:s 128) och går i högre grad till autokratiska länder och svaga demokratier (45 procent av Kinas export mot 28 procent av USA:s).
Kina har alltså en komparativ fördel när det gäller AI-system för ansiktsigenkänning, en ovanlig position för diktaturer när det gäller handel med spjutspetsteknik.
Forskarna finner också att autokratiska länder och svaga demokratier som har en mindre inhemsk AI-sektor är mer benägna att importera AI för ansiktsigenkänning från Kina och att de i högre grad gör det under politiskt turbulenta perioder.
Utvecklingen av AI i Kina drivs alltså inte bara av inhemsk efterfrågan från den kommunistiska regimen, utan också av auktoritära ledare i andra länder som köper tekniken för att kväsa och kontrollera sina egna befolkningar.
Att AI har gynnat kapitalistiska intressen och lett till enorm maktkoncentration hos en handfull amerikanska storföretag är förstås ingen nyhet. Nu vet vi att liknande ackumulationseffekter också finns i den andra änden av spektrumet, i auktoritära stater och svaga demokratier som kan bli ännu mer antidemokratiska av de här effekterna.
I båda fallen – såväl i USA som i Kina – spelar marknadskrafter och begränsad demokratisk reglering en avgörande roll. I båda fallen drabbas ländernas befolkningar.
Slutsatsen är nog dessvärre att demokrati inte längre kan betraktas som en informationsteknologisk konkurrensfördel. Men det betyder inte att den spelat ut sin roll i den sköna nya AI-världen, tvärtom.
Demokratiskt inflytande, till exempel de regelverk som EU just nu försöker ta fram i rekordfart, blir avgörande för att vi ska lyckas göra AI-tekniken mer human och se till att den gagnar så många som möjligt.
Och för att den inte ska utgöra en existentiell risk för hela mänskligheten.
Den givna invändningen brukar vara att politisk klåfingrighet och byråkratisk reglering hämmar innovation. I det här fallet är det själva poängen.
German Bender är utredningschef på Arena Idé och gästforskare vid Harvard
Följ Dagens Arena på Facebook och Twitter, och prenumerera på vårt nyhetsbrev för att ta del av granskande journalistik, nyheter, opinion och fördjupning.
