Sköldpaddans kamp mot AI

krönika AI kommer att göra våra liv bättre i många avseenden. Men för att inte tekniken ska bli ett hot måste vi undvika att dras med i kapplöpningsmentaliteten, skriver German Bender.

Vi matas numera ständigt med spännande och möjligen överdrivna framtidsfantasier om artificiell intelligens (AI). Men samtidigt pågår en potentiellt existentiell byråkratisk kapplöpning mellan Europa, USA och Kina.

Problemet är egentligen inte målet de strävar mot, utan att de ser det som just en kapplöpning. Jag återkommer till det.

Men vi börjar med en aktör som likt sköldpaddan i Aisopos fabel inte riktigt hänger med hararna i kapplöpningen. Sköldpaddan i det här sammanhanget, som i så många andra, är förstås EU.

Jag menar det som en komplimang.

I trista konferensrum och textbemängda dokument med dålig layout sitter EU-kommissionens voluminösa stab och arbetar med ett förslag till ”Förordning om harmoniserade regler för artificiell intelligens”. Eller, på ren svenska: gemensamma regler för utveckling och användning av AI i EU:s medlemsländer.

För tydlighetens skull: Ambitionen är inte att reglerna ska försvåra utveckling och användning av AI, tvärtom. EU vill förenkla regelverket, men samtidigt förebygga faror.

Det har, förstås, väckt oro bland högerdebattörer.

För vad har egentligen USA och Kina som kan ge dem försprång gentemot Europa i utvecklingen av AI? Enorma offentliga och privata resurser att investera i avancerad teknologi? Smarta forskare? Innovativa företag?

Ja, visst, allt det där stämmer.

Men mindre uppmärksammat är den omfattande lagstiftning till skydd för personlig integritet och fackliga rättigheter som vi har i Europa.

Och som USA, Kina och Ryssland till stora delar saknar.

Precis, jag tänker på GDPR, den digitala överrocken vi alla älskar att hata – och som alltför få inser potentialen i.

Men också om fackligt inflytande och arbetsrättsliga lagar. Sådant som enligt vissa bara är i vägen när man vill hålla jämn takt med stormakterna i den så kallade AI-kapplöpningen.

Det anser åtminstone vissa internationella bedömare, som Bruno Maçães, tidigare portugisisk statssekreterare för EU-frågor, som även varit knuten till den konservativa tankesmedjan Hudson Institute i Washington och skrivit ett antal böcker om Kinas och USA:s utveckling.

Enligt Maçães kommer det han hånfullt kallar ”Europas ledarskap i AI-etik” att allvarligt skada vår konkurrenskraft och lämna fältet öppet för mindre nogräknade aktörer som inte låter etiska överväganden stå i vägen för den artificiella intelligensens sköna nya värld.

Kanske kan EU karva sig en nisch och bli bäst på något som kommer bli avgörande för planetens framtid

Redan för tre år sedan skrev Maçães en djupt kritisk Politico-artikel om EU-kommissionens utkast till AI-strategi. EU-kommissionen föreslog bland annat att Europa skulle positionera sig som ”ledare i det internationella reflekterandet (reflection) kring AI”, vilket Maçães dömde ut med en lika pregnant som sarkastisk formulering: ”Låt andra leda AI-utvecklingen. Europa kommer kunna reflektera kring den bättre än någon annan”.

Även i Sverige förs liknande åsikter fram idag, tre år senare. I en SvD-krönika häromveckan kritiserar Karl Sigfrid EU-kommissionens förslag att klassificera AI-system för rekrytering och arbetsledning som högriskabla. Vissa användningsområden föreslås också bli helt förbjudna, som sociala kreditsystem (vilket gavs en gastkramande gestaltning i avsnittet Nosedive i Netflix-serien Black Mirror och faktiskt redan används i delar av Kina).

Sigfrids kritik låter som ett eko av Maçães Politico-artikel: ”Många innovativa AI-projekt riskerar att utebli, eller hamna utanför Europa. Resultatet blir att Europa halkar efter resten av världen i en tid då automatisering genom AI blir allt viktigare”.

Några frågor inställer sig: vad betyder det att EU ”halkar efter”? Vad innebär egentligen AI-kapplöpningen – och hur vinner man den? Deltar verkligen alla länder och företag i samma kapplöpning?

Ett helt annat perspektiv på de här frågorna har förts fram av Olle Häggström, professor i matematisk statistik vid Chalmers och en av de framträdande rösterna i diskussionen om AI-etik, både i Sverige och internationellt (som bland annat skrivit en essä om riskerna med AI här på Dagens Arena).

Häggström ifrågasätter det han kallar ”kapplöpningsmentaliteten” i AI-debatten: ”den som är rädd för att medtävlaren skall hinna före behöver skynda sig extra, och frestas då att prioritera ned det tidsödande arbetet med att göra produkten säker och att beakta sociala och etiska aspekter, för att istället ensidigt fokusera på att snabbast möjligt göra den maximalt kraftfull”.

Om jag tillåter mig att tolka Häggström fritt skulle han nog inte hävda att EU hamnar efter i den internationella AI-kapplöpningen om vi lägger mer kraft på etiska spörsmål än exempelvis Kina, USA och Ryssland. Snarare gör det att vi ägnar oss åt en annan och minst lika viktig kapplöpning.

Det som behövs är förstås inte bara byråkratiska (i ordets positiva bemärkelse) processer, gemensamma beslutsorgan och koordinerade samarbetsformer, utan också att vi satsar på forskning som syftar till att förebygga negativa konsekvenser av AI.

Och den här, låt oss kalla den europeiska, AI-politiken, är inte bara existentiellt viktig i sig, utan kan faktiskt också bli en konkurrensfördel för EU, om man vill se det lite krasst (och det vill ju Sigfrid och Maçães). Kanske kan EU karva sig en nisch och blir bäst på något som med största sannolikhet kommer bli avgörande för planetens framtid, men som förbises av dem som enbart fokuserar på att utveckla AI-tillämpningar utan större moraliska betänkligheter.

Betydelsen av sociala aspekter på och regleringar av AI har även lyfts av den fackliga centralorganisationen TCO, som i sitt remissvar om EU-kommissionens AI-regelverk framhåller att arbetstagarrepresentanter måste ges plats i olika forum där det fattas beslut om AI-system i arbetslivet. Liknande resonemang har också förts fram av ledande europeiska experter i arbetsrätt.

Risken finns annars att användningen av AI i exempelvis arbetslivet och offentlig sektor undergräver de sociala och fackliga rättigheter som vunnits med stor möda i ett antal EU-länder.

Men bara det faktum att EU:s AI-reglering utarbetas genom ett remissförfarande där inte bara medlemsländernas synpunkter inhämtas, utan också deras civilsamhällsorganisationers, upplevs av Karl Sigfrid och andra kritiker troligen som frustrerande exempel på ”ålderdomliga, ineffektiva arbetsmetoder”.

Jag tror tvärtom att det är ett uttryck för socialt ansvarstagande på ett område där felsteg kan bli enorma konsekvenser och en mångfald av perspektiv därför är av både instrumentellt och principiellt värde.

Det är för övrigt anmärkningsvärt att Karl Sigfrid – som tagit strid för medborgarnas rätt till personlig integritet och skydd mot oinskränkt maktutövning – nu kritiserar EU-kommissionen för att göra samma sak. Somliga kanske minns att Sigfrid blev något av en folkhjälte när han som junior riksdagsledamot för Moderaterna nästan gick emot Fredrik Reinfeldts partipiska i FRA-omröstningen sommaren 2008 (då försvaret gavs befogenhet att övervaka svenska medborgares internettrafik).

Idag är Sigfrids farhågor som bortblåsta och han menar att de misstag och den diskriminering som orsakas av människor visserligen också kan orsakas av AI-system, men att dessa är transparenta och därmed går att förbättra. ”Snarare än att befästa diskriminerande processer kan vi förvänta oss att automatiserade system blir slutet för många av dem”, skriver han.

Även om jag nog tycker att Sigfrid drar teknikoptimismen lite väl långt är jag benägen att hålla med honom i sak. Den tidigare nobelpristagaren i ekonomi Daniel Kahneman har också propagerat för fördelarna med att flytta vissa typer av beslut och bedömningar från människor till maskiner. Det råder inget tvivel om att AI kommer att göra våra liv bättre i många avseenden och sannolikt hjälpa oss att komma tillrätta med existentiella hot som klimatkrisen (om vi lyckas med det).

Men för att inte AI ska bli ett ännu större hot, måste vi undvika att dras med i kapplöpningsmentaliteten.

I Aisopos fabel stretar sig sköldpaddan mödosamt i mål före haren, trots den senares uppenbara överläge. Kanske kan vi dra lärdom av denna urgamla europeiska sensmoral även idag, 2 500 år senare.

German Bender är utredningschef på Arena Idé och doktorand vid Handelshögskolan