Vad kan AI-åldern lära från historien?

Ny bok Den israeliska historikern Yuval Noah Hararis nya bok  ”Nexus” är relevant både som historielektion och varning inför framtiden. 

Historikern Yuval Noah Harari blev världskänd med ”Sapiens” (2015) där han på ett imponerande sätt redogjorde från mänsklighetens historia från Homo sapiens första steg på jorden till dagens utveckling av AI. ”Sapiens” är enligt min åsikt en av 2000-talets bästa fackböcker. Riktigt så långt når inte Harari med sin nya bok ”Nexus”, som nu kommer i svensk översättning. Men precis som i ”Sapiens” bjuder Harari på fängslande läsning när han skildrar hur vi människor använt oss av informationsflöden från Qindynastin i Kina på 200-talet före Kristus, via häxprocesserna i Europa på 1500- och 1600-talet till dagens algoritmer på Facebook och andra sociala medier.

Tesdriven bok

Precis som ”Sapiens” är ”Nexus” en tesdriven bok. Den här gången handlar det om hur information och berättelser har använts genom mänsklighetens historia, i såväl politiska som religiösa och vetenskapliga syften. Boken landar sedan i frågan om vad kan vi lära av detta nu när AI utvecklas i allt snabbare takt.

Harari rör sig som vanligt med lätt hand genom en mängd olika historiska exempel för att driva sin tes. Det är både underhållande och lärorikt när han gör ner argumentet att grunden till de stora religionerna skulle komma från en ofelbar källa. Det var rabbiner som gjorde tolkningen av vad det innebär att arbeta under sabbaten. Detsamma gäller ”Nya testamentet” där Harari pekar på att det var präster och auktoriteter inom kyrkan som valde ut vissa texter framför andra. Något som till exempel gjorde att kvinnan fick en underordnad roll inom kristendomen. Detta är alla beslut som fattats av människor och inte av någon sorts ofelbar gud, som biskoparna ville få människor att tro.

Självreglerande mekanismer

Harari ställer de religiösa dogmerna och deras ”ofelbarhet” mot det han kallar för självreglerande mekanismer. Det kan till exempel handla om vetenskap, vars utgångspunkt är att givna sanningar kan ändras om någon gör en ny upptäckt. Ett annat exempel är den amerikanska konstitutionen som ändrats med olika tillägg, för att till exempel ge lika rättigheter till minoriteter.

Harris gör sedan en jämförelse mellan demokratiska och diktatoriska informationsnätverk. I de demokratiska informationsnätverken kommer information från en mängd spridda källor som ger en grogrund för åsiktsskillnader. De diktatoriska informationsnätverken är å andra sidan starkt centralstyrda. Detta för att de som sitter på den politiska makten ska kunna kontrollera informationsflödet så mycket som möjligt.

Informationsteknik gav nya möjligheter

Här visar Harari att båda dessa typer av nätverk egentligen nått sin fulla potential först med nya informationsteknologier som radio, telegraf och telefon. Innan dess var det i princip omöjligt att skapa en demokrati inom ett större område som USA. På samma sätt var det svårt att kontrollera människor fullt ut i tidiga auktoritära samhällen som till exempel antikens Rom. Under Stalins styre i Sovjetunionen kunde man dock med hjälp av dessa tekniker hålla koll på människor inom ett stort landområde.

Harari vill med detta visa att det inte är teknikerna i sig som skapar olika ideologier eller tänkesätt. Tekniken kan användas både för demokratiska och auktoritära syften. Något som leder in på bokens avslutande del, som handlar om det Harari kallar för oorganiska nätverk. Vad var det som gjorde att Facebooks algoritmer bidrog till att hetsa upp stämningen mot rohingyafolket i Myanmar, vilket ledde till en brutal massaker och folkfördrivning? Och vad kan vi göra för att använda AI för goda krafter i samhället?

Politisk utmaning

Frågorna är många och Harari har inte alla svar. Han lyckas dock väl med att måla upp de potentiella hot men också möjligheter som finns med den nya tekniken. Det finns inget som säger att de nya datornätverken vare sig kommer att vara bra eller dåliga, konstaterar han. Det finns inte heller någon teknisk lösning på detta. Det är snarare en politisk utmaning.

Framtiden kommer att avgöras av hur demokratier lyckas reglera denna teknik. Det är till exempel fullt möjligt att förbjuda bottar från att utge sig för att vara människor eller att förbjuda algoritmer att driva offentliga debatter utan mänsklig granskning, menar Harari.

Slutsatsen i boken är att AI kan hota hela vår existens om vi använder den på fel sätt. Men om vi använder den på rätt sätt kan den leda till ett nytt positivt kapitel i mänsklighetens historia. Det är upp till oss att avgöra hur det blir.