Kan Hollywoodstjärnan bromsa AI-bolagen?

AI Många har försökt sakta ner OpenAI:s framfart och varnat för vd:n Sam Altmans oförsiktiga hantering av säkerhetsrisker och datarättigheter. Ingen har lyckats. Men det var innan bolaget muckade med Scarlett Johansson, skriver German Bender.

För drygt ett år sedan skrev jag att det pågår en potentiellt livsfarlig kapplöpning för att utveckla så kallad generell artificiell intelligens, eller superintelligens. Målet är att överträffa människans förmågor i alla avseenden, kanske rentav skapa ett syntetiskt medvetande.

Många ser detta som önskvärt, kanske mänsklighetens viktigaste strävan någonsin. Hit hör de ledande AI-bolagen och många politiker.

Andra betraktar det som enormt riskfyllt och vill sakta ner utvecklingen. Hit hör vissa framstående AI-experter, en del politiker, och många organisationer som värnar om mänskliga rättigheter och fackliga rättigheter.

Dubbelspel

Hittills har ingen lyckats bromsa den accelererande AI-utvecklingen. 

AI-bolagen har mer eller mindre tillåtits agera fritt och ofta på tveksam rättslig grund – trots att många människor runtom i världen känner en stor oro inför de konsekvenser som AI-tekniken kan få på arbetsmarknaden, demokratin och samhället i stort.

Sam Altman, OpenAI:s vd, åkte i fjol på världsturné för att charma världens ledare och lyckades framställa sig själv som en hygglig kille med mänsklighetens bästa för ögonen. Han lyssnade, rynkade på pannan och sa sig vara oroad över de potentiella riskerna. 

Han framhöll kapplöpningen och den snabba utvecklingen som farlig i sig.

Pikant, eftersom han själv är en av de mest inflytelserika pådrivarna i kapplöpningen.

Det är ett dubbelspel som Sam Altman obegripligt nog har lyckats med. Opinionen har hittills varit på hans sida. Charmoffensiven har lyckats.

Men det var innan han muckade med Scarlett Johansson.

Det hela började enligt Johansson själv i september 2023, när Sam Altman frågade Hollywood-stjärnan om OpenAI kunde använda hennes röst till en ny version av deras AI-chatbot ChatGPT, som är världens mest använda. 

Till saken hör att Scarlett Johanssons röst hade använts för ett liknande system i den futuristiska filmen ”Her”, som är en av Altmans favoritfilmer.

Johansson avböjde erbjudandet.

Därför var det minst sagt förvånande att det fanns en röst kallad ”Sky”, som var mycket lik Johanssons, bland de fem röstalternativ man kunde välja i en version av ChatGPT som lanserades samma månad. Märkligt nog gick detta tämligen obemärkt förbi.

Agerat försåtligt

Men för två veckor sedan lanserades ytterligare en ny uppdatering av systemet, med det sedvanligt otympliga namnet GPT-4o. Den här gången blev uppmärksamheten enorm, möjligen på grund av systemet imponerande förmågor och den omfattande lanseringskampanjen.

Plötsligt upptäckte hela världen att rösten ”Sky”, som fortfarande var ett av fem röstalternativ, var slående lik Johanssons.

Misstankarna stärktes av att Sam Altman, samma dag som GPT-4o lanserades, gjorde ett inlägg på X bestående av ett enda ord: ”her”. Alltså samma film som han tidigare sagt är en av hans favoriter. Och där Johanssons röst används för en chatbot som är påfallande lik ChatGPT.

Men indicierna tar inte slut där.

Två dagar innan det nya systemet lanserades hade Altman återigen kontaktat Johanssons agent och frågat om de fick använda hennes röst. En förfrågan hon denna gång inte hann svara på innan systemet gjordes tillgängligt för allmänheten.

Den här gången uppdrog Johansson sina advokater att kontakta Altman och OpenAI, för att begära en utförlig redogörelse av hur rösten hade tagits fram.

Det ledde till att OpenAI omedelbart drog in rösten. ”Sky” går inte längre att välja för användare av ChatGPT. Samtidigt hävdade bolaget att ”Sky” inte alls var utformad efter Johanssons röst och inte ens avsedd att låta som henne.

Men internet låter sig inte övertygas.

För de flesta är det uppenbart att Sam Altman agerat försåtligt. 

Igen.

Altmans förtroende har naggats i kanten

Det är inte första gången han gör det. OpenAI:s förra styrelse gav honom sparken av precis den anledningen för knappt ett halvår sedan. Styrelsen ansåg att Altman inte hade varit ”konsekvent och ärlig i sin kommunikation”.

Bakgrunden den gången var att Altman inte ansågs ta riskerna med AI på tillräckligt stort allvar. Styrelsens menade att Altman styrde verksamheten på kommersiella grunder i akt och mening att så snabbt som möjligt utveckla företagets AI-modeller och ligga steget före konkurrenterna. Man ansåg att han därmed agerade i strid med bolagets delvis ideella stadgar, där säkerhetsrisker ges större vikt än ekonomisk avkastning.

Atlman hade kort sagt följt Silicon Valley-devisen ”move fast and break things”, som först myntades av Facebooks grundare Mark Zuckerberg. Det är som en omvänd försiktighetsprincip: agera först och hantera konsekvenserna senare. 

Eller ännu hellre: låt andra drabbas.

Men ledningskrisen blev kortvarig. Efter en kort och tumultartad period lyckades Sam Altman manövrera sig tillbaka till vd-posten. Den kritiska styrelsen byttes helt sonika ut. OpenAI:s huvudfinansiär Microsoft ville ha tillbaka sin guldgosse i bolagsledningen.

Sedan dess har det varit Sam Altmans linje som gällt i bolaget. 

Men framgångarna har blivit minst lika många som bakslagen. I takt med att nya modeller lanserats har problemen hopat sig. Altmans förtroende har naggats alltmer i kanten.

OpenAI befinner sig i rättsprocesser efter stämningsansökningar på mångmiljardbelopp från världens mäktigaste dagstidning New York Times och åtta andra dagstidningar, som anser att bolaget olovligen och utan att betala för det har använt enorma mängder upphovsrättskyddad text, bild, ljud och video för att träna sina AI-modeller.

Nyligen har ett antal nyckelpersoner i OpenAI:s säkerhetsteam, bland annat de två forskningsledarna Ilya Sutskever och Jan Leike,  sagt upp sig eftersom de anser att ledningen inte tar riskerna med företagets AI-modeller på tillräckligt stort allvar.

Och nu fadäsen med Scarlett Johansson. 

Formidabel motståndare

Även om röst-fusket inte är OpenAI:s allvarligaste felsteg rent sakligt, kan det bli den hittills svåraste förtroendekrisen i allmänhetens ögon. Särskilt för Altman personligen.

Som Hollywood-stjärna har Scarlett Johansson en enorm egen plattform och hennes version av händelserna har hittills mött betydligt större sympati än Sam Altmans. Det är helt enkelt svårt att tro något annat än att han använt Johanssons röst mot hennes uttryckliga vilja.

Men det handlar inte bara om publicitet. Scarlett Johansson är inte rädd att ta i med hårdhandskarna. Hon har tidigare stämt nöjesgiganten Disney för avtalsbrott i och med lanseringen av Marvel-filmen ”Black Widow”, där hon spelade superhjälten Svarta Änkan. Disney tvingades betala ett stort skadestånd.

Scarlett Johansson är med andra ord en formidabel motståndare.

Många andra har försökt bromsa OpenAI:s framfart och uppmärksamma företagets omdömeslösa och oförsiktiga hantering av såväl säkerhetsrisker som datarättigheter. Företagets anställda har protesterat och sagt upp sig. Forskare har höjt rösten. Aktivister har försökt opinionsbilda. Politiker har lagt regleringsförslag.

Hittills har alla försök misslyckats.

Ska det bli Svarta Änkan som slutligen sätter stopp för Sam Altman?

Min gissning: antagligen inte. Men förhoppningsvis får han sig en rejäl tankeställare. 

Förhoppningsvis får vi alla det.

Som tidskriften The New Yorker skriver: ”På sätt och vis är vi alla Scarlett Johansson, väntande på att konfronteras med en kuslig spegelbild av oss själva som skapats utan vårt tillstånd och som vi inte kommer att gagnas av”.

German Bender är utredningschef på Arena Idé