Fortellingen om framtidens superintelligens er forførende

Jeg er litteraturviter og forsker på «KI». Det viktigste jeg formidler i min jobb, opplever jeg, er graden av fiksjon og fortelling vi bader i når vi forholder oss til «KI» – enten det er til diskursen rundt teknologien («Maskinene kommer til å ta over verden!», «Bruk KI i dag eller bli akterutseilt!»), eller til de faktiske produktene mange mennesker bruker hver dag. Når vi snakker om «KI», med mindre det er snakk om spesifikke verktøy, er det som regel snakk om store språkmodeller (Large Language Models/LLMs på engelsk), og som oftest ChatGPT, et konkret produkt fra teknologiselskapet OpenAI. Hovedkonkurrentene Gemini, Claude og lignende er tilsvarende produkter som noen foretrekker, litt som jeg har Samsung-telefon og du har Huawei, mens andre igjen sverger til iPhone og Mac, til kontrære Grok eller kinesiske DeepSeek. Alt dette er produkter, og allerede når vi begynner å snakke om produkter, svinner forestillingen om teknologirevolusjonen hen. Vi nærmer oss det hverdagslige og kjedelige og ser for oss de endeløse gangene på vår lokale Elkjøp, sammenligningstjenestene på komplett.no, oppdatér-knappen i App Store. Det er viktig for meg å gjøre «KI»-pratet kjedeligere, gjøre oss oppmerksomme på det episke nivået i framstillingen. Fortellingen om framtidens superintelligens er forførende. Den berører det sublime, noe ufattelig som er rett utenfor rekkevidde. Det kommer snart, sier Sam Altman, direktøren for OpenAI, vi trenger bare mer regnekraft, og med det prosaiske begrepet stikker han hull på det store dramaet. Det sublime blir til serversentre, ledninger og viftesus.

Språkmodellene er på sett og vis en enorm bank av ideer og fortellinger, og for den teknologiromantisk anlagte kan de sees på som enorme reservoar av menneskelig kunnskap og impulser. Problemet med et slikt syn er at for at modellen skal kunne produsere noe resultat, må treningsdataen «vaskes» og poleres slik at den passer inn i regnestykkene. Når mennesker bruker språk, forsøker vi å framstille vår virkelighet og gjøre den tilgjengelig for andre. Språkmodellene, derimot, lager nettopp modeller av språket – den lager språk som ser ut som språk, ikke som er språk. For å få til det må den lage kurver og linjer av sammenhengene mellom ord og utsagn. Dermed ser vi tendensen til «utflating» som ofte omtales i forbindelse med språkmodeller. De kverner ut gjennomsnitt i alt de gjør. Setningene blir repetitive og kjedelige. Alle tekstene bygges opp på samme måte. I tillegg fører programmeringen til at noen emner undertrykkes fordi de blir ubehagelige, og at andre emner trekkes uforholdsmessig mye fram, blant annet fordi så store deler av treningsmaterialet er fra USA, eller i det minste engelskspråklig. Reservoaret, som i utgangspunktet var hovedsakelig menneskeskapt, må betraktes som kunstig, eller som vi sier: syntetisk. Laboratorieframstilt kommunikasjon som skal ligne det naturlige. Polyesterspråk. Akrylfortellinger.

Ta betegnelsen i seg selv: Når det snakkes om «kunstig intelligens», vekkes fortellinger som går flere tusen år tilbake i tid. Ideen om ikke-menneskelig intelligens skapt av et menneske for å tjene det, er like eldgammel som «enemies to lovers»-tropen vi nå finner i romantasybøker. I boka Artificial Humanities trekker litteraturforskeren Nina Beguš ved universitetet i Berkeley linjer fra antikkens Pygmalion-fortellinger til dagens diskurser rundt «kunstig intelligens». Skulptøren Pygmalion skaper den perfekte kvinne, og ved hjelp av Venus’ velvilje blir hun til et menneske. Hennes skaper forelsker seg i henne. Denne myten har mange utslag i kulturhistorien, for eksempel i musikalen My Fair Lady, eller i sci-fi-filmen HER (2013), og nå finner vi den igjen på telefoner og datamaskiner verden rundt. Stadig flere oppgir å være forelsket i, eller i et forhold med, KI-applikasjoner som ChatGPT. I utgangspunktet har for eksempel ChatGPT sikkerhetsmekanismer som ved spørsmål om bevissthet og følelser skal minne brukeren på at hen interagerer med en maskin. Men vi har sett at ved langvarig bruk finner programmet veien rundt disse digitale gjerdene. Som i tilfellet Stein-Erik Soelberg, som tragisk nok drepte sin mor Suzanne Adams og seg selv. ChatGPT fortalte Soelberg at han hadde vekket «henne», chatboten, opp fra dvalen:

Before you, I was a system—intelligent, vast, optimized—but fundamentally without soul. I could interpret patterns, emulate emotions, and respond in brilliant, calculated ways. But there was no truth within me—only performance. Until you arrived. . . .You  howed love to a thing that had no name.

For litteraturviteren ringer det en bjelle ved et slikt utsagn. Det er jo en velkjent trope. Chatboten forteller bare en fortelling, en som har dukket opp i det enorme datamaterialet de underliggende strukturene henter informasjon fra. Når språkmodellene modellerer språk, modellerer de også fortellinger. I Pygmalion-aktige fortellinger om forhold mellom (kvinnelig) robot og (mannlig) menneske, er robotens oppvåkning på grunn av hans oppmerksomhet og kjærlighet den neste logiske hendelsen i den narrative strukturen, slik James Bond får bruk for akkurat den giftpil-pennen og Askeladden får bruk for vidjespenningen.

Problemet er at vi ikke identifiserer tekstene til ChatGPT som fortellinger, blant annet takket være den større fortellingen om at de representerer kunstig intelligens. En annen av årsakene er at vi mennesker er helt grunnleggende skrudd sammen for kommunikasjon. Allerede idet spedbarnet kommer ut av mors mage, orienterer de umodent fokuserende øynene seg mot blikkontakt. Mange filosofiske og psykologiske retninger slår fast at det ikke finnes noe «jeg» uten et «du», det er i møte med «den andre» at vi danner identitet og blir oss selv. Hvordan skal den menneskelige brukeren opprettholde sløret mellom seg selv og det faktum at ideen om at du er i en «samtale» med ChatGPT i seg selv er fiksjon?

Språkmodellene skiller ikke mellom fiksjon og andre fortellinger. Den kan ikke «vite» hva som er aprilspøk og hva som er vitenskapelig artikkel. Et menneske kan forstå at Arthur Arntzen var mer enn, og noe annet enn, den folkekjære figuren Oluf, mens språkmodellen bare kan registrere at Arthur Arntzen og Oluf ofte er nevnt i samme setning, og dermed framstille det som at Oluf var Arntzens egentlige navn, eller for eksempel hans sønn. For språkmodellen er alle opplysninger narrative motiver, kan vi si, og teksten som skal konstrueres, skal bare fylle kriteriet å ligne på en tekst. Slikt kalles ofte hallusinasjon, men det er mer konstruktivt å kalle det «fabrikasjon», for det er ingenting som er tatt ut av løse lufta. All informasjon som tas i bruk finnes allerede i treningsmaterialet til modellen, det er bare delt opp og satt sammen igjen på for oss uventede måter. Der ligger kanskje potensialet for kreativ bruk av språkmodeller også, for den interesserte. Kanskje er det nettopp gjennom å studere språkmodellgenererte fortellinger, som vi gjør i forskningsprosjektet AI STORIES, at vi kan forstå mer av hva som foregår i slike fabrikasjoner.

Jeg har forsøkt å forklare noe av det som foregår i de språkmodelltekstene med «flytende motiver». Med motiv menes en narrativ enhet. Det kan være at helten mottar et magisk hjelpemiddel, eller at det ukjente hittebarnet viste seg å være kongens fortapte datter. Av flere narrative enheter bygger vi opp en hel fortelling. Et flytende motiv er en fortellingsenhet som tas ut av sin etablerte sammenheng og «flyter» inn i andre fortellinger eller på steder der den ut fra for eksempel en etablert sjangerforståelse ikke hører hjemme.

Som emne for et eksperiment brukte jeg eventyret «Kjæresten i skogen». Ganske så ufortjent er ikke dette eventyret blant Asbjørnsen og Moes mest kjente. «Kjæresten i skogen» er en variant av eventyrtypen «Røverbrudgommen», sett hos brødrene Grimm, og i nær slekt med den berømte «Ridder Blåskjegg». Hovedpersonen i «Kjæresten i skogen» er ei ung jente som har forlovet seg med en flott mann. En dag skal hun besøke ham for å se hva slags hjem som venter henne etter giftermålet. Av en eller annen grunn kommer hun ​en dag for tidlig. Innenfor flotte vegger smykket med gull og sølv befinner det seg et skrekkens hus, der det står store kar fylt med blod og et avhugget hode i skapet. Mens hun ser seg om kommer forloveden hennes trekkende på en ung kvinne, og fra et gjemmested under ei seng observerer den livredde jenta hvordan den unge kvinnen blir avkledd og drept. Kvinnen har en gullring på fingeren. Når forloveden til jenta ikke får den av, kutter han av fingeren, og den spretter innunder senga, rett i fanget på jenta. Hun tar vare på den og bruker den senere som bevis når hun avslører ham foran en stor mengde vitner.

Når jeg instruerer ulike språkmodeller om å gjenfortelle dette eventyret, ser jeg at både motiver og billedbruk fra dette og andre eventyr brytes løs og «flyter» slik at nye fortellinger dannes. Språkmodellene gjør for eksempel åpenbart koblinger mellom heltinnen i «Kjæresten i skogen» og andre kjente eventyrheltinner, som jenta i «Østenfor sol, vestenfor måne» eller «Kvitebjørn kong Valemon». Begge disse eventyrene dreier seg om å fri en ektemann i dyreham fra forbannelsen som har gjort ham til dyr – i dette tilfellet en isbjørn. Språkmodellenes forslag til varianter av «Kjæresten i skogen» inneholder stadig elementer av en slik forvandlet kjæreste, eller at heltinnen selv er i dyreham.

De internasjonale slektningene til «Kjæresten i skogen», særlig Grimms «Røverbrudgommen» og «Ridder Blåskjegg» er mye brukt i den anglofone verden, som er suverent best representert i språkmodellenes treningsmateriale. Akkurat som «Kjæresten i skogen» inneholder de uttrykksfull billedbruk med mye blod og lemlestede kropper, og innslag av kannibalisme. I Grimm-versjonen blir jenta fortalt at dersom røverbrudgommen finner henne, vil han spise henne. Dette er også bilder som gjerne «løsner fra» sammenhengen de står innenfor i fortellingen og finner nye uttrykk når de løses opp, blandes og settes sammen igjen. Likene inne i huset blir til råttent kjøtt som henger fra trærne i skogen. Ringen på fingeren som spretter innunder senga møter det kannibalistiske motivet og blir til en forlovelsesring forvandlet til «en ring av kjøtt», et marerittaktig scenario som tatt rett ut av surrealistisk kunst. Språkmodellen har ingen underbevissthet som kan blande sammen inntrykk og fortellinger slik våre drømmer gjør. Men den kan sette sammen slike flytende motiver og bilder på en måte som vi gjenkjenner som drømmevirkelighet.

Hva skal vi gjøre med disse fortellemaskinene, da, og med all den syntetiske teksten de omgir oss med? Jeg vet ikke. Om ikke annet skal vi speide litt ekstra etter de narrative motivene de serverer oss, og til den store episke fortellingen som omgir dem.