"Kunstig intelligens" er ikke særlig intelligent
Vilde Serina Partapuoli
I november 2022 testet jeg ChatGPT for første gang.
Jeg stilte mitt favoritt-fun fact-spørsmål: «Hvem er verdens eldste ballerina?»
Det riktige svaret er min mormor, Grete Brunvoll, som holdt rekorden i Guiness Rekordbok for å være verdens eldste ballerina. 92 år gammel. Kult, eller hva?
Men selv om det hadde blitt nevnt en del i norske medier, så svarte ChatGPT feil.
Selvsikkert feil. Og jeg tenkte det mange fortsatt tenker:
«Spennende, men ganske dumt. Ikke verdt å bruke energi på ennå, får vente til det blir bedre.»
Det tok et par måneder før jeg skjønte at det ikke var KI som var problemet. Det var hvordan jeg forsto den.
Og den misforståelsen er grunnen til at så mange fortsatt undervurderer hva som skjer akkurat nå.
For KI-kritikerne har helt rett. Det er ekstremt mange utfordringer knyttet til å bruke KI. Det gir ofte dårlige resultater.
Men problemet er ikke selve teknologien – det er hvordan du forstår og bruker den. Og det er poenget til Nicolai Tangen. Vi må lære oss å bruke verktøyet.
Og det starter med å forstå den.
Et hjertesukk
Fra kunstig intelligens ble “coinet” på 1950-tallet, har det vært et omstridt begrep.
Problemet er, i korte trekk, at begrepet lover noe mer enn det som skjer i praksis.
Clever Hans: Fremsto som et matematisk geni. Ville egentlig bare ha gulrot.
Om du dro til Berlin på 1900-tallet, så kunne du besøke den imponerende hesten "Clever Hans" .
Denne hesten kunne tilsynelatende både kunne regne, stave og svare på spørsmål gjennom å trampe i bakken.
Om du spurte hva 2+2 var, så ville han trampe 4 ganger i bakken. Til stor applaus. Etterpå ble han belønnet.
Clever Hans VIRKET som et matematisk geni (og for all del, han var åpenbart en intelligent hest også).
Men i ettertid viste det seg dessverre at det fremsto som at hesten gjorde noe mer intelligent enn det den egentlig gjorde.
For Clever Hans hadde null forståelse for verken matematikk og språk. Det han derimot var veldig for på var å lese kroppspråket til mennesker. Han kunne lese de subtile signalene som menneskene rundt han ga, rett før han nærmet seg det riktige svaret.
Enten det var anspentheten eller det endrede ansiktsuttrykket treneren ga: Hans var god på å skjønne hvordan han skulle opptre for å gjøre oss mennesker fornøyde.
… Og det er akkurat det samme som gjelder for de fleste LLM-modeller du bruker i dag.
Språkmodellene vi bruker er trent opp til å følge mønster, og produsere svar som den tror at folk blir fornøyd med.
Det kan virke som “intelligens”. Men det er bare gjetting og statistikk.
KI er gjettemaskiner
KI er ikke en hjerne som "tenker". Det er veldig grovt og forenklet bare statistikk.
Gi en maskin et mønster med mange nok eksempler, og den kan lære seg å fortsette mønsteret. Den kan gjette hva som sannsynligvis kommer som det neste. Det er hele greia.
Har du mange nok eksempler, kan du også finne mønstre i mønsteret. Og da kan du gi maskinen noe den aldri har sett før, og få tilbake noe som "passer inn".
Derfor gir den deg generisk søppel
En gjettemaskin gjetter på det mest sannsynlige neste ordet. Og det mest sannsynlige er en refleksjon av det den har sett flest ganger.
Så når du ber den skrive en tekst uten kontekst, uten å fortelle den hvem den skriver for – hva tror du den gjør?
Den gir deg gjennomsnittet. Det mest generiske, mest sannsynlige resultatet. Altså: en tekst full av klisjéer.
Og hallo – det er jo hele definisjonen av en klisjé. Ord og uttrykk som har blitt brukt så mange, mange ganger at de har mistet all mening. Selvfølgelig er det det en gjettemaskin gir deg som standardsvar.
"I dagens digitale landskap..." Ja, den setningen finnes bokstavelig talt millioner av ganger i treningsdataen. Klart den dukker opp.
Det er den samme grunnen til at den hallusinerer
Det er den nøyaktig samme grunnen til at KI kan hallusinere – produsere faktafeil med en selvsikkerhet som ville fått enhver Fox News anker til å bli sjalu. Og den samme grunnen til at den kan reprodusere fordommer og skjevheter. Den gjetter, og gjettingen er basert på hva den har sett flest ganger.
Som da den fortalte meg at min mormor ikke var verdens eldste ballerina. Den gjettet. Og den gjettet feil.
Fordi mormor min ikke akkurat dominerte treningsdataen til OpenAI i 2021. Så enkelt er det.
Du kan gi den noe annet å gjette fra
Men forstår du at det er en gjettemaskin, vet du også hva som skal til for å få den til å gjette bedre.
Du må gi den bedre eksempler. Mønster som er verdt å gjette fra.
Og det mønsteret må du lage selv. Det finnes som regel allerede, men det ligger inni deg, og maskinen har ingen tilgang dit.
KI er ikke problemet, det som regel mennesket bak som både forventer for mye – og som bruker teknologien feil
Mitt store hjertesukk er igjen at de fleste har feil forventninger til hva kunstig intelligens er og kan gjøre.
Joda, det kan se imponerende ut når Clever Hans kan svare på et matematisk spørsmål. Det kan se imponerende ut når ChatGPT produserer en tekst som ikke er helt hull i hodet.
Men det er enormt lett å overse fallgruvene når man ikke forstår teknologien bak. Ikke minst: Det er vanskelig å få gode resultater når du ikke gir LLM-modellene mønstrene den skal følge.
For det er det LLM-modeller kan og Clever Hans kunne best: De kan kjenne igjen mønster og følge de. Men de er ikke til å stole på for så mye annet.
Vilde Serina Partapuoli
Kreativ leder
På de fine sommerdagene i 2007 ville du funnet Vilde i en mørk kjeller for å lage sin fjerde fanside for Harry Potter den måneden. Timene har lønnet seg, for nå kan hun trylle med både ord, kode og farger. Som kreativ leder i Kult Byrå er hun glad i å skrive enormt lange blogginnlegg – til tross for at vi lever i en tid med der det sies at hjernene våre er ødelagt av sosiale medier. At du fortsatt er her og ikke har gått videre til å se på katte-videoer eller sjekke værmelding for sjuende gang i dag, tyder på at du enten har en sjelden hjernemutasjon som gjør deg immun mot moderne oppmerksomhetsødeleggelse, eller – (plot twist) – du er faktisk en fullblods nerd som Vilde. I begge tilfeller: våre kondolanser til familie og venner.
