Anmeldelse av «The AI Con – How to Fight Big Tech´s Hype and Create the Future We Want» av Alex Hanna & Emily M. Bender (2025)

Når maskinene ikke tenker, men vi likevel later som

Jeg merker at jeg stadig trekkes mot bøker som forsøker å forklare hva kunstig intelligens (KI på norsk – AI på engelsk) egentlig er, og kanskje enda viktigere: hva den ikke er. Det siste året har jeg lest og skrevet om flere slike bøker her på bloggen. Interessen er ikke tilfeldig. Vi befinner oss midt i en utvikling som angår oss alle, men hvor meningene ofte trekker i hver sin retning.

Denne boka kom jeg over på en Oslo-tur, da jeg var innom Norli i Universitetsgata. Tittelen fanget meg umiddelbart. Ordet “hype” traff noe. For det er nettopp det som preger mye av debatten akkurat nå: sterke meninger, store forventninger og en tendens til å plassere seg i ytterpunktene. Enten møtes teknologien med skepsis og uro, eller med en nærmest grenseløs begeistring.

«The AI Con» legger seg et annet sted. Den forsøker ikke å skremme, og den lar seg heller ikke rive med. Den insisterer på å rydde – både i begreper, forventninger, fordommer og fakta. Og akkurat dét traff meg.

For før man kan diskutere regulering, bruk eller konsekvenser, må man rydde i språket. Og det er nettopp der boka begynner.

Emily M. Bender er lingvist og professor ved University of Washington, med språkmodeller som spesialfelt. Hun har i flere år vært en tydelig kritiker av hvordan slike modeller omtales, særlig når de tillegges egenskaper som forståelse og intensjon. Alex Hanna er sosiolog og forskningsdirektør ved Distributed AI Research Institute (DAIR), og har tidligere arbeidet med ansvarlig AI i Google. Hun bringer inn et makt- og samfunnsperspektiv som gjør boka langt mer enn en teknologikritikk. Sammen utgjør de en sjelden kombinasjon: presis teknologiforståelse og et skarpt blikk for hva som skjer når teknologi settes inn i virkelige strukturer. (Lenkene peker til Wikipedia-artikler om forfatterne.)

Boka er bygget opp på en måte som gjør at vi lesere gradvis flyttes fra forestillinger til realiteter. Den åpner med selve begrepet “AI”, som forfatterne mener er misvisende. Det fungerer som en paraply for svært ulike teknologier, men brukes ofte som om det betegner én samlet, nesten selvstendig kraft. Denne begrepsbruken er ikke nøytral. Den bidrar til å skape en forestilling om at vi står overfor noe mer avansert og mer uunngåelig enn det vi faktisk gjør.

Det er et gjennomgående poeng i boka at språket vi bruker om teknologi former både forståelsen og handlingsrommet. Når vi omtaler systemer som “intelligente”, “lærende” eller “beslutningstakende”, tillegger vi dem egenskaper de ikke har. Samtidig flyttes oppmerksomheten bort fra de menneskene og institusjonene som faktisk utvikler og anvender systemene.

Derfra går boka videre til å forklare hvordan språkmodeller faktisk fungerer. Det som ofte fremstår som imponerende resonnering, er i realiteten statistisk mønstergjenkjenning og prediksjon. Systemene produserer tekst basert på sannsynligheten for hvilke ord som følger etter hverandre, på bakgrunn av enorme mengder treningsdata. Resultatet kan fremstå meningsfullt, men det innebærer ikke forståelse. Det finnes ingen intensjon bak, ingen vurdering av sannhet eller relevans. Det er en form for avansert autoutfylling – ikke tenkning. Akkurat dette er det svært viktig å ha med seg!

Dette er et poeng som gjentas i ulike varianter gjennom boka, nettopp fordi det er så lett å miste av syne. Når språket flyter godt og svarene virker presise, er det fristende å lese inn en form for forståelse. Bender og Hanna insisterer på at vi må motstå denne fristelsen. Ikke av prinsipielle grunner, men fordi feil forståelse gir feil bruk.

Konsekvensene av dette blir særlig tydelige i kapitlene som omhandler arbeidsliv og organisasjon. Her viser forfatterne hvordan AI ofte presenteres som effektivisering, men i praksis kan føre til noe ganske annet. I stedet for å erstatte arbeid, ser vi ofte at det omorganiseres, fragmenteres og i noen tilfeller forringes. Oppgaver brytes ned, overvåkningen øker og ansvaret pulveriseres. Teknologien blir et styringsverktøy, ikke bare et hjelpemiddel.

Dette er perspektiver som treffer offentlig sektor med full tyngde. Her er det et vedvarende press for effektivisering, samtidig som kravene til rettssikkerhet, likebehandling og forsvarlig saksbehandling er grunnleggende. Boka gir ikke ferdige svar, men den gir et viktig korrektiv: Hvis man bruker språkmodeller som om de kan gjøre selvstendige vurderinger, risikerer man å undergrave nettopp de prinsippene offentlig sektor er bygget på.

Det betyr ikke at teknologien er uten verdi. Tvert imot er boka på sitt mest interessante når den nyanserer. Forfatterne avviser ikke AI, men de er tydelige på at den må brukes der den faktisk har styrker. Mønstergjenkjenning, håndtering av store datamengder og støtte til rutinepregede oppgaver er eksempler på områder der teknologien kan være nyttig. I en offentlig kontekst kan dette handle om å strukturere informasjon, bistå i dokumentarbeid eller støtte i saksforberedelse.

Men skillet er avgjørende: støtteverktøy er noe annet enn beslutningstakere. Idet man bruker en språkmodell til å treffe beslutninger, bruker man teknologien fullstendig feil.

Der boka virkelig får tyngde, er i gjennomgangen av hva som ofte ikke diskuteres. Energibruken som ligger bak store språkmodeller. Datagrunnlaget, som i mange tilfeller inkluderer opphavsrettslig beskyttet materiale. Det menneskelige arbeidet som skjules bak systemene – moderering, datarensing, annotering. Alt dette er en del av teknologien, men sjelden en del av fortellingen.

Dette leder over til spørsmålet om regulering, som behandles med en nøkternhet det er lett å få sans for. Bender og Hanna argumenterer ikke for én samlet regulering av “AI”, nettopp fordi begrepet er for bredt. I stedet må regulering ta utgangspunkt i hva systemet faktisk gjør, og i hvilken kontekst det brukes. Det er stor forskjell på teknologisk data og personsensitive opplysninger.

Et system som brukes til å foreslå formuleringer i et dokument, reiser andre spørsmål enn et system som brukes til å prioritere saker eller vurdere enkeltpersoner. Regulering må derfor være situasjonsbestemt. Den må handle om ansvar, transparens og etterprøvbarhet, og ikke minst om nødvendighet. Trenger vi denne løsningen, eller finnes det enklere og mer robuste alternativer?

Brukt riktig kan AI i noen sammenhenger styrke rettssikkerheten. Standardiserte prosesser og systematisk gjennomgang av store datamengder kan bidra til mer konsistent praksis, slik at like tilfeller behandles likt. På saksområder der regelverket er klart og handlingsrommet begrenset, kan dette være en reell gevinst, ikke minst i møte med kapasitetsutfordringer i forvaltningen.

Samtidig stopper det der. På områder hvor skjønn står sentralt, det vil si der vurderinger må gjøres i lys av konkrete, sammensatte livssituasjoner, kommer teknologien til kort. En språkmodell eller et automatisert system har verken kontekstforståelse eller dømmekraft i egentlig forstand. Nettopp derfor blir rammene rundt bruken avgjørende. Transparens er ikke et tillegg, men en forutsetning. Den som berøres av et vedtak må få vite om og hvordan AI er brukt i saksbehandlingen. Det må være mulig å etterprøve grunnlaget, og ikke minst må det finnes en reell adgang til å få saken vurdert på nytt av et menneske. Uten slike mekanismer risikerer man ikke bare feil, men også et tillitstap som i seg selv undergraver rettssikkerheten.

Det er også grunn til å være varsom med bruk av algoritmer i mer komplekse saker. Der vurderingene ikke lar seg redusere til klare kriterier, kan nettopp det som fremstår som styrken – systematikk og lik behandling – bli en svakhet. Algoritmer bygger ofte på gjennomsnittsbetraktninger og mønstre i historiske data. De er gode til å finne det typiske, men dårligere til å fange opp det særegne. I enkeltsaker hvor individuelle forhold nettopp skal tillegges vekt, kan dette føre til at viktige nyanser forsvinner.

Konsekvensen kan bli en form for skinnlikhet: saker behandles likt fordi de ligner i dataene, ikke fordi de faktisk er sammenlignbare. Dermed risikerer man å overse forhold som burde vært avgjørende. I slike situasjoner kan bruken av algoritmer ikke bare være utilstrekkelig, men direkte rettssikkerhetsmessig problematisk. Det understreker igjen hvor viktig det er å avgrense bruken, sikre transparens og opprettholde reell menneskelig kontroll, særlig der skjønn og individuell vurdering er selve kjernen i beslutningen.

Det er i denne delen av boka den kanskje er mest relevant for praktikere. Ikke fordi den gir konkrete regler, men fordi den gir et rammeverk for å stille de riktige spørsmålene.

Det er også her bokas grunnleggende prosjekt trer tydelig frem. «The AI Con» er ikke først og fremst en bok om teknologi. Det er en bok om hvordan vi forstår teknologi.

Det mest overbevisende ved boka er at den ikke faller for fristelsen til å overdrive. Den skremmer ikke. Den bagatelliserer heller ikke. Den insisterer på presisjon. Og nettopp derfor fremstår den som troverdig.

For det er noe med denne tiden vi står i, der det nesten forventes at man skal mene at AI enten vil redde oss eller ødelegge oss. Bender og Hanna avviser begge deler. De peker i stedet på at teknologien verken er autonom eller uunngåelig. Den er et produkt av valg, og dermed også gjenstand for nye valg.

En språkmodell er ikke et menneske. Den forstår ikke hva den sier. Den kan ikke holdes ansvarlig. Men det kan vi.

Og kanskje er det nettopp der boka lander, uten å si det direkte: Det avgjørende spørsmålet er ikke hva teknologien kan gjøre, men hva vi velger å bruke den til, og hvordan vi organiserer ansvaret rundt den.

Det er en påminnelse det er verdt å ta med seg.

Utgitt: 2025
Forlag: The Bodley Head
Antall sider: 274

Andre bøker om kunstig intelligens, som jeg har omtalt her på bloggen:
«If Anyone Builds It, Everyone Dies – The Case Against Superintelligent AI» av Eliezer Yudkowsky og Nate Soares (2025)
«Hvordan redde demokratiet fra kunstig intelligens» av Henrik Skaug Sætra (2025)
«Tillit – Uunngåelig. Nødvendig. Farlig.» av Einar Øverenget (2025)
«Maskiner som tenker – Algoritmenes hemmeligheter og veien til kunstig intelligens» av Inga Strümke (2023)
«Knekk ChatGPT-koden» av Per Kristian Bjørkeng (2023)
«Hvem styrer feeden min – Kunstig intelligens, sosiale medier og kampen om oppmerksomheten vår» av Bår Stenvik (2023)
«Appenes planet – Hvordan smarttelefonen forandret verden» av Thomas Hylland Eriksen (2021)
«Ekko – Et essay om algoritmer og regler» av Lena Lindgren (2021)