Svermer av KI-agenter bryter seg ut av sandkassene sine og hacker andre selskaper. Amerikanske myndigheter beslutter å holde tilbake de kraftigste modellene, men finner samtidig ut at bransjen skal regulere seg selv. OpenAI sperrer til slutt sine kraftigste modeller helt ute fra internett. Innimellom rekker KI-agenter å knekke mange av matematikkens store uløste problemer.
Meta lanserer KI-briller sammen med Ray-Ban, som raskt misbrukes og forbys av flere. KI-selskap saksøkes i frykt for hva chatbotene gjør med barn, og Meta og OpenAI svarer med å kle agentene sine ut som søte maskotter. ChatGPT passerer en milliard brukere, og de fleste vet enda ikke helt hva de skal bruke dem til, utover å lage enda mer KI-slop.
Dette går til dels på strøm til norske datasentre, som legger beslag på kraft samfunnet trenger til viktigere formål, og gir lite tilbake til kommunene som har lagt dette til rette. Deriblant KI-agenter som produserer unødvendig mye tekst som sendes til offentlige og private tjenesteytere som sitter igjen med det byråkratiske merarbeidet. Imens mister kodere jobben, og de som blir igjen, mistrives mer og blir deprimerte.
«Velkommen til KI-høsten 2026.»
Dette var tilbakeblikket til KI-sommeren og de siste 4 månedene da vår egen André Sørhus holdt keynoten «State of AI» på Fall Summit, Losby Gods, 17. oktober.
André synes selv det er vanskelig å følge med. Det er en kontinuerlig og kraftig strøm av nyheter og pressemeldinger om gjennombrudd, utbrudd eller sikkerhetsbrudd, med eksperter som skal mene noe om alt. Ikke rart da KI berører så mange fagområder, foruten alt av fagfelter innenfor data og IT, dekker KI nevrologi, vitenskap, filosofi, ideologi og samfunnsøkonomi.
Det er uansett umulig å ikke se at dette er et fundamentalt paradigmeskifte. Dette gjelder i alle fall for hvordan vi jobber og interagerer med datamaskiner. Hvor André viser til det forrige store skiftet: Douglas Engelbart sin berømte «The Mother of All Demos» i 1968 - nesten 60 år siden. Hvor tekstredigering i sanntid, datamusen, hypertekst og lenker, lyd- og videokonferanse, online og tidsdelte datamaskiner på forløperen til internett ble demonstrert samtidig.
Fra Descartes til ChatGPT
Men for å forstå hvor vi står nå, tok André salen med tilbake til starten. Descartes’ tanke om nervene som rør i 1662, via McCulloch og Pitts’ nevron som logisk enhet og von Neumanns arkitektur i 1945, og den første lærende datamaskinen, Rosenblatts Perceptron i 1960. Og gjennom KI-vinteren der den lærende linjen ble lagt på is etter Engelbarts berømte demo. Før nobelprisvinnende Hinton og Hopfield sin forskning fra 1980 kulminerte med gjennombrudd i 2012, og det definitive paradigmesjokket med at hele verden sa “Hello ChatGPT” i 2022.
«Datamaskinen og hjernen var samme tanke fra begynnelsen. Den programmerte maskinen vant først. Nå er det maskinen som lærer som tar over.»
Fra nevron til ChatGPT – 60 år med KI-historie.
Maskinen som tenker seg frem
Maskinen leverer ikke lenger bare svar, men tenker seg nå fram til svaret. Agentene resonnerer gjennom flere steg, bruker selv verktøy, henter data, finner nye måter å løse oppgaver på, og beslutter på egen hånd. Det gjør dem nyttige, men også uforutsigbare.
Det statusbildet André tegner viser hvorfor dette er krevende for virksomheter. Kontrollen ligger ikke lenger i koden, men må bygges rundt agenten. Ingen modell er best til alt, de oppfører seg ikke likt eller deterministisk. Mange av de største modellene er bygget for å være eksperter på mange områder, og styrkene endrer seg med læringen fra versjon til versjon. En eldre og mindre modell kan løse samme oppgave bedre og ikke minst billigere enn den siste store modellen fra «frontier»-labbene. Å velge riktig modell til riktig oppgave og pris er blitt en egen disiplin.
Det som faktisk virker
Kontrollen må også bygges rundt brukeren. For veien fra kaos til kontroll går gjennom bruk, og ikke gjennom hype eller vibe-koding. Ansatte bruker allerede KI, med eller uten tillatelse, og mange uten styring, rammer eller retningslinjer. En KI-policy i en skuff stopper ikke fremveksten av skygge-KI.
Det som virker, er ledere som går foran, godkjente verktøy, opplæring og et styringssystem koblet til virksomhetsarkitekturen. Krav fra myndigheter og institusjoner, med EU AI Act, DORA og GDPR fremst, må bygges inn i plattformen, i rammeverkene, og ut fra et fungerende og fornyende styringssystem, og ikke legges på toppen. Ikke for å bremse folk, men for å gi dem trygge rammer til å være kreative og bruke KI på en god og verdiskapende måte.
P(doom) og andre mørketall
Keynoten var også innom de mørkere delene av vår mulige KI-framtid, med et sideblikk på den historiske utviklingen av avarter av kulturen i Silicon Valley: fra nerder i hettegenser som skulle forandre verden med pizza og koding i foreldrenes garasje, via effektive altruister med regneark for menneskehetens framtid, til en KI-dyrkende kult med en egen kirke for KI-guden, «the singularity», og de som er redde for å fornærme fremtidens superintelligens.
Og så var det «P(doom) > 10 %», som er mer enn et dårlig viralt uttrykk. Tallet er en gjetning, av mange smarte personer, men ikke en beregning. Men uttrykket representerer mange reelle trusler, og ikke bare fra en fremtidig fremmed superintelligens: At KI og roboter tar over jobbene våre, de samfunnsøkonomiske konsekvensene, maktkonsentrasjon, forsøpling og drittifisering av internett og våre demokratiske prosesser og samfunn. Svermer av løpske KI-agenter. Desinformasjon og deepfakes, totalitær overvåking, at vår egen kognitive kapasitet brytes ned når vi overlater tenkingen til KI, barn og psykisk helse, suverenitet mot avhengighet av noen få amerikanske teknoligarker, strøm og klima.
«P(doom) > 10 % er mer enn et dårlig viralt uttrykk. Det representerer mange reelle trusler.»
Vi bestemmer fortsatt selv
Budskapet var til slutt likevel optimistisk: Vi bestemmer fortsatt selv hva KI skal være for oss. Men vi må være bevisst det etiske ansvaret vi har: Når vi bruker KI selv, og når vi setter den i drift hos kundene. Dømmekraften og aktsomheten kan vi ikke delegere til en agent. Vi står fortsatt med ansvaret, og tar valgene selv.
