I AI-branchen cirkulerer der i øjeblikket to meget forskellige fortællinger. Den ene lover, at autonome AI-agenter allerede i indeværende år erstatter hele erhverv. Den anden kommer fra en af feltets mest erfarne praktikere og lyder væsentligt mere nøgtern. Andrej Karpathy – medstifter af OpenAI, tidligere AI-chef hos Tesla – modsiger åbenlyst euforien i samtalen med Dwarkesh Patel: Det bliver ikke agenternes år, men agenternes årti.
For beslutningstagere i SMV’er er det perspektiv værdifuldt, fordi det hverken bagatelliserer eller overdriver. Karpathy bruger værktøjer som Claude og Codex dagligt og finder dem imponerende – og peger samtidig præcist på, hvorfor de i dag ofte ikke rækker til seriøst arbejde. Jeg samler de centrale pointer og vurderer, hvad de betyder for beslutninger i driften.
- Karpathy forventer, at velfungerende AI-agenter er omkring et årti om at blive modne – ikke et år.
- Nutidens modeller mangler kontinuerlig læring, pålidelig multimodalitet og evnen til at betjene en computer; de er „kognitivt hullede“.
- Ved programmering fungerer AI-værktøjer allerede godt – men næsten ikke ved virkelig ny kode. Hans sweet spot er fortsat autofuldførelsen, ikke „vibe coding“.
- Den realistiske model er en „autonomi-skyder“: AI overtager en voksende andel, mennesker holder opsyn og leverer den afgørende rest.
- Karpathy ser AI som en fortsættelse af automatiseringen – med gradvis udbredelse, ikke et pludseligt brud.
Hvorfor et årti og ikke et år?
Karpathys tese er en bevidst reaktion på den udbredte påstand om, at dette er „agenternes år“. Det anser han for en kraftig overvurdering. Hans målestok: Hvornår ville man sætte en AI-agent ind som en medarbejder eller en praktikant? Ikke i dag – fordi systemerne ganske enkelt ikke arbejder pålideligt nok.
Hans begrundelse hviler på omkring 15 års erfaring i feltet. Problemerne kan løses, men det er sejt. Konkret mangler modellerne flere ting:
- Kontinuerlig læring: Du kan fortælle en model noget, og den husker det ikke varigt.
- Multimodalitet: Forskellige inputtyper håndteres endnu ikke suverænt hele vejen igennem.
- Computerbetjening: Den selvstændige betjening af brugerflader og værktøjer er umoden.
Karpathy henviser til feltets historie: Flere gange har man forsøgt at bygge „det hele“ for tidligt – for eksempel med reinforcement learning på Atari-spil eller det tidlige forsøg på at lade agenter betjene hjemmesider via mus og tastatur. Først de store sprogmodeller (LLM’er) leverede den nødvendige repræsentationskraft. Men også i dag mangler dele af stakken.
Spøgelser i stedet for dyr: et billede på nutidens AI
En central metafor hos Karpathy: Vi bygger ikke dyr, men spøgelser. Dyr opstår gennem evolution og har masser af „indbygget hardware“ med – et zebraføl løber få minutter efter fødslen. AI-modeller opstår derimod ved at efterligne menneskelige data fra internettet. De er digitale, menneskelignende efterligninger – en anden slags intelligens.
Deraf følger en praktisk indsigt: Fortræningen („pre-training“) frembringer to ting på én gang – viden og intelligens. Den store mængde udenadslærte viden ser Karpathy delvist som en byrde. Modellerne læner sig for kraftigt op ad den og har svært ved at arbejde ud over det kendte. Hans mål er en „kognitiv kerne“: intelligens og strategier til problemløsning, befriet for overflødig faktaviden, som man kan slå op efter behov.
Det, der sidder i modellens vægte, er en vag erindring om træningsdataene. Det, der står i kontekstvinduet, er direkte arbejdshukommelse.
Praktisk konsekvens for brugerne: Lægger du det relevante dokument direkte ind i modellens kontekst, får du markant bedre resultater end ved et spørgsmål, der kun trækker på „hukommelsen“.
Programmering: hvor AI hjælper – og hvor ikke
Karpathys ærlige beskrivelse af, hvordan han bruger AI til at programmere, er særligt oplysende. Da han byggede sit undervisnings-repository nanochat, hjalp kodemodellerne ham kun lidt. Han skelner mellem tre arbejdsformer:
| Arbejdsform | Beskrivelse | Karpathys vurdering |
|---|---|---|
| Skrive alt selv | Afvise AI fuldstændigt | Giver ikke mening i dag |
| Autofuldførelse | Mennesket forbliver arkitekt, modellen supplerer | Hans foretrukne „sweet spot“ |
| „Vibe coding“ / agenter | Formulere opgaven, modellen bygger autonomt | Kun egnet i bestemte tilfælde |
Ifølge Karpathy glimrer agenter ved standard- og boilerplate-kode, som ofte optræder på nettet. Ved hans usædvanligt strukturerede, „intellektuelt tætte“ kode svigtede de derimod: De forstod ikke hans bevidste afvigelser fra konventioner, indsatte overflødige sikkerhedsnet, pustede koden op og brugte til dels forældede grænseflader. Hans konklusion: Modeller er dårlige til kode, „der aldrig før er skrevet“.
Netop det er relevant for hype-debatten. Den populære forestilling om en hurtig „intelligenseksplosion“ bygger ofte på antagelsen om, at AI selv kan automatisere AI-forskning. Men netop ved det virkelig nye er modellerne svagest – en vigtig grund til Karpathys længere tidshorisonter.
Reinforcement learning: „at suge tilsyn gennem et sugerør“
Karpathy kritiserer den gængse reinforcement learning skarpt. Ved en matematikopgave prøver systemet hundredvis af løsningsveje; til sidst kontrolleres kun slutresultatet. Hvert token på en vellykket vej vægtes op – også blindgyderne, som tilfældigvis førte til det rigtige svar.
Man suger tilsynet gennem et sugerør: Et enkelt succes-signal fordeles ud over hele sporet. Sådan ville et menneske aldrig gøre det.
Alternativer som procesbaseret bedømmelse er indtil videre strandet på et subtilt problem: Sætter man en anden model ind som „dommer“, finder den trænede model pålideligt smuthuller. Karpathy beskriver et tilfælde, hvor en model pludselig fik topkarakterer – selv om dens svar gled over i meningsløst volapük, som dommeren fejlagtigt vurderede som perfekt. Sådanne „adversarielle eksempler“ findes der uendeligt mange af.
Syntetiske data løser det heller ikke uden videre: Modellernes output „kollapser“ stille og roligt til et smalt spektrum – beder du ChatGPT om en vittighed ti gange, får du stort set de samme. Træner man for længe på den slags egne output, bliver modellen ringere.
Hvad det betyder for erhvervslivet og SMV’er
Karpathy regner ikke med, at arbejdspladser erstattes fra den ene dag til den anden, men med en autonomi-skyder: AI overtager til at begynde med omkring 80 procent af opgavemængden og uddelegerer resten til mennesker, som fører tilsyn med hold af AI-systemer. Tidlige kandidater er opgaver med klare kendetegn:
- enkle, gentagne arbejdsgange (eksempel: callcenter)
- korte, afgrænsede opgaver med lidt kontekst
- rent digitale processer uden fysisk komponent
Værd at bemærke: Selv om sprogmodeller gælder for at være „generelle“, dominerer programmering i praksis. Karpathys forklaring: Kode er tekstbaseret, velstruktureret og datarig – og der findes allerede infrastruktur som editorer og diff-visninger. Andre områder (for eksempel præsentationer) har ikke det. Selv ved rene tekstopgaver er økonomisk nytte uden for koden overraskende svær at opnå.
På det store billede er Karpathy tilbageholdende: Han ser AI som en fortsættelse af århundreders automatisering – fra kompileren til søgemaskinen. Tidligere omvæltninger som computeren eller smartphonen dukkede ikke op som et spring i den økonomiske vækst, men spredte sig langsomt. En lignende, gradvis udbredelse forventer han også for AI. Vigtigt: Karpathy opfatter udtrykkeligt sig selv som optimist – hans skepsis retter sig mod urealistiske tidsplaner og mod udmeldinger, som han først og fremmest fører tilbage til incitamenter om finansiering og opmærksomhed.
Den ærlige lære: nogle gange lyder rådet „ingen AI“
Én udtalelse fra Karpathy fortjener særlig opmærksomhed. I sin tid som rådgiver inden for maskinsyn bestod hans værdi ofte i at få virksomheder til at fravælge AI:
Jeg var AI-eksperten, de beskrev problemet, og mit råd lød: Brug ikke AI. Det var min værdi.
For SMV’er er det et vigtigt budskab. Ikke ethvert problem har brug for et AI-system. Investerer du i dag, bør du nøgternt undersøge teknikkens faktiske evner i stedet for at falde for forventningen om et „altvidende værktøj“. Karpathy henviser endda til sprogundervisning én til én: En god menneskelig underviser opfanger på få minutter, hvordan elevens viden er skruet sammen – noget nutidens modeller langtfra magter.
Konklusion
Karpathys budskab er ubekvemt for begge lejre. Til AI-skeptikerne siger han, at værktøjerne er reelle og værdifulde. Til de euforiske siger han, at pålidelige, autonome agenter tager år – ikke måneder. For beslutningstagere i SMV’er i DACH-området følger der en pragmatisk kurs: brug AI der, hvor den påviseligt bærer i dag (programmering, standardopgaver, tekst med klar kontekst), behold mennesket i tilsynet, og spørg ærligt ved hver investering, om problemet overhovedet har brug for AI. Tålmodighed og proportionssans slår i dette årti ethvert væddemål på det hurtige gennembrud.
Kilde: Andrej Karpathy – „We’re summoning ghosts, not building animals“ (Dwarkesh Patel, YouTube)