{"id":2434,"date":"2025-10-17T12:00:00","date_gmt":"2025-10-17T10:00:00","guid":{"rendered":"https:\/\/pletzenauer.com\/?p=2434"},"modified":"2026-08-05T17:25:36","modified_gmt":"2026-08-05T15:25:36","slug":"karpathy-ai-agenter-et-aarti","status":"publish","type":"post","link":"https:\/\/pletzenauer.com\/da\/2025\/10\/17\/karpathy-ai-agenter-et-aarti\/","title":{"rendered":"Karpathy om AI-agenter: Hvorfor det tager et \u00e5rti, ikke et \u00e5r"},"content":{"rendered":"

I AI-branchen cirkulerer der i \u00f8jeblikket to meget forskellige fort\u00e6llinger. Den ene lover, at autonome AI-agenter allerede i indev\u00e6rende \u00e5r erstatter hele erhverv. Den anden kommer fra en af feltets mest erfarne praktikere og lyder v\u00e6sentligt mere n\u00f8gtern. Andrej Karpathy – medstifter af OpenAI, tidligere AI-chef hos Tesla – modsiger \u00e5benlyst euforien i samtalen med Dwarkesh Patel: Det bliver ikke agenternes \u00e5r, men agenternes \u00e5rti<\/strong>.<\/p>\n

For beslutningstagere i SMV’er er det perspektiv v\u00e6rdifuldt, fordi det hverken bagatelliserer eller overdriver. Karpathy bruger v\u00e6rkt\u00f8jer som Claude og Codex dagligt og finder dem imponerende – og peger samtidig pr\u00e6cist p\u00e5, hvorfor de i dag ofte ikke r\u00e6kker til seri\u00f8st arbejde. Jeg samler de centrale pointer og vurderer, hvad de betyder for beslutninger i driften.<\/p>\n

\nDet vigtigste kort fortalt<\/strong><\/p>\n
    \n
  • Karpathy forventer, at velfungerende AI-agenter er omkring et \u00e5rti om at blive modne – ikke et \u00e5r.<\/li>\n
  • Nutidens modeller mangler kontinuerlig l\u00e6ring, p\u00e5lidelig multimodalitet og evnen til at betjene en computer; de er „kognitivt hullede“.<\/li>\n
  • Ved programmering fungerer AI-v\u00e6rkt\u00f8jer allerede godt – men n\u00e6sten ikke ved virkelig ny kode. Hans sweet spot er fortsat autofuldf\u00f8relsen, ikke „vibe coding“.<\/li>\n
  • Den realistiske model er en „autonomi-skyder“: AI overtager en voksende andel, mennesker holder opsyn og leverer den afg\u00f8rende rest.<\/li>\n
  • Karpathy ser AI som en forts\u00e6ttelse af automatiseringen – med gradvis udbredelse, ikke et pludseligt brud.<\/li>\n<\/ul>\n<\/div>\n
    \"Sammenstilling
    Karpathy skelner klart mellem AI’ens styrker i dag og evner, som stadig er \u00e5r undervejs.<\/figcaption><\/figure>\n

    Hvorfor et \u00e5rti og ikke et \u00e5r?<\/h2>\n

    Karpathys tese er en bevidst reaktion p\u00e5 den udbredte p\u00e5stand om, at dette er „agenternes \u00e5r“. Det anser han for en kraftig overvurdering. Hans m\u00e5lestok: Hvorn\u00e5r ville man s\u00e6tte en AI-agent ind som en medarbejder eller en praktikant? Ikke i dag – fordi systemerne ganske enkelt ikke arbejder p\u00e5lideligt nok.<\/p>\n

    Hans begrundelse hviler p\u00e5 omkring 15 \u00e5rs erfaring i feltet. Problemerne kan l\u00f8ses, men det er sejt. Konkret mangler modellerne flere ting:<\/p>\n

      \n
    • Kontinuerlig l\u00e6ring:<\/strong> Du kan fort\u00e6lle en model noget, og den husker det ikke varigt.<\/li>\n
    • Multimodalitet:<\/strong> Forskellige inputtyper h\u00e5ndteres endnu ikke suver\u00e6nt hele vejen igennem.<\/li>\n
    • Computerbetjening:<\/strong> Den selvst\u00e6ndige betjening af brugerflader og v\u00e6rkt\u00f8jer er umoden.<\/li>\n<\/ul>\n

      Karpathy henviser til feltets historie: Flere gange har man fors\u00f8gt at bygge „det hele“ for tidligt – for eksempel med reinforcement learning p\u00e5 Atari-spil eller det tidlige fors\u00f8g p\u00e5 at lade agenter betjene hjemmesider via mus og tastatur. F\u00f8rst de store sprogmodeller (LLM’er) leverede den n\u00f8dvendige repr\u00e6sentationskraft. Men ogs\u00e5 i dag mangler dele af stakken.<\/p>\n

      Sp\u00f8gelser i stedet for dyr: et billede p\u00e5 nutidens AI<\/h2>\n

      En central metafor hos Karpathy: Vi bygger ikke dyr, men sp\u00f8gelser<\/strong>. Dyr opst\u00e5r gennem evolution og har masser af „indbygget hardware“ med – et zebraf\u00f8l l\u00f8ber f\u00e5 minutter efter f\u00f8dslen. AI-modeller opst\u00e5r derimod ved at efterligne menneskelige data fra internettet. De er digitale, menneskelignende efterligninger – en anden slags intelligens.<\/p>\n

      Deraf f\u00f8lger en praktisk indsigt: Fortr\u00e6ningen („pre-training“) frembringer to ting p\u00e5 \u00e9n gang – viden og intelligens. Den store m\u00e6ngde udenadsl\u00e6rte viden ser Karpathy delvist som en byrde. Modellerne l\u00e6ner sig for kraftigt op ad den og har sv\u00e6rt ved at arbejde ud over det kendte. Hans m\u00e5l er en „kognitiv kerne“: intelligens og strategier til probleml\u00f8sning, befriet for overfl\u00f8dig faktaviden, som man kan sl\u00e5 op efter behov.<\/p>\n

      Det, der sidder i modellens v\u00e6gte, er en vag erindring om tr\u00e6ningsdataene. Det, der st\u00e5r i kontekstvinduet, er direkte arbejdshukommelse.<\/p><\/blockquote>\n

      Praktisk konsekvens for brugerne: L\u00e6gger du det relevante dokument direkte ind i modellens kontekst, f\u00e5r du markant bedre resultater end ved et sp\u00f8rgsm\u00e5l, der kun tr\u00e6kker p\u00e5 „hukommelsen“.<\/p>\n

      Programmering: hvor AI hj\u00e6lper – og hvor ikke<\/h2>\n

      Karpathys \u00e6rlige beskrivelse af, hvordan han bruger AI til at programmere, er s\u00e6rligt oplysende. Da han byggede sit undervisnings-repository nanochat<\/em>, hjalp kodemodellerne ham kun lidt. Han skelner mellem tre arbejdsformer:<\/p>\n\n\n\n\n\n\n\n
      Arbejdsform<\/th>\nBeskrivelse<\/th>\nKarpathys vurdering<\/th>\n<\/tr>\n<\/thead>\n
      Skrive alt selv<\/td>\nAfvise AI fuldst\u00e6ndigt<\/td>\nGiver ikke mening i dag<\/td>\n<\/tr>\n
      Autofuldf\u00f8relse<\/td>\nMennesket forbliver arkitekt, modellen supplerer<\/td>\nHans foretrukne „sweet spot“<\/td>\n<\/tr>\n
      „Vibe coding“ \/ agenter<\/td>\nFormulere opgaven, modellen bygger autonomt<\/td>\nKun egnet i bestemte tilf\u00e6lde<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

      If\u00f8lge Karpathy glimrer agenter ved standard- og boilerplate-kode<\/strong>, som ofte optr\u00e6der p\u00e5 nettet. Ved hans us\u00e6dvanligt strukturerede, „intellektuelt t\u00e6tte“ kode svigtede de derimod: De forstod ikke hans bevidste afvigelser fra konventioner, indsatte overfl\u00f8dige sikkerhedsnet, pustede koden op og brugte til dels for\u00e6ldede gr\u00e6nseflader. Hans konklusion: Modeller er d\u00e5rlige til kode, „der aldrig f\u00f8r er skrevet“.<\/p>\n

      Netop det er relevant for hype-debatten. Den popul\u00e6re forestilling om en hurtig „intelligenseksplosion“ bygger ofte p\u00e5 antagelsen om, at AI selv kan automatisere AI-forskning. Men netop ved det virkelig nye er modellerne svagest – en vigtig grund til Karpathys l\u00e6ngere tidshorisonter.<\/p>\n

      Reinforcement learning: „at suge tilsyn gennem et suger\u00f8r“<\/h2>\n

      Karpathy kritiserer den g\u00e6ngse reinforcement learning skarpt. Ved en matematikopgave pr\u00f8ver systemet hundredvis af l\u00f8sningsveje; til sidst kontrolleres kun slutresultatet. Hvert token p\u00e5 en vellykket vej v\u00e6gtes op – ogs\u00e5 blindgyderne, som tilf\u00e6ldigvis f\u00f8rte til det rigtige svar.<\/p>\n

      Man suger tilsynet gennem et suger\u00f8r: Et enkelt succes-signal fordeles ud over hele sporet. S\u00e5dan ville et menneske aldrig g\u00f8re det.<\/p><\/blockquote>\n

      Alternativer som procesbaseret bed\u00f8mmelse er indtil videre strandet p\u00e5 et subtilt problem: S\u00e6tter man en anden model ind som „dommer“, finder den tr\u00e6nede model p\u00e5lideligt smuthuller<\/strong>. Karpathy beskriver et tilf\u00e6lde, hvor en model pludselig fik topkarakterer – selv om dens svar gled over i meningsl\u00f8st volap\u00fck, som dommeren fejlagtigt vurderede som perfekt. S\u00e5danne „adversarielle eksempler“ findes der uendeligt mange af.<\/p>\n

      Syntetiske data l\u00f8ser det heller ikke uden videre: Modellernes output „kollapser“ stille og roligt til et smalt spektrum – beder du ChatGPT om en vittighed ti gange, f\u00e5r du stort set de samme. Tr\u00e6ner man for l\u00e6nge p\u00e5 den slags egne output, bliver modellen ringere.<\/p>\n

      Hvad det betyder for erhvervslivet og SMV’er<\/h2>\n

      Karpathy regner ikke med, at arbejdspladser erstattes fra den ene dag til den anden, men med en autonomi-skyder<\/strong>: AI overtager til at begynde med omkring 80 procent af opgavem\u00e6ngden og uddelegerer resten til mennesker, som f\u00f8rer tilsyn med hold af AI-systemer. Tidlige kandidater er opgaver med klare kendetegn:<\/p>\n