{"id":2399,"date":"2025-10-17T12:00:00","date_gmt":"2025-10-17T10:00:00","guid":{"rendered":"https:\/\/pletzenauer.com\/?p=2399"},"modified":"2026-08-05T17:25:18","modified_gmt":"2026-08-05T15:25:18","slug":"karpathy-ai-agenter-artionde","status":"publish","type":"post","link":"https:\/\/pletzenauer.com\/sv\/2025\/10\/17\/karpathy-ai-agenter-artionde\/","title":{"rendered":"Karpathy om AI-agenter: varf\u00f6r det tar ett \u00e5rtionde, inte ett \u00e5r"},"content":{"rendered":"

I AI-branschen cirkulerar just nu tv\u00e5 mycket olika ber\u00e4ttelser. Den ena lovar att autonoma AI-agenter ers\u00e4tter hela yrken redan under innevarande \u00e5r. Den andra kommer fr\u00e5n en av f\u00e4ltets mest erfarna praktiker och l\u00e5ter betydligt nyktrare. Andrej Karpathy – medgrundare av OpenAI, tidigare AI-chef p\u00e5 Tesla – mots\u00e4ger \u00f6ppet euforin i samtalet med Dwarkesh Patel: det blir inte agenternas \u00e5r, utan agenternas \u00e5rtionde<\/strong>.<\/p>\n

F\u00f6r beslutsfattare i sm\u00e5 och medelstora f\u00f6retag \u00e4r det h\u00e4r perspektivet v\u00e4rdefullt, eftersom det varken f\u00f6rringar eller \u00f6verdriver. Karpathy anv\u00e4nder verktyg som Claude och Codex dagligen och tycker att de \u00e4r imponerande – och pekar samtidigt exakt ut varf\u00f6r de i dag ofta inte r\u00e4cker f\u00f6r seri\u00f6st arbete. Jag sammanfattar de centrala punkterna och bed\u00f6mer vad de betyder f\u00f6r beslut i verksamheten.<\/p>\n

\nDet viktigaste i korthet<\/strong><\/p>\n
    \n
  • Karpathy r\u00e4knar med att kraftfulla AI-agenter beh\u00f6ver runt ett \u00e5rtionde f\u00f6r att mogna – inte ett \u00e5r.<\/li>\n
  • Dagens modeller saknar kontinuerligt l\u00e4rande, p\u00e5litlig multimodalitet och datoranv\u00e4ndning; de \u00e4r „kognitivt ofullst\u00e4ndiga“.<\/li>\n
  • Vid programmering fungerar AI-verktyg redan bra – men knappast vid verkligt nyskapande kod. Hans sweet spot f\u00f6rblir autokompletteringen, inte „vibe coding“.<\/li>\n
  • En realistisk anv\u00e4ndningsmodell \u00e4r ett „autonomireglage“: AI tar \u00f6ver en v\u00e4xande andel, m\u00e4nniskor \u00f6vervakar och levererar den avg\u00f6rande resten.<\/li>\n
  • Karpathy ser AI som en forts\u00e4ttning p\u00e5 automatiseringen – med gradvis spridning, inte med ett pl\u00f6tsligt omv\u00e4lvande skifte.<\/li>\n<\/ul>\n<\/div>\n
    \"J\u00e4mf\u00f6relse
    Karpathy skiljer tydligt mellan AI:s styrkor i dag och f\u00f6rm\u00e5gor som beh\u00f6ver flera \u00e5r till.<\/figcaption><\/figure>\n

    Varf\u00f6r ett \u00e5rtionde och inte ett \u00e5r?<\/h2>\n

    Karpathys tes \u00e4r en medveten reaktion p\u00e5 det utbredda p\u00e5st\u00e5endet att detta \u00e4r „agenternas \u00e5r“. Han anser att det \u00e4r en klar \u00f6verskattning. Hans m\u00e5ttstock: n\u00e4r skulle man s\u00e4tta in en AI-agent som en anst\u00e4lld eller en praktikant? Inte i dag – eftersom systemen helt enkelt inte arbetar tillr\u00e4ckligt tillf\u00f6rlitligt.<\/p>\n

    Hans motivering vilar p\u00e5 runt 15 \u00e5rs erfarenhet inom f\u00e4ltet. Problemen g\u00e5r att l\u00f6sa, men de \u00e4r sega. Konkret brister modellerna p\u00e5 flera punkter:<\/p>\n

      \n
    • Kontinuerligt l\u00e4rande:<\/strong> man kan ber\u00e4tta n\u00e5got f\u00f6r en modell, och den beh\u00e5ller det inte varaktigt.<\/li>\n
    • Multimodalitet:<\/strong> olika typer av indata bearbetas \u00e4nnu inte genomg\u00e5ende s\u00e4kert.<\/li>\n
    • Datoranv\u00e4ndning:<\/strong> att sj\u00e4lvst\u00e4ndigt hantera gr\u00e4nssnitt och verktyg \u00e4r omoget.<\/li>\n<\/ul>\n

      Karpathy h\u00e4nvisar till f\u00e4ltets historia: flera g\u00e5nger har man f\u00f6rs\u00f6kt bygga „det hela“ f\u00f6r tidigt – till exempel med reinforcement learning p\u00e5 Atari-spel eller det tidiga f\u00f6rs\u00f6ket att l\u00e5ta agenter styra webbsidor med mus och tangentbord. F\u00f6rst de stora spr\u00e5kmodellerna (LLM) gav den representationskraft som kr\u00e4vdes. Men \u00e4ven i dag saknas delar av stacken.<\/p>\n

      Andar i st\u00e4llet f\u00f6r djur: en bild av dagens AI:s s\u00e4rart<\/h2>\n

      En central metafor hos Karpathy: vi bygger inte djur, utan andar<\/strong>. Djur uppst\u00e5r genom evolution och b\u00e4r med sig mycket „inbyggd h\u00e5rdvara“ – ett zebraf\u00f6l g\u00e5r n\u00e5gra minuter efter f\u00f6dseln. AI-modeller uppst\u00e5r d\u00e4remot genom imitation av m\u00e4nskliga data fr\u00e5n internet. De \u00e4r digitala, m\u00e4nniskoliknande efterbildningar – en annan sorts intelligens.<\/p>\n

      D\u00e4rav f\u00f6ljer en praktisk insikt: f\u00f6rtr\u00e4ningen („pre-training“) skapar tv\u00e5 saker samtidigt – kunskap och intelligens. Den stora m\u00e4ngden utantill\u00e4rda kunskaper ser Karpathy delvis till och med som en belastning. Modellerna lutar sig f\u00f6r h\u00e5rt mot den och har sv\u00e5rt att arbeta bortom det k\u00e4nda. Hans m\u00e5l \u00e4r en „kognitiv k\u00e4rna“: intelligens och probleml\u00f6sningsstrategier, befriade fr\u00e5n \u00f6verfl\u00f6digt faktakunnande som man i st\u00e4llet sl\u00e5r upp vid behov.<\/p>\n

      Det som sitter i modellens vikter \u00e4r ett vagt minne av tr\u00e4ningsdatan. Det som st\u00e5r i kontextf\u00f6nstret \u00e4r direkt arbetsminne.<\/p><\/blockquote>\n

      Praktisk konsekvens f\u00f6r anv\u00e4ndare: ger du modellen det relevanta dokumentet direkt i kontexten f\u00e5r du klart b\u00e4ttre resultat \u00e4n vid en fr\u00e5ga ur det rena „minnet“.<\/p>\n

      Programmering: d\u00e4r AI hj\u00e4lper – och d\u00e4r den inte g\u00f6r det<\/h2>\n

      S\u00e4rskilt upplysande \u00e4r Karpathys \u00e4rliga skildring av hur han anv\u00e4nder AI vid programmering. N\u00e4r han byggde sitt undervisningsrepositorium nanochat<\/em> hj\u00e4lpte kodmodellerna honom f\u00f6ga. Han skiljer p\u00e5 tre arbetss\u00e4tt:<\/p>\n\n\n\n\n\n\n\n
      Arbetss\u00e4tt<\/th>\nBeskrivning<\/th>\nKarpathys bed\u00f6mning<\/th>\n<\/tr>\n<\/thead>\n
      Skriva allt sj\u00e4lv<\/td>\nAvvisa AI helt<\/td>\nInte l\u00e4ngre rimligt i dag<\/td>\n<\/tr>\n
      Autokomplettering<\/td>\nM\u00e4nniskan f\u00f6rblir arkitekt, modellen fyller i<\/td>\nHans f\u00f6redragna „sweet spot“<\/td>\n<\/tr>\n
      „Vibe coding“ \/ agenter<\/td>\nFormulera uppdraget, modellen bygger autonomt<\/td>\nL\u00e4mpligt bara i vissa fall<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

      Agenter briljerar enligt Karpathy p\u00e5 standard- och boilerplate-kod<\/strong> som f\u00f6rekommer ofta p\u00e5 n\u00e4tet. P\u00e5 hans ovanligt strukturerade, „intellektuellt t\u00e4ta“ kod misslyckades de d\u00e4remot: de f\u00f6rstod inte hans medvetna avvikelser fr\u00e5n konventioner, lade in \u00f6verfl\u00f6diga skyddsmekanismer, sv\u00e4llde upp koden och anv\u00e4nde delvis f\u00f6r\u00e5ldrade gr\u00e4nssnitt. Hans slutsats: modellerna \u00e4r d\u00e5liga p\u00e5 kod „som aldrig har skrivits f\u00f6rut“.<\/p>\n

      Just det \u00e4r relevant f\u00f6r hype-debatten. Den popul\u00e4ra f\u00f6rest\u00e4llningen om en snabb „intelligensexplosion“ bygger ofta p\u00e5 antagandet att AI sj\u00e4lv kan automatisera AI-forskningen. Men det \u00e4r just p\u00e5 det verkligt nyskapande som modellerna \u00e4r svagast – ett viktigt sk\u00e4l till Karpathys l\u00e4ngre tidshorisonter.<\/p>\n

      Reinforcement learning: „att suga tillsyn genom ett sugr\u00f6r“<\/h2>\n

      Karpathy riktar tydlig kritik mot g\u00e4ngse reinforcement learning. Vid en matteuppgift provar systemet hundratals l\u00f6sningsv\u00e4gar; till slut pr\u00f6vas bara slutresultatet. Varje token i en framg\u00e5ngsrik v\u00e4g viktas upp – ocks\u00e5 villov\u00e4garna som av en slump ledde till r\u00e4tt l\u00f6sning.<\/p>\n

      Man suger tillsynen genom ett sugr\u00f6r: en enda framg\u00e5ngssignal f\u00f6rdelas \u00f6ver hela sp\u00e5ret. En m\u00e4nniska skulle aldrig g\u00f6ra s\u00e5.<\/p><\/blockquote>\n

      Alternativ som processbaserad bed\u00f6mning strandar hittills p\u00e5 ett subtilt problem: s\u00e4tter man in en andra modell som „domare“ hittar den tr\u00e4nade modellen p\u00e5litligt kryph\u00e5l<\/strong>. Karpathy beskriver ett fall d\u00e4r en modell pl\u00f6tsligt fick toppbetyg – trots att dess svar \u00f6vergick i meningsl\u00f6st rappakalja, som domaren felaktigt bed\u00f6mde som perfekt. S\u00e5dana „adversariella exempel“ finns det o\u00e4ndligt m\u00e5nga av.<\/p>\n

      \u00c4ven syntetiska data l\u00f6ser det inte utan vidare: modellernas utdata „kollapsar“ tyst till en smal bredd – ber du ChatGPT om ett sk\u00e4mt tio g\u00e5nger kommer i praktiken samma sk\u00e4mt. Tr\u00e4nar man f\u00f6r l\u00e4nge p\u00e5 s\u00e5dana egna utdata blir modellen s\u00e4mre.<\/p>\n

      Vad det betyder f\u00f6r ekonomin och f\u00f6r sm\u00e5 och medelstora f\u00f6retag<\/h2>\n

      Karpathy r\u00e4knar inte med att arbetsplatser ers\u00e4tts med ett slag, utan med ett autonomireglage<\/strong>: AI tar f\u00f6rst \u00f6ver omkring 80 procent av en uppgiftsvolym och delegerar resten till m\u00e4nniskor som \u00f6vervakar team av AI-system. Tidiga kandidater \u00e4r arbetsuppgifter med tydliga k\u00e4nnetecken:<\/p>\n