{"id":2246,"date":"2025-10-17T12:00:00","date_gmt":"2025-10-17T10:00:00","guid":{"rendered":"https:\/\/pletzenauer.com\/?p=2246"},"modified":"2026-08-05T17:23:47","modified_gmt":"2026-08-05T15:23:47","slug":"karpathy-ai-agents-decennium","status":"publish","type":"post","link":"https:\/\/pletzenauer.com\/nl\/2025\/10\/17\/karpathy-ai-agents-decennium\/","title":{"rendered":"Karpathy over AI-agents: waarom het een decennium duurt, geen jaar"},"content":{"rendered":"

In de AI-branche circuleren op dit moment twee heel verschillende verhalen. Het ene belooft dat autonome AI-agents nog dit jaar hele beroepen vervangen. Het andere komt van een van de meest ervaren praktijkmensen in het vakgebied en klinkt aanzienlijk nuchterder. Andrej Karpathy – medeoprichter van OpenAI, voormalig AI-hoofd bij Tesla – spreekt de euforie in het gesprek met Dwarkesh Patel openlijk tegen: het wordt niet het jaar van de agents, maar het decennium van de agents<\/strong>.<\/p>\n

Voor beslissers in het mkb is dit perspectief waardevol, omdat het niets bagatelliseert en niets opblaast. Karpathy gebruikt dagelijks tools als Claude en Codex en vindt ze indrukwekkend – en benoemt tegelijk precies waarom ze voor serieus werk vandaag vaak niet volstaan. Ik vat de kernpunten samen en duid wat ze betekenen voor bedrijfsmatige beslissingen.<\/p>\n

\nHet belangrijkste in het kort<\/strong><\/p>\n
    \n
  • Karpathy verwacht dat krachtige AI-agents ongeveer een decennium nodig hebben om volwassen te worden – geen jaar.<\/li>\n
  • De huidige modellen missen continu leren, betrouwbare multimodaliteit en computergebruik; ze zijn „cognitief lacuneus“.<\/li>\n
  • Bij het programmeren werken AI-tools al goed – bij werkelijk nieuwe code echter nauwelijks. Zijn sweet spot blijft de automatische aanvulling, niet het „vibe coding“.<\/li>\n
  • Een realistisch inzetmodel is een „autonomieschuif“: AI neemt een groeiend aandeel over, mensen houden toezicht en leveren de doorslaggevende rest.<\/li>\n
  • Karpathy ziet AI als voortzetting van de automatisering – met geleidelijke verspreiding, niet met een plotselinge omwenteling.<\/li>\n<\/ul>\n<\/div>\n
    \"Vergelijking
    Karpathy maakt een duidelijk onderscheid tussen de huidige sterke punten van AI en vaardigheden die nog jaren nodig hebben.<\/figcaption><\/figure>\n

    Waarom een decennium en niet een jaar?<\/h2>\n

    Karpathy’s stelling is een bewuste reactie op de wijdverbreide uitspraak dat dit „het jaar van de agents“ is. Hij houdt dat voor een duidelijke overschatting. Zijn maatstaf: wanneer zou je een AI-agent inzetten als een medewerker of een stagiaire? Vandaag niet – omdat de systemen simpelweg niet betrouwbaar genoeg werken.<\/p>\n

    Zijn onderbouwing steunt op ongeveer 15 jaar ervaring in het vakgebied. De problemen zijn oplosbaar, maar taai. Concreet schieten de modellen op meerdere punten tekort:<\/p>\n

      \n
    • Continu leren:<\/strong> je kunt een model iets meedelen, en het onthoudt dat niet blijvend.<\/li>\n
    • Multimodaliteit:<\/strong> verschillende soorten invoer worden nog niet consequent soeverein verwerkt.<\/li>\n
    • Computergebruik:<\/strong> het zelfstandig bedienen van interfaces en gereedschappen is onvolgroeid.<\/li>\n<\/ul>\n

      Karpathy wijst op de geschiedenis van het vakgebied: meermaals heeft men geprobeerd „het geheel“ te vroeg te bouwen – bijvoorbeeld met reinforcement learning op Atari-spellen of de vroege poging om agents via muis en toetsenbord websites te laten bedienen. Pas de grote taalmodellen (LLM’s) leverden de nodige representatiekracht. Ook vandaag ontbreken echter nog delen van de stack.<\/p>\n

      Geesten in plaats van dieren: een beeld voor de eigenaardigheid van de huidige AI<\/h2>\n

      Een centrale metafoor van Karpathy: we bouwen geen dieren, maar geesten<\/strong>. Dieren ontstaan door evolutie en brengen veel „ingebouwde hardware“ mee – een zebraveulen loopt minuten na de geboorte. AI-modellen ontstaan daarentegen door imitatie van menselijke data van het internet. Het zijn digitale, mensachtige nabootsingen – een ander soort intelligentie.<\/p>\n

      Daaruit volgt een praktisch inzicht: de voortraining („pre-training“) brengt twee dingen tegelijk voort – kennis en intelligentie. De vele uit het hoofd geleerde kennis ziet Karpathy deels zelfs als last. Modellen zouden er te sterk op leunen en moeite hebben om voorbij het bekende te werken. Zijn doel is een „cognitieve kern“: intelligentie en probleemoplossingsstrategie\u00ebn, ontdaan van overbodige feitenkennis die je zo nodig opzoekt.<\/p>\n

      Wat in de gewichten van het model zit, is een vage herinnering aan de trainingsdata. Wat in het contextvenster staat, is direct werkgeheugen.<\/p><\/blockquote>\n

      Praktisch gevolg voor gebruikers: wie een model het relevante document rechtstreeks in de context geeft, krijgt duidelijk betere resultaten dan bij een vraag uit het pure „geheugen“.<\/p>\n

      Programmeren: waar AI helpt – en waar niet<\/h2>\n

      Bijzonder verhelderend is Karpathy’s eerlijke beschrijving van hoe hij AI inzet bij het programmeren. Bij de bouw van zijn lesrepository nanochat<\/em> hielpen codingmodellen hem weinig. Hij onderscheidt drie werkwijzen:<\/p>\n\n\n\n\n\n\n\n
      Werkwijze<\/th>\nBeschrijving<\/th>\nKarpathy’s inschatting<\/th>\n<\/tr>\n<\/thead>\n
      Alles zelf schrijven<\/td>\nAI volledig afwijzen<\/td>\nVandaag niet meer zinvol<\/td>\n<\/tr>\n
      Automatische aanvulling<\/td>\nMens blijft architect, model vult aan<\/td>\nZijn favoriete „sweet spot“<\/td>\n<\/tr>\n
      „Vibe coding“ \/ agents<\/td>\nOpdracht formuleren, model bouwt autonoom<\/td>\nAlleen in bepaalde gevallen geschikt<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

      Agents blinken volgens Karpathy uit bij standaard- en boilerplatecode<\/strong> die vaak op het net voorkomt. Bij zijn ongewoon gestructureerde, „intellectueel dichte“ code faalden ze daarentegen: ze begrepen zijn bewuste afwijkingen van conventies niet, voegden overbodige zekeringen toe, bliezen de code op en gebruikten deels verouderde interfaces. Zijn conclusie: modellen zijn slecht bij code „die nog nooit geschreven is“.<\/p>\n

      Juist dat is relevant voor het hypedebat. De populaire voorstelling van een snelle „intelligentie-explosie“ berust vaak op de aanname dat AI het AI-onderzoek zelf kan automatiseren. Uitgerekend bij het werkelijk nieuwe zijn de modellen echter het zwakst – een belangrijke reden voor Karpathy’s langere tijdshorizonten.<\/p>\n

      Reinforcement learning: „toezicht door een rietje zuigen“<\/h2>\n

      Karpathy uit duidelijke kritiek op het gangbare reinforcement learning. Bij een rekenopgave probeert het systeem honderden oplossingsroutes; aan het eind wordt alleen het eindresultaat gecontroleerd. Elk token van een geslaagde route wordt zwaarder gewogen – ook de dwaalwegen die toevallig tot de juiste oplossing leidden.<\/p>\n

      Je zuigt het toezicht door een rietje: \u00e9\u00e9n enkel successignaal wordt over het hele spoor uitgesmeerd. Een mens zou dat nooit zo doen.<\/p><\/blockquote>\n

      Alternatieven zoals procesgebaseerde beoordeling stranden tot nu toe op een subtiel probleem: zet je een tweede model in als „rechter“, dan vindt het getrainde model betrouwbaar mazen<\/strong>. Karpathy beschrijft een geval waarin een model plots topcijfers kreeg – hoewel zijn antwoorden overgingen in zinloos koeterwaals dat de rechter ten onrechte als perfect beoordeelde. Van zulke „adversari\u00eble voorbeelden“ zijn er oneindig veel.<\/p>\n

      Ook synthetische data lossen dat niet zomaar op: modeluitvoer „klapt“ stilletjes in tot een smalle bandbreedte – vraag je ChatGPT tien keer om een grap, dan komen er praktisch dezelfde. Train je te lang op zulke eigen uitvoer, dan wordt het model slechter.<\/p>\n

      Wat dat betekent voor economie en mkb<\/h2>\n

      Karpathy rekent niet op een abrupte vervanging van banen, maar op een autonomieschuif<\/strong>: AI neemt eerst ongeveer 80 procent van een takenvolume over en delegeert de rest aan mensen, die teams van AI-systemen aansturen. Vroege kandidaten zijn werkzaamheden met duidelijke kenmerken:<\/p>\n