{"id":2287,"date":"2025-10-17T12:00:00","date_gmt":"2025-10-17T10:00:00","guid":{"rendered":"https:\/\/pletzenauer.com\/?p=2287"},"modified":"2026-08-05T17:24:18","modified_gmt":"2026-08-05T15:24:18","slug":"karpathy-agenci-ai-dekada","status":"publish","type":"post","link":"https:\/\/pletzenauer.com\/pl\/2025\/10\/17\/karpathy-agenci-ai-dekada\/","title":{"rendered":"Karpathy o agentach AI: dlaczego to potrwa dekad\u0119, a nie rok"},"content":{"rendered":"

W bran\u017cy AI kr\u0105\u017c\u0105 obecnie dwie bardzo r\u00f3\u017cne narracje. Jedna obiecuje, \u017ce autonomiczni agenci AI zast\u0105pi\u0105 ca\u0142e zawody jeszcze w bie\u017c\u0105cym roku. Druga pochodzi od jednego z najbardziej do\u015bwiadczonych praktyk\u00f3w tej dziedziny i brzmi wyra\u017anie trze\u017awiej. Andrej Karpathy – wsp\u00f3\u0142za\u0142o\u017cyciel OpenAI, by\u0142y szef AI w Tesli – w rozmowie z Dwarkeshem Patelem otwarcie sprzeciwia si\u0119 euforii: to b\u0119dzie nie rok agent\u00f3w, lecz dekada agent\u00f3w<\/strong>.<\/p>\n

Dla decydent\u00f3w w M\u015aP ta perspektywa jest cenna, bo ani nie bagatelizuje, ani nie wyolbrzymia. Karpathy u\u017cywa narz\u0119dzi takich jak Claude i Codex codziennie i uwa\u017ca je za imponuj\u0105ce – a jednocze\u015bnie precyzyjnie nazywa, dlaczego do powa\u017cnej pracy dzi\u015b cz\u0119sto nie wystarczaj\u0105. Podsumowuj\u0119 kluczowe punkty i porz\u0105dkuj\u0119, co oznaczaj\u0105 dla decyzji w firmie.<\/p>\n

\nNajwa\u017cniejsze w skr\u00f3cie<\/strong><\/p>\n
    \n
  • Karpathy oczekuje, \u017ce wydajni agenci AI b\u0119d\u0105 potrzebowa\u0107 do dojrza\u0142o\u015bci mniej wi\u0119cej dekady – nie roku.<\/li>\n
  • Dzisiejszym modelom brakuje ci\u0105g\u0142ego uczenia si\u0119, niezawodnej multimodalno\u015bci i obs\u0142ugi komputera; s\u0105 „poznawczo dziurawe“.<\/li>\n
  • W programowaniu narz\u0119dzia AI dzia\u0142aj\u0105 ju\u017c dobrze – ale przy naprawd\u0119 nowatorskim kodzie ledwie. Jego sweet spot pozostaje autouzupe\u0142nianie, a nie „vibe coding“.<\/li>\n
  • Realistycznym modelem zastosowania jest „suwak autonomii“: AI przejmuje rosn\u0105cy udzia\u0142, ludzie nadzoruj\u0105 i dostarczaj\u0105 rozstrzygaj\u0105c\u0105 reszt\u0119.<\/li>\n
  • Karpathy widzi AI jako kontynuacj\u0119 automatyzacji – ze stopniowym rozpowszechnianiem, a nie nag\u0142ym prze\u0142omem.<\/li>\n<\/ul>\n<\/div>\n
    \"Zestawienie
    Karpathy jasno rozr\u00f3\u017cnia dzisiejsze mocne strony AI i zdolno\u015bci, kt\u00f3re potrzebuj\u0105 jeszcze lat.<\/figcaption><\/figure>\n

    Dlaczego dekada, a nie rok?<\/h2>\n

    Teza Karpathy’ego jest \u015bwiadom\u0105 reakcj\u0105 na rozpowszechnione stwierdzenie, \u017ce to „rok agent\u00f3w“. Uwa\u017ca to za wyra\u017ane przeszacowanie. Jego miara: kiedy zatrudni\u0142oby si\u0119 agenta AI jak pracownika albo praktykantk\u0119? Dzi\u015b nie – bo systemy po prostu nie pracuj\u0105 wystarczaj\u0105co niezawodnie.<\/p>\n

    Jego uzasadnienie opiera si\u0119 na oko\u0142o 15 latach do\u015bwiadczenia w tej dziedzinie. Problemy s\u0105 rozwi\u0105zywalne, ale oporne. Konkretnie modelom brakuje w kilku miejscach:<\/p>\n

      \n
    • Ci\u0105g\u0142e uczenie si\u0119:<\/strong> Mo\u017cna modelowi co\u015b przekaza\u0107, a on tego trwale nie zachowa.<\/li>\n
    • Multimodalno\u015b\u0107:<\/strong> R\u00f3\u017cne rodzaje wej\u015bcia nie s\u0105 jeszcze przetwarzane konsekwentnie i pewnie.<\/li>\n
    • Obs\u0142uga komputera:<\/strong> Samodzielne pos\u0142ugiwanie si\u0119 interfejsami i narz\u0119dziami jest niedojrza\u0142e.<\/li>\n<\/ul>\n

      Karpathy odwo\u0142uje si\u0119 do historii tej dziedziny: wielokrotnie pr\u00f3bowano zbudowa\u0107 „ca\u0142o\u015b\u0107“ za wcze\u015bnie – na przyk\u0142ad uczeniem ze wzmocnieniem na grach Atari albo wczesn\u0105 pr\u00f3b\u0105, by agenci obs\u0142ugiwali strony internetowe mysz\u0105 i klawiatur\u0105. Dopiero du\u017ce modele j\u0119zykowe (LLM) dostarczy\u0142y potrzebnej si\u0142y reprezentacji. Ale i dzi\u015b brakuje jeszcze cz\u0119\u015bci tego stosu.<\/p>\n

      Duchy zamiast zwierz\u0105t: obraz na osobliwo\u015b\u0107 dzisiejszej AI<\/h2>\n

      Centralna metafora Karpathy’ego: nie budujemy zwierz\u0105t, lecz duchy<\/strong>. Zwierz\u0119ta powstaj\u0105 przez ewolucj\u0119 i wnosz\u0105 du\u017co „wbudowanego sprz\u0119tu“ – \u017arebi\u0119 zebry biega kilka minut po urodzeniu. Modele AI powstaj\u0105 natomiast przez imitacj\u0119 ludzkich danych z internetu. S\u0105 cyfrowymi, podobnymi do ludzkich na\u015bladownictwami – innym rodzajem inteligencji.<\/p>\n

      Wynika z tego praktyczny wniosek: pretrening („pre-training“) wytwarza dwie rzeczy naraz – wiedz\u0119 i inteligencj\u0119. Du\u017c\u0105 ilo\u015b\u0107 wyuczonej na pami\u0119\u0107 wiedzy Karpathy widzi po cz\u0119\u015bci nawet jako obci\u0105\u017cenie. Modele opieraj\u0105 si\u0119 na niej zbyt mocno i z trudem pracuj\u0105 poza tym, co znane. Jego celem jest „rdze\u0144 poznawczy“: inteligencja i strategie rozwi\u0105zywania problem\u00f3w, uwolnione od zb\u0119dnej wiedzy faktograficznej, kt\u00f3r\u0105 w razie potrzeby si\u0119 sprawdza.<\/p>\n

      To, co tkwi w wagach modelu, jest mglistym wspomnieniem danych treningowych. To, co stoi w oknie kontekstowym, jest bezpo\u015bredni\u0105 pami\u0119ci\u0105 robocz\u0105.<\/p><\/blockquote>\n

      Praktyczna konsekwencja dla u\u017cytkownik\u00f3w: kto poda modelowi istotny dokument wprost do kontekstu, otrzyma wyra\u017anie lepsze wyniki ni\u017c przy pytaniu z samej „pami\u0119ci“.<\/p>\n

      Programowanie: gdzie AI pomaga – a gdzie nie<\/h2>\n

      Szczeg\u00f3lnie pouczaj\u0105cy jest uczciwy opis Karpathy’ego, jak u\u017cywa AI przy programowaniu. Przy budowie swojego repozytorium dydaktycznego nanochat<\/em> modele do kodowania niewiele mu pomog\u0142y. Rozr\u00f3\u017cnia trzy sposoby pracy:<\/p>\n\n\n\n\n\n\n\n
      Spos\u00f3b pracy<\/th>\nOpis<\/th>\nOcena Karpathy’ego<\/th>\n<\/tr>\n<\/thead>\n
      Wszystko pisa\u0107 samemu<\/td>\nCa\u0142kowite odrzucenie AI<\/td>\nDzi\u015b ju\u017c bez sensu<\/td>\n<\/tr>\n
      Autouzupe\u0142nianie<\/td>\nCz\u0142owiek pozostaje architektem, model uzupe\u0142nia<\/td>\nJego preferowany „sweet spot“<\/td>\n<\/tr>\n
      „Vibe coding“ \/ agenci<\/td>\nSformu\u0142owa\u0107 zlecenie, model buduje autonomicznie<\/td>\nOdpowiednie tylko w okre\u015blonych przypadkach<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

      Agenci b\u0142yszcz\u0105 wed\u0142ug Karpathy’ego przy kodzie standardowym i boilerplate<\/strong>, kt\u00f3ry cz\u0119sto wyst\u0119puje w sieci. Przy jego nietypowo ustrukturyzowanym, „intelektualnie g\u0119stym“ kodzie zawiod\u0142y natomiast: nie rozumia\u0142y jego \u015bwiadomych odst\u0119pstw od konwencji, wstawia\u0142y zb\u0119dne zabezpieczenia, rozdyma\u0142y kod i u\u017cywa\u0142y po cz\u0119\u015bci przestarza\u0142ych interfejs\u00f3w. Jego wniosek: modele s\u0105 s\u0142abe przy kodzie, „kt\u00f3rego nigdy jeszcze nie napisano“.<\/p>\n

      Dok\u0142adnie to jest istotne dla debaty o szumie. Popularne wyobra\u017cenie szybkiej „eksplozji inteligencji“ opiera si\u0119 cz\u0119sto na za\u0142o\u017ceniu, \u017ce AI mog\u0142aby zautomatyzowa\u0107 same badania nad AI. Tymczasem w\u0142a\u015bnie przy tym, co naprawd\u0119 nowatorskie, modele s\u0105 najs\u0142absze – wa\u017cny pow\u00f3d d\u0142u\u017cszych horyzont\u00f3w czasowych Karpathy’ego.<\/p>\n

      Uczenie ze wzmocnieniem: „wysysanie nadzoru przez s\u0142omk\u0119“<\/h2>\n

      Karpathy wyra\u017anie krytykuje popularne uczenie ze wzmocnieniem. Przy zadaniu matematycznym system pr\u00f3buje setek dr\u00f3g rozwi\u0105zania; na ko\u0144cu sprawdzany jest tylko wynik ko\u0144cowy. Ka\u017cdy token udanej drogi zostaje wysoko wywa\u017cony – tak\u017ce \u015blepe zau\u0142ki, kt\u00f3re przypadkiem doprowadzi\u0142y do w\u0142a\u015bciwego rozwi\u0105zania.<\/p>\n

      Wysysa si\u0119 nadz\u00f3r przez s\u0142omk\u0119: pojedynczy sygna\u0142 sukcesu zostaje rozdzielony na ca\u0142y \u015blad. Cz\u0142owiek nigdy by tak nie zrobi\u0142.<\/p><\/blockquote>\n

      Alternatywy jak ocena oparta na procesie rozbijaj\u0105 si\u0119 dot\u0105d o subtelny problem: gdy wstawi si\u0119 drugi model jako „s\u0119dziego“, trenowany model niezawodnie znajduje luki<\/strong>. Karpathy opisuje przypadek, w kt\u00f3rym model nagle otrzymywa\u0142 najwy\u017csze oceny – cho\u0107 jego odpowiedzi przechodzi\u0142y w bezsensowny be\u0142kot, kt\u00f3ry s\u0119dzia b\u0142\u0119dnie uznawa\u0142 za doskona\u0142y. Takich „przyk\u0142ad\u00f3w adwersarialnych“ jest niesko\u0144czenie wiele.<\/p>\n

      Tak\u017ce dane syntetyczne nie rozwi\u0105zuj\u0105 tego bez dalszych zabieg\u00f3w: wyj\u015bcia modelu po cichu „kolabuj\u0105“ do w\u0105skiego zakresu – gdy poprosi si\u0119 ChatGPT dziesi\u0119\u0107 razy o dowcip, wychodz\u0105 praktycznie te same. Kto trenuje zbyt d\u0142ugo na takich w\u0142asnych wyj\u015bciach, pogarsza model.<\/p>\n

      Co to oznacza dla gospodarki i M\u015aP<\/h2>\n

      Karpathy nie liczy si\u0119 z nag\u0142ym zast\u0105pieniem miejsc pracy, lecz z suwakiem autonomii<\/strong>: AI przejmuje pocz\u0105tkowo oko\u0142o 80 procent wolumenu zada\u0144, reszt\u0119 deleguje ludziom, kt\u00f3rzy nadzoruj\u0105 zespo\u0142y system\u00f3w AI. Wczesnymi kandydatami s\u0105 czynno\u015bci o jasnych cechach:<\/p>\n