Nel settore dell’IA circolano attualmente due racconti molto diversi. Uno promette che gli agenti IA autonomi sostituiranno intere professioni già nel corso di quest’anno. L’altro viene da uno dei professionisti più esperti del campo e suona nettamente più sobrio. Andrej Karpathy – cofondatore di OpenAI, ex responsabile dell’IA in Tesla – contraddice apertamente l’euforia nella conversazione con Dwarkesh Patel: non sarà l’anno degli agenti, bensì il decennio degli agenti.
Per i decisori nelle PMI questa prospettiva è preziosa, perché non minimizza né esagera. Karpathy usa quotidianamente strumenti come Claude e Codex e li ritiene notevoli – e allo stesso tempo indica con precisione perché oggi spesso non bastano per un lavoro serio. Riassumo i punti centrali e li inquadro in ciò che significano per le decisioni aziendali.
- Karpathy si aspetta che agenti IA davvero capaci abbiano bisogno di circa un decennio per maturare – non di un anno.
- Ai modelli odierni mancano l’apprendimento continuo, una multimodalità affidabile e l’uso del computer; presentano «lacune cognitive».
- Nella programmazione gli strumenti di IA funzionano già bene – ma quasi per nulla con codice davvero inedito. Il suo punto ottimale resta il completamento automatico, non il «vibe coding».
- Il modello d’impiego realistico è un «regolatore di autonomia»: l’IA si assume una quota crescente, le persone sorvegliano e forniscono la parte decisiva restante.
- Karpathy vede l’IA come continuazione dell’automazione – con una diffusione graduale, non con un ribaltamento improvviso.
Perché un decennio e non un anno?
La tesi di Karpathy è una reazione consapevole all’affermazione diffusa secondo cui questo sarebbe «l’anno degli agenti». Lui la considera una netta sopravvalutazione. Il suo criterio: quando si impiegherebbe un agente IA come un collaboratore o una stagista? Oggi no – perché i sistemi semplicemente non lavorano in modo abbastanza affidabile.
La sua motivazione poggia su circa 15 anni di esperienza nel campo. I problemi sarebbero risolvibili, ma tenaci. In concreto ai modelli manca qualcosa in più punti:
- Apprendimento continuo: si può comunicare qualcosa a un modello, e questo non lo conserva in modo duraturo.
- Multimodalità: i diversi tipi di input non vengono ancora elaborati con padronanza costante.
- Uso del computer: l’utilizzo autonomo di interfacce e strumenti è acerbo.
Karpathy rimanda alla storia del campo: più volte si è provato a costruire «il tutto» troppo presto – per esempio con il reinforcement learning sui giochi Atari o con il primo tentativo di far usare pagine web agli agenti tramite mouse e tastiera. Solo i grandi modelli linguistici (LLM) hanno fornito la capacità di rappresentazione necessaria. Anche oggi però mancano ancora pezzi dello stack.
Fantasmi invece di animali: un’immagine per la natura dell’IA odierna
Una metafora centrale di Karpathy: non stiamo costruendo animali, bensì fantasmi. Gli animali nascono per evoluzione e portano con sé molto «hardware incorporato» – un puledro di zebra cammina pochi minuti dopo la nascita. I modelli di IA nascono invece per imitazione di dati umani presi da internet. Sono imitazioni digitali, simili all’uomo – un altro tipo di intelligenza.
Ne discende un’osservazione pratica: il preaddestramento («pre-training») produce due cose insieme – conoscenza e intelligenza. La grande quantità di conoscenza imparata a memoria Karpathy la considera in parte perfino un peso. I modelli vi si appoggerebbero troppo e farebbero fatica a lavorare oltre il noto. Il suo obiettivo è un «nucleo cognitivo»: intelligenza e strategie di soluzione dei problemi, liberate dalle nozioni superflue, che si consultano all’occorrenza.
Ciò che sta nei pesi del modello è un ricordo vago dei dati di addestramento. Ciò che sta nella finestra di contesto è memoria di lavoro diretta.
Conseguenza pratica per chi lo usa: chi fornisce al modello il documento rilevante direttamente nel contesto ottiene risultati nettamente migliori rispetto a una domanda posta alla sola «memoria».
Programmare: dove l’IA aiuta – e dove no
Particolarmente istruttivo è il racconto onesto di Karpathy su come impiega l’IA nella programmazione. Nella costruzione del suo repository didattico nanochat i modelli di coding gli sono serviti a poco. Distingue tre modi di lavorare:
| Modo di lavorare | Descrizione | Valutazione di Karpathy |
|---|---|---|
| Scrivere tutto da sé | Rifiutare completamente l’IA | Oggi non ha più senso |
| Completamento automatico | La persona resta architetto, il modello completa | Il suo «sweet spot» preferito |
| «Vibe coding» / agenti | Formulare l’incarico, il modello costruisce in autonomia | Adatto solo in casi determinati |
Secondo Karpathy gli agenti brillano con il codice standard e boilerplate, quello che ricorre spesso in rete. Con il suo codice strutturato in modo insolito e «intellettualmente denso» hanno invece fallito: non capivano le sue deviazioni volute dalle convenzioni, inserivano protezioni superflue, gonfiavano il codice e usavano in parte interfacce obsolete. La sua conclusione: i modelli sono deboli con il codice «che non è mai stato scritto prima».
Proprio questo è rilevante per il dibattito sull’hype. L’idea popolare di una rapida «esplosione di intelligenza» si basa spesso sul presupposto che l’IA possa automatizzare la ricerca sull’IA stessa. Ma proprio là dove le cose sono davvero inedite i modelli sono più deboli – un motivo importante degli orizzonti temporali più lunghi di Karpathy.
Reinforcement learning: «aspirare la supervisione con una cannuccia»
Karpathy critica apertamente il reinforcement learning corrente. Su un problema di matematica il sistema prova centinaia di percorsi di soluzione; alla fine viene verificato solo il risultato finale. Ogni token di un percorso riuscito viene sovrappesato – anche i vicoli ciechi che per caso hanno portato alla soluzione giusta.
Si aspira la supervisione con una cannuccia: un unico segnale di successo viene distribuito sull’intera traccia. Una persona non lo farebbe mai così.
Alternative come la valutazione basata sul processo finora si arenano su un problema sottile: se si impiega un secondo modello come «giudice», il modello addestrato trova immancabilmente delle scappatoie. Karpathy descrive un caso in cui un modello ottenne improvvisamente il punteggio massimo – benché le sue risposte degenerassero in un guazzabuglio insensato che il giudice classificava erroneamente come perfetto. Di questi «esempi avversari» ce ne sarebbero infiniti.
Nemmeno i dati sintetici risolvono la cosa senza difficoltà: gli output dei modelli «collassano» silenziosamente su una gamma ristretta – se si chiede dieci volte una barzelletta a ChatGPT, arrivano praticamente sempre le stesse. Se si addestra troppo a lungo su output propri di questo tipo, il modello peggiora.
Che cosa significa per l’economia e le PMI
Karpathy non prevede una sostituzione improvvisa dei posti di lavoro, bensì un regolatore di autonomia: l’IA si assume dapprima circa l’80 per cento di un volume di compiti e delega il resto alle persone, che sorvegliano squadre di sistemi di IA. I primi candidati sono attività con caratteristiche chiare:
- processi semplici e ripetitivi (esempio: call center)
- compiti brevi e conclusi in sé, con poco contesto
- operazioni puramente digitali senza componente fisica
Degno di nota: benché i modelli linguistici siano considerati «generali», nella pratica domina la programmazione. La spiegazione di Karpathy: il codice è testuale, ben strutturato, ricco di dati – ed esiste già un’infrastruttura come editor e viste diff. Altri ambiti (per esempio le presentazioni) non l’hanno. Perfino con compiti puramente testuali sarebbe sorprendentemente difficile ottenere un beneficio economico al di fuori del codice.
Sul quadro generale Karpathy resta cauto: vede l’IA come continuazione dell’automazione durata secoli – dal compilatore al motore di ricerca. Rivolgimenti precedenti come il computer o gli smartphone non sono comparsi nella crescita economica come un salto, ma si sono diffusi lentamente. Una diffusione simile e graduale se la aspetta anche per l’IA. Importante: Karpathy si definisce espressamente ottimista – il suo scetticismo si rivolge contro i calendari irrealistici e contro affermazioni che riconduce soprattutto agli incentivi di finanziamento e di attenzione.
La lezione onesta: a volte il consiglio è «niente IA»
Un’affermazione di Karpathy merita particolare attenzione. Nel periodo in cui faceva il consulente per la visione artificiale, il suo valore aggiunto consisteva spesso nello sconsigliare alle aziende l’impiego dell’IA:
Ero l’esperto di IA, mi descrivevano il problema e il mio consiglio era: non usate l’IA. Quello era il mio valore aggiunto.
Per le PMI questo è un messaggio importante. Non ogni problema ha bisogno di un sistema di IA. Chi investe oggi dovrebbe verificare con sobrietà le capacità reali della tecnologia, invece di farsi ingannare dall’aspettativa di uno «strumento onnisciente». Karpathy rimanda a questo proposito perfino al tutoraggio nell’apprendimento delle lingue: un buon insegnante in carne e ossa coglie in pochi minuti il modello di conoscenza di chi apprende – qualcosa che i modelli odierni sono ben lontani dal fare.
Conclusione
Il messaggio di Karpathy è scomodo per entrambi gli schieramenti. Agli scettici dell’IA obietta che gli strumenti sono reali e preziosi. Agli entusiasti replica che agenti autonomi e affidabili richiedono anni – non mesi. Per i decisori delle PMI dell’area DACH ne deriva una rotta pragmatica: impiegare l’IA dove oggi regge dimostrabilmente (programmazione, compiti standard, testi con contesto chiaro), mantenere la persona nel ruolo di sorveglianza e chiedersi onestamente, a ogni investimento, se il problema abbia davvero bisogno dell’IA. In questo decennio pazienza e misura battono qualsiasi scommessa sulla svolta rapida.
Fonte: Andrej Karpathy – „We’re summoning ghosts, not building animals“ (Dwarkesh Patel, YouTube)