No setor da IA circulam atualmente duas narrativas muito diferentes. Uma promete que os agentes de IA autónomos vão substituir profissões inteiras ainda este ano. A outra vem de um dos práticos mais experientes da área e soa bastante mais sóbria. Andrej Karpathy – cofundador da OpenAI, antigo responsável de IA na Tesla – contraria abertamente a euforia na conversa com Dwarkesh Patel: não será o ano dos agentes, mas a década dos agentes.
Para quem decide numa PME, esta perspetiva é valiosa porque não desvaloriza nem exagera. Karpathy usa diariamente ferramentas como o Claude e o Codex e considera-as impressionantes – e nomeia ao mesmo tempo com precisão porque é que, hoje, muitas vezes não chegam para trabalho sério. Resumimos os pontos centrais e enquadramos o que significam para as decisões nas empresas.
- Karpathy espera que os agentes de IA capazes precisem de cerca de uma década até à maturidade – não de um ano.
- Aos modelos atuais faltam aprendizagem contínua, multimodalidade fiável e utilização do computador; são „cognitivamente lacunares“.
- Na programação, as ferramentas de IA já funcionam bem – mas dificilmente com código verdadeiramente novo. O seu ponto ideal continua a ser o preenchimento automático, não o „vibe coding“.
- O modelo de utilização realista é um „regulador de autonomia“: a IA assume uma parcela crescente, as pessoas supervisionam e fornecem o resto decisivo.
- Karpathy vê a IA como continuação da automatização – com difusão gradual, não com uma rutura súbita.
Porquê uma década e não um ano?
A tese de Karpathy é uma reação deliberada à afirmação corrente de que este é „o ano dos agentes“. Considera-a uma sobrestimação clara. O seu critério: quando é que se usaria um agente de IA como um colaborador ou uma estagiária? Hoje não – porque os sistemas simplesmente não trabalham com fiabilidade suficiente.
A sua fundamentação assenta em cerca de 15 anos de experiência na área. Os problemas seriam resolúveis, mas morosos. Em concreto, faltam aos modelos várias coisas:
- Aprendizagem contínua: pode dizer-se algo a um modelo e ele não o retém de forma duradoura.
- Multimodalidade: os diferentes tipos de entrada ainda não são processados com desenvoltura de forma consistente.
- Utilização do computador: a operação autónoma de interfaces e ferramentas é imatura.
Karpathy remete para a história da área: várias vezes se tentou construir „o todo“ cedo demais – por exemplo com reinforcement learning em jogos Atari ou com a tentativa precoce de pôr agentes a operar páginas web com rato e teclado. Só os grandes modelos de linguagem (LLM) trouxeram a capacidade de representação necessária. Mas também hoje ainda faltam partes da pilha.
Espíritos em vez de animais: uma imagem para a natureza da IA atual
Uma metáfora central de Karpathy: não estamos a construir animais, mas espíritos. Os animais surgem por evolução e trazem muito „hardware incorporado“ – uma cria de zebra anda minutos depois de nascer. Os modelos de IA, pelo contrário, surgem por imitação de dados humanos vindos da internet. São imitações digitais, semelhantes ao humano – um outro tipo de inteligência.
Daí decorre uma constatação prática: o pré-treino („pre-training“) produz duas coisas ao mesmo tempo – conhecimento e inteligência. Karpathy vê o muito conhecimento decorado, em parte, até como um fardo. Os modelos apoiar-se-iam demasiado nele e teriam dificuldade em trabalhar para além do conhecido. O seu objetivo é um „núcleo cognitivo“: inteligência e estratégias de resolução de problemas, libertas do saber factual supérfluo que se consulta quando é preciso.
O que está nos pesos do modelo é uma recordação vaga dos dados de treino. O que está na janela de contexto é memória de trabalho direta.
Consequência prática para os utilizadores: quem entrega ao modelo o documento relevante diretamente no contexto obtém resultados claramente melhores do que com uma pergunta feita à pura „memória“.
Programar: onde a IA ajuda – e onde não
Particularmente esclarecedor é o relato honesto de Karpathy sobre como usa a IA a programar. Na construção do seu repositório didático nanochat os modelos de código ajudaram-no pouco. Ele distingue três formas de trabalhar:
| Forma de trabalhar | Descrição | Avaliação de Karpathy |
|---|---|---|
| Escrever tudo por si próprio | Recusar a IA por completo | Hoje já não faz sentido |
| Preenchimento automático | A pessoa continua a ser o arquiteto, o modelo completa | O seu „ponto ideal“ preferido |
| „Vibe coding“ / agentes | Formular o pedido, o modelo constrói autonomamente | Adequado apenas em certos casos |
Segundo Karpathy, os agentes brilham em código padrão e boilerplate, que aparece muitas vezes na internet. Já no seu código, invulgarmente estruturado e „intelectualmente denso“, falharam: não compreenderam os seus desvios deliberados às convenções, acrescentaram salvaguardas supérfluas, incharam o código e usaram em parte interfaces desatualizadas. A sua conclusão: os modelos são maus em código „que nunca foi escrito“.
É exatamente isso que é relevante para o debate sobre o hype. A ideia popular de uma rápida „explosão de inteligência“ assenta muitas vezes no pressuposto de que a IA poderia automatizar a própria investigação em IA. Ora é precisamente no que é verdadeiramente novo que os modelos são mais fracos – uma razão importante para os horizontes temporais mais longos de Karpathy.
Reinforcement learning: „sugar a supervisão por uma palhinha“
Karpathy critica com clareza o reinforcement learning corrente. Num problema de matemática, o sistema experimenta centenas de caminhos de solução; no fim só é verificado o resultado final. Cada token de um caminho bem-sucedido é reforçado – incluindo os desvios que por acaso levaram à solução certa.
Suga-se a supervisão por uma palhinha: um único sinal de sucesso é distribuído por todo o percurso. Uma pessoa nunca faria assim.
Alternativas como a avaliação baseada no processo esbarram até agora num problema subtil: se se usar um segundo modelo como „juiz“, o modelo treinado encontra de forma fiável brechas. Karpathy descreve um caso em que um modelo passou de repente a receber notas máximas – apesar de as suas respostas se transformarem em algaraviada sem sentido, que o juiz classificava erradamente como perfeita. Estes „exemplos adversariais“ existiriam em número infinito.
Também os dados sintéticos não resolvem isso sem mais: as saídas dos modelos „colapsam“ silenciosamente para uma faixa estreita – se pedir dez vezes uma piada ao ChatGPT, vêm praticamente as mesmas. Treinar demasiado tempo com estas saídas próprias piora o modelo.
O que isso significa para a economia e para as PME
Karpathy não conta com uma substituição fulminante de postos de trabalho, mas com um regulador de autonomia: a IA assume primeiro cerca de 80 por cento de um volume de tarefas e delega o resto a pessoas, que supervisionam equipas de sistemas de IA. Os primeiros candidatos são atividades com características claras:
- processos simples e repetitivos (exemplo: call center)
- tarefas curtas e fechadas, com pouco contexto
- processos puramente digitais, sem componente física
Digno de nota: embora os modelos de linguagem sejam tidos por „gerais“, na prática domina a programação. A explicação de Karpathy: o código é textual, bem estruturado, rico em dados – e já existe infraestrutura como editores e vistas de diff. Outras áreas (as apresentações, por exemplo) não têm isso. Mesmo em tarefas puramente textuais, seria surpreendentemente difícil obter benefício económico fora do código.
No quadro geral, Karpathy mantém-se contido: vê a IA como continuação de séculos de automatização – do compilador ao motor de busca. Ruturas anteriores como os computadores ou os smartphones não apareceram no crescimento económico como um salto, mas difundiram-se lentamente. Espera uma difusão semelhante, gradual, também para a IA. Importante: Karpathy considera-se expressamente otimista – o seu ceticismo dirige-se aos calendários irrealistas e a afirmações que atribui sobretudo a incentivos de financiamento e de atenção.
A lição honesta: às vezes o conselho é „nada de IA“
Uma afirmação de Karpathy merece atenção especial. No tempo em que foi consultor de visão por computador, o seu valor acrescentado consistia muitas vezes em desaconselhar às empresas o uso de IA:
Eu era o especialista em IA, descreviam-me o problema e o meu conselho era: não usem IA. Era esse o meu valor acrescentado.
Para as PME esta é uma mensagem importante. Nem todos os problemas precisam de um sistema de IA. Quem investe hoje deve avaliar com sobriedade as capacidades reais da tecnologia, em vez de cair na expetativa de uma „ferramenta omnisciente“. Karpathy remete para isso até para o apoio individual na aprendizagem de línguas: um bom docente humano capta em minutos o modelo de conhecimento de quem aprende – algo que os modelos atuais estão longe de conseguir.
Conclusão
A mensagem de Karpathy é incómoda para ambos os campos. Aos céticos da IA responde que as ferramentas são reais e valiosas. Aos eufóricos contrapõe que agentes autónomos e fiáveis precisam de anos – não de meses. Para quem decide nas PME da região DACH, daí resulta um rumo pragmático: usar a IA onde ela hoje comprovadamente sustenta (programação, tarefas padrão, texto com contexto claro), manter as pessoas na supervisão e, em cada investimento, perguntar honestamente se o problema precisa sequer de IA. Nesta década, a paciência e o bom senso ganham a qualquer aposta na rutura rápida.
Fonte: Andrej Karpathy – „We’re summoning ghosts, not building animals“ (Dwarkesh Patel, YouTube)