{"id":2158,"date":"2025-10-17T12:00:00","date_gmt":"2025-10-17T10:00:00","guid":{"rendered":"https:\/\/pletzenauer.com\/?p=2158"},"modified":"2026-08-05T17:23:06","modified_gmt":"2026-08-05T15:23:06","slug":"karpathy-agentes-de-ia-una-decada","status":"publish","type":"post","link":"https:\/\/pletzenauer.com\/es\/2025\/10\/17\/karpathy-agentes-de-ia-una-decada\/","title":{"rendered":"Karpathy sobre los agentes de IA: por qu\u00e9 llevar\u00e1 una d\u00e9cada, no un a\u00f1o"},"content":{"rendered":"

En el sector de la IA circulan hoy dos relatos muy distintos. Uno promete que los agentes de IA aut\u00f3nomos sustituir\u00e1n profesiones enteras ya este mismo a\u00f1o. El otro procede de uno de los profesionales m\u00e1s experimentados del campo y suena bastante m\u00e1s sobrio. Andrej Karpathy – cofundador de OpenAI y ex responsable de IA en Tesla – contradice abiertamente la euforia en su conversaci\u00f3n con Dwarkesh Patel: no ser\u00e1 el a\u00f1o de los agentes, sino la d\u00e9cada de los agentes<\/strong>.<\/p>\n

Para quienes deciden en pymes esta perspectiva es valiosa, porque ni minimiza ni exagera. Karpathy usa a diario herramientas como Claude y Codex y las considera impresionantes – y al mismo tiempo se\u00f1ala con precisi\u00f3n por qu\u00e9 hoy a menudo no bastan para un trabajo serio. Resumimos los puntos centrales y los situamos en lo que significan para las decisiones de una empresa.<\/p>\n

\nLo esencial en breve<\/strong><\/p>\n
    \n
  • Karpathy espera que los agentes de IA realmente capaces necesiten alrededor de una d\u00e9cada hasta madurar – no un a\u00f1o.<\/li>\n
  • A los modelos actuales les falta aprendizaje continuo, multimodalidad fiable y manejo del ordenador; presentan «lagunas cognitivas».<\/li>\n
  • En programaci\u00f3n las herramientas de IA ya funcionan bien – pero apenas con c\u00f3digo realmente novedoso. Su punto \u00f3ptimo sigue siendo el autocompletado, no el «vibe coding».<\/li>\n
  • El modelo de uso realista es un «regulador de autonom\u00eda»: la IA asume una parte creciente, las personas supervisan y aportan el resto decisivo.<\/li>\n
  • Karpathy ve la IA como continuaci\u00f3n de la automatizaci\u00f3n – con una difusi\u00f3n gradual, no con una ruptura repentina.<\/li>\n<\/ul>\n<\/div>\n
    \"Contraposici\u00f3n
    Karpathy distingue con claridad entre las fortalezas actuales de la IA y las capacidades que todav\u00eda necesitan a\u00f1os.<\/figcaption><\/figure>\n

    \u00bfPor qu\u00e9 una d\u00e9cada y no un a\u00f1o?<\/h2>\n

    La tesis de Karpathy es una reacci\u00f3n consciente a la afirmaci\u00f3n extendida de que este es «el a\u00f1o de los agentes». \u00c9l lo considera una clara sobrestimaci\u00f3n. Su criterio: \u00bfcu\u00e1ndo emplear\u00eda uno a un agente de IA como a un empleado o a una becaria? Hoy no – porque los sistemas sencillamente no trabajan de forma bastante fiable.<\/p>\n

    Su argumentaci\u00f3n se apoya en unos 15 a\u00f1os de experiencia en el campo. Los problemas ser\u00edan resolubles, pero costosos. En concreto, a los modelos les falta algo en varios puntos:<\/p>\n

      \n
    • Aprendizaje continuo:<\/strong> se le puede comunicar algo a un modelo y no lo retiene de forma duradera.<\/li>\n
    • Multimodalidad:<\/strong> los distintos tipos de entrada a\u00fan no se procesan con soltura de manera consistente.<\/li>\n
    • Manejo del ordenador:<\/strong> el uso aut\u00f3nomo de interfaces y herramientas est\u00e1 poco maduro.<\/li>\n<\/ul>\n

      Karpathy remite a la historia del campo: varias veces se intent\u00f3 construir «el conjunto» demasiado pronto – por ejemplo con reinforcement learning sobre juegos de Atari o con el intento temprano de que unos agentes manejaran p\u00e1ginas web con rat\u00f3n y teclado. Solo los grandes modelos de lenguaje (LLM) aportaron la capacidad de representaci\u00f3n necesaria. Pero tambi\u00e9n hoy faltan a\u00fan partes de la pila.<\/p>\n

      Fantasmas en lugar de animales: una imagen para la peculiaridad de la IA actual<\/h2>\n

      Una met\u00e1fora central de Karpathy: no construimos animales, sino fantasmas<\/strong>. Los animales surgen por evoluci\u00f3n y traen consigo mucho «hardware incorporado» – una cr\u00eda de cebra camina minutos despu\u00e9s de nacer. Los modelos de IA, en cambio, surgen imitando datos humanos de internet. Son imitaciones digitales, semejantes a lo humano – otro tipo de inteligencia.<\/p>\n

      De ah\u00ed se sigue una idea pr\u00e1ctica: el preentrenamiento («pre-training») genera dos cosas a la vez – conocimiento e inteligencia. Todo ese conocimiento memorizado lo ve Karpathy en parte incluso como un lastre. Los modelos se apoyar\u00edan demasiado en \u00e9l y tendr\u00edan dificultades para trabajar m\u00e1s all\u00e1 de lo conocido. Su objetivo es un «n\u00facleo cognitivo»: inteligencia y estrategias de resoluci\u00f3n de problemas, liberadas del conocimiento factual superfluo que uno consulta cuando lo necesita.<\/p>\n

      Lo que est\u00e1 en los pesos del modelo es un recuerdo vago de los datos de entrenamiento. Lo que est\u00e1 en la ventana de contexto es memoria de trabajo directa.<\/p><\/blockquote>\n

      Consecuencia pr\u00e1ctica para el usuario: quien le da al modelo el documento relevante directamente en el contexto obtiene resultados bastante mejores que preguntando desde la pura «memoria».<\/p>\n

      Programaci\u00f3n: d\u00f3nde ayuda la IA – y d\u00f3nde no<\/h2>\n

      Especialmente reveladora es la descripci\u00f3n honesta que hace Karpathy de c\u00f3mo usa la IA al programar. Al construir su repositorio did\u00e1ctico nanochat<\/em>, los modelos de programaci\u00f3n le ayudaron poco. Distingue tres formas de trabajar:<\/p>\n\n\n\n\n\n\n\n
      Forma de trabajar<\/th>\nDescripci\u00f3n<\/th>\nValoraci\u00f3n de Karpathy<\/th>\n<\/tr>\n<\/thead>\n
      Escribirlo todo uno mismo<\/td>\nRechazar la IA por completo<\/td>\nHoy ya no tiene sentido<\/td>\n<\/tr>\n
      Autocompletado<\/td>\nLa persona sigue siendo la arquitecta, el modelo completa<\/td>\nSu «punto \u00f3ptimo» preferido<\/td>\n<\/tr>\n
      «Vibe coding» \/ agentes<\/td>\nFormular el encargo, el modelo construye de forma aut\u00f3noma<\/td>\nSolo adecuado en determinados casos<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

      Seg\u00fan Karpathy, los agentes brillan con el c\u00f3digo est\u00e1ndar y repetitivo (boilerplate)<\/strong>, que abunda en la red. En cambio, con su c\u00f3digo inusualmente estructurado e «intelectualmente denso» fallaron: no entendieron sus desviaciones deliberadas de las convenciones, a\u00f1adieron salvaguardas superfluas, inflaron el c\u00f3digo y usaron en parte interfaces obsoletas. Su conclusi\u00f3n: los modelos son malos con el c\u00f3digo «que nunca se ha escrito antes».<\/p>\n

      Justamente eso es relevante para el debate sobre el hype. La idea popular de una r\u00e1pida «explosi\u00f3n de inteligencia» se basa a menudo en el supuesto de que la IA podr\u00eda automatizar la propia investigaci\u00f3n en IA. Pero precisamente en lo verdaderamente novedoso es donde los modelos son m\u00e1s d\u00e9biles – una raz\u00f3n importante de los horizontes temporales m\u00e1s largos de Karpathy.<\/p>\n

      Reinforcement learning: «sorber la supervisi\u00f3n por una pajita»<\/h2>\n

      Karpathy critica con claridad el reinforcement learning habitual. En un problema de matem\u00e1ticas el sistema prueba cientos de v\u00edas de soluci\u00f3n; al final solo se comprueba el resultado. Cada token de una v\u00eda exitosa se pondera al alza – tambi\u00e9n los desv\u00edos que por casualidad llevaron a la soluci\u00f3n correcta.<\/p>\n

      Se sorbe la supervisi\u00f3n por una pajita: una \u00fanica se\u00f1al de \u00e9xito se reparte por toda la traza. Una persona nunca lo har\u00eda as\u00ed.<\/p><\/blockquote>\n

      Alternativas como la evaluaci\u00f3n basada en el proceso fracasan hasta ahora por un problema sutil: si se emplea un segundo modelo como «juez», el modelo entrenado encuentra de forma fiable resquicios<\/strong>. Karpathy describe un caso en el que un modelo obtuvo de repente las mejores notas – aunque sus respuestas derivaban en una jerga sin sentido que el juez clasific\u00f3 err\u00f3neamente como perfecta. De esos «ejemplos adversarios» habr\u00eda infinitos.<\/p>\n

      Tampoco los datos sint\u00e9ticos lo resuelven sin m\u00e1s: las salidas del modelo «colapsan» silenciosamente en una banda estrecha – si se le piden diez chistes a ChatGPT, salen pr\u00e1cticamente los mismos. Si se entrena demasiado tiempo con esas salidas propias, el modelo empeora.<\/p>\n

      Qu\u00e9 significa esto para la econom\u00eda y las pymes<\/h2>\n

      Karpathy no cuenta con una sustituci\u00f3n fulminante de puestos de trabajo, sino con un regulador de autonom\u00eda<\/strong>: la IA asume al principio alrededor del 80 por ciento de un volumen de tareas y delega el resto en personas que supervisan equipos de sistemas de IA. Las candidatas tempranas son actividades con rasgos claros:<\/p>\n