En el sector de la IA circulan hoy dos relatos muy distintos. Uno promete que los agentes de IA autónomos sustituirán profesiones enteras ya este mismo año. El otro procede de uno de los profesionales más experimentados del campo y suena bastante más sobrio. Andrej Karpathy – cofundador de OpenAI y ex responsable de IA en Tesla – contradice abiertamente la euforia en su conversación con Dwarkesh Patel: no será el año de los agentes, sino la década de los agentes.
Para quienes deciden en pymes esta perspectiva es valiosa, porque ni minimiza ni exagera. Karpathy usa a diario herramientas como Claude y Codex y las considera impresionantes – y al mismo tiempo señala con precisión por qué hoy a menudo no bastan para un trabajo serio. Resumimos los puntos centrales y los situamos en lo que significan para las decisiones de una empresa.
- Karpathy espera que los agentes de IA realmente capaces necesiten alrededor de una década hasta madurar – no un año.
- A los modelos actuales les falta aprendizaje continuo, multimodalidad fiable y manejo del ordenador; presentan «lagunas cognitivas».
- En programación las herramientas de IA ya funcionan bien – pero apenas con código realmente novedoso. Su punto óptimo sigue siendo el autocompletado, no el «vibe coding».
- El modelo de uso realista es un «regulador de autonomía»: la IA asume una parte creciente, las personas supervisan y aportan el resto decisivo.
- Karpathy ve la IA como continuación de la automatización – con una difusión gradual, no con una ruptura repentina.
¿Por qué una década y no un año?
La tesis de Karpathy es una reacción consciente a la afirmación extendida de que este es «el año de los agentes». Él lo considera una clara sobrestimación. Su criterio: ¿cuándo emplearía uno a un agente de IA como a un empleado o a una becaria? Hoy no – porque los sistemas sencillamente no trabajan de forma bastante fiable.
Su argumentación se apoya en unos 15 años de experiencia en el campo. Los problemas serían resolubles, pero costosos. En concreto, a los modelos les falta algo en varios puntos:
- Aprendizaje continuo: se le puede comunicar algo a un modelo y no lo retiene de forma duradera.
- Multimodalidad: los distintos tipos de entrada aún no se procesan con soltura de manera consistente.
- Manejo del ordenador: el uso autónomo de interfaces y herramientas está poco maduro.
Karpathy remite a la historia del campo: varias veces se intentó construir «el conjunto» demasiado pronto – por ejemplo con reinforcement learning sobre juegos de Atari o con el intento temprano de que unos agentes manejaran páginas web con ratón y teclado. Solo los grandes modelos de lenguaje (LLM) aportaron la capacidad de representación necesaria. Pero también hoy faltan aún partes de la pila.
Fantasmas en lugar de animales: una imagen para la peculiaridad de la IA actual
Una metáfora central de Karpathy: no construimos animales, sino fantasmas. Los animales surgen por evolución y traen consigo mucho «hardware incorporado» – una cría de cebra camina minutos después de nacer. Los modelos de IA, en cambio, surgen imitando datos humanos de internet. Son imitaciones digitales, semejantes a lo humano – otro tipo de inteligencia.
De ahí se sigue una idea práctica: el preentrenamiento («pre-training») genera dos cosas a la vez – conocimiento e inteligencia. Todo ese conocimiento memorizado lo ve Karpathy en parte incluso como un lastre. Los modelos se apoyarían demasiado en él y tendrían dificultades para trabajar más allá de lo conocido. Su objetivo es un «núcleo cognitivo»: inteligencia y estrategias de resolución de problemas, liberadas del conocimiento factual superfluo que uno consulta cuando lo necesita.
Lo que está en los pesos del modelo es un recuerdo vago de los datos de entrenamiento. Lo que está en la ventana de contexto es memoria de trabajo directa.
Consecuencia práctica para el usuario: quien le da al modelo el documento relevante directamente en el contexto obtiene resultados bastante mejores que preguntando desde la pura «memoria».
Programación: dónde ayuda la IA – y dónde no
Especialmente reveladora es la descripción honesta que hace Karpathy de cómo usa la IA al programar. Al construir su repositorio didáctico nanochat, los modelos de programación le ayudaron poco. Distingue tres formas de trabajar:
| Forma de trabajar | Descripción | Valoración de Karpathy |
|---|---|---|
| Escribirlo todo uno mismo | Rechazar la IA por completo | Hoy ya no tiene sentido |
| Autocompletado | La persona sigue siendo la arquitecta, el modelo completa | Su «punto óptimo» preferido |
| «Vibe coding» / agentes | Formular el encargo, el modelo construye de forma autónoma | Solo adecuado en determinados casos |
Según Karpathy, los agentes brillan con el código estándar y repetitivo (boilerplate), que abunda en la red. En cambio, con su código inusualmente estructurado e «intelectualmente denso» fallaron: no entendieron sus desviaciones deliberadas de las convenciones, añadieron salvaguardas superfluas, inflaron el código y usaron en parte interfaces obsoletas. Su conclusión: los modelos son malos con el código «que nunca se ha escrito antes».
Justamente eso es relevante para el debate sobre el hype. La idea popular de una rápida «explosión de inteligencia» se basa a menudo en el supuesto de que la IA podría automatizar la propia investigación en IA. Pero precisamente en lo verdaderamente novedoso es donde los modelos son más débiles – una razón importante de los horizontes temporales más largos de Karpathy.
Reinforcement learning: «sorber la supervisión por una pajita»
Karpathy critica con claridad el reinforcement learning habitual. En un problema de matemáticas el sistema prueba cientos de vías de solución; al final solo se comprueba el resultado. Cada token de una vía exitosa se pondera al alza – también los desvíos que por casualidad llevaron a la solución correcta.
Se sorbe la supervisión por una pajita: una única señal de éxito se reparte por toda la traza. Una persona nunca lo haría así.
Alternativas como la evaluación basada en el proceso fracasan hasta ahora por un problema sutil: si se emplea un segundo modelo como «juez», el modelo entrenado encuentra de forma fiable resquicios. Karpathy describe un caso en el que un modelo obtuvo de repente las mejores notas – aunque sus respuestas derivaban en una jerga sin sentido que el juez clasificó erróneamente como perfecta. De esos «ejemplos adversarios» habría infinitos.
Tampoco los datos sintéticos lo resuelven sin más: las salidas del modelo «colapsan» silenciosamente en una banda estrecha – si se le piden diez chistes a ChatGPT, salen prácticamente los mismos. Si se entrena demasiado tiempo con esas salidas propias, el modelo empeora.
Qué significa esto para la economía y las pymes
Karpathy no cuenta con una sustitución fulminante de puestos de trabajo, sino con un regulador de autonomía: la IA asume al principio alrededor del 80 por ciento de un volumen de tareas y delega el resto en personas que supervisan equipos de sistemas de IA. Las candidatas tempranas son actividades con rasgos claros:
- procesos sencillos y repetitivos (ejemplo: centros de llamadas)
- tareas cortas y cerradas con poco contexto
- procesos puramente digitales sin componente físico
Es llamativo: aunque los modelos de lenguaje se consideran «generales», en la práctica domina la programación. La explicación de Karpathy: el código es textual, está bien estructurado y es rico en datos – y ya existe infraestructura como editores y vistas de diferencias. Otros ámbitos (por ejemplo, las presentaciones) no la tienen. Incluso en tareas de puro texto, obtener beneficio económico fuera del código sería sorprendentemente difícil.
En el cuadro general Karpathy se mantiene prudente: ve la IA como continuación de siglos de automatización – del compilador al buscador. Rupturas anteriores como el ordenador o el smartphone no aparecieron en el crecimiento económico como un salto, sino que se difundieron lentamente. Una difusión gradual parecida espera también para la IA. Importante: Karpathy se define expresamente como optimista – su escepticismo se dirige contra los calendarios poco realistas y contra afirmaciones que atribuye sobre todo a incentivos de financiación y de atención.
La lección honesta: a veces el consejo es «nada de IA»
Una afirmación de Karpathy merece especial atención. En su etapa como asesor de visión por ordenador, su aportación consistía a menudo en desaconsejar a las empresas el uso de la IA:
Yo era el experto en IA, ellos describían el problema y mi consejo era: no uséis IA. Ese era mi valor añadido.
Para las pymes ese es un mensaje importante. No todo problema necesita un sistema de IA. Quien invierta hoy debería examinar con sobriedad las capacidades reales de la tecnología, en lugar de dejarse llevar por la expectativa de una «herramienta omnisciente». Karpathy remite incluso a las clases particulares en el aprendizaje de idiomas: una buena docente humana capta en minutos el modelo mental de quien aprende – algo que los modelos actuales están muy lejos de lograr.
Conclusión
El mensaje de Karpathy resulta incómodo para ambos bandos. A los escépticos de la IA les responde que las herramientas son reales y valiosas. A los eufóricos les replica que los agentes autónomos y fiables necesitan años – no meses. Para quienes deciden en las pymes de la región DACH se deriva de ahí un rumbo pragmático: usar la IA allí donde hoy demuestra sostener (programación, tareas estándar, texto con contexto claro), mantener a la persona en la supervisión y preguntarse honestamente en cada inversión si el problema necesita realmente IA. En esta década, la paciencia y el sentido de la medida ganan a cualquier apuesta por el avance rápido.
Fuente: Andrej Karpathy – „We’re summoning ghosts, not building animals“ (Dwarkesh Patel, YouTube)