el cofundador de OpenAI rebaja mucho la emoción con la IA y los agentes

Andrej Karpathy cofundó OpenAI y fue director de IA en Tesla. Aunque a día de hoy no tiene un rol activo en ninguna de las dos compañías, es todo un referente y, sobre todo, un entusiasta de la ingeligencia sintético. Se puede ver en la calidad de sus vídeos formativos sobre la rama o en cómo abre al mundo su conocimiento con herramientas como minGPT o nanoGPT. Adicionalmente, gracias a su código, llevamos a ver creaciones tan maravillosas como un maniquí extenso de lengua funcionando sobre Windows 98.

Y sin incautación, ese nivel de implicación en la industria no le hace dejar de ser realista con las expectativas que tiene con la inteligencia sintético y sus ramificaciones. Así lo ha vuelto a demostrar en el prestigioso podcast de Dwarkesh Patel, donde en una conversación de casi dos horas y media, el experimentado ha dejado una gran cantidad de citas e impresiones sobre el sector.

"Es la lapso de los agentes". Karpathy no solo cree en los agentes, sino que él acuñó el término de "vibe coding" para referirse a la programación con IA. En ese sentido afirma utilizar mucho Claude y Codex en el día a día. Dice que estos primeros agentes "son impresionantes", pero todavía "hay mucho trabajo por hacer" y cree que es la lapso de los agentes, pero no el año de los agentes, tal y como se decía que 2025 iba a ser.

En ese sentido, y lo comenta varias veces a lo espacioso de la entrevista, hay sobrepredicción en la industria, en el sentido de que se predice mucho sobre cuán pronto pasarán las cosas (como por ejemplo, que la inteligencia sintético caudillo o AGI está a la dorso de la esquinazo).

"Los modelos aún no están ahí. Siento que la industria está dando un brinco demasiado extenso e intenta fingir que esto es increíble, cuando no lo es. Es slop. No están asumiendo la existencia, y quizá lo hacen para atraer inversión o poco por el estilo, no lo sé. Pero estamos en una etapa intermedia.

El origen de tanta exageración y hype. En un pasaje, Karphaty aclara que no es pesimista, aunque suene como tal. "En existencia, soy ilusionado. Solo sueno pesimista porque cuando veo mi timeline de Twitter, veo todas estas cosas que no tienen sentido para mí". Y da la esencia de qué explica tanta reacción desmesurada a Twitter, el metálico. "Gran parte de ello, honestamente, es solo cobranza de fondos. Son simplemente estructuras de incentivos. Gran parte es solo atención, convertir la atención en metálico en internet".

"El formación por refuerzo es terrible". El aprendizaje por refuerzo es una técnica en la que una IA aprende por prueba y error: ejecuta acciones, recibe recompensas o castigos y ajusta su comportamiento para maximizar la remuneración futura. Fue esencia en avances como AlphaGo o en la optimización de grandes modelos como Deepseek, pero Karpathy piensa que su modo de “premiar al final” está muy acullá de cómo razonan las personas.

Para Karpathy es "terrible", y llega a compararlo con "chupar supervisión por una pajita": todo el esfuerzo del maniquí se resume en un único número final (ha acertado o no), lo que genera muchísimo ruido. Según él, los humanos no aprenden así: no hacemos cien intentos ciegos ni damos el mismo valencia a cada paso intermedio. Cree que el futuro pasa por una "supervisión de proceso", donde el maniquí reciba feedback continuo. Eso sí, admite que aún no sabemos cómo automatizarlo sin que los sistemas encuentren trampas (adversarial examples) para engañar.

Imagen | Podcast de Dwarkesh Patel y elaboración propia

En Genbeta | Primero Meta usó las fotos de sus redes sociales para entrenar a su IA, ahora quiere las tienes en tu móvil