¿El Futuro de los Agentes de IA? EvoHarness-RL de Meta AI: Cómo Superar a Claude y GPT-5
Publicado em
Vídeo em Espanhol, publicado pelo canal En la mente de la máquina, Inteligencia Artificial.
Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.
Resumen del vídeo
El vídeo explica el problema de memoria a largo plazo en la inteligencia artificial y detalla un avance reciente donde los investigadores implementan un sistema de mochila cognitiva llamado Evojarnes RL para estructurar la memoria de los agentes en tareas complejas.
Puntos principales
- Los modelos de inteligencia artificial actuales muestran limitaciones de memoria a corto plazo cuando se enfrentan a tareas largas y secuenciales de múltiples pasos.
- El sistema Evojarnes RL introduce una abstracción de estado unificada dividida en tres compartimentos: creencia (mapa del mundo), progreso (lista de tareas) y experiencia (bitácora).
- El entrenamiento del agente combina el ajuste fino supervisado (imitación) y una optimización sensible al coste para evitar el uso compulsivo de las herramientas externas.
- Durante el fenómeno del desapego, el uso de la mochila cae drásticamente a medida que la inteligencia artificial interioriza los patrones lógicos en sus pesos neuronales.
- En pruebas dentro del entorno virtual Alf World, el agente equipado con esta estructura alcanzó un 96,9% de éxito en entornos conocidos y un 86,6% en entornos no vistos.
Temas
Inteligencia artificialVentana de contextoMemoria a largo plazoEvojarnes RLCreencia progreso experienciaAprendizaje por refuerzoEntornos virtualesAlf World
Transcripción del vídeo
Texto de los subtítulos disponibles; puede contener errores.
Hola a todos y os doy la más cálida bienvenida a En la mente de la máquina. Hoy os traigo una historia que es fascinante. Es una verdadera aventura épica, pero claro, nuestro protagonista de hoy no lleva capá ni espada, está hecho de circuitos, de algoritmos y lo que es el centro absoluto de nuestro análisis resulta que tiene un problema de memoria verdaderamente monumental. A lo largo de los próximos minutos vamos a sumergirnos profundamente en un avance reciente y revolucionario que expone algo super cuurioso. Cómo la inteligencia artificial, a pesar de ser absolutamente brillante en ráfagas cortas de pensamiento, a menudo se pierde por completo cuando tiene que realizar tareas largas y complejas. Y lo más increíble de esta historia en lo que de verdad os va a volar la cabeza, es que vamos a descubrir cómo los investigadores han logrado construir una especie de mochira mágica cognitiva para que este agente aprenda, evolucione y, en última instancia, alcance una madurez sorprendente. Así que poneos cómodos y preparaos porque este viaje al interior del aprendizaje automático va a cambiar por completo la forma en la que entendemos la cognición artificial. Arrancamos. Para que no nos perdamos, esta va a ser nuestra hoja de ruta de hoy. Primero, abordaremos el problema de la memoria. Segundo, el sistema basado en creencia, progreso y experiencia. Tercero, el proceso de entrenamiento. Cuarto, el interesantísimo fenómeno del desapego. Y para terminar, veremos la prueba final en entornos virtuales. Vamos con la primera sección, el problema de la memoria o por qué la inteligencia artificial simplemente olvida. Empezamos con la primera fase de nuestro viaje, que francicamente es pura frustración. Para entender esto, pensad en los modelos de lenguaje actuales, como en esos oficinistas superdotados que pueden resolveros una ecuación complejísima o redactar un contrato legal impecable en apenas 3 segundos. Son unos genios, ¿verdad? Sin embargo, si a ese mismo oficinista brillante le pides que organice un evento de 3 días, a la media hora se ha olvidado por completo de a quién había llamado, qué había comprado y cuál era el objetivo principal de todo el asunto. Es decir, tienen una memoria de pez para los horizontes largos. Imaginemos por un momento a un agente virtual completamente abrumado cuando a una inteligencia artificial se le asigna una tarea que requiere docenas de pasos secuenciales, como por ejemplo navegar de forma autónoma por una página web compleja para reservar unos vuelos con múltiples escalas o moverse por una casa virtual para limpiar y guardar varios objetos. El inicio siempre es super prometedor, empieza muy bien, con mucha energía, pero a medida que avanza empieza a dejar caer tareas, repite errores que ya había cometido dos pasos atrás y literalmente olvida cuál era su objetivo final. está ahí sudando frío, rodeado de brújulas y relojes, pero completamente perdido en su propio proceso, sin una agenda externa o un rastreador de estado que le vaya guiando. Nuestro héroe robótico simplemente colapsa bajo el peso de su propia confusión. Y claro, el problema técnico que subyce a este colapso monumental es lo que en el mundo del aprendizaje automático llamamos la ventana de contexto. Es, para entendernos de forma sencilla, el espacio temporal de memoria a corto plazo de la inteligencia artificial. Estas ventanas tienen un límite estricto y lo que es peor, se saturan rapidísimo con el ruido, la paja y la fricción de las interacciones constantes con el entorno. Para que una inteligencia artificial ejecute tareas largas de forma fiable, la ejecución requiere herramientas externas que persistan en el tiempo, que no se borren a los 5 minutos. Necesita desesperadamente un lugar donde apuntar en qué estado están las cosas y, sobre todo, una memoria que le permita razonar y decir, "Oye, acabo de chocar contra esta pared de ladrillos intentando esta solución. Será mejor que no lo intente de nuevo. Hasta hace nada, esto se intentaba solucionar con apaños manuales, dándole a la máquina un montón de herramientas inconexas, pequeños parches de código que intentaban rastrear el estado como buenamente podían, pero eso evidentemente no era suficiente para tareas verdaderamente complejas del mundo real. Pasamos a la sección dos, creencia, progreso y experiencia, el cinturón de herramientas definitivo. Y justo aquí es donde entramos en la fase de descubrimiento, que es una pasada. Los investigadores se dieron cuenta de algo fundamental. No bastaba con tirarle un montón de herramientas inconexas a la gente y desearle suerte. Había que darle un sistema meticulosamente organizado. La solución que plantearon se llama Evojarnes RL, que ofrece algo absolutamente vital y que lo cambia todo. Una abstracción de estado unificada. Suena muy técnico, pero pensadlo así. En lugar de tener un código espaguetti incomprensible con un rastreador de memoria por aquí, un verificador por allá y un bloc de notas medio roto en otro lado, los creadores de este sistema abstrajeron todo ese caos en un espacio de trabajo externo, único, limpio y estructurado. Es exactamente como si a nuestro oficinista desorganizado, del que hablábamos antes, le diéramos por arte de magia una mochila de alta tecnología, un cinturón de herramientas de Batman con compartimentos perfectamente etiquetados y diseñados para cada tipo de información que va a necesitar en su jornada. Vamos a detenernos a profundicar con mucha calma en el contenido de esta mochila porque os aseguro que es la clave absoluta de todo nuestro episodio de hoy. Este arnes cognitivo tiene tres compartimentos fundamentales conocidos por sus siglas en inglés como VPE. El primero de todos es la creencia o Belief, pensado en la creencia como el mapa del mundo del robot, su ancla directa a la realidad. Es donde anota lo que es empíricamente verdad en este momento exacto. Por ejemplo, si está en una cocina, su creencia dice, "La manzana está sobre la mesa, la puerta de la nevera está cerrada a calicanto y tengo las manos vacías." Esto es crucial porque evita que la máquina alucine realidades que no existen. Algo muy típico en la SIAZ. El segundo compartimento es el progreso. Esto es de forma literal su lista de tareas, su tudulis de toda la vida. Aquí va desglosando sus grandes objetivos en sus metas manejables, marcando metódicamente qué ha completado ya, qué paso exacto le queda por dar a continuación y dónde se ha quedado atascado temporalmente. Y el tercer compartimento que resulta ser el más sofisticado y humano es la experiencia. Esto funciona como un diario personal, una bitácora detallada donde la gente reflexiona y escribe. A ver, la última vez que intenté abrir esa puerta de la cocina empujando con esta fuerza, no funcionó en absoluto. Nota mental para el futuro, intentar otra táctica distinta la próxima vez. Es conocimiento puro, destilado y, lo más importante de todo, 100% reutilizable. Y ojo aquí, porque estos tres elementos no operan en el vacío. No son tres cajas aisladas que el robot ignora o que usa de manera independiente, sino que forman un ciclo continuo de retroalimentación maravillosamente orquestado. El mapa del mundo, la lista de tareas y el diario personal se nutren constantemente los unos a los otros. Cuando la gente realiza una acción física o lógica en su entorno, inmediatamente actualiza su mapa. Al actualizar su mapa y ver que el entorno ha cambiado a su favor, puede tachar con satisfacción algo de su lista de tareas. Y al tachar algo de su lista o al fallar estrepitosamente en el intento, extrae una lección valiosa que archiva de inmediato en su diario de experiencia. Es un bucle dinámico y constante que mantiene a nuestro protagonista perfectamente anclado a la realidad, sin importar lo excepcionalmente larga, tediosa o frustrantemente compleja que sea la misión a la que se enfrente. Entramos en la sección tres, entrenando a la inteligencia artificial, aprendiendo a usar la mochila. Bueno, pues ya tenemos a la gente y le hemos puesto esta sofisticada mochila BPE a la espalda. Genial. Pero si le das una brújula a alguien que en su vida ha sabido orientarse, va a seguir irremediablemente perdido, ¿no? Pues a la le pasa igual. Hay que entrenar a la inteligencia artificial para que sepa exactamente cuándo y cómo usar estas herramientas. Para lograrlo, el entrenamiento se divide en dos fases muy claras. Primero, el supervised fine tuning o SFT. Esto es, en esencia, aprendizaje por imitación puro y duro. El modelo observa pacientemente a expertos humanos usar el mapa, la lista y el diario para resolver problemas y simplemente los copia. Pero claro, copiar acciones de memoria no te hace genuinamente inteligente, solo te convierte en un buen mimo. Para que la máquina razone de verdad, entra en juego la segunda fase, el Costa Aware GRPO, donde la gente aprende a tomar sus propias decisiones estratégicas a través de un sistema avanzado de recompensas y penalizaciones. Este concepto, la optimización de políticas sensible al coste, es una genialidad. es lo que realmente permite que la inteligencia artificial desarrolle un criterio propio. Fijaos, consultar la mochila externa tiene un precio real, cuesta tiempo, cuesta energía y consume un valioso presupuesto de computación. Si la gente se detiene cada 3 segundos para abrir la mochila y leer su diario de experiencias sin aportar absolutamente nada nuevo, la misión no avanza, se queda paralizado y se desperdician recursos a lo tompo. Así que el sistema penaliza a la gente si se vuelve obsesivo y consulta su mapa o su lista de forma innecesaria. Sin embargo, lo recompensa de manera formidable si utiliza esa información justa y necesaria para completar la tarea de forma rápida y superficiente. A través de este rigor, de este palo y zanahoria computacional, el agente aprende que el acceso a sus herramientas debe ser un ataque quirúrgico y muy meditado, no un tic compulsivo. En la práctica del día a día de este agente virtual, esto significa que cuenta con un presupuesto de interacciones estrictamente limitado y tiene a su disposición una serie de metaacciones. A cada paso que da, se ve obligado a tomar decisiones puramente estratégicas. tiene que detenerse y preguntarse, "A ver, ¿avan a ciegas en el entorno dando un paso más, arriesgándome a fallar? ¿O gasto un valioso turno en sacar mi mapa de la mochila para consultar la creencia y asegurarme de dónde estoy exactamente? ¿Doy otro paso físico o gasto un turno en tachar mi lista de progreso para no perderme en los próximos 10 pasos? Es una gestión de recursos brillante que eleva el nivel de la inteligencia artificial, obligándola casi por primera vez a pensar estratégicamente sobre su propio proceso cognitivo. Y así pasamos a la sección cuatro, el fenómeno del desapego, la madurez de la gente. Llegamos así al clímax absoluto de nuestra historia, donde emerge un comportamiento orgánico que dejó completamente fascinados a los investigadores. Lo bautizaron como harness anilin o recocido del arnés y muestra de forma visual la asombrosa estabilización psicológica de la inteligencia artificial. Imaginad el proceso. Seguidme con esto porque es brutal. Durante la exploración temprana del entrenamiento, el robot está recién salido de su fase básica y, francamente, está aterrorizado ante la complejidad del mundo que le rodea. ¿Qué hace? Pues usa la mochida para absolutamente todo. Consulta el mapa a cada minúsculo paso que da. Lee el diario constantemente buscando respuestas mágicas. actualiza la lista de tareas de forma casi obsesiva. En esta fase, la mochila es un andamio cognitivo gigante que le sostiene para que no se caiga a cada metro. Pero a medida que avanza el entrenamiento, a medida que pasan las horas y se aplican los costes de los que hablábamos antes, ocurre la verdadera magia. El uso de la mochila, esa dependencia brutal cae en picado y luego se estabiliza de forma suave. De repente, el agente pasa de usar sus herramientas de forma compulsiva a realizar apenas una sola consulta super precisa por episodio. Básicamente, el agente ha madurado. La respuesta, ¿por qué deja de usar sus herramientas de repente es fascinante. Resulta que el conocimiento se ha interiorizado. Al principio la gente dependía del arnés externo BPE, como si fueran los ruedines de una bicicleta de aprendizaje. No sabía ir sin ellos. Pero con la infinita repetición y las precisas penalizaciones del sistema de costes, el agente empezó a asimilar esos patrones de razonamiento lógicos, gravándolos directamente en las conexiones internas de su propio cerebro digital, en sus propios pesos neuronales. Para que os hagáis una idea, es el equivalente perfecto a un estudiante universitario. El primer día de clase de una asignatura extremadamente difícil, tienes los apuntes abiertos de par en par en la mesa de la biblioteca y los consultas cada 5 minutos en estado de pánico total. Eres totalmente dependiente de ese papel externo. Pero el día del examen final, semanas después y tras muchísimo estudio, ya no necesitas esos apuntes. Ese conocimiento ya es tuyo, forma parte de tu intuición y solo consultas un pesado libro de referencias y hay un dato excepcionalmente específico que se te escapa de la memoria. De eso trata exactamente esta fase estable, un conocimiento interiorizado profundo y un acceso externo altamente selectivo. En definitiva, la asimilación de este sistema cambia a la gente desde lo más profundo, llevándolo, como dicen los investigadores, de hacer llamadas constantes y desesperadas al arnés hacia un acceso verdaderamente selectivo del estado externo. Y esto, amigos, refleja un cambio profundísimo en la propia naturaleza de lo que consideramos inteligencia en estos modelos de lenguaje. nos demuestra algo poético, que la verdadera maestría no consiste en tener la base de datos externa más grande del mundo pegada a la espalda, ni en usar 50 herramientas a todas horas. La maestría arradica en la profunda madurez de saber exactamente cuándo puedes confiar ciegamente en tu propia intuición interna y cuándo necesitas pararte, respirar, ser humilde frente a la enorme complejidad de la tarea y buscar ayuda en tus herramientas externas. Y desembocamos en la sección cinco, resultados en entornos virtuales. La prueba final. Después de darle esta mochila avanzada a nuestro protagonista, de enseñarle a usarla midiendo cuidadosamente sus costes de energía y de observar a tonitos cómo maduraba interiorizando el conocimiento, llegó el momento de la verdad. Había que someter a nuestro héroe a la prueba definitiva para ver si todo esto servía de algo. Para ello, los investigadores utilizaron un entorno super exigente conocido como Alf World. Imaginad Alf World como un gigantesco videojuego de simulación doméstica, pero en formato de texto. Es una casa virtual enormemente compleja donde la gente tiene que navegar por múltiples habitaciones, abrir cajones, encontrar objetos específicos que están escondidos y manipularlos de 1000 formas: lavarlos, calentarlos, enfriarlos. Y ojo, que nada de esto es un paso lógico simple. Para conseguir algo tan mundano para nosotros como agarrar una manzana sucia, lavarla y guardarla en la nevera, en la gente tiene que recordar dónde narices estaba la cocina. Abrir cajones uno por uno hasta hallar la manzana, cogerla, llevarla físicamente al fregadero, activar el agua, lavarla, caminar de vuelta a la nevera, abrir la puerta y soltarla dentro. Es un laberinto mental perfecto diseñado milimétricamente para comprobar si un agente pierde el hilo de sus pensamientos a mitad de camino. ¿Y qué pasó? Pues que los resultados fueron una auténtica victoria aplastante para el nuevo sistema. Nuestro agente, ya equipado y profundamente optimizado con su mochila, navegó por estas intrincadas casas virtuales, ejecutando las tareas largas y complejas de una forma asombrosamente fluida. Sabía de manera precisa dónde estaba en cada maldito momento, qué pasos exactos le quedaban por dar en su lista. Y lo más crucial y esperanzador de todo, cuando se equivocaba o una acción fallaba porque un cajón no abría, no entraban esos espantosos bucles infinitos repitiendo el mismo error una y otra vez dándose cabezazos contra la pared, como solían hacer las inteligencias artificiales tradicionales. No. En su lugar, se detenía en seco, consultaba su experiencia previa en la mochilla, aprendía de la fricción, ajustaba su plan al vuelo y tomaba un camino totalmente distinto hacia el éxito. El resultado exacto de precisión en los entornos de prueba que la gente ya conocía previamente fue del 96,9% de éxito. Cuidado con el dato, una cifra que roza prácticamente la perfección absoluta. Es un porcentaje masivo, brutal, que evidencia, sin dejar absolutamente ningún lugar a dudas, el increíble poder transformador de estructurar la memoria, erradicando para siempre esos tradicionales y molestos apagones cognitivos que sufrían las IAS en las misiones largas. Pero claro, la verdadera prueba de fuego, la que de verdad separa los sistemas robustos e inteligentes de los que simplemente se aprenden las cosas de memoria son los entornos no vistos. Es decir, a la gente y soltarlo en casas virtuales completamente nuevas que jamás había visitado en su fase de entrenamiento, con distribuciones rarísimas y problemas totalmente inéditos. Y aquí los datos hablan por sí solos. El agente estándar, el modelo base sin ninguna mochila de ayuda, apenas logró un triste 50% de éxito. Era a efectos prácticos como tirar una moneda al aire a ver si sonaba la flauta. Solo con darle la estructura básica de creencia, progreso y experiencia mediante instrucciones de texto sin entrenarlo, el éxito ya subió de golpe al 77,6%. Pero nuestro agente final, el héroe de la historia, entrenado y optimizado meticulosamente para usar sus herramientas de forma inteligente y penalizando sus errores, alcanzó un espectacular 86,6% en entornos que le eran totalmente ajenos y desconocidos. Estamos hablando de una superioridad absoluta y apabullante en la generalización de tareas complejas. Así que llegados a este punto, el núcleo de todo este análisis y las conclusiones primordiales que debéis llevaros grabadas a fuego de este episodio son tremendamente claras. Primero, ha quedado más que demostrado que simplemente darle una inteligencia artificial, un disco duro más grande o una memoria estática masiva no sirve absolutamente de nada si no tiene ni idea de cómo usarla. Las políticas que son activamente entrenadas para coordinarse de forma eficiente con su espacio de trabajo son sencillamente infinitamente superiores. Segundo, estructurar esa memoria en compartimentos lógicos de creencia, progreso y experiencia es una condición esencial, casi obligatoria ya para mantener a la gente sólidamente enfocado en horizontes temporales largos. Y tercero, la memoria de la inteligencia artificial ya no puede ser concebida como un mero volcado pasivo de datos, un simple cajón de sastre. Debe ser un organismo vivo, dinámico, que evoluciona y se adapta paso a paso al mismo compás que el razonamiento de la propia máquina. Y todo este fascinante viaje nos deja con una reflexión verdaderamente apasionante de cara al futuro que se nos viene encima. Viendo con nuestros propios ojos como este agente robótico logró interiorizar el conocimiento de su mochila hasta tal punto que casi casi dejó de necesitarla, cabe preguntarse algo muy profundo. ¿Llegará algún día el momento en que los gigantescos modelos de inteligencia artificial logren interiorizar por completo en sus propios pesos neuronales absolutamente todo el vasto e infinito conocimiento de la humanidad? ¿O acaso la caótica, impredecible y cambiante complejidad de nuestro universo siempre irremediablemente requerirá que tengan que detenerse en algún momento crítico y abrir una mochila de herramientas externa para consultar la realidad objetiva? Es, sin duda, una frontera tecnológica fascinante que apenas a día de hoy estamos empezando a explorar. Gracias por escuchar en la mente de la máquina. Si te gusta este tipo de contenido, dale like, suscríbete y activa la campanita para apoyar el canal y no perderte ningún episodio. Y no olvides dejar tus impresiones en la cajita de comentarios, que siempre te leo y te respondo.
Assistir ao vídeo original no YouTube
Assuntos: Agentes de IA, Assistente pessoal. Publicado no YouTube em 2026-10-12.
Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.
Comentários
Postar um comentário