OpenAI acaba de revelar algo más peligroso que la AGI
Publicado no IA Dots ·
AGIAI Signaldot-agidot-ai_agentsdot-artificial_intelligencedot-openaidot-reasoning_modelsEspanholidioma-esyt-E0-15Cu7a_4
Vídeo em Espanhol, publicado pelo canal AI Revolution en Español.
Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.
Resumen del vídeo
El video analiza el concepto de automejora recursiva en la inteligencia artificial, destacando cómo OpenAI y otros equipos de investigación están desarrollando sistemas donde la IA ayuda a construir sus propias versiones sucesivas y acelera el proceso de investigación.
Puntos principales
- OpenAI señala que la automejora recursiva, el proceso en el que la IA ayuda a construir la siguiente IA, es la principal prioridad de la empresa al entrenar nuevos modelos.
- Investigadores de Google DeepMind, la Universidad de Maryland y la Universidad de Virginia presentaron Dream RSI, un sistema que permite mejorar la estrategia de búsqueda de soluciones utilizando registros previos sin la necesidad de nuevos experimentos costosos.
- El sistema modular RSI divide el entorno de la IA en cinco partes (motor, herramientas, memoria, etc.) para evolucionar y mejorar cada componente por separado basándose en tareas pasadas.
- Phi Labs lanzó Science Body, un espacio de investigación funcional que utiliza bucles de mejora interna y externa para ajustar el entorno y reentrenar el modelo con base en la retroalimentación de los científicos.
- A pesar de estos avances, los sistemas actuales funcionan dentro de ciertos límites con evaluadores fijos y presupuestos definidos, sin una autonomía total por parte de la IA.
Temas
Automejora recursivaOpenAIDream RSIModular RSIScience BodyModelos de razonamientoInvestigación en IAAGI
Transcripción del vídeo
Texto de los subtítulos disponibles; puede contener errores.
Todos han estado atentos a la el momento en que la IA se vuelva tan inteligente como nosotros, pero hay otra línea que podría resultar mucho más trascendental y Open AI acaba de decir abiertamente qué es lo que están persiguiendo con más fuerza. Es la IA la que ayuda a construir la siguiente IA. Esa ayuda a construir la que le sigue un poco más rápido cada vez. Si eso se mantiene el tiempo suficiente y los humanos dejaremos de ser quienes decidan qué tan rápido avanza la IA. se llama Automejora recursiva. A Noan Brown, una de las personas detrás de los modelos de razonamiento de Open AE, le preguntaron en qué se enfoca la empresa cuando entrena nuevos modelos y no se anduvo con rodeos, esto es lo principal, por un margen bastante amplio. Y esto ya no es solo palabrería. En los últimos días, tres equipos de investigación diferentes publicaron sistemas que realmente logran partes de esto. Uno de ellos llega hasta el punto de reentrenar al modelo en sí. La automejora recursiva se menciona mucho, así que vale la pena detenerse a analizar lo que realmente significa. Durante años, la gran meta final en la IA ha sido la AGI, una máquina que pueda manejar la mayor parte del trabajo intelectual, más o menos también como un humano. Ese es un hito de capacidad. Se trata de qué tan inteligente se vuelve la cosa. La automejora recursiva es diferente. Es el punto donde la IA deja de ser solo el producto y se convierte en parte del equipo que construye la siguiente y mejor versión de sí misma. Nadie ha demostrado que esto sea automáticamente más peligroso que la AGI. Pero miren cómo funciona hoy el desarrollo de la IA. Una empresa entrena un modelo, los humanos lo prueban, encuentran problemas, los corrigen y con el tiempo lo reemplazan. Todo eso funciona a un ritmo humano. Un sistema que acelera seriamente la investigación detrás de su propio sucesor comienza a cambiar ese ritmo por sí mismo y cada generación ayuda a que la siguiente llegue más rápido. Ese ciclo de retroalimentación es la razón por la que Reuters ahora trata la automejora recursiva como una parte central del debate sobre el riesgo de la IA de vanguardia. La preocupación no es solo lo que un modelo puede hacer, es si el progreso de la IA comienza a acelerarse debido a la IA. Entonces, ¿qué tan cerca estamos realmente? Según Brown, partes de esto ya están aquí. Los modelos se están encargando de partes de la investigación de IA, que los humanos hacían a mano hace solo unos años. Un ejemplo es revisar minuciosamente datos y código en busca de errores y problemas de calidad. Brown dice que los modelos actuales son sumamente diligentes en eso y en parte de ese trabajo son alrededor de 100 veces mejores que los humanos cuando lo hacen manualmente. La programación también importa mucho aquí porque una mejor ingeniería de software influye directamente en la creación de una IA más potente. Pero hay un detalle y Brown lo llama criterio de investigación. Una IA puede escribir código, realizar experimentos y analizar resultados todo el día. Lo difícil es saber qué experimento vale la pena hacer en primer lugar. Es prometedora esta dirección o un callejón sin salida. ¿Cuándo te alejas de una idea? ¿Cuándo es un resultado realmente importante? ¿Y cuándo es solo técnicamente interesante? Ese tipo de juicio podría ser una de las últimas grandes ventajas que los humanos todavía conservan dentro del ciclo de investigación de la IA. Brown dijo que los sistemas multiagente, donde muchos agentes de IA trabajan en paralelo, le dieron uno de sus momentos más intensos de esto ya se siente como agi desde la llegada de los modelos de razonamiento. Pero los números solo te llevan hasta cierto punto. 1000 investigadores rápidos no sirven de mucho si ninguno de ellos sabe qué vale la pena investigar. Y esa es exactamente la capa que esos equipos de investigación buscaron, no lograr que la IA resuelva un problema, sino lograr que mejore la forma en que busca mejores soluciones. El primero se llama Dream RSI de investigadores de Google. Google Deep Mind, la Universidad de Maryland y la Universidad de Virginia. Normalmente un agente de IA orientado al descubrimiento funciona mediante prueba y error. Me planteas un problema de ingeniería difícil. Propone una solución. La prueba, revisa el resultado, intenta una variación, descarta lo que falló y toma un nuevo rumbo. En un problema serio, eso puede significar miles de rondas consumiendo recursos de cómputo en cada una. Pero la estrategia que guía todo eso, cuántas ideas probar al mismo tiempo, cuándo abandonar un camino cuándo seguir investigando, suele ser escrita por humanos y luego fijada permanentemente. El agente trabaja duro, pero nunca aprende a buscar de manera más inteligente. Dream RSI permite que esa estrategia mejore. El problema evidente es el costo, ya que probar una nueva estrategia normalmente significa volver a ejecutar todo ese costoso proceso. Así que los investigadores usaron algo que simplemente estaba ahí disponible. Cada ejecución terminada deja un registro completo, un árbol ramificado de cada intento que hizo el agente y exactamente cómo puntó cada uno. Es un poco como un videojuego que ya terminaste una vez, sabes qué había detrás de cada puerta que abriste, así que después puedes sentarte y planear una ruta más rápida en papel sin volver a jugarlo todo. Ese es el tru. Dream RSI prueba miles de estrategias alternativas contra el registro anterior. Una podría descartar una rama débil mucho antes. Otra podría explorar tres caminos a la vez. Otra podría presionar más fuerte justo cuando el progreso comience a desacelerar. Como cada resultado ya está registrado, nada de esto requiere un solo experimento nuevo. Los investigadores lo llaman soñar. Solo la estrategia ganadora regresa a hacer el trabajo real y como toma decisiones diferentes, abre puertas que la estrategia anterior nunca tocó. Esa ejecución crea un nuevo registro que se une al montón para que la siguiente ronda de sueños tenga más de donde aprender. Incluso hay una red de seguridad incorporada. La estrategia que ya está en uso siempre es una de las candidatas, así que lo que sea que se envíe de vuelta nunca podrá obtener una peor puntuación en esas repeticiones que lo que reemplazó. Y el modelo de IA que realmente escribe el código nunca cambia. Lo que mejora es la capa que le dice cómo explorar. Los resultados son bastante sorprendentes. El equipo lo probó en ocho tareas, desde el diseño de algoritmos hasta la optimización matemática y la escritura de código de bajo nivel que ayuda a los chips gráficos a ejecutar la IA más rápido. En una tarea de chips, igualó el enfoque anterior con aproximadamente dos veces y media menos intentos. En otra obtuvo una puntuación casi el doble de alta con un presupuesto similar. El resultado más drástico se dio en un problema clásico de estadística, donde Dream RSI se impuso usando unas 300 llamadas a su agente de IA, mientras que un sistema competidor llamado Simple Teas usó más de 51 mm. Pero la parte que realmente me llamó la atención es cómo se comportó la estrategia a lo largo del tiempo. En una tarea de chips, la mejor puntuación subió de 0.427 a 1.898 a lo largo de nueve rondas. Al principio el sistema se volvió más cuidadoso, reduciendo los intentos por ronda de unos 110 a 50. Luego, cuando la mejora comenzó a estancarse, volvió a abrirse alrededor de 90 y esas búsquedas más amplias coincidieron con nuevos saltos en el rendimiento. Frena cuando las cosas funcionen, amplía la búsqueda cuando estés atascado. Es un tosco y limitado reflejo del instinto que Brown describía. Y por curioso que parezca, cuando los investigadores intentaron la vía más obvia, resumiendo ejecuciones anteriores en consejos por escrito sobre dónde buscar, los resultados empeoraron. Decirle a la IA dónde buscar solo la encasilló. Casi al mismo tiempo apareció otro artículo llamado modular RSI y va tras una pieza diferente del rompecabezas. Cuando la gente piensa en un agente de IA, suele pensar en el modelo, pero en realidad el modelo es solo el motor. Alrededor de él se encuentra el resto del auto, la maquinaria que ejecuta el ciclo de pensar y actuar, maneja las herramientas, procesa lo que el agente ve, gestiona su memoria y decide cuándo realmente se terminó un trabajo. Los ingenieros llaman a eso el entorno. Modular RCI divide el entorno en esas cinco partes. Compara las ejecuciones donde la gente tuvo éxito con aquellas donde falló en la misma tarea. busca las debilidades que siguen apareciendo en muchas tareas y luego cambia únicamente la parte que parece tener la culpa. Cada parte evoluciona por separado y las mejoras se vuelven a fusionar en un solo entorno al final. Lo que realmente me gusta es que se esforzaron mucho por no hacer trampa. Los sistemas que mejoran por sí mismos tienen la mala costumbre de básicamente memorizarse el examen con el que se les califica. Así que el equipo reunió 2,000 tareas de práctica de fuentes externas que se mantuvieron completamente separadas de las pruebas finales, ejecutó la evolución en una muestra de ellas y congeló el entorno antes de cualquier evaluación real. En Terminal Bench 2.0, un conjunto de tareas de línea de comandos largas y de varios pasos. La precisión aumentó del 47.57 al 52.43% por c en Benchified 500 problemas reales de software revisados por humanos. Pasó del 73.40 al 76.45. No son grandes avances por sí solos. Lo interesante es lo que se transmitió. Un entorno desarrollado únicamente en tareas de línea de comandos. Aún así, elevó la puntuación de software a 75.80 y uno desarrollado en tareas de software elevó Terminal Bench a 49.40. La consistencia también mejoró, lo que cuenta bastante si realmente quieres confiar en un agente, incluso funcionó en diferentes autos. Implementado en otros modelos de IA, el entorno evolucionado llevó a GLM 5.2 de 59.55 a 61.80% en Terminal Bench y a Mini Max 2.5 de 41.57 a 44.94. Así que estos no fueron ajustes calibrados para una sola configuración. Se trasladaron a tareas y modelos en los que el sistema nunca evolucionó. Luego Peach Islabs lanzó Science Body y lleva la idea a un nivel más profundo. Lo llaman la parte recursiva de la automejora recursiva. Science Body no es un experimento de evaluación comparativa, es un espacio de investigación funcional para científicos reales con 224 herramientas que cubren áreas como genómica, biología del cáncer, farmacología, bioimagen y literatura científica. ejecuta código, maneja datos y secuencias biológicas y mantiene un registro completo de lo que hizo para que los investigadores puedan revisar su trabajo. Lo ingenioso es lo que sucede después de que un científico lo usa. Digamos que un investigador sube datos, pide un análisis, corrige una suposición errónea y solicita cambios. Science Body no toma su reacción como una verdad absoluta. Decifra lo que realmente buscaban, qué evidencia necesitaba la tarea y cómo debería ser una buena respuesta. Luego empaqueta todo eso en una nueva tarea en la que se le puede evaluar y entrenar más adelante. A partir de ahí se activan dos bucles, uno dentro del otro. En el bucle interno, el modelo principal se mantiene congelado. Un modelo de IA independiente y fijo estudia los fallos y propone pequeños cambios en el entorno como mejores instrucciones, habilidades reutilizables o diferentes configuraciones de memoria. Cada cambio tiene que superar a la versión actual en las mismas tareas con el mismo presupuesto y se incluyen las tareas ya resueltas para detectar cualquier fallo. Si la puntuación no sube, el cambio se rechaza. En el bucle externo es donde las cosas realmente se intensifican. El entorno mejorado genera material de entrenamiento nuevo. Las tareas que se volvieron demasiado fáciles se hacen más difíciles y luego el propio modelo subyacente se reentrena con aprendizaje por refuerzo. Una vez que el modelo cambia, el entorno se pone a prueba de nuevo porque lo que ayudaba al modelo anterior tal vez no le sirva al nuevo. Luego los científicos usan el sistema actualizado, sus comentarios alimentan la siguiente ronda y el ciclo comienza de nuevo. Así que un proceso mejora cómo funciona la IA y el otro usa eso para mejorar a la IA misma y la IA mejorada luego ayuda al primer proceso. Algo nuevo en que trabajar. Ahora, la evidencia de PHI todavía está en la fase de estudios de caso a través de cuatro tipos de trabajo científico, desde leer literatura hasta evaluar variantes genéticas. No es una prueba de una explosión de inteligencia, pero estructuralmente este es el tipo de bucle del que los investigadores han estado hablando durante años y están pensando en algo mucho más grande. Science Body es la primera pieza de una iniciativa que llaman Discovery Foundation Models, dirigida a la IA, que no solo termine las tareas de investigación más rápido, sino que participe en el descubrimiento mismo, detectando incógnitas que valga la pena investigar, creando y revisando hipótesis y poniéndolas a prueba contra evidencia real. Tu primer programa de colaboración se enfoca en las ciencias de la vida y la biomedicina, una plataforma llamada Science EDE. Se lanzará el 17 de septiembre y un modelo del mundo científico entre disciplinas llamado GP Anything te lanzará el 18, aunque por ahora son proyectos independientes y no un solo sistema conectado. Esa aclaración es importante. Nadie ha mostrado una IA que se rediseñe a sí misma continuamente para volverse más inteligente sin intervención humana alguna. Todos los sistemas aquí funcionan dentro de ciertos límites con evaluadores fijos, presupuestos definidos y personas que siguen al mando. Pero por eso mismo el comentario de Brown se siente diferente. Ahora, Open AI lo está llamando abiertamente su máxima prioridad por un amplio margen. Al mismo tiempo, equipos independientes están publicando sistemas que realmente funcionan, no solo teorías. La IAG siempre fue una cuestión de qué tan capaz se vuelve la máquina. Esta es una pregunta sobre qué pasa cuando mejorar la máquina se convierte en una tarea más en la que la máquina se está volviendo buena y esa es una línea de meta que nadie sabe con certeza cómo trazar. Gracias por ver el video y los veo en el próximo.
Assistir ao vídeo original no YouTube
Assuntos: AGI. Publicado no YouTube em 2026-09-17.
Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.