Agentes de IA y Programación 🚀 Cómo Crear Aplicaciones con Modelos Locales
Publicado no IA Dots ·
Agentes de IAAI Signaldot-ai_agentsdot-artificial_intelligenceEspanholidioma-esyt--9TWiHdq6gY
Vídeo em Espanhol, publicado pelo canal Nichonauta.
Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.
Resumen del vídeo
El video muestra el desarrollo de una aplicación sencilla por parte de un agente de inteligencia artificial, discutiendo la delegación de tareas a los modelos de lenguaje frente al uso de código, el consumo de tokens y el rendimiento del hardware utilizado.
Puntos principales
- Se analiza la posibilidad de delegar tareas estructuradas como listas de tareas a lenguajes de programación en lugar de a modelos de lenguaje para reducir errores y consumo de tokens.
- Se observa el proceso paso a paso de la creación de una aplicación desde cero mediante fases controladas por el agente.
- Se discuten las limitaciones de la ventana de contexto al trabajar en proyectos reales con miles o millones de líneas de código.
- Se comenta el rendimiento del hardware, específicamente las temperaturas del procesador y el uso de disipadores de aire.
- Se debate sobre la velocidad y el consumo de memoria al ejecutar modelos de lenguaje en tarjetas gráficas específicas.
Temas
Agentes de IAModelos de lenguajeConsumo de tokensDesarrollo de softwareHardware y refrigeraciónRendimiento de modelos
Transcripción del vídeo
Texto de los subtítulos disponibles; puede contener errores.
que sus modelos son muy capaces, después porque es muy llamativo ver que aparentemente el modelo hace todo aunque lo haga mal, pero bueno, por lo menos hace algo. Y como tercer punto, requerimos más tokens así, es decir, ¿por qué cualquiera de esos agentes típicos no tiene un modo en lo que lo principal fuera código, lenguaje de programación y que en aquellas tareas que claramente se requiere el modelo se le pida el modelo? Aquí comúnmente en todos estos agentes el modelo es el principal. De hecho, a tal grado que a pesar del modelo poder hacer listas, a pesar del agente poder hacer listas para hacer tareas, eso lo puede hacer el agente, pero se le delega al modelo la responsabilidad de hacer o no la lista, de seguir o no lo que escribió en la lista de tareas. Esa parte del proceso, por ejemplo, consumiría menos tokens y se equivocaría menos si en vez de delegar al modelo de lenguaje dichas responsabilidades se hicieran con código. Nuestra consulta inicial, o bueno, no es consulta inicial. No hay tareas pendientes. La lista anterior de tareas o lo que sea ya se terminó. Aquí ya está intentando probar con ah, le falta diseño. Eh pues entonces, el usuario está haciendo una pregunta, responde con una lista de tareas accionables en las que se puede dividir todo lo que el usuario te está solicitando. Ahí está tomando capturas para probar. Luego de eso, el usuario pidió esto, esta es la lista de tareas, esta es en la que vamos, realízala, termina. Esta es la petición del usuario, esta es la lista de tareas, estas ya se hicieron, estas faltan, vamos en estas, realízala. Eso haría menos probabilidad de fallos en el seguimiento de las instrucciones y el plan generado porque no lo elegiría el modelo, ya lo estuviese pidiendo por fuerza el código, el lenguaje de programación, el agente. Claramente no cualquier tarea se pudiese realizar de esa forma, pero creo yo que varios que pude que podemos encontrar varios ejemplos como ese en el que y por qué esto lo hace el modelo si lo va a hacer mal y y más lento comparado con que lo haga un código que siempre lo va a hacer bien y más rápido. Creo yo que buena parte de eso, no estoy diciendo que 100% esa debería de ser la forma principal en la que trabajaran los agentes, pero sí por lo menos una forma en la que debería de tener alguna especie de modo para entrar a esa forma de ser utilizada, considero yo. ¿Por qué todo se le tiene que delegar al modelo? Que el modelo sea el que pues mira, tienes todo esto, tú haz lo que quieras con eso. ¿Tiene para hacer listas de tareas? No necesariamente usa la lista de tareas. Eh hizo la lista de tareas, no necesariamente la sigue, no necesariamente la actualiza. Si eso en vez de dejárselo al modelo se le dejara al lenguaje de programación, fuera totalmente determinístico esa parte. La parte que sí se requiere el modelo, pues es dentro de esa tarea que escriba los archivos, por ejemplo, o cosas de ese estilo. Ahí estoy dando un ejemplo general, pero creo yo que buena parte de esas cosas no se hacen, primero porque es más sobresaliente ver que el modelo hace todo aunque no necesariamente lo haga bien, pero por lo menos está viendo que hace algo. Eh y después, pues a ellos les conviene que consumamos más tokens, es decir, que la misma cantidad de trabajo real, de resultados reales, requieran más tokens. Así que no estoy diciendo que esa es la razón principal, pero estoy muy seguro de que esa es una de las razones, porque no veo muy complicado que haya una forma en la que por defecto así sea como funcione. Por defecto, que el código lo pida, no al modelo. El código, porque si el código lo hace, nos ahorramos tokens y errores del modelo. ¿Al modelo se lo podemos pedir con un prompt? Sí. ¿Cuánto cuesta generar tokens? ¿Cuánto genera? ¿Cuánto cuesta seguir lo que dice el código? No solo lo que cuesta económicamente hablando de recursos de hardware, sino las posibilidades de fallos. Qué raro, no se ven mis mensajes. Bueno, acabamos de ver ese acabo de llegar, qué reemplaza Cloud 4, no. Eh, ahora sí, en el cuen.md de la carpeta de config de cuen creé la skill en inglés para que siempre use todos los MSP que has usado en tus directos. Oh, bastante bastante bien, sí, es una buena forma. Ahí precisamente está algo que comentamos y eso porque se le tiene que delegar el modelo. Eh, muy bien, vamos a continuar. Entonces, aquí aparentemente ya desarrolló esa parte y ya está probó. Fase 3, no íbamos en la fase 4, ya no sé ni en dónde vamos. Parece que sí, en la fase 3 y ya probó lo poco que ha hecho, aún no está completo. Entonces, de nuevo sería comprimir, ¿no? Estamos viendo cómo el desarrollo completo de una aplicación, buena parte del tiempo a veces lo dejamos solo el modelo, pero por sí solo va desarrollando absolutamente todo a partir del plan y pues de momento aparentemente va bien. De hecho, por aquí tenemos todo el style CSS, pues que usó los valores los colores que a él se le ocurrió y demás. De hecho, estamos viendo que consultó el MSP de context 7 para hacer esto a partir de la versión más reciente de Bootstrap y también también tenemos el index, ¿ya? La página principal, en la cual prácticamente seguramente todo va a estar aquí, a lo mejor ni siquiera es que haya varias URLs, varias vistas, a lo mejor aquí está todo, a lo mejor. Eh, aquí están las capturas que estuvo tomando, él solo probando cosas, aún no está completo, pero dentro de las cosas que ya creó, pues ahí está. Perfecto. Aquí nos dice fase 3 completada, resumen de lo creado, archivos creados, verificaciones en navegador, perfecto. Ahora, una vez que esta parte termine, pues pasamos a la siguiente. Aquí aparentemente bueno depende eh para alguna persona que quizás no desarrolle con IA, le parecerá que esto está yendo muy lento. Bueno, sí es más lento que eh servicios en línea típicamente, porque aquí estamos a 30 tokens por segundo. Sin embargo, sigue siendo una velocidad totalmente usable aún para usos agénticos de cientos o miles de tokens, eh, sin embargo, si alguien nota mucha lentitud, pues no es tanto que el modelo esté tan lento, sino que realmente estamos haciendo un desarrollo real y hay muchas cosas a tener en cuenta, mucho código que se escribe, mucho código que se lee, mucho uso de herramientas en las que buscan internet, en las que hace una cosa, en las que hace otra, así que pues eso es importante. No es lo mismo que ir a chat GPT y solicitarle una cosa. Aquí listo, nuevamente comprimimos la conversación. Ahora vámonos a la siguiente fase, vámonos a la fase cuatro. Y en todo este rato, mientras hemos estado en directo, que la GPU está a 62 grados, ni siquiera se calienta. El procesador, pues seguramente más frío todavía porque es un procesador de que consume 65 W y lo tengo con una fuente, no tengo aquí la caja, con una, no una fuente, un disipador de, es el Noctua, siempre me olvido de cuál es, NH-D15, este ajá. Tiene este disipador el pobre procesador, con lo cual pues este disipador es para eh procesadores que hasta consumen 100, 200, 300 W y aquí tenemos un procesador que consume 65, pues el procesador siempre, absolutamente siempre, se está tomando un cafecito helado. Pues listo, estamos viendo que realmente el desarrollo avanza bien. Vemos que consulta en el MSP distintas cosas. Ahora, algo que estamos viendo es que prácticamente estamos delegando absolutamente todo el modelo. Lo único que nosotros hacemos es comprimir y decirle que continúe con la siguiente parte, una vez que medio revisamos, pero en general nada más por decir que revisamos porque nunca le hemos corregido ni ni nada así. Eh básicamente la compresión, pues es por lo de la ventana de contexto, pero es que aunque fuera más ventana de contexto, no cabe el desarrollo de una aplicación completa, aún sencilla como esta, comúnmente no cabe en 200.000 tokens, por ejemplo, a pesar de que esta es una aplicación muy sencillita, funcional y bien hecha, aparentemente sí, pero típicamente no se trabaja con esto. Cuando se trabaja en el desarrollo, no es creando diario aplicaciones pequeñitas, es continuando con desarrollos que tienen años o hasta décadas y que tienen cientos, miles o hasta millones de líneas de código. No es que de la nada un modelo de lenguaje va a llegar a hacer cosas. Así que eso también es otra cosa a tener en cuenta. Si aparentemente hasta desde cero nos está funcionando bien para generar la arquitectura y todo de una aplicación desde cero, pequeña sí, pero desde cero, pues aún así eh podemos notar que para cosas simples en aplicaciones más grandes también puede funcionar. Ahí vamos en la fase cuatro. Panel principal tras login, tabla de contraseñas, búsqueda, filtros, contador. Quiero ver eso cómo lo va a hacer. Lo va a hacer en el mismo. Okay. Consultar context siete, crear index.php, parte dos dashboard, crear assets parte uno del de ese archivo. Okay. Sí, pues parece que todo va a estar dentro del index.php. Porque yo le dije que quería el index.php en la raíz. De momento bastante bien hecho. Por lo menos mejor que un becario, sí, con muchísima diferencia y más barato. Eh tristemente para los becarios, pero sí, de momento todo esto va bien. Yo miré en grupo de Cloud Code de Facebook que apenas da 44,000 tokens cada 5 horas. Eso es nada entonces, Juan, para uso agéntico. Sí, para uso agéntico no es nada. Ese cooler lo tengo yo, es muy bueno, el top uno de enfriamiento por aire. Sí, ese y también un Deepcool, no recuerdo el nombre, son los top top top de aire. Eh realmente es muy bueno. Sí, eh creo que 44, 44,000, 44,000, o sea, ni siquiera millones. De ser así, entonces no es prácticamente nada. No, no creo que sea así. O bueno, también depende a qué nos referimos, lectura o escritura. Hm, eso es algo a tener en cuenta. Pero si es solo de escritura, pues no sirve para prácticamente nada. 44,000 es lo que en todo el rato nos hemos mantenido aquí, que a cada rato comprimimos. Siempre estamos como entre 40,000, 60,000, quién sabe. Sí, ese cooler es muy muy bueno. También el, ¿cuál decía? El Deepcool, ¿cómo se escribe? Deepcool. Hm, este. De hecho, cuando yo compré el mío estaba entre comprar el mío o este de por aquí, que en aquel momento este era nuevo, el CPU Deep Cool Assassin 4 VC Vision. Ah, bueno, pero este tiene pantallita, creo que hay sin pantallita. Pero sí, básicamente son de los más potentes que hay. Y a pesar de eh disipar mucho calor, mucha aire, eh realmente, al menos en mi caso, no es algo que se escuche mucho. De hecho, pues dado en mi caso que digo, okay, pues el procesador que me dure tiempo la eh los ventiladores da igual, compro otros, son fácilmente reemplazables. Lo que yo tengo, que por cierto se me olvidó también comentarlo, los ventiladores desde la BIOS los tengo a 1,500 revoluciones siempre. No está para que de manera automática vaya subiendo, bajando a esas 1,500 revoluciones, sino que siempre está a 1,500 revoluciones por minuto, con lo cual pues aparentemente estoy forzando los ventiladores, pero aún así lleva años funcionando. Y cuando deje de funcionar, pues compro por otro ventilador. Mientras tanto se mantiene completamente frío el procesador. Está leyendo archivos para añadir cosas. El Noctua yo lo compré en 80 dólares hace 4 años ya y ahora vale 140, es mucho más caro hoy en día. Wow. Yo no recuerdo cuánto me costó a mí ese Noctua, la verdad. Ahora, por si alguien le interesa también saber en qué tipo de hardware es que puede ejecutar un modelo como este funcionando así de bien, no solo en calidad, sino en velocidad, que es una velocidad completamente usable, cuando vemos las partes en las que sí nos muestra tokens por aquí, eh pues vemos que a pesar de llevar contextos largos, esto escribe muchísimo más rápido de lo que puedo ir leyendo, con lo cual está arriba de 20, 30 tokens por segundo prácticamente siempre. Aún en directo eh con una gráfica muy antigua y tampoco es que la RAM y el procesador sea de lo más decente, eh ni lo más reciente. Aquí está ejecutando, okay. Ahí por ejemplo, estamos viendo algo que comento, seguramente ya casi todo terminó, con lo cual aparentemente está probando, pero no ha actualizado la lista correctamente. Ah, sí, en este caso sí, okay. Pero es que eso delegárselo a los modelos es lo que yo digo que no sé si sea la mejor opción. Debería de ser mejor que todo esto fuera con código. Seguramente en algún momento bajemos Codex o Code e intentemos simplificarlo y hacerle dicha funcionalidad solo como experimento y muy probablemente modelos más pequeños van a funcionar mejor, porque vamos a delegar toda la parte de trabajo que se pueda al modelo de lenguaje. Solo que digamos que ya no va a ser compatible con cualquier tipo de forma de desarrollo, cualquier tipo de estrategia, sino alguna en concreto en la que siempre grandes tareas se dividen en subtareas y cosas de ese estilo. Aunque bueno, típicamente debería ser así. Aquí, por ejemplo, no hemos visto que realmente haya fallado muchas veces a tal grado de entrar en un ciclo del que no pueda salir. A veces ha fallado, pero luego intenta de otra forma, esto es típico en los modelos. Claramente en modelos más grandes e inteligentes debería de pasar menos, pero de por sí no es el mayor problema en este caso. Lo que sí aquí es esto, precisamente, que lo que va haciendo, digamos que ya va teniendo la funcionalidad, pero de momento la estructura y el diseño adecuado quizás no. A lo mejor si esto lo estuviésemos haciendo con Cloud Code, quizás ya desde la primera se vería mejor. Básicamente la gran ventaja de esos grandes modelos de lenguaje, verdaderamente grandes, no pequeños como este 35 B, es no tanto en que sí 100% haya cosas que pueden hacer y que otros no, sino más bien que más cosas las pueden hacer a la primera o en menos pasos. Depende también de cómo le pidamos las cosas si siquiera se las pedimos de forma correcta. Pero sí, en general creo que eso es algo que esos modelos más grandes pueden hacer. Está probando al hash la contraseña para usar Bootstrap desde el CDN. Ah, entonces a lo mejor por eso ni siquiera se veía de forma correcta. Ay, pero esto no, quiero localhost. Creo que sí era eso, ahora sí se ve bien. Sí, creo que no estaba accediendo correctamente a Bootstrap. Ahí de nuevo falló la llamada al el navegador, pero pues luego prueba de otra forma. Está tomando captura. Este dicen que está bueno Thermal Right Assassin y barato, a ver, lo voy a ver, gracias. Tienes un cuete ahí, en cualquier momento sale volando el case. Eh, hace tiempo que no comparto foto de cómo es el gabinete, ¿verdad? La caja. Está llena de ventiladores. Se ve bueno, por lo menos aparentemente agarra buena cantidad de aire. Lo digo por la forma y el tamaño de los ventiladores, sin importar su velocidad. Y tiene buen precio, como 60, 70 dólares, está bien. Según ellos hasta para qué procesadores de cuántos watts, no lo dice. Aquí está, de 120 a 265 watts, según. Está bien, aparentemente. Por ejemplo, este siguiera siendo de sobra para mi PC actual. Esta PC es donde más tiene no dinero, pero donde más atención presté es en ventiladores. Hola Juan, una consulta, ¿cómo ves correr 4.6 35B eh A3B en una Nvidia GeForce RTX 3070 de 8 gigabytes? Bastante, bastante bien. Eh, de hecho en este caso a nosotros nos está consumiendo más de eso, pero porque estamos tratando de aprovechar los 12 gigabytes, pero de hecho te debería de funcionar más rápido que a mí, porque es gráfica más potente. Si no tuvieras estos valores establecidos por ti, sino que tomaras los de por defecto, que es 2048 y 2048, creo. Si no tuviera esos valores o si tú pones unos valores bajos, lo que va a suceder es que te va a consumir menos memoria, porque los bloques de cálculos que va a hacer van a ser más cortos. Entonces, si sin este comando te sigue sin caber, pues lo que puedes hacer es poner comando estos dos parámetros pero con valores más pequeños y con ello te debería funcionar bastante, bastante bien. Y a más velocidad, tal como comento. Así que no hay mucha
Assistir ao vídeo original no YouTube
Assuntos: Agentes de IA. Publicado no YouTube em 2026-10-19.
Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.