Transcripción del vídeo
Texto de los subtítulos disponibles; puede contener errores.
Y en este caso, un modelo antiguo y pequeñito, está intentando desarrollar esto. El problema es que aunque yo lo tenga con esta ventana de contexto, el modelo está diseñado hasta para 32, con lo cual cuando use más, pues o falla o se va a volver loco. De todos modos aquí ya falló, ¿no? ¿Qué pasó? Quizá no usó correctamente las herramientas. Volvamos a probar. Ahí parece que está haciendo algo. ¿Qué cosa? Quién sabe, pero está intentando hacer algún modelo pequeñito y antiguo para código. Nos escribió aquí el archivo completo, sin embargo, no lo hizo con los comandos necesarios para crear el archivo y dentro meter este contenido. O sea, sí, el modelo no supo usar estas herramientas, a pesar de que se supone que es un modelo diseñado para herramientas y para código, pero muy pequeñito y antiguo. Así que esto está bien para un chat únicamente. Muy bien, pues algo que estamos viendo es que por lo menos en Codex, el GPT-OSS 20B funciona bien, al igual que lo hace con GitHub Copilot. ¿Qué color es este? Y ni funciona. Eh, GitHub Copilot y Codex funciona bien el GPT-OSS 20B. No funciona perfecto, pero ningún modelo funciona perfecto y menos uno pequeñito, teniendo en cuenta que ese modelo con la ventana de contexto completa ocupa 17 GB de VRAM, pues está perfecto, o sea, sí, tengo completamente gratis e ilimitado algo que realmente funciona. Sin embargo, no es el mejor, pero es que quería ver qué tanta diferencia hay con el mejor. El problema es que queremos meter dinero y no nos da permiso, no nos deja hacerlo. Entonces, vamos a probar otro servicio y asunto arreglado. Voy a leer el chat desde el teléfono. "Prueba lo que te mandé, jaja, lo de Cloud Code con OpenAI." A ver, a ver, muy bien. Siempre haces inventos raros. [risas] Combinas tecnologías, a ver, vamos a ver. Está interesante. Muchas gracias, por cierto. "Uf, abre tu terminal y ejecuta el siguiente comando con la instalación NPM." Gracias, con eso lo instalo. Cloud Code para verificar. guión G es para que esté en todo el sistema, configurar variables de entorno, opciones avanzadas, variables de entorno, ah, para cambiar la URL, oh, qué bueno que no estoy mostrando esto, por cierto, muchas gracias. Muy bien, entonces pego esto, vamos a probar los inventos raros que nos dan, variable del modelo. [risas] Para usar en todos los casos el Minimax, estoy viendo el primer mensaje, ya estoy terminando. Aquí lo que estoy haciendo básicamente es, además de instalarlo, el Cloud Code, otra cosa que estamos haciendo es, según configurar Anthropic, su servidor, pero en este caso usando otros modelos, de hecho, de Minimax, el Minimax 2. Después de añadir las cinco reales, haz clic en aceptar en la ventana aceptar aceptar propiedades del sistema, importante, debes cerrar y volver a abrir cualquier terminal, exacto. Muy bien, entonces ya tenemos Cloud Code. Eso de Cloud Code, me equivoqué, solo es Cloud. Muchas gracias, veamos, ¿y cómo se ejecuta? Cloud, necesito Git, si no no se puede utilizar. Uy, siempre es mucho problema por aquí. Ahora vamos a instalar Git. Esto está bien porque es una forma de forzarnos a las buenas prácticas de desarrollo, sin embargo, por ejemplo, con GitHub Copilot esto no hace falta, ni con Codex. Veamos luego de instalar Git, pero esto es precisamente cosas de las que no me gusta de todas estas nuevas tecnologías, quizá esto parece comentario de un viejo, eh, pero por ejemplo, ya para mí, desde el simple hecho de programar en Python eh, y cosas similares o más moderno, React y todo ello, no es mi forma favorita, son parches en los parches de los parches y ahora con la IA aún más. Me gustaban cosas más nativas, por así decirlo. Perfecto, muchas gracias, por cierto, Dark Mode, sí. Anthropic Console, aquí qué elijo, no vi. Quizá me voy a complicar demasiado y nos vamos a tardar mucho en el directo, además de que se supone que es de Codex, si no lo logro configurar, no importa, hay otros. De hecho, por ejemplo, mientras tanto, me acabo de acordar de algo interesante. De Codex también existe extensión para Visual Studio Code. Y esta extensión, creo que no permite usar o llama por aquí, pero sí el iniciar sesión. Ah, pero es que ya no sale con la sesión iniciada. Eh, nos permitía iniciar sesión en chat GPT o poner la API key. Sin embargo, parece ser que como ya lo tenemos el otro, aquí también nos coder settings, ID settings, open config. Así es. Pero es que yo no quiero esto. Yo lo quería probar por separado de lo otro. Help, ID settings, MSP settings, Codex settings. ¿Cómo pego API key? Estamos en las mismas. Hola, pues no va a funcionar. No estamos conectados a nada. O a menos que tome la variable de entorno del sistema. No, estamos en las mismas. Yo dije, "Ay, pues aquí lo solucionamos y aquí lo configuramos bien." Pues tampoco. Connect Codex web, trabajar local. Codex web es para que se quede haciendo cosas en línea. No, pues estamos en las mismas. Iniciar sesión con Cloud igual no usa tokens de Cloud. Ah, okay, muchas gracias. Vamos a probar. Pero sí, esto, pues pasó lo mismo. Pero bueno, lo interesante de este directo, que era el poder usar Codex ilimitado, ya vimos cómo se puede. Ahora vamos a probar otras cosas. Para ver si realmente hay mucha diferencia con usar ese modelo pequeñito en local. Bueno, pequeñito, 20 B. Pero es cuantizado, está preparado para funcionar a 4 bits. Entonces, de nuevo esto, dark mode, iniciamos sesión, pues no usa tu clave API. Increíble que usar las cosas gratis sea más fácil que las de pago. Es como lo que digo de la piratería, de que muchas veces la piratería hasta se llega a hacer ni siquiera tanto por no querer gastar, sino porque a veces o es la única forma en la que puedes hacer las cosas, conseguir las pirata, o es más fácil. Ni se molestan en copiar la API key y no tiene dinero. [risas] Y esto me pide que meta dinero. Pues no, desgraciadamente no se puede. Ah, pues que siempre sí, veamos. Sí es cierto, solo pide login. Muchas gracias, justamente lo que acabas de decir en el chat, gracias, gracias. Muy bien, presiona enter para continuar. Estamos en la carpeta del usuario. Quiere leer los archivos contenidos en el directorio. No, en este caso no. Entonces ahora sí vamos a iniciarlo en una carpeta donde queramos hacer un proyecto. Por ejemplo, aquí. Vamos a comenzar. No, ya directamente hagámoslo en la carpeta en la que desde un comienzo se supone que el objetivo era hacer una prueba real. Ejecutamos Cloud. Sí, procede. Write a test for file path. Aquí por ejemplo, add dir, agents, batches clear compact config context, cost, doctor. Pues similar, aunque de hecho hasta me gusta más la cómo se ve aquí, la visualización. En el de OpenAI como que parpadean las cosas, es como muy dinámico que se está refrescando todo el CMD. Solo te pide el login, eso evita eso. Gracias. Eh, muy bien. Aquí sí es una imagen estática, no se está refrescando todo el rato. Haz los cambios necesarios al código con el objetivo de eliminar todo lo referente a la funcionalidad de membresías de la plataforma web. Pues. [risas] Ahora, que esto se puede utilizar, sí, y fácilmente seguramente también, pero sin siquiera estar viendo información al respecto, pues parece que esto no está funcionando, ¿no? Aquí nos dice lo de minimax M2, pero no, no quiere funcionar esto. ¿Qué es Codex? Bueno, volvamos a lo de Codex. Ahora sí, muchas gracias y discúlpame por hacerte perder tiempo, pero vámonos a lo que estábamos, a lo que trata el directo. Eh, Codex, pusiste algo mal, creo, seguramente. Eh, Codex es un agente, Codex LAI, un conjunto de agentes, todo un desarrollo que tiene la gente de OpenAI con la cual, una vez instalado en este sistema, ya vimos cómo, podemos estar desarrollando de manera más acelerada, desarrollando código en distintos lenguajes de programación, a partir de que lo que permiten estos agentes es cualquier modelo de lenguaje darle la posibilidad de meter comandos al sistema, de hacer una cosa, de hacer la otra, para que no únicamente nos sirva como un chat, sino que realmente darle más posibilidad de que él mismo esté trabajando en el proyecto. Sin embargo, esto comúnmente no funciona bien, ¿por qué? Porque requieren mucho contexto del proyecto, necesitan ser modelos muy inteligentes y no solo ser inteligentes en cuanto a código, sino en cuanto a ellos hacer las cosas. Esto, además, requiere demasiados tokens de contexto, demasiado tiempo haciendo cosas y si lo estamos haciendo con APIs es muy costoso, mientras que si lo hacemos en local es 100% gratis, 100% ilimitado, 100% privado y y nada costoso, lógicamente. Entonces, lo que hemos estado probando, el objetivo de este directo, era ver qué tal funciona y cómo hacerlo funcionar el Codex únicamente con modelos desde nuestra PC, sin pagar ninguna suscripción y sin pagar ninguna API key. Nos funcionó suficientemente bien, solo que después quisimos compararlo con servicios en línea para ver los servicios en línea qué tan buenos son, pero chat GPT gratis no lo permite, API key de Open AI le puse, no quiere funcionar, intentamos desde la extensión en Visual Studio Code, tampoco, probamos un Cloud Code modificado que nos dio eh bueno, que nos prestó Uberduckers AI y tampoco. Y entonces, no solo es que en local, de momento, bajo el resumen de la experiencia que tenemos solo del día de hoy, no solo es que en local sea gratis, privado, ilimitado y siempre disponible, sino que además es la única forma que realmente nos ha funcionado. Perfecto, no, ninguna de estas cosas funciona perfecto. Sin embargo, queríamos ver la diferencia entre en hacerlo local y hacerlo en línea, pero parece que hoy no es el día para hacerlo en línea, mientras que en local pues sí ha funcionado. Entonces, nuevamente voy a copiar esto a nuestro archivo correspondiente para volver a usar Codex en local y en este caso, pues hagámoslo aquí con la ventanita para no tenerla en otro lado. Tengo esto de esta forma y volvemos a probar. Probé el modelo química 2 según Artificial Analysis está a la par con GPT5 J AI siendo un modelo de pesos abiertos con licencia MIT modificada con una cláusula específica. Sí, el química 2 thinking está bastante bastante bien, sin embargo es tan grande que prácticamente no nos sirve para nada más que como otra alternativa en línea. ¿Lo estás creando en local? Sí, así es. Pero la computadora ¿qué especificaciones tiene que tener? Depende del modelo que estás intentando ejecutar. ¿Y si usas la API de Gemini? Eh, es que en lo que estábamos intentando ejecutar era solo para la API de OpenAI, por lo menos por defecto, así que ese es el detalle. Eh, pero bueno, vamos a seguir probándolo en local, que es el objetivo del directo. ¿Cuánta memoria se requiere? Depende del modelo que quieras cargar. Es tan simple como eso. Da igual que sea con Codex, da igual que sea con lo que sea, si lo estás haciendo en local, pues lo importante es que el modelo quepa. En este caso, el modelo GPT OSS 20B completito, con su ventana de contexto completa y todo eso, cabe y hasta sobra entre 24 GB de VRAM de estas dos tarjetas gráficas. Una 3090, una 5090, una 4090, el modelo cabe perfecto porque son de 24 GB, la 5090 de 32. Eh, si no, pues existen modelos más pequeños, pero sí, aquí el que vamos a estar utilizando, nuevamente, probando más cosas, es el GPT OSS 20B. Sin cuantizar ni nada, o sea, tal cual les he entregado. El modelo completito, su ventana de contexto completa. Vi un mensaje, pero Gemini no tiene tantas restricciones como Gemini, ¿eh? Gemini no tiene tantas restricciones como Gemini. Aquí, por ejemplo, este, el modelo completo pesa 17 GB una vez ejecutado. Ejecutado, descargado 13. Ejecutado con su ventana de contexto completa, eh, 17. Y, pues, su velocidad es muy buena. Aún en directo, fuera de directo es más rápido. 50 tokens por segundo, fuera de directo llega a 60, 70 en los primeros tokens, ¿no? Ya cuando llevamos cientos de tokens, pues, es más lento. Jaja, yo pensando correrlo en mis 128 MB de tarjeta gráfica, uf, no, pues, no. No, no es posible. Pero hay servicios en línea, así que no hay problema. Muy bien, entonces, aquí vamos a volver a abrir el Codex y ya lo hemos vuelto a configurar para que funcione con GPT OSS 20B y le vamos a decir, primero quiero ver qué otras funciones tenía por aquí, a ver si alguna nos interesa. No, a no, eh, le vamos a decir, "Busca la palabra membership en todos los archivos del proyecto y modifica aquellos en las que, aquellos en la que, aquellos
Assuntos: Agentes de IA, ASI. Publicado no YouTube em 2026-10-21.