#15 API, RAG & Agentes Autónomos con Sergio Lazaro | Hackathon futurX
Publicado no IA Dots ·
Agentes de IAAI Signaldot-artificial_intelligencedot-autonomous_agentsdot-geminidot-llmEspanholidioma-esyt--HERrcRP0po
Vídeo em Espanhol, publicado pelo canal futurX Perú.
Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.
Resumen del vídeo
El orador ofrece una clase técnica orientada a la arquitectura de inteligencia artificial dentro de una hackathon, explicando la construcción de sistemas basados en LLMs, RAG y agentes mediante tres niveles de complejidad. Se abordan conceptos como la aleatoriedad, la temperatura, los costos de tokens, el system prompt, la gestión del historial de chat, la generación aumentada por recuperación (RAG) mediante vectores, y la ejecución de herramientas (tool calling).
Puntos principales
- Los modelos de lenguaje grande (LLMs) funcionan prediciendo el siguiente token de manera iterativa basándose en probabilidades estadísticas, influenciados por el parámetro de temperatura que define su creatividad o determinismo.
- La construcción de aplicaciones con IA requiere el uso de llaves de API, selección de modelos según costos por millón de tokens y la configuración adecuada de un system prompt para fijar la personalidad y el contexto inicial.
- Para mantener una conversación coherente, las aplicaciones deben gestionar explícitamente el historial del chat, ya que los LLMs no poseen memoria nativa por defecto.
- El sistema RAG (Retrieve-Augmented Generation) convierte fragmentos de texto (chunks) en vectores numéricos para realizar búsquedas de similitud semántica y proporcionar contexto relevante, evitando que el modelo alucine.
- Los agentes de IA combinan la recuperación de información (RAG) con la ejecución de funciones o herramientas (tool calling) y razonamiento en bucles controlados para realizar acciones complejas.
- Se recomienda el uso de infraestructuras como Open Router para acceder a diversos modelos, y librerías como LangChain o LangGraph para el desarrollo eficiente de agentes.
Temas
Inteligencia artificialLLMRAGAgentesTokensTemperaturaVectoresTool calling
Transcripción del vídeo
Texto de los subtítulos disponibles; puede contener errores.
Bienvenidos a nuestra transmisión número 15 de la Hackathon Future X. Ya estamos en la recta final haciendo los sistemas, los prototipos MVP's. La gente está conformando sus equipos. Así que ahora justo es el momento perfecto para que Sergio nos cuente más técnicas, herramientas, procedimientos etcétera para estos temas de su clase de hoy de API, de RAG y de agentes. Así que bien, bienvenido nuevamente Sergio, el tiempo es tuyo. Hola Ángel, muchas gracias por la bienvenida. A ver. Okay, todo eh se ve bien mi pantalla. Sí, ahí está, ya ya la veo. Okay excelente. En esta, bueno, creo que es la última o penúltima clase, lo voy a orientar a algo mucho más técnico. Conociendo estas nuevas técnicas ya de arquitectura de inteligencia artificial, como son los RAG, como son los agentes, ya aprendimos en la mañana todo acerca de by coding, aprendimos el día lunes sobre cómo funciona una un LLM por dentro y los diferentes modelos que existe y y lo que se puede usar, como las capacidades multimodales que tiene cada uno. Durante toda esta sesión voy a hilar en la construcción de un agente completo. De tres niveles, desde usarlo un LLM puro, el nivel dos vamos a construir un rag y el nivel 3, vamos a construir agentes. Que es añadirle capacidades, acciones, herramientas a este agente de inteligencia artificial. Todo este, todos estos niveles para que pueda contestar de mejor manera esta pregunta. ¿Hasta cuándo podemos registrar nuestros equipos en hackaton? O cuánto tiempo nos queda y cuántas preguntas puede tener. Van a ver la importancia de cada uno de estos niveles y lo que cada, lo que aporta el subir el nivel. Voy a recapitular a algunos conceptos que vimos el día lunes. Cómo, el cómo funciona internamente un LLM. Entendemos un LLM como un modelo gigantesco que es única tarea es predecir el siguiente token. Por ejemplo. En el hackaton, en el hackaton Future X, mi equipo va a construir y le vamos a predecir. Entendemos que cada, en cada iteración ha generado un token. Y al momento de terminar de generar un token. Predice el siguiente, es un bucle infinito y hace un proceso de decisión por mera estadística. Por ejemplo en una. Si no fuese una, ¿qué hubiera sido? Hubiera sido un. Hubiera sido una, pero con un espacio adicional. Si no fuese plataforma, ¿qué hubiera sido? Aplicación. Entonces, si es que hubieras ido por este camino, habría sido en el hackaton Future X, mi equipo va a construir una aplicación. Y ya el resultado sería totalmente distinto. Pero es mera suerte, mera aleatoriedad. Salió aplicación porque estuvo en primeros puestos, pero no siempre es así. Vamos a analizar, vamos a buscar, por ejemplo, aquí. Una aplicación de gestión de residuos pudo haber sido eh inteligentes. Mas no inteligente. Pero salió la tercera. O simplemente no escribir nada. Pero salió que utiliza visión. En cada una de la generación hay este proceso de aleatoriedad, lo que hablamos del mmm proceso de pro de probabilidades que tiene en cada una de las iteraciones cuando se hace la la atención en cada uno de los ítems. Y también vimos que conceptos como lo de temperatura. Cuando es una temperatura menor, es más determinista, y cuando es una temperatura mayor, es más creativo, es mucho más caótico. Eso quiere decir que cuando es menos, se le da más valor a los que tienen puntaje alto. A cambio, cuando es creativo, busca el equilibrio, que en el que tiene poco puntaje tenga más y el que tiene mucho tenga menos. Y vamos a ver cómo cambia las respuestas en cada una de estas iteraciones. Al momento de generar un nombre para una startup con un formato, quiero un nombre y un eslogan, ese es mi formato y una sola línea. Una de las características principales que le he dado es que sea una startup peruana. Cuando es determinista, las respuestas suelen ser idénticas. Lo que estamos viendo en pantalla es como si yo lo hubiera dado tres veces con una temperatura baja en la primera columna. Quiere lo que sale ahí que es idéntica, significa que esa mismo nombre puede haber salido a otra persona. Porque entendamos que es el mismo modelo que estamos usando, no es como un modelo para mí y otro modelo para otra persona. Pero ¿qué pasa cuando se le ha aumentado la temperatura? Ninguno de los dos es idéntica. Eh, está el Corimín, Causay, Andino AI. Cuando se busca que sea mucho más creativo, que invente cosas, ya sea en campos de marketing, eh, en marco, en campos de ideación creativa para generación de imágenes, se busca que la temperatura sea alta. A diferencia de que haga un análisis médico, que se busca que la temperatura sea lo menor para que sea determinista. No quiero que inventes cosas en ese caso. Actualmente los modelos de inteligencia artificial, cuando tú entras a ChatGPT, a Codes, Antigravity, a Quimia, el que les guste, la temperatura suele rondar entre un 0,7 0,8. De esos parámetros no salen. Ya nosotros tenemos que configurar si queremos una temperatura distinta. Y es muy importante establecerlo, porque según nuestro uso va a cambiar. Si queremos algo creativo, lo vamos a subir para que dé mejores resultados. Y cuando es algo que necesitamos que sea más determinista, lo tenemos que bajar al mínimo. Puede aguantar un valor literal de cero. Pero ¿qué hemos aprendido en en esta parte? Hemos recordado cómo funciona la temperatura, qué es un cómo hace las decisiones de las probabilidades. Pero yo en mi aplicación cómo lo uso. Voy a usar la infraestructura de Open Router durante toda esta aplicación, dado que es un gateway de muchos modelos de inteligencia artificial. Es decir, ahí puedo en esa página, creo que los últimos minutos del lunes mostré la página que había un listado de todos los modelos que existen. El funcionamiento de esta el cómo funciona al momento de construir una aplicación con inteligencia artificial es de esta forma. Se hace una llamada. Eh, no sé si en eh usan más TypeScript, usan más Python, pero la estructura es muy similar, o sea, las cosas que contiene esto. La forma diferente es eh Python se escribe diferente a JavaScript, se se escribe diferente a Android, pero las piezas son las mismas. [resoplido] Hay una llave que se tiene que obtener directamente desde Open Router y si no queremos usar, por ejemplo, Open Router, Gemini, eh queremos usar Gemini, queremos usar la API de Open AI, Anthropic, todas te dan una llave. Adicional a la llave, tú tienes que colocar con qué modelo quieres trabajar. En Open Router se coloca aquí, en model. Puedo seleccionar Luna, Haiku, Gemini, Gemini 1.5 y 1200 modelos más. Lo revisé que es la cantidad de modelos que tiene actualmente disponible. Y dentro de ello colocamos todo el historial, pero eso lo vamos a ver después. Entendamos primero que necesitamos una llave y elegir qué modelo queremos usar. Depende qué modelo es también el precio. Lo podemos ver en las misma en la misma página que nos va a proveer. No es tan complicado saber cuánto nos va a costar. El costo es por millón de API, por millón de tokens. Eh, Anthropic, el modelo más poderoso que ellos tienen cuesta 50 dólares el millón de tokens. Ya sabemos cómo se parten los tokens y ese es el precio. Suele ser uno de los más costosos o en ese es el más costoso, 50 dólares. Se eh de Open AI también cuesta 50 dólares el modelo GPT 6 Astra. Pero hay modelos que van al otro extremo, lo más económico. Eh, hablamos de un Deep Seek, hablamos de un Gemma, hablamos de un, a ver, cuál más puede ser, un Qwen 3, que son modelos ultra ultraeconómicos, como 0.05 el millón de tokens. Depende lo que estamos buscando, depende nuestro eh depende la escalabilidad que tenemos de nuestro proyecto, tenemos que elegir entre uno u otro. No siempre el más caro es la mejor opción. En en el primer mensaje se coloca como el rol. Hay dos roles, usuario y sistema. Y es porque ahora hm ya se migró del uso común que era autocompletar las palabras a una interfaz tipo chat. Entonces, yo tengo un rol, yo soy el rol usuario, es como lo que yo he escrito y lo que me ha respondido es el rol del este sistema. Cuando yo hago una consulta, por ejemplo, qué es un LLM en una frase para alguien de hay que cambiarlo de 5 años. Le doy ejecutar, estoy usando el modelo GLM 5.3 y lo que me devuelve es esto. A ver, voy a creo que vamos 543 no está bien configurado, pero con eso es Acá está. Lo que me devuelve es con el rol de asistente. En el caso de Coven, cada uno, cada una de las empresas usa su propio estándar. Suele ser eso lo más común, system, user y los modelos asiáticos assistant. Y me da un contenido, que es la respuesta. Un LLM es un ayudante de computadora que ha leído muchísimas palabras y puede ayudarte a hablar, pensar y responder preguntas. Internamente nos da esto. Esta es la información que nos devuelve, que es el contenido, que lo podemos pintar en pantalla, en una aplicación, que nos lo diga en voz, y adicional a eso nos da el costo, cuánto nos ha costado el input y el output. Cuando nosotros le enviamos este mensaje, explica qué es el LLM en una frase para 5 años, son los tokens de entrada. Ese texto se convierte a tokens, y cuánto en cuan el número de fragmentos es la cantidad de tokens de entrada. Y lo que nos ha devuelto aquí dentro de content es los tokens de salida. No lo tenemos que contar como sílabas, ni como palabras, es sino cada uno usa su la su propia forma de fragmentar, cada empresa lo usa. Tenemos que optimizar eso. En esta consulta usamos 78 tokens con el modelo Coven 3.8 flash, gastamos 0,000065 dólares. Suele ser muy económico, pero estamos viendo a una escala de uno. Nuestras aplicaciones cuando salen a producción, pues lo vamos a lanzar, ya sea al público, con unos planes, y ya no es solamente el costo de uno, sino el costo de 100, 1000 usuarios que lo van a usar. Y según el tipo de razonamiento que necesitemos, Google es un modelo muy pequeño. No puede hacer cosas complejas. Pero sí puede explicar cosas como qué es un LLM. Pero si le pedimos que resuelva un problema matemático, incluso sumas básicas, se suele equivocar. Al momento de configurar nuestro propio LLM ya para hacer con aplicaciones, no solamente para usar bycodear, sino para nosotros hacer aplicaciones de inteligencia artificial, hay un concepto llamado el system prompt. System prompt es como el contexto inicial, antes de escribir nada, le vamos a decir el qué personalidad quiero que tenga y qué información quiero que tenga como de fábrica. Por ejemplo, si hago un asistente para un banco, eres un asistente que que trabaja en el banco tal. Eso no va a cambiar. El banco no es que cambie de nombre diario. O si no la forma o el estilo que usa. Si es que quiero que se explique con analogías, que quiero, si es que voy a hacer otro tipo de aplicaciones como alguien que cuenta cuentos divertidos, pues esa personalidad, ese tono, también puedo definirlo aquí. El LLM toma más peso, importancia a este system prompt que el prompt siguiente. Eh, si es que aquí coloco, eres un asistente de de banco, por más que después coloque ahora vende hamburguesas, pues va a prestar más atención a este System Prompt. No va a ser más complicado romperlo, no imposible. Para ello tenemos que implementar barreras, pero lo hace mucho más complicado. Aquí coloqué para una misma para un mismo prompt de entrada, para un mismo texto, ya saben, en el rol usuario, porque soy yo el que voy a preguntar, un System Prompt preconfigurado, pero los tres me van a responder esa misma pregunta. Y vemos que cada una de ellas me responde de forma diferente. A ver, creo que tengo que cambiar el modelo a uno mejor. A ver, ahora lo uno. Okay. En el primer prompt era, eres un mentor paciente para principiantes. En el segundo es un pirata tecnológico. Y en el tercero, solamente responde en el formato JSON. Recordando en la primera sesión, el formato JSON es un formato estructurado para obtener información y que sea más determinista. Y vemos los tres estilos, completamente diferentes, para tres usos totalmente diferentes. Yo este texto no pude establecer cada una de las características que tiene. Es un texto. Si quiero hacer, usar esto a un siguiente nivel, lo que podría hacer es quizás convertirlo a audio, pero eh pintar en pantalla, construir interfaces gráficas con este texto es complicado. A diferencia del último, donde yo podría mencionarle, bueno, incluso aquí en el prompt, le menciono que tiene que tener definición, ejemplo dificultad. Entonces, yo este texto sí lo puedo usar para pintar en mi aplicación interfaces gráficas. Como vimos la semana pasada, bueno, lunes, una aplicación que toma fotos y que lo convierta a a un muro de anuncios, lo podría hacer de esa forma. Porque en los muros eh de anuncios ya tendrían sus campos de específicos, nombre, dirección y últimas vacantes, quizás. Pero no puedo hacer mucho con este texto. Porque es eh un uso muy específico. Y quiero decir que el primero, ¿no? Por eso hay que prestar mucha atención al system prompt. Esto eh puede llegar a recordarles a lo que es el clásico prompt engineering de actúa como o toma el rol como. Eh se usa este, por ejemplo, ¿cuál es la diferencia? Entre uno u otro. Es que tú en chat GPT cuando tú ingresas, ya tiene un system un system prompt de entrada, aunque no lo haya aunque el chat esté vacío, ya tiene un system prompt. Su system prompt suelen iniciar con eres un asistente de inteligencia artificial de la empresa Open AI. No lo puedes cambiar, eso ya viene de fábrica. Ni descargándolo, ni ni descargando la aplicación, ni ni otra forma. A menos que construyas una aplicación eh con su API que les mostré anteriormente cómo se conecta y le coloque su system prompt. Ahí se borra, se olvida lo que es para que tome este nuevo rol. Entonces, como no se puede cambiar, lo que suelen hacer las personas es eres un asistente, pero ahora vas a rolear, vas a actuar. Acá me aquí se lo cree. Es como tú eres, no es como actúa como, ahí está la diferencia. En el momento de enviarle un chat eh a la IA, tenemos que aprender a construir este hilo de de historial. El modelo por sí no tiene memoria, viene en blanco, eso el dónde guardar ese chat, tú lo tienes que decidir, tú lo tiene que con tú lo tienes que construir. Mmm, entonces, ¿cómo funciona? Por ejemplo, "Hola, me llamo Ana, mi equipo se llama tensores." Y aquí podemos ver cuál es la información. Tenemos un system prompt, "Eres Nova, un asistente amable, de respuestas máximo en dos frases, un rol que es el user, que es lo que yo le he enviado y lo que la IA me ha devuelto. "Hola Ana, encantado de conocerte, mucho anime mucho ánimo para los tensores." Si yo le envío cómo me llamo y cómo se llama mi equipo, ya que le voy a enviar todo lo de aquí arriba, pues tiene esa memoria. "Te llamas Ana y tu equipo se llama tensores." ¿Pero qué pasa si no envío el historial? Voy a colocar "Cómo me llamo y cómo se llama mi equipo." "Así no sé cómo te llamas, ni cómo se llama tu equipo, aún no me lo has dicho." No tienes información previa. Si es que yo, por ejemplo, eh algo así, "Hola, soy Sergio y mi equipo es eh los X." Okay, ahí le envié el primer texto como para que sepa si es que no le envío el historial y le pregunto cómo me llamo y cómo se llama mi equipo, va a responder eso. "No me has dicho cómo te llamas ni cómo se llama mi equipo, porque no le estoy enviando estos dos de arriba, este user y este assistant. Máximo el X, quizás en este caso le he mandado el system prompt. Tenemos que aprender entonces a gestionar este historial, porque si no les va a pasar esto. Van a tener una conversación y es como lobotomizado, no lo va a saber. Y eso lo tienen que construir, ese apartado de memoria. Entonces ya tenemos como conocimiento de un primer nivel, cómo usar una IA. Si le preguntamos hasta cuándo podemos registrar a nuestro equipo en la hackathon, cuánto tiempo nos queda y cuántas personas puede tener, si le preguntamos esto, lo que nos va a responder, ya intuyo que es no tengo fechas, no lo sé. No sabe ni mis datos, no sabe ni siquiera qué es la hackathon y no sabe ni la hora, ni la hora. Entonces, viendo eso, salió a estudios que es el rag, retrieve argumented generation. Les voy a explicar cada uno de los pasos y qué es lo que soluciona en este caso. Pero entendamos algo. Todo el texto, como les mencioné el día lunes, la GPU, los servidores que tienen Google, Amazon, no entienden texto, lo tienen que convertir a algo llamado vectores. Eh, teníamos el concepto de tokens, que es una información en un pequeño bloque, pero qué pasa si yo quiero guardar la información de toda una frase, lo convierte en un vector. En este vector es como todo, como si un token lo alargara con más texto. Por ejemplo, tengo tres frases, mi perro corre feliz por el parque. En el segundo, un cachorro juega contento en el jardín. Y mi tercer texto, la factura de servicio, la factura del servidor vence el lunes. Ahí existen modelos específicamente que me convierten en valores numéricos. Eso lo vamos a ver visualmente para poder comprenderlo. Pero yo cuando le pido a la a estos modelos que generan vectores, me dan una lista de números, así como esto, así como esto, así como esto. Y con una fórmula eh de cosenos, no se preocupen de eso, eso ya ves, hay un hay infraestructuras que ya te ayudan a hacer esto, pero a nivel concepto lo que hace es agarrar estos dos vectores, que es una lista de números, y con esas dos listas puedo hallar similitudes. Por ejemplo, el texto uno, el perro corre feliz por el parque, tiene un 0.7 de similitud con un cachorro juega contento con un jardín. Pero un perro corre feliz por el parque tiene una similitud de 0.36 con la factura del servidor vence el lunes. Al momento de descubrir esto, el tema de los vectores y que hay similitud semántica, eh podemos eh usarlo para encontrar la información que queremos, esa aguja en el pajar en millones de documentos. ¿Cómo lo suelen usar? Y para eso eh voy a animar que escriban en el chat palabras totalmente aleatorias, cuanto más aleatorias sean mejor, para añadir en este en esta nube de palabras. Yo veré ir el chat, mmm, en eso voy escribiendo, a ver palabras aleatorias, como teclado, según lo que voy viendo, teclado, también voy añadiendo la palabra robot, pantalla Pokémon eh luz cosas que voy viendo, control completo, parafraseo, insight, muy buena palabra, muy bien, muy bien. Okay. Vale. Lo que estamos viendo aquí, es ya tenía unas palabras, eh, guardadas, y estamos viendo en una nube de puntos, lo reduje solamente a tres dimensiones, porque ver cuatro dimensiones es complicado y vectores funciona a 720 dimensiones. Simplificándolo, lo que estamos viendo es la similitud semántica. Lo vamos a ver más claro aquí. Cuando nosotros hemos añadido cada una de estas palabras, pues de palabras, frases, podemos llegar a encontrar, eh, estas similitudes en base a una pregunta. Por ejemplo, ¿qué animal vive en el mar? A todas las palabras que he añadido, me hace un ranking. ¿Qué animal vive en el mar? Delfín, con un 0.6. Curiosamente lo añadió perro. ¿Será porque, por una razón, porque no tenemos otros animales añadidos en esta lista? ¿Qué es lo más cercano que podría llegar a vivir en el mar, quizás un perro en un bote o un gato. Eh, creo que un gato menos, por eso lo puso tercer puesto. Pero es menos probable que viva un que viva un robot o un león o un caballo. Curiosamente Pokémon parece que debió estar más arriba, ¿no? Vamos a hacer un ejemplo añadiéndolo, esta la lo que escribieron en el chat, león marino. Añado, estoy en convirtiéndolo a un vector y ahora cuando vuelvo a hacer la pregunta, como qué animal vive en el mar, a ver, dejo. Ah, a ver, vamos a añadirlo. Okay, curiosamente ese modelo es ahí está la razón, ahora les explico, esa es la razón por la cual está muy bajo. Literal no lo detecta. Para seguir la acción, al final les explico por qué recomendaciones tener cuando les pasa esto. Okay, entonces a nivel de qué puede vivir en el mar les sale esto. Es menos probable un león, un caballo, un Pokémon en o enojado. Ah okay. No, creo que esas palabras no están, por eso no no salió. Pero hace un ranking, eh, usa la similitud por coseno. Como les ya les digo, eso hay infraestructuras que te ayudan muchísimo en construir. Al final les voy a mencionar algunas de ellas para que puedan construir esto. A nivel producción, no se suele trabajar con solamente palabras. Si es que yo quiero que construya una herramienta que en un amalgama de conocimiento en documentos y muy gigantescos. Por ejemplo, el historial crediticio de una persona. Si nosotros le enviamos toda esta información a una IA, por más que tenga un millón de contexto, primero nos va a ser muy muy costoso. Si queremos hacer una IA relacionado a a medicina, enviar toda esta información va a ser muy cara, porque primero no vas a usar un modelo barato. Y segundo, esta este contexto suele variar dinámicamente. Y tengan en cuenta que el costo es incremental. El millón de tokens, por ejemplo, si hemos mencionado 50 dólares el millón de token. Si yo le digo solamente cargo 900 mil eh tokens. Eso va a ser mi entrada. Con una pregunta, ¿cuál es el nombre del cliente? Pues ya me han cobrado 9000 cinco, 9000, bueno, 9015 tokens. Para una pregunta. Y si yo sigo haciendo preguntas me va a cobrar eh pues 45 dólares, 45 dólares, 45 dólares, 45 dólares. Eso es inimaginable con los costos que suceden con la IA. Entonces se empieza a fragmentar cada uno de los vectores de entrada. Eh bueno, cada uno del texto de de los documentos que tenga o la información que tenga se empieza a fragmentar. Cuando es muy grande, eh los fragmentos, pues suele haber mucho ruido. Lo que suele pasar es añadir contexto que realmente no es tan importante. Es mejor buscar un equilibrio, porque si lo coloco muy corto, se pierde de qué se está hablando. O que si realmente es importante ese contexto. El estándar es 520. 520, aquí sí caracteres, porque están estoy añadiendo todo ese texto. El hackaton, qué es, las fechas, equipos, sedes contacto recomendaciones cómo elegir seguridad. Puedo añadir un un documento muchísimo más grande. Aquí hice una demo pequeña para información del hackaton. ¿Qué pasa cuando fragmento más pequeño? Pues se pierde la información. En un fragmento, un chunk, que se le suele llamar en estos sistemas de rack, suelen no tener mucha información útil, por más que se le haya preguntado, o se pierda dentro del contexto. Recordemos, por ejemplo, el caso de banco. Banco significa financiera y banco significa eh lugar para sentarse. Suele pasar exactamente lo mismo, pero en estos fragmentos. Cuando si solamente te digo, "Oye, banco", pues no entienden. Pero cuando añado más texto, pues puedo llegar a comprender. El estándar que se suele usar y se ha hecho una investigación y se han descubierto que es el el el equilibrio perfecto es 520 caracteres. Todo ese texto de entrada se ha partido en cuatro pedazos. Y en promedio, en cada pedazo, no es que he obtenido 520 caracteres, sino en promedio es 186 caracteres. Por eso suele ser el equilibrio 520 el mejor. Luego de eso, añado, o sea, es como si hubiera añadido manualmente cada uno de los bloques. El mismo ejercicio que hicimos acá. Y esto empezamos a pasarlo a un mapa. Aquí ya no está en 3D, está en 2D. Y hay similitud entre ellos. Pero no lo usamos para encontrar similitudes. Depende de la aplicación, se puede usar, pero lo que vamos a hacer ahora es ver eh qué fragmento debería obtener para que me responda una pregunta. La misma pregunta con la que iniciamos la charla. ¿Hasta cuándo podemos registrar a nuestros equipos en la Hackathon? ¿Cuánto tiempo nos queda y cuántas personas puede tener? Cuando yo empiezo a recuperar, lo que voy a hacer es obtener cuáles son el top tres de bloques que tienen mayor similitud semántica a mi pregunta. En el eh por ejemplo, obtuve un primer puesto a registro de equipos. Los equipos son de dos a cuatro personas. Eso responde esta parte. ¿Cuántas personas puedo tener? También puede responder la a ver, fechas. Creo que esta también responde fechas. Aquí. Y en la parte de qué es también. Aquí está qué es. Lo puse en tercera posición. Para esta pregunta, semánticamente la la mejor respuesta son usar estos tres bloques. Entonces a mí ya ya no le envío todo este documento extenso, sino solamente le envío estos tres bloques. Y hay un proceso eh de aumentar la tercera letra del rag. Es añadir al system prompt y añadir estos tres bloques. Solamente esos tres bloques. No añado todo el resto de documentos. Seguido de la pregunta. Entonces obtenemos, eres Nova, el asistente de Hackaton que solo responde información con bueno, solo responde información del contexto. Esta es una frase muy importante en caso queramos construir RAGs añadirla para evitar que empiece a alucinar. Okay. Para evitar que empiece a alucinar. Tenemos las citas, eso es un prompt super sencillo. Obligatoriamente tiene que ir eso, responder solo información del contexto. El contexto de lo que hemos recuperado semánticamente seguido de la pregunta. Y le damos enviar. Vemos una comparación, qué es lo que hubiera pasado sin el RAG y qué es lo que hubiera pasado bueno, qué es lo que pasa con el RAG, dice. Si le enviamos sin el RAG te dice la clásica respuesta de no tengo información, no conozco la fecha eh, ni siquiera sé eh, ni siquiera sé qué es qué es Future X incluso. A cambio cuando se le da el contexto pues te va a dar una respuesta más acertada a lo que a lo que estás buscando. Internamente, esto es lo que hace Notebook LM. Esa herramienta, tú añades miles de documentos, PDFs gigantescos de 1000 páginas, de 2000 páginas, añades videos de 2, 3 horas y te preguntas por qué te responde rápido, eh, de forma inmediata y no llego a un límite de uso nunca Notebook LM, porque internamente usa esto. También una característica de Notebook LM del por cuál es popular es porque no inventa, no inventa información y es por esto, porque literal está agarrando la información que tiene internamente según el el mmm system prompt filtrado de notebook LM tiene esto de aquí. Aquí. Responde solo la información del contexto. En inglés, obviamente, pero lo obtiene. Para obtener esta respuesta. ¿Cómo se usa esto a nivel de código? Cada uno de los pasos. La en en la infraestructura de Open Router y usando JavaScript, lo que hacemos es partir y obtenemos los chunks. De todo ese texto, quiero que que lo partas. ¿En cada cuánto? Ahí lo colocas. El estándar puedes colocar el 540 o si no ver según funcionamiento, según dónde lo vas a aplicar, si es recomendable añadir más o añadir menos. Esto es ya decisión propia y depende de cada uno de los sistemas. Cada uno de esos textos que se fragmenta, lo que se hace es convertir a a un vector. Existen muchos modelos de vectores. O sea, si ya había muchos modelos de LLMs, existen muchos modelos que convierten solamente a vectores. Hay buenos y hay muy malos. Para esta demo usé uno muy malo, [risas] que es de una empresa by eh parece surcoreana, que el beneficio es que es muy económico y muy rápido. Para poder hacer esta demo en tiempo real, eh por para hacer poder hacer esta demo en tiempo real, pues usé este modelo. Y el problema de este modelo es que no funciona muy bien en múltiples idiomas. Funciona muy bien en chino, funciona muy bien en inglés y no muy bien en español. Por eso es que en el logo, ¿cuál era? La el este, en lobo marino no lo captó cuando debió, cuando debió estar en las primeras posiciones, incluso sobre delfín, quizás. Luego de que añadamos, esto es como repaso eh de lo que ya hemos hecho. Luego de hacer esto, hacemos una similitud por coseno, que la fórmula es esto, lo pueden baicodear. Y una vez que hacen eso, ya lo tienen, pueden llegar a recuperar. A ver, eh las preguntas lo voy a responder al final para no perder la de ilación. Y luego con estos tres pasos, que es el rag, en cada uno de los rag que significa una etapa, puedo llegar a construir estos sistemas aplicados en múltiples, en múltiples campos. Existe wrappers de IA que solamente se especializan eh en una tarea determinada, pero todos funcionan en lo mismo. Todos es un rag por dentro y algunas más actualizadas utilizan herramientas, que es lo que vamos a ver. Todo este código lo voy a compartir eh al final de la sesión. Y como ven, en 41 líneas de código tengo un un sistema, pero no solamente contar las líneas de código, sino entender cada una de las etapas para que según su campo de estudio puedan entender el potencial de estos. Entonces tenemos tres cosas. Ya entendimos cada una de las etapas de rag. [carraspeo] Pero los LLM tienen otra herramienta añadido el 2020, finales de 2024, que son las tools, que son la ejecución de funciones. ¿Qué es la ejecución de funciones? Lo que haces en una determinada tarea, yo le puedo implementar qué cosas puede hacer adicional mi sistema, como obtener la hora, o puedo también añadirle una función específicamente para que pueda calcular matemáticamente algunas cosas. La IA solamente me va a dar qué función deberías ejecutar y qué valores deberías añadir. No ejecuta. Me dice qué ejecutar. Y eso me abre un mundo de posibilidades. Yo puedo crear un sistema que encienda mis luces. Yo puedo crear un sistema que automatice cosas, que añada cosas a mi calendario. Todas esas aplicaciones eh que hacen cosas, que ya hacen acciones, que registran, que se conectan con aplicaciones, como vimos el lunes también los MSPs, se hacen de esta forma. Son una la IA te dice, "Te voy a dar una respuesta y ya aparte de la respuesta, qué ejecutar." Y ya tú ves dónde lo ejecutas, en un server, en una máquina local, lo conectas a un sistema adicional, pero ya te dice incluso los valores que añadir en cada una de estas. Esto cómo se suele ver, eh cómo se suele construir. En la pregunta, "¿Qué hora en qué hora es en Lima ahora mismo y cuánto es ciento no, 1234 * 5678?" Pues entendamos que un modelo de inteligencia artificial es fijo, está congelado en el tiempo. Cuando se acabó su entrenamiento, es ahí dos donde se quedó. Si es que no usara herramientas y sin añadirle nada en mi System Pro, no sabría ni siquiera qué día soy. Pero añadiéndole ese tipo de herramientas como la dos que añadimos, la de hora y la de cálculo, puede hacer esto resul, puede darme una mejor respuesta. Fue el gran cambio, por ejemplo, cuando mmm la plataforma Open AI añadió dentro de su buscador la herramienta de browser para que pueda recuperar noticias actuales, que no no es más que esto, es una función que mmm tenía el campo de query, que es el texto a buscar y con eso lo obtenía. Internamente es eso, no es algo más mágico o más desconocido que eso. Para en este caso, para obtener una respuesta a este prompt, qué hora es, mmm qué hora es en Lima y cuánto es cuánto es esta multiplicación, he hecho uso de esta, hora actual, me dio la hora actual. Y cuando yo llamo la para hacer el cálculo, de entrada, me dio esta multiplicación. Estos dos me dio la IA y yo con ese internamente ya tengo que saber cómo trabajar. Tengo que convertir esto a esto, tengo que convertir esto a esto. A nivel de desarrollo nos abre un mundo de posibilidades. Podemos hacer sistemas complejos que solamente funcionen por chat para que nos dé una respuesta mucho mejor. Bueno, una respuesta a la que queremos, que no hubiese sido posible si es que lo hacíamos solamente con el LM o incluso con rag, porque tengan en cuenta rag obtiene documentos fijos. No es que si yo le pregunto la hora, igual no va a saber. A cambio con este método, añadiéndole los tools, sí es posible. ¿Cómo se añade esto en código? Se define cada una de las tools. Eh, por defecto es una función y qué parámetro necesito. Eh, puedo tener parámetros vacíos, por ejemplo, la hora actual. Por ejem, es, puedo especificarlo más, hacerlo más complejo, como que en el parámetro sea el timezone, de qué país quiero obtener la hora. Pero en este caso solamente me da la hora de Lima. Para que sepa de qué qué función hace, tengo que añadir dos cosas a mi función, un nombre y una descripción, porque el LLM me va a devolver el nombre y los parámetros. Para que sepa si tengo que usar en este momento esa función, para eso es muy importante definir muy bien cuál es su descripción. Y funciona muy sencillo, te defino mi función, lo que me da es la hora actual. En el idioma, bueno, en el lenguaje de programación que ustedes utilicen, funciona muy similar, está estandarizado esta forma de usar. La forma de escribir diferente, pero los elementos son los mismos. Y es, y aquí hemos añadido, entonces, la respuesta nos va a dar qué función debemos usar. No solamente una, como hubo el paso, como en el paso anterior, nos va a decir todas las herramientas que son necesarias para cumplir este objetivo. Y con eso podemos dar ya un tercer nivel a construir un agente. Aquí ya podemos llamarlo un agente capaz de pensar, actuar y observar. Con observar hablamos de los rags, con actuar hablamos de los tool callen y de pensar el mismo hecho de utilizar un LLM para construir cosas sobre él. ¿Cómo lo vemos ya armado? Para la misma pregunta que hemos arrastrado desde la des del primer slide. ¿Cómo funcionaría? Paso uno, primero consulto el en el rag. Y como me estoy pidiendo como estoy pidiendo la parte de la hora Cierra el jueves 22 de octubre de 2026 a las 12 escrita pm Hora de Perú. Les quedan aproximadamente 17 horas y 13 minutos a fecha del 21 de octubre 6:46 pm. Cada equipo debe tener entre dos y cuatro personas. Olvidé que había colocado esa función. Lo que hace es Obtener cada uno de de esos pasos, hacer uso de cada una de estas herramientas, primero el rag para obtener la información, pero no conozco la hora, para eso hice el llamado a la función de hora actual. Obtuve la hora. Hice aquí el uso de la hora. Y con eso construí una respuesta. El modo de responder puede ser en una interfaz gráfica o como les mencioné, si solamente obtengo una respuesta, pues añado un text text texto a voz. Y añado esta capa de personalización. Y puedo preguntarle lo que sea relacionado a esto, por ejemplo, el armar un plan, voy a silenciar la voz. Hago uso del rag para obtener la información que tengo y no se invente cosas, añado en este caso, para esta pregunta no necesitaba la Preguntas base, el hackaton termina el sábado 24 de octubre de 2026 y el registro de equipos vence el jueves 22 a las 12 pm hora de Perú. Mie 21 definir problema, usuarios, propuesta de valor y roles, preparar requisitos de registro. Jue 22 registrar el equipo antes de las 12:00, validar alcan. Okay, ahí lo lo paro porque es una respuesta extensa. Pero ven ya el potencial de construir estos sistemas, no solamente es algo que me responde sin inventarse nada, sino que puedo hacer uso incluso a consultar cosas del sistema, puedo pedir que me reserve algo, porque puedo añadir una función específicamente para eso y con sus parámetros delimitados y usar de la forma que quiero esa respuesta, ya sea pintando una interfaz o en voz o en audio. Y no solamente es este no solamente está delimitado a ese tipo de aplicaciones, sino ya existen esas tool prehechas, como la de que controlen el browser, eh como la que se conecten a herramientas extensas, ya que obtuvieron la la mañana en la clase de back coding, pueden pedirle que cree sus propias tools, que se conecte a sus sistemas propios, que se conecte a sus bases de datos, que haga más acciones de las habituales. Y este contexto, bueno, el agente completo lo podemos obtener así, en 25 líneas, utilizando ya una librería como LangChain. Cosas muy importantes a tener en cuenta. Mmm, cuando construyamos un agente y empieza a funcionar en bucle, por por que ejecute una acción y esa desencadene a otra acción, tenemos que establecer el número de pasos, porque si no puede ejecutarse en bucle indefinidamente. Lo recomendable o el estándar, depende de la aplicación obviamente, pero el estándar suele ser 15 pasos como máximo. Si estamos haciendo aplicaciones, si queremos hacer nuestro propio Codex o Antigravity, suele ser 25. Si hacemos cosas más orientadas a asistencia de clientes, pues se le suele ser 10, según métrica de papers, pero eh cada caso es muy específico. Tienen que ver su la situación o la aplicación más la aplicación donde lo van a implementar ese tipo de sistemas. Y hemos visto los tres, bueno, los tres tipos de sistemas, ¿no? Los RAC, que solamente hacen el documento y obtienen información, donde toda esta información lo tenemos que guardar en una base de datos, porque si no tendríamos que obtener y convertir a vectores cada vez y tiene un costo, mejor es guardarlo, solo quizás modificar los que cambian o añadir más, por ejemplo, en un historial crediticio. Luego de esto, hemos aprendido cómo hacer los agentes, donde hablamos de las APIs, cómo conectarse con los APIs, cómo definir las funciones y cómo hacer estos bucles. Y las eh y eso dónde lo dónde lo podemos hacer, en las extracciones estructuradas. El concepto de multimodalidad, de que de entrada no solamente sea texto y de salida no solamente texto, también esa evolución sucedió en los embeddings. Yo puedo convertir en embeddings un vídeo, una imagen, un texto. Puedo colocar en búscame gatos y va a buscar todos los documentos que tengan relación a gatos y si yo tengo convertido en embeddings las fotos de gatos, pues también me los va a dar. Eso es gracias a la multimodalidad. No todos, igual que los modelos LM, no todos son multimodales, no todos los modelos de embedding son multimodales, no creo que dije lo mismo. No todos los modelos de LM son multimodales, igual que el embeddings también son multimodales. Los más populares es, por ejemplo, de Gemini, Gemini embedding 2.0, se lanzó hace dos semanas, tres semanas por él y ya tiene la capacidad de hacer eh vídeos, cosa que lo hacía, pero no era tan bueno. O también existe como la empresa Cohere que, pues, hacen embedding muy rápido y muy económico. Todo depende del uso, lo que queramos hacer. Entonces, ¿cómo funciona rápidamente un un stack de IA en 20 líneas de código? Nuestro system prompt es un agente de proyecto de hackathon, mi prompt resuelve tres quejas, tres quejas más comunes de mis clientes y propongo respuestas. Llamo a tools como busca la base de datos de conocimientos. El esquema lo podemos definir como lo habíamos hecho antes, simplemente parámetros o si no usar herramientas como Zot que lo hace más eh eh una mejor tipografía y qué es lo que va a hacer, ¿no? Al momento de ejecutar que se llama un error. Todo este código lo voy a compartir al final para que puedan, ya sea, construir a mano o si no cargan el código y para que les pueda ayudar a baicode ar. A nivel de modelos. Los más populares son de Cloud, GPT, Gemini. Los éticos como Qwen. En caso nosotros hagamos. Asistentes. Enfocados en medicina. Tengo entendido. Eh. Eso hace un año que es por ley, tenías que correrlo todo en local. No tenías que enviar. A ninguna IA, porque es información personal. ¿Cómo se hace entonces eso? Con Ollama. Oye. Ollama es un software que tú te lo descargas. Para que puedas usar modelos de código abierto, es decir, que funcionan en tu máquina, corren en tu máquina, lo puedes conectar al internet y sigue funcionando. A nivel del dónde lo van a aplicar, es muy importante que tengan en cuenta eso. Hay algunos que, algunos casos muy específicos o donde se maneja información sensible. Donde tienen que ser precavidos a dónde envían la información. En caso quieran hacer salir de este. Mmm, de este grupo limitado de grandes compañías. Les mencioné también Open Router, ¿no? Que es un. Una biblioteca de muchos modelos de IA, incluidos los embeddings. Embeddings, hay desde muy malos como el que usé hoy, BGE, aunque ni ni tanto, pero ahí, es muy rápido, perdón. El text embedding, que es de Gemini, no, bueno, es de OpenAI, text embedding 3 y Gemini embedding 2.0, que es de Google. Estos valores, este array de números. Tienen que guardarlo en algún sitio. Puede ser en local o puede ser en la nube. Si es en la nube, existe Cloud Vectorizer, uno de los más usados Supabase, eh Postgres Vector. Es el más usado, pero no el mejor. Los mejores que yo les recomiendo Chroma, Pinecone. Chroma lo puedes usar en local. Pinecone tiene una una suscripción en la nube. Los dos son Chroma y Pinecone están especializados para eso. Supabase eh con Postgres Vector, pues está adaptado, está parchado para que lo acepte, pero no está creado de raíz para que pueda funcionar para esto. ¿Cómo construir el agente? Eh bien, les he mostrado una forma de escribir código. Ajá, déjenme que les una más con una extensión. Lo ha parcheado, o sea, no ha sido construido desde cero para este fin. A nivel de cómo construir estos agentes, existen muchas formas. Existe Vercel SDK, existe LangChain, Llama Index, Mastra, literal usar su misma SDK de Cloud o PNA. Ya depende de gustos. Mmm recomendación personal, yo recomiendo Lang, eh LangGraph o LangChain. Eh LangGraph es como la evolución de LangChain. Yo les recomiendo eso porque te puede permitir construir agentes más rápido y de más fácil eh de mejor mantenimiento. Lo puedes mantener más fácilmente. Porque puedes pro- cambiar rápidamente el proveedor. A cambio otros, como que ya te casas con Vercel o ya te casas con Llama Index y su arquitectura que no es tan moderna. Y qué decir que si construyes todo con Cloud, pues si sale otro modelo de Gemini en algún futuro mejor, pues tendrías que reconstruir todo su todo tu código para que se para que te mueves ahí. Por eso yo recomiendo LangChain. El al fin al momento de conectar, les mostré la semana pasada MSPs, pues como ya hay herramientas Tool Calling, pero directamente conectados a una herramienta preescrita y si yo quiero hacer mis propias herramientas, función Calling, que es como MSPs, pero tú mismo. Tú mismo lo haces. Eh dónde subir la aplicación, ya habrán visto muchas aplicaciones eh bueno, muchos lugares en la mañana donde hacer deploy. Yo suelo recomendar esas tres, Cloud for Workers, Vercel y Railway. Depende del uso. Cloud for Workers em ya te viene todo un ecosistema y no te da, o sea, es como descargas ilimitadas de tu página. Vercel sí tiene esa limitación. Imagínate que te hacen un ataque de DOS, Vercel te va a subir la cuota. Acá en Cloud for Workers no. Railway es un servidor. Es un servidor que te dan muy limitado, 1 GB de de RAM, 1 GB y medio de RAM en los planes gratuitos. No sé si aún existen gratuitos. Eh em pero te dan ya una máquina. Si todo eso es un sistema en Python, JavaScript o todo junto, Railway. Si haces tú la parte de solamente web con LangChain y más encapsulado, pues Vercel o Cloud for Workers suele ser una buena opción. En este ecosistema que construí para la parte de la voz, o sea, Eleven Labs, eh podemos darle más capacidades como la que yo le hablo y se transcriba, usamos Whisper. Y así, tengamos muy en cuenta eso al momento de construir, por ejemplo, que la demo máxima son 60 minutos, 60 segundos, o los respaldos, eso son más recomendaciones ya al tema de presentación. Em, pero eso, nos ha aprendido, pero eh que hayan comprendido, me esforcé mucho en esta presentación para el tema de que sea fácil de entender qué es un rag. Todos los usos que hemos hecho durante esta sesión, he gastado 0,0049 dólares, 51 llamadas y 12,000 tokens. Para que vean en un uso sencillo cuántos tokens se suele se suele usar. Eh, eh, voy a pasar al tema de las preguntas, yendo desde arriba, había unas que quizás no la no las leí en el momento. Hay una que dice, "Eh, los LLM se cargan en VRAM." Es como el caso de los rag, eh, qué hardware usa y qué tan pesados son estos sistemas de vectores. Okay. Eh, los LLM sí se cargan en VRAM, también en la RAM. Así es que en caso vas a usarlo en local, te recomiendo, si vas a usar modelos muy pequeños, mínimo 4 gigas de RAM para que te pueda llegar a funcionar. Y al menos los decentes y los que valen la pena jugar con ellos. Eh, pero eso sí, mínimo, eh, mínimo 4 gigas de VRAM. Sobre los vectores, eh, tú lo puedes usar un, este, un modelo que te transforme a vectores de forma local. Gemma embedding, por ejemplo, que es de de Google, que está muy bueno, la verdad. Pero es un modelo local. Solamente se usa el al convertir tu texto, a ver, a ver esta las otras slide, donde tu conviertes el texto, aquí. Solamente es una vez. Tú lo conviertes y eso lo almacenas en una de las bases de datos que les he mencionado, ya sea de Supabase, de Chrome, Pinecone o incluso pueden hacer uno propio. Pero solamente se hace eso. Si es que se añade nuevos bloques o una nueva carga de información, solamente ahí se usa este este modelo de vector. Sin, si es una eh, si es estático tu información por ejemplo, de Hackaton, no se va a mover la, las reglas, ¿no? durante la ejecución. Solamente se haría una vez. Pero ahí está la parte del uso de, de, solamente ahí se necesita. Mmm, yo por ejemplo, para los embeddings uso Colab, Google Colab porque ahí me dan acceso a 12 gigas de VRAM. Solamente, como lo solamente lo uso para convertir pues, es una buena alternativa también. Eh, Postgres vector, la extensión de Postgres sí eh pueden usarlo de forma local, les recomiendo con Docker o si no Supabase, que se le, que hace mucho más fácil esto. Les, eh, después de la Hackaton les animo a hacer con uno mismo en local, para que sepan cómo se usa y también borrar las limitaciones que tiene Postgres. Eh, Qdrant, no está en bueno también. Ya, Qdrant tiene una limitación que es la parte de los costos, suele ser muy costoso, por eso no lo, no lo propuse y también para el tema de prototipado eh, es costoso para hacer un MVP. Pero sí, también está en el mismo nivel de Qdrant. Eh, tiene algún uso de LLM locales diminutos, eh, pero con celulares tablets si por ejemplo yo en este celular tengo descargado el yema yema 3 Y corre en un celular corre en el modelo los modelos de yema solamente te piden 12 12 de ram no 8 de ram 8 gigas de ram Y una tarjeta de vídeo es la dragón aunque sea antiguas corre No es mejor combinar un modelo de SQL post 3 más un modelo de pg vectors para mejorar la precisión Bueno los dos son iguales no modelo de SQL post 3 No sé si te refieres a pg vector Y modelos de hotel A nivel de por qué usar uno u otro Es tema de la velocidad y algo y el algoritmo que usa internamente para la búsqueda De post 3 no es tan veloz Como paicon o como croma A nivel de velocidad el algoritmo de coseno O sea suelen obtener la misma respuesta deberían obtener la misma respuesta pero la velocidad Post 3 cuando por ejemplo hice un un rack de canciones Como 156000 canciones Post 3 se muere pues para obtener una respuesta esperaba como 6 7 segundos y para una experiencia de usuario no es tan bueno croma me daba en 0.2 segundos ahí está la diferencia En esos dos optimizaciones existen millones millones de optimizaciones No sé si hay también preguntas en el live stream de YouTube Y si me pueden ayudar también a copiarlo y pegarlo Ahí Eh, antes de culminar, el código está en el primer QR. Y en el segundo QR es mi LinkedIn, ahí pueden añadirme. En lo que voy respondiendo más preguntas. Eh, en el API de Gemini Embedding 2, creo que se llama Eh, están convertidos vectores o textos y demás. A ver, en el API de Gemini Embedding, creo que se llama, ¿vale la pena justamente convertir vectores y los textos y y demás? Eh, sí, o sea, a nivel de costo, costo suele ser muy bueno y también a nivel de capacidades futuras. Porque el de OpenAI no te permite convertir, por ejemplo, videos. No te permite convertir a vectores. A cambio, Gemini Embedding sí. Un problema que hay en los embeddings es que tú, o bien, todos tus embeddings son de Gemini de Gemini o todos tus embeddings son de OpenAI. Si es que tú quieres cambiar de uno a otro, no puedes usar los embeddings de uno en otro, no lo entiende. Incluso por dimensiones son distintos. Eh, yo les recomiendo hoy [risas] Gemini Embedding. Les permite explorar más posibilidades por sus capacidades multimodales. Eh, para el nivel aprendiz que no tenga conocimientos de programación, ¿qué recomiendas paso a paso para construir tu proto- prototipo? Eh, descargar, eh, a ver, para alguien que no tiene conocimientos de programación y quiere hacer, eh, aplicaciones con inteligencia artificial by coding. Es el método más rápido. Porque si no, te te diría, "Aprende a programar." Pero no es la respuesta que que se espera en este hackatón. By coding, by coding, ya sea antigravity, les he mostrado ayer, bueno, el lunes Open Code, des- descargándose y ya tienen su capa gratuita. Pueden usar Tipsy, GLM 5.3, pueden usar creo que GPT Luna gratis, tiene su capa gratuita muy muy generosa. Eh, te recomiendo descargar ahí el código. Le dices a la IA, en base a este código quiero construir mi sistema de bancario. Y lo preparé este código para agentes de IA, para que lo puedan llegar a bycodear. Sí, está lo que sí está construido con Open Router, les va a pedir una llave. Pero pueden decirle quiero usar modelos gratuitos. Entonces, le dan la llave, se registran. Eh, le dan la llave y usan modelos gratuitos. Si quieren que sea mucho más inteligente, Open Router sí te pide depositar creo que $5 mínimo y ya vas usando de ahí. Que dura un montón, ¿no? $5 en Open Router y yo usando Tipsy, por ejemplo, ya vas 3, 4 meses usándolo. Mmm, yo sí, a ver, eh, sí, mmm. Okay, creo que son todas las preguntas. Okay, voy a añadir también este código por el chat para que lo puedan llegar a tener. Eh, me confirma organización si tienen un grupo eh de los participantes para poder compartirlos por ahí. O si no lo comparto por aquí. Gracias. Okay. Okay. Eh, si no hay más preguntas, les animo a construir su ra, ya que no es tan cuan con cuando entienden los conceptos de cada uno, pueden llegar a solucionar esos bugs y que no les sea como un un idioma raro cuando les aparezca términos como embeddings, cuando les aparezca términos como los como los vectores, como los tokens, que ya estén familiarizados con eso, como lo de system prompt, cómo enviar un historial, todas esas esos términos que la primera vez se suele ser desconocido pero es intuitivo, es lo bueno que quisieran al momento de hacer estos tipos de sistemas. Los nombres es lo que representa. Okay, no sé si está Ángel o el equipo para Sí excelente Sergio. Qué interesante todo. Tu enlace en un momento lo mando al grupo de WhatsApp de los inscritos. Okay. Así que bien, perfecto. Muchas gracias, Sergio. ¿Algo más, Sergio, que agregar? Si no, ya para despedirnos por hoy. No, eh nada más que agregar. Yo muy agradecido por estas eh capacitaciones para poder llegar a compartir estos conocimientos. Claro, excelente. Bien, muchas gracias, Sergio, entonces. Gracias a los que se han conectado aquí a este Zoom y también a los que luego nos vean en la grabación. Así que bueno, seguimos adelante entonces con esta hackathon. Los grupos ya se están conformando y ya muy pronto veremos sus prototipos en funcionamiento. Así que bueno, gracias. Hasta la próxima.
Assistir ao vídeo original no YouTube
Assuntos: Agentes de IA. Publicado no YouTube em 2026-10-22.
Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.
