Cómo usar agentes de IA sin dejar que decidan por ti

Vídeo em Espanhol, publicado pelo canal Fran Salazar.

Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.

Resumen del vídeo

El video analiza la preocupación de los bancos estadounidenses respecto al uso de agentes de IA por parte de los clientes y presenta un sistema de tres niveles de acceso para controlar a estos agentes en el ámbito empresarial y personal.

Puntos principales

• Los bancos de Estados Unidos se muestran preocupados porque los clientes otorgan acceso a agentes de IA que realizan operaciones no permitidas o de manera autónoma.
• El ponente propone tres niveles de acceso para gestionar agentes de IA: solo lectura, revisión humana previa al envío, y acciones prohibidas.
• En el primer nivel, el agente tiene permisos de solo lectura para recopilar información de Slack, Gmail y bases de conocimientos, enviando reportes únicamente al usuario.
• En el segundo nivel, el agente prepara tareas como correos, propuestas o carritos de pago, pero el ser humano realiza la revisión final y aprueba la ejecución.
• El tercer nivel engloba acciones que el agente nunca debe realizar, tales como firmar documentos, fijar precios por escrito, otorgar permisos o mover dinero.
• Se recomienda aplicar el principio de mínimo privilegio para asignar solo los permisos estrictamente necesarios y mantener el control de la seguridad.

Temas

Agentes de IABancos de Estados UnidosNiveles de accesoSeguridad informáticaPrincipio de mínimo privilegioAutomatizaciónControl humano

Transcripción del vídeo

Texto de los subtítulos disponibles; puede contener errores.

Según Axios, un medio de noticias de Estados Unidos, dice que los bancos de ese país están aterrorizados, puesto que han encontrado una cantidad de agentes de IA realizando operaciones en nombre de sus clientes y en muchos casos realizando más operaciones de los que el cliente les permite. ¿Cómo entraron? Bueno, los mismos clientes les dieron sus accesos. El gran temor es que estos agentes actúen por su cuenta propia y ejecuten acciones que pongan en riesgo las finanzas de los clientes. Por eso varios bancos ya están bloqueando el acceso a estos agentes y se están preparando para lo peor. La preocupación crece día a día porque la tecnología avanza tan rápido que los bancos no tienen el tiempo suficiente para responder y cada vez más personas le entregan sus accesos a los agentes. Hoy en día ya casi todos estamos usando o deberíamos estar usando agentes de IA para realizar distintos procesos, pero ¿hasta qué punto les damos permisos a estos agentes para que accedan a ciertos sistemas y realicen ciertas operaciones, en muchos casos críticas para nosotros? ¿Y cómo hacemos para que estén siempre bajo nuestro control? Yo uso agentes de IA todos los días en mi empresa y llegué a la misma conclusión que los bancos, pero a punta de ensayo y error. Así que hoy día te muestro mis tres niveles de acceso con el cual yo opero día a día con estos agentes de IA. Bien, para quienes no me conocen, soy Fran, soy ingeniero DevOps, tengo más de 10 años de experiencia en el mundo de la tecnología, hoy en día creando mi propia empresa de IA y mi propósito aquí en este canal es enseñarte cómo utilizar estas herramientas para llevar tu vida, tu negocio al siguiente nivel. ¿Cuál es el problema de todo esto de los agentes? El gran problema de todo esto es que un agente con tu acceso o con tus claves puede hacer potencialmente lo que tú puedes hacer con ese acceso y con esas claves. Entonces la pregunta no es qué tan inteligente es el agente, sino qué puede hacer sin preguntarte y qué no puede hacer. Así que aquí la discusión no es si usar o no usar agentes, sino cómo usarlos y cómo mantener el control de las acciones que puede realizar este agente y los accesos que tiene y los que no tiene. Yo los ordeno en tres niveles. Lo que el agente puede hacer solo de manera autónoma, lo que deja listo para que yo como ser humano apruebe y envíe y lo que nunca por ningún motivo tiene que tocar. Bien, entonces el primer nivel es darle al agente permisos de solo lectura y la capacidad de enviarme reportes pero solamente a mí. O sea, el agente tiene la capacidad de leer el contexto de los distintos sistemas, es decir, mis mensajes de Slack, mis mensajes de Gmail, los mismos reportes que yo haya enviado anteriormente a mis clientes y todo lo que viva en mi base de conocimientos. El agente lee todo eso, lo interpreta y me envía un reporte solamente a mí. Un ejemplo de esto sería un plan que me llega a mí todos los días a las 7 y media de la mañana con todos los pendientes que yo tengo que hacer en los distintos proyectos para los distintos clientes en mi día en el cual el agente lee todo el contexto que les mencioné anteriormente y me redacta los accionables que yo tengo que hacer hoy día. Y no es solamente una instrucción sino que el agente realmente no tiene la capacidad de enviar, por ejemplo, un correo, porque esa herramienta no se la di. Y si no se la di, entonces no la puede usar. Y eso es exactamente el solo lectura que están proponiendo los bancos con respecto a los agentes de IA que acceden a su sistema. O sea, que estos agentes puedan visualizar toda la data, pero que no puedan ejecutar acciones. Bien, estos permisos de solo lectura son la parte más fácil, pero los problemas comienzan cuando ya tienes que empezar a enviar mensajes hacia el exterior. Y aquí entra la segunda capa, donde el agente deja listo, pero soy yo quien apruebo y envío. Esto incluye correos, propuestas postulaciones anuncios, pagos. El agente hace el 95 % y yo hago el 5 % restante. El correo semanal que queda a mis clientes en borrador, mis propuestas, por ejemplo, el agente nunca las envía directamente, sino que yo soy quien las revisa y aprieta el botón de enviar. Lo mismo con las postulaciones, no quedan listas para hacer submit, por ejemplo, sino que soy yo quien hace el clic final una vez que verifico que está todo correcto. Con respecto a los anuncios, tampoco nunca cambia nada sin mi dirección o confirmación previa. O cuando monto alguna infraestructura para algún cliente, deja todo el carrito listo y soy yo quien hace el clic final para hacer el pago, por ejemplo. Y esta regla la aprendí yo a la mala porque el pasado 18 de octubre, por equivocación le respondí a varios clientes de manera automática y varias respuestas tenían información incorrecta lo cual me costó algunos leads directamente y desde ese día los mensajes a los clientes y toda la comunicación con clientes las hago directamente yo como representa algo crítico del negocio la hago yo y es exactamente lo mismo que temen los bancos hoy en día un agente que comienza a hacer más de lo que le corresponde o que comienza a hacer más de lo que le pediste Y ahora vamos entrando al tercer nivel, la tercera capa, que es ya lo que el agente no tiene permitido por ningún motivo hacer. Hay cosas que mis agentes nunca hacen. Firmar, dar precios por escrito, dar permisos y mover plata, por ejemplo. Varias veces le he pedido a mis agentes que firmen documentos directamente, pero el famoso modo clasificador siempre me bloqueaba esas acciones hasta que finalmente entendí que son acciones sensibles y que no se recomiendan automatizar porque firmar es una transacción real. Ahora el agente me deja el comando listo y yo lo ejecuto. Lo mismo con los precios. Es bien sabido que la IA no sabe estimar bien ni tanto el alcance de un proyecto ni los precios. Por lo tanto, aquí es sobre todo cuando más tienes que aplicar tu criterio para valorar cuánto cuesta un proyecto en particular o cuánto cuesta cierto entregable, etc. Si dejas esto a la IA, es demasiado variable y muy probable que la IA se equivoque y ponga un precio que no corresponde, ya sea que sea muy alto o que sea muy bajo. Entonces, en mi caso, nunca hago que la IA ponga precios a los trabajos. Bien, ¿y cómo decides en qué nivel va cada tarea? Bueno, si no tienes como el criterio suficiente para determinar cuándo asignarle cierto nivel de accesos a un agente y cuándo no, una regla que te puede servir es hacerte estas tres preguntas. ¿Cambia algo afuera? ¿Se puede deshacer? ¿Quién paga si sale mal? Si solo lee, va al nivel 1. Lo hace solo. Si sale hacia afuera, pero se necesita revisar antes porque es algo crítico, como ya hablamos en las propuestas o algunas respuestas importantes hacia los clientes, va al nivel 2. Necesita revisión humana. La IA lo deja listo, pero eres tú quien da el clic final. Si toca plata, permisos, accesos legales, etc., va al nivel 3. Nunca se lo delegues a la IA, al menos hasta el día de hoy, no se recomienda por ningún motivo. Mi consejo es que apliques el principio del mínimo privilegio que es bien conocido en la industria del software y es asignar el nivel mínimo de permisos necesarios para realizar una tarea. Aplicarlo mantiene tu seguridad un poco más protegida y realmente puedes estar más tranquilo porque el agente no tiene simplemente los accesos ni los permisos para realizar distintas operaciones más allá de las que tú sabes que necesitas que el agente haga. Bien, y es por todo esto que te cuento en este video que los bancos están tan asustados al día de hoy y están buscando desesperadamente algunas soluciones y se están poniendo ya en los peores escenarios, puesto que no tienen realmente el control sobre estos agentes de IA, porque finalmente es el usuario final quien tiene el control por ahora. Es decir, si yo no estoy muy consciente y le doy todos mis accesos a mis cuentas bancarias a un agente, potencialmente este agente podría hacer acciones como mover dinero o invertir o tomar decisiones financieras que no vienen de mí directamente. Y bueno, eso ya para qué hablar de los riesgos que eso involucraría en las finanzas personales y todo, pero finalmente también está violando los propios acuerdos de servicio de los mismos bancos. Y como todo esto está avanzando tan rápido, los bancos están súper asustados porque no saben realmente cómo protegerse ante estas eventualidades. Deben ya estar desarrollando protocolos o ciertas medidas de seguridad, pero es algo que de todas maneras te invito a ti a tomar tu propia responsabilidad antes de delegársela a los bancos en este caso. Así que bueno, cuéntame tú en los comentarios qué tipo de acciones le estás delegando hoy día a los agentes de IA y cómo te estás asegurando de la seguridad de las mismas acciones, cómo te está protegiendo ante eventualidades, exposiciones, por ejemplo, de API Keys o cosas así. Te leo en los comentarios, recuerda suscribirte a mi canal y nos vemos en el siguiente video.

Assistir ao vídeo original no YouTube

Assuntos: Agentes de IA. Publicado no YouTube em 2026-10-28.

Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.