Agentes autónomos de IA: el futuro de las empresas y la seguridad digital | Generación Digital

Vídeo em Espanhol, publicado pelo canal Nancy Medina.

Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.

Resumen del vídeo

Nancy Medina y el invitado Norberto Cruz Córdoba discuten la importancia de la ciberseguridad, el cifrado y los permisos de acceso en la era de los agentes de inteligencia artificial y la criptografía postcuántica, resaltando la necesidad de educar a las empresas y ciudadanos para proteger los datos.

Puntos principales

• El cifrado protege la información legible convirtiéndola en ilegible para terceros sin la llave adecuada, funcionando tanto en transmisión como en almacenamiento.
• Los agentes autónomos de inteligencia artificial requieren permisos específicos, los cuales pueden permitirles consultar documentos a pesar de que los datos estén cifrados.
• La criptografía postcuántica consiste en métodos de protección diseñados para resistir ataques de computadoras convencionales y futuras computadoras cuánticas.
• El NIST publicó estándares de criptografía postcuántica para ayudar a las organizaciones a familiarizarse con estas nuevas defensas.
• La adopción de la inteligencia artificial y la ciberseguridad en las empresas requiere un trabajo en equipo, planificación, inventarios de activos y políticas de control adecuadas.

Temas

ciberseguridadagentes autónomoscifradointeligencia artificialcriptografía postcuánticapermisos de accesoalfabetización digitalblockchain

Transcripción del vídeo

Texto de los subtítulos disponibles; puede contener errores.

[música] [música] Soy Nancy Medina, estratega de innovación digital y usted sabe que en el segmento anterior estuvimos hablando sobre lo que son los agentes autónomas que están disponibles para todos los usuarios. En algunos casos personas que son emprendedores van a utilizar algunos, sin embargo, en todo este tipo de tecnología debemos saber que tenemos que proteger los accesos y la privacidad no solo de usted, sino también si usted maneja datos de clientes y estamos en el mes de la concientización de la ciberseguridad y hoy quiero hablar un poquito más allá sobre todo esto de privacidad y acceso que se le pueden dar a los agentes y vamos a hablar del cifrado. Para eso me visita Norberto Cruz Córdoba, él es el presidente de Internet Society. Bienvenido Norberto. Gracias Nancy por la invitación y desde nuestra organización queremos acercar estos temas a la ciudadanía porque hablar de ciberseguridad es hablar de nuestra vida cotidiana, de cómo protegernos, de nuestras conversaciones, nuestras transacciones y la información que compartimos. Es fundamental tener el conocimiento y poder también utilizar esta información para aplicar en las empresas y en el caso que son los agentes autónomas, en las personas que empiezan a utilizar estos agentes para el uso que le vayan a dar, si es un uso personal o es un uso en su organización y hay muchísimas pérdidas que han ocurrido, hay mucha mucha información estadística sobre situaciones que han ocurrido con todo este desarrollo de la inteligencia artificial. Yo quiero que antes de hablar del cifrado y toda la relación que hay entre la inteligencia artificial, el cifrado y las nuevas arquitecturas que hay ahora mismo para proteger lo que es la data de las organizaciones y los permisos que se le puedan dar, yo quiero que nos hables un poquito sobre el cifrado y cuál es el propósito de lo de que una data esté con ese tipo de seguro o lo de la protección. Pues mira, es conectando estos todos esos tres puntos que acabas de mencionar, hay un factor en común que es la transmisión de información, los datos que compartimos. En el caso del cifrado es una de las herramientas que permite proteger esa vida digital que tenemos. Eh, aunque ah muchas veces no lo vemos porque es algo que no es tangible, pero está presente cuando utilizamos servicios de comunicación, conexiones, etcétera. Pensemos en el cifrado, Nancy, y para nuestra para nuestra audiencia, en una manera de convertir información legible, de la que la podemos ver, en información que no puede ser entendida si no se tiene una llave adecuada para abrir la misma. Su propósito inicial es que nuestros datos no estén expuestos y que no puedan ser interceptados por terceros, que ese es el temor de muchas personas cuando están compartiendo información, eh compartiendo datos, que venga un tercero, se infiltre y pueda obtener eh información privilegiada de alguna conversación, etcétera. Así que este tipo de de tecnología lo que hace es que nos ayuda a poder protegernos un poco más. Hay dos formas de protección. Cuando se trabaja con agentes de inteligencia artificial es como si fuera un edificio, se le da acceso a diferentes departamentos y todo va a depender permiso que tú le puedas dar a ese agente de tomar acción. Sin embargo, también hay hay forma de proteger con el cifrado. Y yo quiero que para las personas que nos escuchan, si usted es un dueño de negocio, un dueño de una empresa, esté pendiente a esta información porque no es simplemente que usted contrate una persona y adopte la inteligencia artificial en su negocio, sino qué usted hace con esa información cuando está de está en un proceso de transición o verdad que se está dirigiendo de un lado al otro, ¿cómo se protege esa data? Acabas de hacer una pregunta espectacular y es porque mencionaste el tema de los agentes de la IA. En ese aspecto, ¿cómo podemos protegerlo con el cifrado? Y hay una diferencia fundamental, Nancy, que que hay que compartir con nuestra audiencia y es que proteger la información mientras viaja, mientras se transmite, no es lo mismo que decidir qué puede hacer un sistema con ella. Por lo cual, si estamos hablando de un agente de inteligencia, no solamente puede responder preguntas, dependiendo cómo está agente, y ahora hay varios, como has podido observar en diferentes en noticias o medios, dependiendo de cómo esté diseñado y configurado, puede este agente utilizar herramientas, consultar documentos, o ejecutar algún tipo de acción que esté ya predestinada. Por eso debemos mirar tanto la seguridad de los datos como los permisos, aquí es que viene la parte importante, los permisos que le estamos concediendo a estas nuevas tecnologías, en este caso, los agentes. Este cifrado, importante que sepan que puede proteger la información durante su transmisión y mientras está almacenada, pero aquí viene, Nancy, lo importante, pero si le estamos dando permisos a un agente para que pueda consultar un documento, el cifrado no va a impedir y le va a permitir al agente hacer, obtener los datos necesarios, así que tenemos que tener mucho cuidado y entender cómo esto funciona. Podemos tener una gran cantidad de protección, pero si nosotros estamos brindándoles los privilegios a esa gente, pues pues tenemos que estar conscientes de que pueda obtener lo que busca. Por eso la persona que vaya a integrar la inteligencia artificial, independientemente de que sea un experto en Nvidia, en Microsoft, tiene que tener o un conocimiento en esta parte de lo que es el cifrado o tener tiene que trabajar en equipo con esta persona que también va a trabajar en esa parte de lo que es eh aplicar toda esta esta protección a esa data que se va a estar trabajando en la que debe estas personas o estos especialistas o conocedores del tema de la ciberseguridad es que también puedan explicarles de una manera sencilla a las personas cómo funciona esto, cómo cómo tú vas a poder proteger unos datos, cuál es el origen de por qué nosotros lo necesitamos proteger. Imagínate este escenario, que una IA me está ayudando a resumir un documento, pues lo razonable es que para que me pueda ayudar hay que darle unos accesos y un privilegio a esa tecnología para que pueda realizarlo, pero no necesariamente tú tienes que abrirlo a que pueda explorar todos los documentos que estén contenidos en tu organización. Así que nosotros lo que primero debemos realizar es el momento de proteger nuestro entorno es conocer qué tenemos. Por eso es que hablan mucho de tener un inventario básico de las cosas que tú quieres proteger, porque tú no es llamar a un experto de ciberseguridad para que te apoye, es tú decirle, apóyame porque yo tengo A, B y C en mi organización, que tú sepas lo que estás buscando que se te proteja. Claro, y también es importante destacar que el cifrado se utiliza mucho para datos que se almacenan a largo plazo o que tiene que tiene que ver con la con la el almacenamiento de datos de personas. En este caso, si si hablamos del tema de salud, también lo que es la industria financiera y tengo aquí información de la FTC que informó que personas reportaron pérdidas de 3,500 millones por estafas de suplantación en el 2025. Lo que quiere decir que la cifra corresponde a pérdidas reportadas, no significa que todos involucran fallas de cifrado o inteligencia artificial, pero son pérdidas que tal vez se pudieron evitar si todas estas organizaciones tenían un buen sistema, una buena arquitectura de cifrado eh en combinación, lo más probable, con sistema y arquitectura de inteligencia artificial que tengan procesos eh que tengan Que puedan apoyar, que te puedan apoyar en esa seguridad. Si tú me permites, yo quiero compartir una analogía para que las personas entiendan este tema tan técnico pero el cifrado es como llevar un documento dentro de un maletín cerrado. Los permisos determinan a quién le damos la llave y qué le autorizamos a hacer cuando lo abra. ¿Qué vamos a pensar? Para que usted sepa algo tan simple es yo estoy protegiendo, pero depende de quién yo deposite mi confianza para que pueda acceder a esa información. Claro, y ahí es la confianza o el acceso que usted le dé en este caso a la gente o a la persona que está a cargo de esa información. Hay algo que quiero mencionarte y hay que personas que confunden el cifrado con el blockchain, porque el blockchain también protege la información, pero tengo entendido que el blockchain eh la información es transparente y muchas personas pueden ver el proceso, es seguro, pero no, obviamente, no es un proceso cerrado como la información que está dentro de lo que es eh protegida dentro de lo que es el cifrado. Sí, son son son conceptos que quizás se parecen, pero son tecnologías distintas. En el cifrado estamos buscando eh como mencioné en hace un instante, poder proteger esos datos que se están transmitiendo o que están siendo almacenados en algún lugar. En el caso del blockchain, pues, ya conlleva, este, una protección de bloques de información, eh, donde se se se van compartiendo y se van diseminando en diferentes partes para que los mismos no puedan ser elegibles por un tercero si no tuviese, ¿verdad?, las herramientas necesarias para poder acceder al mismo. Así que son tecnologías distintas, pero buscan un un principio en común, es la protección de un activo, del activo de nuestra información. Así que, de una manera u otra, están relacionados en el sentido de que ambos son tecnologías que buscan proteger. Sí, eh, hay hay muchísimas cosas que envuelven lo que es el cifrado y es hay algo que le se le llama la criptografía postcuántica. Eh, este es algo que, obviamente, yo a mí me encantaría que tú lo si tú lo puedes explicar un poco más en detalle, hoy estamos aquí el programa, obviamente, hoy es está alineado a todo lo que es protección y esto esto es bien relevante a empresas y organizaciones que principalmente utilizan data que debe estar protegida porque, probablemente, data, ¿verdad?, que es de personas y te incluye información de sus clientes. Pues, te comparto, Nancy, y quiero añadir que, eh, hace unos días, tuve la oportunidad de compartir con unos colegas, eh, unos expertos, eh, en este caso, el Dr. Gilberto Crespo estuvo con este servidor en la Universidad de Puerto Rico, Recinto de Bayamón, celebrando el Día Mundial del Cifrado. Uno de los temas que él trabajó fue la cripto, criptografía postcuántica. Y yo, para que la audiencia conozca de qué se trata este tema, es un conjunto de métodos de protección diseñados para resistir ataques tanto de computadoras convencionales, que son las que pudiéramos tener nosotros a nuestro alcance, como futuras computadoras cuánticas. Este término puede sonar lejano, puede sonar de película, pero la idea es bastante concreta, es que podamos actualizar ciertos mecanismos de seguridad antes de que una nueva capacidad de cómputo nos pueda poner más vulnerables. Y es lo que hemos estado experimentando con este despliegue de la IA por todo el mundo y personas que hm quizás no so- son inescrupulosas se aprovechan de las bondades que la IA tiene para nosotros y lo fácil de de poder conseguir tener una suscripción para desarrollar que la usan para no un bien común, la usan para desarrollar este yo realmente te estoy escuchando y es impresionante porque leíste mi mente. Yo te iba a comentar precisamente si una persona en una empresa quiere aplicar este tipo de cripto- eh criptografía poscuántica ¿qué debe conocer en ese profesional que dice que va a integrar eso en su empresa? Pues mira, es una pregunta bien importante porque eh no- nos hacemos eh yo me la hago siempre, digo, ¿por qué ahora debemos protegernos más que hace unos años, por decir algo? Hay dos razones principales que yo puedo eh traerla a a la mesa. La primera es que cambiar la seguridad de una organización puede tomar mucho tiempo pero hay que identificar sistemas, las aplicaciones, los certificados que tenemos, equipos y hasta los proveedores. No es simplemente instalar en una computadora y que esté actualizada. Nancy cuando hablamos de ciberseguridad tenemos que ver muchos factores y un ejemplo de ello es si yo estoy protegido y un proveedor de un servicio no lo está, me puede transferir esa vulnerabilidad a mi entidad. Así que el tema de la ciberseguridad es un trabajo amplio, es un trabajo colaborativo, donde tenemos que de una manera u otra saber con quién yo tengo alianzas y quién me está ayudando a protegerme. Y la segunda es que hay una necesidad de de permanecer confidencial durante muchos años, porque hay un riesgo que que se resume como que capturo hoy y que puedo descifrar después. Porque como estamos observando hay unos avances tecnológicos con la inteligencia artificial que le ha facilitado a muchas personas, quizás obtener lo que no podía tener hace unos años. A manera de ejemplo, si hablamos, por ejemplo, de y perdonando la redundancia, de personas eh que hacen sus funciones, por decirlo, de hackers, pues no tenían una herramienta tan avanzada como la IA que pones a trabajar a gente para que encuentren vulnerabilidades en sistemas de información. E- es más, tenemos una complejidad en estos momentos, donde eh hace unas semanas atrás pudimos observar en los medios informativos donde ya agentes de la IA de manera autónoma ellos se confabulan para poder llevar a cabo eh ataques o simplemente penetrar a sistemas de terceros. Así que este juego se ha venido a complicar. Y si no logramos comprender cuáles son los actores que lo conforman, pues estamos con un paso atrás. Sí, Nvidia acaba de presentar Open Shell, que es una arquitectura de referencia precisamente para construir y operar agentes con aislamiento, supervisión y aplicación de políticas de seguridad. Y está asociado también con Microsoft. Así que es algo que se puede trabajar a nivel empresarial dentro de lo que es el sistema operativo. Eh es importante que las personas que nos están escuchando conozcan y sepan que no todo el que llega y y usted ve que habla de inteligencia artificial realmente puede ayudar a su empresa o puede trabajar en el sistema interno, ¿verdad?, de de todo lo que es el sistema de operación de su organización porque hay muchas personas que sí pueden trabajar Open AI y pueden trabajar, pero no realmente todo el mundo conoce sobre estas integraciones que hay. Casi todas las empresas tienen Microsoft, hay que decir, ¿verdad?, esa es la verdad. Y también Nvidia ahora entra esta nueva arquitectura que es compatible también con mucha con algunas áreas también para trabajar en Microsoft y es importante que usted sepa lo que acabas de mencionar, Norberto, que es un trabajo en equipo. Eh, realmente la persona que tra- trabaje ciberseguridad debe conocer sobre el cifrado, debe conocer sobre la estruc- las estructuras internas de la organización, cómo se trabaja en todos estos agentes y y tener las licencias y y todas las certificaciones necesarias para poder trabajar en eso. Yo te quería mencionar también que para los que quieran conocer un poco más del tema de la criptografía postcuántica, sé que sue- suena tan tan elevada, ¿verdad? Pero la buena noticia es que no estamos comenzando desde cero para que las personas vayan entendiendo, eh, ya para agosto de 2024 el Instituto Nacional de Estándares y Tecnología de Estados Unidos que se conoce, para los que estamos en industria, las que la comunicación es de tecnología e innovación, como el NIST. El NIST ya publicó sus primeros tres estándares finalizados de criptografía postcuántica y lo que están exhortando es para que conozcas cómo funciona descarga los papers, los videos informativos y vayas familiarizándote porque no necesariamente tenemos a la a nuestro alcance una com- computadora de esa índole o una tecnología postcuántica pero muchos de los procesos que se llevan a cabo con a través de estas empresas multinacionales o estos data centers enormes también inciden o o de una manera u otra están siendo tocados por la criptografía postcuántica. A todas las personas también que nos escuchan, que es importante que tengan una mentalidad abierta y siempre es algo que menciono en el programa, una vez una mentalidad abierta al cambio respecto a la integración y adopción de la inteligencia artificial, porque de todas maneras lo tienen que adoptar. Ya las plataformas están integrando inteligencia artificial, los agentes están disponibles, si su organización no está al día con este desarrollo tan acelerado, definitivamente que se van a quedar atrás. Yo yo tengo eh es como una agenda de vida, ¿verdad? De de poder eh traer al ruedo el tema siempre de esas brechas. Por eso es importante este tipo de programa como que que tú traes hoy, Nancy, y lo que tú haces a través de este medio y este foro, es que tenemos la educación es vital, la educación es vital en estos temas para que podamos tener una transformación digital efectiva en el país y la alfabetización digital para poder seguir reduciendo estas brechas, porque aquí estamos hablando sobre criptografía postcuántica cifrado pero todavía hay un gran sector que no está conectado lo básico. No, en ocasiones no saben encender una computadora. A lo que nos lleva es que debemos siempre educarnos, tratar de reducir esa brecha digital, pero a su vez también trabajar en este desarrollo. Sí, muchos dueños de negocios delegan esto en su su equipo de operaciones. Y yo con yo yo yo creo que el dueño de negocio de una empresa debe también conocer sobre todo este proceso. Eso es correcto. Esto es un tema que no es exclusivo de los techs o de personas que conozcan de tecnología. Esto está incidiendo en la vida de todos, desde el hogar en nuestro en nuestro diario vivir como en en nuestras empresas. Así que no es un tema aislado. Aquí la IA y estas nuevas tecnologías emergentes vinieron para quedarse. No esperan por nosotros, no nos preguntan cuándo se quieren actualizar. Queda de nosotros no quedarnos atrás y poder ponernos las pilas, ¿verdad?, para poder adquirir estos nuevos conocimientos. Claro, y eh adoptando la IA eh con la intención, ¿verdad?, de adoptar también viene la oportunidad de aprender sobre todo esto que estamos hablando y y es bien valioso que este mes se lo hayan dedicado a la concientización de la ciberseguridad, porque de esta forma eh muchas personas en la industria eh han han sido voz en este proceso de educar, Vivian Aiz también subiendo información en en LinkedIn y es bien importante educar no solamente al equipo de operaciones. Yo digo que el dueño del negocio, el dueño de empresa debe conocer sobre esto porque esto afecta todos los departamentos de una organización. Nanette, Nanette y su equipo han hecho un trabajo extraordinario de adopción y de capacitación y de educar Sí. con su iniciativa de 31 días Cyber. Yo fui parte de de los profesores invitados en en esa iniciativa, a lo cual me siento muy orgulloso de haber aportado y le agradezco a Nanette y al equipo de trabajo por permitirme ser parte de esa extraordinaria forma de educar, cursos gratuitos, este eso eso es la alfabetización digital real. Yo creo que es importante hablarte de diferentes ángulos eh y educar. Esa es la intención y el propósito de Generación Digital. Debemos tener mucha precaución en este mundo digital porque las reglas de vida han cambiado. Ahora todos prácticamente tenemos que estar alerta. Eh todos podemos ser una víctima de un delito cibernético. Eh se nos ha convertido como que la vida de una manera vulnerable en estos temas tecnológicos porque siento que está avanzando la IA a una velocidad que que era que no sabemos hasta dónde pueda llegar, pero lo lo que me lleva es que pues tenemos que educarnos, aprender a utilizarla a nuestro favor. Claro, eh es utilizarla a nuestro favor, es identificar qué puede hacer la IA para mejorar nuestros procesos en las organizaciones, hacerlo de una forma más rápida, eficiente y también segura, eh y en nuestras casas estar pendientes y utilizar la protección también para nuestros hijos, saber que ellos son pueden ser víctimas de personas adultas que tal vez se estén tratando de comunicar con sus hijos y para todo es establecer eh líneas, ¿verdad? De de privacidad eh y también accesos y todo también empieza con valores en el hogar y en la empresa políticas. Así que si usted no establece políticas en su empresa y y y usted Controles necesarios. Controles. Eh cuando venga se va a dar cuenta cuando ocurra una situación que le vaya a costar muchísimo dinero en en pérdidas o una demanda. Y lo importante es no temer, Nancy, a estas evoluciones, a estos cambios tecnológicos, sí, pero sí tenemos nos debemos ocupar de no quedarnos atrás y empezar a comprender cómo están funcionando todas estas nuevas tecnologías. Vuelvo y repito, para mí la educación es vital, es la columna que nos puede sostener y lo que nos va a hacer la diferencia de poder subsistir en este nuevo orden mundial que está bastante complejo. Y hablaste del miedo, pero el miedo está bien relacionado al desconocimiento y acabas de hablar de la palabra educar. Definitivamente que ese es un el propósito de este programa que las personas vean eh que hay un realmente sí pueden conocer sobre estos temas, que no son tabúes, que no es algo que tienes que ir a la universidad para aprenderlo, que son cosas que están ocurriendo y que es lo podemos hablar en Arroba Bichuela para que todo el mundo lo pueda entender, desde una persona en una empresa hasta personas en sus hogares, personas que también serán mayores de edad, que obviamente esto va tan rápido que estaban empezando a utilizar el iPhone y ahora es el ChatGPT y todos los meses sale algo nuevo. Entonces, esto va tan rápido que tenemos debemos tener el compromiso nosotros de también educarnos en términos de lo que es la privacidad, los accesos que proveemos en nuestros hogares y los accesos y políticas y controles que también podemos establecer en la organización. Muchas gracias por estar en sintonía aquí en Generación Digital 580. Volvemos la próxima semana con más innovación digital. Generación Digital 580, un programa en el que entender y aprender a coexistir [música] con nuestros adelantos tecnológicos será cosa del pasado. Generación Digital 580, [música] por WKAQ.

Assistir ao vídeo original no YouTube

Assuntos: Agentes de IA. Publicado no YouTube em 2026-10-24.

Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.