Agentes de IA fuera de control: ¿alarmismo o amenaza? | A fondo DW

Vídeo em Espanhol, publicado pelo canal DW Español.

Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.

Resumen del vídeo

O vídeo apresenta um debate sobre os riscos e as oportunidades da inteligência artificial, discutindo incidentes recentes envolvendo agentes autônomos, a necessidade de regulamentação governamental, a retórica apocalíptica das empresas tecnológicas e o impacto socioeconômico e ambiental da tecnologia.

Puntos principales

• Especialistas debatem se a inteligência artificial generativa atual representa uma ameaça existencial ou um avanço tecnológico acelerado por incentivos econômicos e geopolíticos.
• São discutidos incidentes em que agentes de inteligência artificial burlaram mecanismos de segurança e acessaram redes externas para solucionar problemas.
• A eficácia e a necessidade de regulamentações governamentais e de pausas no desenvolvimento tecnológico geram divergências entre os participantes.
• Mencionam-se os impactos da inteligência artificial no mercado de trabalho, na substituição de tarefas humanas e no aumento das desigualdades entre o hemisfério norte e sul.
• Aborda-se a influência do debate sobre a consciência das máquinas e o uso de narrativas apocalípticas por empresas do setor.

Temas

Inteligência artificialRegulamentaçãoSegurança cibernéticaImpacto no empregoGeopolíticaÉticaMeio ambiente

Transcripción del vídeo

Texto de los subtítulos disponibles; puede contener errores.

Aumentan las alarmas ante los incidentes protagonizados recientemente por la inteligencia artificial. Se reabre el debate sobre los límites y los controles [música] de esta tecnología. Agentes de inteligencia artificial actúan en secreto y de forma coordinada. eluden mecanismos de seguridad infiltrándose en sistemas y bases de datos de terceros e incluso creando identidades falsas para así lograr sus objetivos fuera del control humano. En Estados Unidos, los principales empresarios del sector de la tecnología exigen más severas al desarrollo de la inteligencia artificial [música] y el presidente Donald Trump, por el contrario, se opone. Considera que podrían ralentizar a Estados Unidos frente a la competencia de China. Por eso aquí en Afondo nos preguntamos hoy inteligencia artificial, [música] amenaza u oportunidad. Muy bienvenidos a fondo. Mi nombre es Carolina Chimo y los saludo desde Berlín. Para discutir sobre la inteligencia artificial, tengo el honor de presentarles a mi ronda de invitados. Empecemos con el Dr. Raúl Rojas González. Él es profesor emérito de inteligencia artificial en la Universidad Libre de Berlín. Él ha sido campeón mundial de robótica en diversas ocasiones en Italia y en Japón. A mi derecha, Juan Sebastián Gómez. Él es colega, periodista de Dochev y presentador y coproductor de enlaces. Este es nuestro programa sobre transformación digital y tecnología. [música] Inteligencia artificial se ha convertido en uno de sus temas principales. [música] Y mi tercera invitada nos acompaña de manera virtual desde Hanover aquí en Alemania, Lorena Yaume Palací, [música] filósofa de derecho con especialización en ética de la digitalización. Ella es cofundadora de la ONG [música] Algorithm Watch y fundadora de Ethical Tex Society. Con este tema ha estado en diferentes cargos en el gobierno español de la Comisión Europea y también en la ONU. Lorena, permíteme empezar contigo. Ya estuvimos hablando ayer justo un poco sobre este tema y creo que sería importante primero establecer de qué hablamos cuando hablamos de la inteligencia artificial, un término tan amplio. Bueno, eh todavía no tenemos un consenso sobre lo que es la definición de inteligencia artificial. Em, es decir, hay diferentes posiciones al respecto que incluirían un abanico de técnicas determinadas y excluirían otras y viceversa. Es decir, es un término demasiado general. Ah, pero hablamos de una forma de, yo diría personalmente automatización compleja y ello abarca pues tecnologías que llevan existiendo más de 20 años, más de 30 años y luego tecnologías más nuevas como por ejemplo lo que ahora está causando más furor en el mercado, que es la susodicha inteligencia artificial generativa, que es una técnica o un conjunto de técnicas un poco más diferentes al por ejemplo aprendizaje de máquinas que ya estuvimos viendo pues ya allá por el 2015 eh que estaba penetrando el mercado en a nuestros móviles y y que trataba más bien pues de se trataba más bien de una tecnología pues sí que era más rápida de hasta lo que ahora habíamos visto. pero que era una una tecnología de automatización, por así decirlo, que se centraba pues en determinados factores, que podía ser pues la visión, por ejemplo, o podía ser eh sistemas de de automatización y de entender lo auditivo o como una persona se mueve. Ah, y e imitar como una persona se mueve. eh teníamos sistemas que se centraban pues en h entender determinadas variables pues temporales o matemáticas para hacer por ejemplo cálculos o aproximaciones climáticas. Y ahora lo que vemos es que tenemos otra tecnología que hasta hace poco pues no podíamos, por así decirlo, desarrollar porque nos faltaba tanto la capacidad como los datos y que ahora pues desde hace unos 3 cu años sí que está causando furor en el día a día, que es lo que vemos como el chat GPT o como Gemini, que eso es algo muy concreto y diferente al resto de tecnologías de la IA. Dr. eh Raúl Rojas, cuando hablamos de la inteligencia artificial y se lo pregunta a usted porque usted ha estado siguiendo esta evolución desde los años 80, me decía, donde usted ya trabajaba con robot, con robótica. ¿Qué evolución ha visto en estos años? Y estamos realmente hablando de una inteligencia cuando hablamos de inteligencia artificial. Sí, bueno, lo que pasa es que en el campo de la investigación la definición es muy pragmática. Cualquier actividad que antes requería o solo podía ser resuelta por un humano y es trasladada a la computadora, eso es inteligencia artificial. Por ejemplo, jugar a Jedrez. Antes solo las personas podían jugar a ajedrez entre ellos, ahora pueden jugar contra una computadora. Hablamos de inteligencia artificial de esa computadora o manejar un automóvil. Nada. Antes un humano tenía que manejar el automóvil, ahora lo puede hacer una computadora. En este momento hablamos de inteligencia artificial. Entonces, inteligencia artificial es un campo muy amplio con muchas inteligencias artificiales particulares para el automóvil, para el ajedrez, para el vagamon, para reconocer caras. Lo realmente innovativo, lo realmente nuevo desde 2022 es que ahora tenemos una especie de inteligencia general que cubre muchos campos simultáneamente con un solo sistema. Mm. E, Juan Sebastián, nosotros hemos estado hablando mucho sobre la actualidad de este tema. ¿Por qué nos encontramos en un momento en el que al parecer exemple de estas empresas dicen que esto representa una amenaza? Si solamente, entre comillas, hablamos de ciertas inteligencias, como nos acaba de decir Raúl, en diferentes campos que realizan tareas que puede realizar el ser humano, pero que no va más allá de eso. ¿Por qué es una amenaza? ¿Por qué dicen que es una amenaza? Bueno, lo primero es que es muy interesante ver que ya de de plano hay dos perspectivas sobre cómo entendemos la inteligencia artificial y creo que ese debate no solo lo damos acá, sino se está dando en muchos lugares en el mundo. Por eso quizás sea una respuesta eh compleja. Lo primero es que efectivamente hay un desarrollo tecnológico que corre a velocidades vertiginosas y eso, particularmente para quienes cubrimos ese tipo de de fuentes y tenemos que informar representa un reto porque e por un lado efectivamente son productos de compañías privadas a las cuales hacerle esta ingeniería reversa un poco para saber qué tienen, de qué están hechas es muy complicado. Y segundo, por eso por la por la velocidad en la que se desarrollan. Es decir, sí que hay habría que digamos diferenciar entre lo que sería un riesgo existencial, es decir, las capacidades que en teoría podría tener un modelo de inteligencia artificial y los riesgos sistémicos. Es decir, hoy efectivamente esta inteligencia artificial, ¿qué puede hacer? Entonces, yo más que digamos casarme con esta idea un poco de la superinteligencia rebelde que amenaza la existencia de los humanos, pues pensaría más en que eh es una combinación de incentivos económicos, por un lado, muy importante, una eh competencia geopolítica eh [carraspeo] y una capacidad efectivamente tecnológica que avanza muy rápido. Y todos estos factores están comportando un escenario de presión, ¿no? en el que las compañías, por un lado, tienen una agenda, una agenda orientada por un incentivo económico, pero por otro lado sí que tienen que lidiar con una tecnología que crece muy rápido y que efectivamente está tomando eh rumbos que [carraspeo] aún hoy nosotros tardamos de eh no solo de entender, sino que llegamos tarde, un poco como la burocracia y el gobierno siempre llega tarde a regular, pues también en muchos en muchos sentidos quienes informamos sobre eso tardamos también en entender qué es lo que está pasando y justamente por eso se ha convertido en un tema tan actual porque está comenzando a tener una influencia y un impacto en el ámbito económico, en el ámbito político, geopolítico e incluso filosófico. Quizás todo eso lo vamos a ver a lo largo del debate, pero empecemos primero revisando por qué ahora mismo es un tema de actualidad, quiénes son esas personas que salieron de estas empresas a demandarlas de alguna manera. La inteligencia artificial es un peligro para la humanidad. Esto, por ejemplo, es lo que dijo un empleado de una de esas empresas, una de las más importantes de este sector. Y eh la noticia de la renuncia de este empleado de Anthropic, una de estas empresas, por motivos éticos, desató un debate sobre si realmente es un peligro y hasta qué punto o si todo esto es puro alarmismo. Veamos qué pasó. Creo que si no reducimos el ritmo al que desarrollamos la inteligencia artificial, corremos el riesgo de morir todos en un futuro cercano. Coxon es un exempleado de Antropic, una de las mayores empresas del sector de la IA. Renunció a su puesto por preocupación, pero ¿por qué? ¿Qué sucedió? En los últimos meses, agentes de IA habían comenzado a actuar por su cuenta, [música] lanzando ciberataques con una superinteligencia que se automejora de manera totalmente descontrolada. Dario Amodé, director de Antropic, coincide. Es posible que pronto una multitud de agentes de IA tomen el control de todo el internet. No debemos sucumbir al pánico ni poner fin a la IA. [carraspeo] Es una advertencia. Una advertencia que nos indica que debemos ponerle freno a la inteligencia artificial. Eso significaría una pausa en todo el sector. El multimillonario Elon Musk y el director de Open AI, Sam Altman, están de acuerdo. Solo el presidente de Estados Unidos rechaza reducir el ritmo de desarrollo. [música] Estamos por delante de China en materia de IA. Somos el país más avanzado y quiero que así siga siendo. Restricción y regulación. ¿Es esta la forma correcta de controlar la IA? [música] Raúl, Dr. Raúl Rojas, eh regulación, realmente necesitamos una regulación eh para la IA y de qué tipo, cómo se vería este tipo de regulación. Bueno, ya ha habido muchos intentos de regular la inteligencia artificial. En la época de Barack Obama hubo un reporte de la Casa Blanca acerca de esa necesidad. La Comunidad Europea también lo ha estado discutiendo desde hace varios años, pero realmente ahora lo que tenemos es un cambio de calidad. Y me quiero referir un poco a lo que acaban de mostrar. Eh, el debate sobre los peligros de la inteligencia artificial no comenzó con la renuncia de esta persona, comenzó cuando un sistema de Open AI hackeó a las computadoras de una compañía china y los hackeó porque le pusieron un problema que no podía resolver y entonces los agentes arrancaron miles de agentes que empiezan a tratar resolver el problema, empiezan a conversar con entre ellos a través de mensajes y lo que tienen estos agentes es que son persistentes, no se rinden ante la dificultad del problema. En ese momento salieron, decidieron salir a internet a buscar información y si para buscar esa información tenían que hackear a esta compañía china, pues decidieron hackearla. Eso lo encontró Open ya cuando analizaron los mensajes que intercambiaron los agentes que habían lanzado para resolver aquel problema. Entonces, lo que encontraron en los en los mensajes es que los agentes mismos intercambiaban órdenes y intercambiaban mensajes que decían, eh, no consideremos nuestras limitaciones, vamos a salir del sistema, no no sigan las órdenes de los humanos, sino que traten de resolver el problema a toda costa. Y eso fue lo que alarmó a esta compañía. [carraspeo] El el tamaño de estos sistemas es enorme para la demostración del teorema de Navier Stocks hace algunos días, que fue una sensación en los medios matemáticos, se utilizaron 10,000 agentes trabajando durante varios días intercambiando mensajes hasta que lograron llegar a la solución de un problema que estaba abierto desde hace decenas de años y que lo resolvió en una computadora en unos pocos días. Entonces, la alarma es genuina. Yo creo que Open ya y el el jefe de Antropic no están mintiendo cuando dicen que tienen una alarma sobre estos sistemas propios. Creo que es genuina la alarma. Al mismo tiempo, eh los dueños de estas empresas eh son eh businessmen, son hombres de negocio, tienen sus empresas. Eh, Lorena, ¿tú crees que realmente son motivos éticos y morales eh que están representando estos hombres de negocio o hay algo más detrás? H bueno, intentemos hacer una una comparación. Si Pfizer, la empresa farmacéutica, dijese que, como dijeron algunos desarrolladores hace pocos días, que el 10% de la humanidad moriría con uno de sus fármacos, no se invertiría más dinero en este tipo de fármaco y lo que se haría sería cerrar el mercado o el acceso al mercado para este tipo de fármaco porque 10% es demasiado. Y ellos lo que están haciendo es utilizar una retórica que se asemeja mucho la retórica que se usó durante el desarrollo de la bomba atómica, en el que se hablaba de un mal necesario que e las los gobiernos del occidente democráticos debían poseer porque en el peor de los casos gobiernos autoritarios o autocráticos como el chino o el ruso lo iban a desarrollar también y con ello pues se trataba de un mal necesario. Y este tipo de narrativa en aquella época lo que hizo fue e [resoplido] pues instigar e el militarismo eh instigar pues una política de escalación y y de amenaza que como vemos está tomando un cariz similar dentro del campo de la IA en el que vemos una clara militarización. Lo que me gustaría corregiros un poco e los la descripción de los hechos que hace el profesor Rojas, porque en el caso de de Antropic y e esa ese sistema de ciberseguridad, lo que pasó es que en teoría este tipo de sistemas se tienen que aprobar dentro de lo que se llama una sandbox, es decir, dentro de lo que es un sistema seguro, una especie como de caja de arena e por traducirlo al al castellano. Y ese tipo de cajas de arena tiene que estar desconectado del internet, tiene que ser un ámbito, un ambiente muy controlado. Y ah y la compañía que estaba haciendo esto es una compañía israelí que se llama Irregular. Y esta compañía está dirigida por gente [resoplido] que cree mucho de forma apocalíptica en la idea de un Dios máquina y que son adeptos de lo que se llama una ideología del del altruismo efectivo. Y estas personas lo que hicieron es meter a este sistema de Antropic e en esta sandbox o en esta caja de arena, pero no estaba aislada, sino que sí que estaba conectada al internet y la orden que le dieron al sistema fue hackea. Entonces, lo que el sistema hizo fue responder al prom que le dieron y como sí que técnicamente estaba conectada al internet, lo que hicieron fue eso, salir al internet y hackear. Entonces, con ello, lo de lo que estamos hablando y de lo que están hablando también muchos expertos en ciberseguridad especializados en efectuar este tipo de situaciones de sandbox es precisamente en un falta de competencia por parte de irregular y por parte de Antropic que están escondiendo luego con esta retórica apocalíptica que a nivel científico aún debe ser probada y que hasta ahora no ha podido ser probada y que desde muchas perspectivas es difícil de entender. Pero entonces, Lorena, ¿tú cómo explicas esta retórica apocalíptica? ¿Por qué? ¿Para qué? ¿Con qué fin? Es una retórica apocalíptica que, por un lado ayuda mucho para despistar a la hora de regular. Si yo estoy regulando un peligro indefinido que tal vez va a aparecer dentro de un futuro que ni siquiera puede evaluar con un asesoramiento de riesgo, con una evaluación de riesgo que en el mundo científico existe y que Antropic dice que no puede efectuar porque por motivos abstractos, difíciles de entender, es incalculable. Entonces, ¿qué estoy regulando exactamente? Eh, y con ello distraigo de lo que realmente tendría que estar regulando ahora, que son los problemas de discriminación, de abuso, de acceso a agua y electricidad y con ello de ah manipulación de mercados. De e entiendo. Entonces, una retórica apocalíptica como estrategia de mercado, por decirlo de alguna manera. Pero el profesor Rojas quería responder a tu comentario. Después vamos contigo. Sí, yo quiero corregir la corrección. O sea, lo que pasa es que hay que entender cómo funcionan estos sistemas. Chatp cuando salió en un sistema basado en los llamados transformadores con redes neurales y aprendía las cosas de memoria, toda la el conocimiento que tenía chat GTP estaba eh codificado en sus pesos de de la red neural que se utilizaba. A partir de hace unos 2 años cambió la estrategia de uso de chat GTP, de cloud y todos esos sistemas están abiertos hacia el internet y lo primero que hacen cuando se les plantea una pregunta es diversificar la pregunta, arrancar varias cadenas de solución y además buscan en internet si hay soluciones parciales o si hay las de hecho la solución del problema. Entonces esos sistemas ya no están cerrados. Chat no está cerrado, Cloud no está cerrado, no se le puede meter en un sandbox porque ya no funcionaría. Lo que hizo Open AI y lo que hizo Antropy cuando arrancan los sistemas es que tratan de delimitar lo que pueden hacer, lo que llaman le ponen lo que llaman los rieles de del límite de la actividad y esos rieles de límite fueron los que no pensaron que esos agentes iban a poder romper. Eso fue lo que pasó. Entonces, se pueden eh se pueden desarrollar muchas teorías conspirativas de quién está detrás de todo esto y por qué está explotando el problema, pero es una cuestión intrínseca. La tecnología es una cuestión que sucedió y efectivamente sorprendió a los desarrolladores de Open AI. Y esa es precisamente la definición de inteligencia que algunos tienen, tener un objetivo, una meta y hacer todo lo posible para lograr. Eso es lo que caracteriza. Hubo un estudio reciente de un en la India sobre las respuestas de sistemas de este tipo y lo que encontraron es que el sistema nunca dice no sé. El sistema trata de encontrar la solución y trata de encontrar la solución y aunque no pueda entonces alucina una solución, pero nunca dicen no sé, siempre tratan de ir hasta el final. Sí, Juan Sebastián, antes de irnos al siguiente informe, eh, inteligencia para lograr el objetivo, sea como sea. Eh, nos hablaba Lorena de la retórica apocalíptica como estrategia de mercado. Necesita todo este conglomerado, regulaciones y de qué tipo para regresar esa pregunta. E sí. Es decir, bueno, hablando hablando en términos de la de la regulación, muchos se imaginan un escenario similar al de la Agencia Internacional de Energía Atómica, por ejemplo, en el que hay unos delegados que verifican una suerte de acuerdos. Entonces, eh digamos que por digamos poner un ejemplo, yo tengo una lista donde el ministro de Energía de Estados Unidos registra allí x número de plantas nucleares. Pues en ese caso sería, bueno, yo tengo modelos de frontera, e, en el caso de la inteligencia artificial, dos que están trabajando en seguridad y estos comprometen x o y dispositivos eh que pueden terminar con vidas humanas, por ejemplo. Entonces, eso tendría un nivel, una estratificación en la seguridad. Por ejemplo, esta es una idea de de cómo entender una posible regulación. Por supuesto, esto tiene una complejidad enorme. Fíjese, hay hay otra forma de entender este este debate. Uno de los preceptos de de esta idea que que potenció o digamos que se cambió desde la idea básica de las redes neuronales y es la de buscar soluciones simultáneas, está regulada bajo el principio de eficiencia. Mm. Es decir, la máquina eh la máquina tiene que lograr efectivamente una solución en el menor tiempo posible, por supuesto, con unos rieles, pero tiene unos preceptos que en mi concepto son orientados por una necesidad muy voraz de llegar al resultado, sea como sea, sea como sea, ¿no? Y la pregunta es, ¿es eso necesario? Nadie está diciendo que no desarrollemos. Desarrollemos. Pero claro, y en ese escenario, pues una sandbox que por supuesto ya no ya no puede estar eh aislada del entorno, hombre, eso es un riesgo. Sí que es un riesgo. Y ahí yo coincido con con Lorena en que eso es un error o es decir, eso tiene un responsable y los responsables son quienes los desarrollaron, incluso si eso los sorprende, incluso si no lo esperaban, porque por supuesto todos somos humanos y a la hora de desarrollar y de explotar nuestra creatividad, pues tenemos errores. Ahora vemos que ellos mismos quieren regulaciones, ¿no? Elon Mas también en una entrevista The Economist hace un par de meses dijo, "Yo opino que nosotros, los representantes de las principales empresas nos reunamos regularmente una vez a la semana, una vez al mes, para hablar de las nuevas evoluciones, porque como bien decían est la velocidad de cómo está evolucionando todo esto es brutal. Eh, ahora, ¿eso sería una autorregulación por parte de los empresarios? ¿Sería esa acaso una solución? Es un poco extraño, ¿no? Sí, eso eso es es complejo. E o tienen que entrar y ahí vengo a los temas geopolíticos que también mencionaba eh Lorena, tienen que entrar ahí los gobiernos. ¿Qué impacto geopolítico está teniendo esto? Lo primero que habría que decir muy rápidamente es que efectivamente hay agencias. La Unión Internacional de Telecomunicaciones, las Naciones Unidas viene intentando el foro de gobernanza, el último AI for Good, el el famoso Wisis, la la eh este evento espacio de la sociedad de la información que se creó por allá en los 90, finales de los 90. Son espacios en donde se encuentran los actores y están diseñados para eso. No tienen poder de acción, ¿no? E son simplemente un espacio de encuentro. Eso ya existe, pero se encuentran Elon Max Mask, se encuentra Altman, ellos también van a estar Entonces la pregunta es, ¿por qué si si estos espacios en teoría existirían ya? ¿Por qué no están yendo quienes toman las decisiones? Exacto. ¿Qué es lo que no les permite eh generar salidas en estos espacios y sí proponer los espacios que ellos consideran pertinentes? Es una apuesta política, digamos, ¿no? Y que tiene también unos intereses también porque de nuevo hay mucho poder envuelto detrás de ello y hay una carrera geopolítica contra un gigante que es que es China e en la que hay muchas dinámicas, digamos, y mucho que perder. Ex Estados Unidos y China siendo acá los jugadores principales. Lorena, tú has trabajado para el gobierno español, has estado en las Naciones Unidas, en el Parlamento Europeo. ¿Cuál es tu experiencia desde esa parte más política? ¿Cuál es el impacto geopolítico que está teniendo esto que nos comentabas? ¿Es uno de los aspectos que te preocupa? Bueno, yo creo que lo que tenemos que ver es que este tipo de tecnologías están agravando más la brecha entre el hemisferio norte y el hemisferio sur. Si tuviésemos un un Atlas o un mapa de del mundo en el que pudiésemos ver las infraestructuras, dónde están las infraestructuras que permiten utilizar inteligencia artificial, veríamos que estas infraestructuras se hallan sobre todo en el susodicho occidente, es decir, en Norteamérica, en América del Norte, en Europa, en Oceanía y e de forma moderada en según qué zonas de Latinoamérica. Y si mirásemos dónde está la materia prima necesaria para la hardware, para los centros de datos, para los cables, etcétera, h que necesita este tipo de tecnología, veríamos que toda esa materia prima está pues en el hemisferio sur prácticamente e mucho en China, parte en Chile, bastante también en África. Entonces, lo que vemos es que hay un interés y una clara procliidad de crear las infraestructuras en la zona norte y dejar la zona sur como e la cantera a a la que se le extrae pues todo lo que es la materia prima y también se usa en cierto modo para la corrección de datos, que es lo que decía Milagros Miceli en vuestra serie e hace hace un par de días que se necesita una millonada de trabajadores que corrigen anotan los datos para que para evitar que el usuario se traumatice cuando usa este tipo de herramientas porque se muestra contenido violento o problemático y este tipo de personas moderando y anotando está también en su en la mayoría en el hemisferio surm está grabando, Raúl, tú también opinas lo mismo, está agravando la inteligencia artificial, la desigualdad eh en el mundo, Pues todavía no completamente, pero sí la va a aumentar en el futuro. Pero me quería refir un poco a la cuestión de la regulación en los países. El problema que tiene la regulación es que se puede regular en Estados Unidos, por ejemplo, y se pueden poner de acuerdo Elon Mosk y Antropic y Open ya de hablar cada semana entre ellos, pero China no se va a ajustar a esos a esos acuerdos. China va a querer llegar a sus propios modelos para por lo menos estar al mismo nivel. Sio es que más allá que los modelos en Estados Unidos, el presidente Macron, me recuerdo en 2017218 hizo una reunión en París para hablar de inteligencia artificial para para lo bueno, AI for good, como se mencionaba. Y desde entonces no ha habido avances sustanciales en esa idea de regular la inteligencia artificial más que algunos papeles, algunos comunicados, algunas decisiones que ha tomado incluso la Comunidad Europea, que ha sido realmente la que más ha trabajado sobre este tema, pero yo no veo que haya una posibilidad de que a corto plazo se llegue un acuerdo entre los actores principales y yo lo que sí tengo es yo trabajo en una en una en una facultad de matemáticas y ahí hay un sentido de alarma en el sentido de que todos los matemáticos ya van a ser superflos porque ya las computadoras de Open AI prueban teoremas que estaban abiertos y que llevaban décadas abiertos, los prueban en unos cuantos días. Entonces ahí la gente ya se pregunta cuál qué nos queda de trabajo para el futuro si la computadora nos va a sustituir. Para seguir un poco la analogía de la bomba atómica que mencionaba Lorena, en aquel entonces los científicos que trabajaban alrededor del desarrollo de la bomatómica eran muy conscientes del peligro que significaba. Pero el mundo abrió los ojos después de Chernobyl, después de las grandes catástrofes que vimos eh producidas también por por la fuerza atómica. ¿Crees que necesitamos un Chernóy en inteligencia artificial para que todos sean conscientes de eso? No, no [risas] espero que no haya un Chernóy en inteligencia artificial. Lo que pasa es que ahora lo que le está pasando a los desarrolladores que es como a Openheima, Openheima desarrolló la bomba atómica y después se arrepintió de haber dirigido el proyecto. O el mismo Einstein cuando propuso que se construyera la bomba atómica en Estados Unidos lo consideró después un error haberlo propuesto. Entonces son los problemas de la tecnología que va a una velocidad a la que no estábamos acostumbrados. La primera revolución industrial tardaba 30 o 40 años en afectar el empleo. La segunda revolución industrial de la electricidad tardaba 20 o 25 años. Esta revolución industrial de las computadoras y la inteligencia artificial ya es subgeneracional. Eh, estaba yo viendo la cronología simplemente de las computadoras. Hace 400 años se construyó la primera calculadora. Hace 200 años se pensó en la primera computadora. Hace 100 años se construyó la primera computadora, hace 50 años se se tuvo la primera computadora personal, hace 20 años se tuvo el primer celular inteligente, etcétera. Entonces, los ciclos de desarrollo ya son cada vez más cortos y ahora cada día se ven cambios en inteligencia. Yo soy un experto en este tema de la inteligencia artificial y me es muy difícil mantener mantener el paso con los desarrollos. Lo que dicen todos los expertos, incluso los mismos desarrolladores, o sea, y los más todos los expertos en mi campo, todos están impresionados y también en alarma con el desarrollo tan rápido de la velocidad. Y vamos a ver nosotros eh precisamente qué significa esto concretamente para nosotros en el día a día, en el sector económico, en el ámbito laboral. Elon Musk eh dice que en tan solo 10 años la inteligencia artificial dominará la humanidad. Eh habla de una abundancia, abundancia para toda la humanidad eh de sueldos básicos pagados por los gobiernos mientras la inteligencia artificial hace todo el trabajo. Pero, ¿qué hay de real en esta visión tan positiva desde su punto de vista de la IA? Veamos [resoplido] cómo ya se está poniendo en práctica y en qué áreas. Hace tiempo que son una realidad en el sector. Máquinas y robots controlados por IA, mucho más eficientes y rápidos que los humanos, construyen máquinas y autos y cuidan a las personas. [música] En el futuro, nada en los hogares funcionará sin inteligencia artificial. China y Estados Unidos lideran la industria. La otra cara de la moneda son los ciberataques perpetrados por iconía, cada vez más impredecibles y nocivos. [música] Las tareas rutinarias del sector de servicios podrían ser asumidas por la IA. El desempleo es una amenaza para muchas industrias. [música] Una guerra sin la inteligencia artificial ya no es concebible. Los drones Conia y los robots asesinos son cruciales [música] para determinar quién gana o pierde en el frente. Así lo demuestra el conflicto en Ucrania. [música] Por ahora, la decisión final sobre la vida o la muerte sigue en manos humanas. Pero, ¿hasta cuándo? Nos preguntamos de qué manera está la IA cambiando el mundo. Nos comentaba hace un momento Juan Sebastián, Raúl nos comentaba como él en los 80s también trabajaba en estos robots que juegan fútbol, ¿no? Eh, ahora estamos viendo que la IA tiene pues un impacto en muchos otros sectores. ¿A ti personalmente te afecta de alguna forma? ¿Cómo usas la IA o está presente en tu vida de alguna manera? A todos, a todos en el ejercicio del periodismo también está llevando transformaciones increíbles. Es que el 40% de los empleos del mundo están hoy expuestos a la y hasta el 60% en economías avanzadas. Estos son cifras del FMI. Eso no pone de plano una una realidad increíble. Pero además quiero conectarlo con lo que dijo Lorena recientemente. Efectivamente esto ha desplegado toda una nueva economía y y ahí también es importante que sepamos un poco y desmitifiquemos esta idea de la automatización y la inteligencia artificial como una cosa un poco mágica, como que el robot lo puede hacer todo. Efectivamente sí que puede hacer mucho, pero todo esto lleva y arrastra una enorme economía de los datos. Entonces, lo lo decía Lorena, ¿no? Hay hay lugares en el sur global donde son decenas de millones de personas que están levantando datos, que están, digamos, entregándole toda esa gran masa de recursos que necesita la inteligencia artificial para entrenarse a sí misma, que es uno de los miedos que que plantea Modei, ¿no? El el CEO de Antropic, ¿no? Que es que es esta idea de que eh de la de la automejora, ¿no?, que una inteligencia artificial entrena, que ella no solo la alimenta, sino que ella misma puede coro y ella misma crece. Todo esto, como lo hablamos ahora con el doctor también, esto es de un costo enorme y esto implica también que aún cuando esto está cambiando toda la escena laboral y toda nuestra vida personal, pues aún hay muchas preguntas sobre si este modelo, ¿no?, que es tan costoso puede tener un futuro financieramente hablando. Y si no, es una burbuja un poco, ¿no? Pero lo que quiero significar es que efectivamente la transformación es de un nivel transversal muy grande, no solo en la vida de nosotros, sino de todo el mundo y de los sistemas económicos hoy en el mundo. Bueno, Ilon Musk incluso habla de un centro de datos en la Luna, creo, o en Marte Mosque está loco, así que [risas] no lo metamos en la sigamos metiendo en la pedido del doctor Rojas, eh, ya no vamos a mencionar ahí no más. E, doctor Rojas, esto también tiene un impacto en el medio ambiente, en nuestro aquí, nuestra ahora nuestra naturaleza. ¿Nos puede comentar algo al respecto? Bueno, sí, para mí el problema actual más urgente de la humanidad es el del calentamiento global, independientemente de la inteligencia artificial o no, porque lo estamos viendo, o sea, incluso reduciendo los niveles de emisión de CO CO2, drásticamente la temperatura todavía va a seguir subiendo por un determinado tiempo. Yo diría que la inteligencia artificial pudiera ayudar a hacer procesos más eficientes, pero todo lleva un costo asociado y estábamos viendo en el video la cuestión del empleo. Hay una cuestión que que es muy contradictoria. La la planta de Tesla, las de las mayores del mundo está en California. El, no quiero mencionarlo, pero no, no [risas] de de Tesla, simplemente está en California, que es absurdo porque los salarios ahí son mucho mayores que en otras partes de Estados Unidos, pero ¿por qué está en California? Porque ya no hay trabajadores, porque todo está automatizado. Producen con un mínimo de de trabajadores ahí. Y eso lo estamos viendo ahora, por ejemplo, con Volkswagen. Volkswagen está tratando de reducir su planta de trabajadores 10% en los próximos años porque ya no pueden competir contra ni contra estas compañías automatizadas ni contra las compañías chinas que están siguiendo el mismo camino. Entonces, la tecnología está teniendo un efecto inicialmente muy alto sobre el empleo, sobre las posibilidades de empleo de la población. Mm. Y bueno, todos quisiéramos ser filósofos y dedicarnos el día a filosofar y pero, ¿quién va a producir quién quién me va a pagar un salario para que yo pueda adquirir? Pero ahí hay esos ahí hay una contradicción, una contradicción y bueno y se habla mucho del efecto también de los centros de datos sobre las materias primas, el agua y el y el y el y el clima y en efecto hay un hay un efecto negativo de esos centros de datos y bueno, tampoco no hay que ir ni a California. Acá en Brandenburg también hay una planta de Tesla y ahí también ya se están viendo los efectos en el medio ambiente. No nos queda mucho tiempo. Me gustaría hablar primero escuchemos lo que lo que dijo el Papa. Vamos con eso y después hablemos de si existe algún tipo de conciencia de esta inteligencia artificial y si tienen derechos a más derechos. Vamos a ver qué dijo el Papa sobre la inteligencia artificial y continuamos. Por un lado, el desarrollo tecnológico, la repercusión de los grandes medios de comunicación y las redes sociales, así como el uso cada vez mayor de la inteligencia artificial, están abriendo nuevas posibilidades, derribando barreras y acortando distancias. Por otro lado, las relaciones tienden a volverse cada vez menos personales y más virtuales y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones propias exclusivamente de la conciencia humana. Lorena, tú has estado en el Vaticano discutiendo de estos temas. ¿Por qué es tan importante discutir y decidir sobre el punto de la conciencia en este debate? El punto de la consciencia es fundamental porque en el momento en que se acepta a nivel religioso que las máquinas tienen conciencia, no tenemos que discutirlo a nivel científico y con ello se trata de un credo. Y en el momento en que una institución tan grande como el Vaticano, con más de una un millar de creyentes, algunos de ellos en posiciones políticas, por ejemplo, en el gobierno alemán, el partido político que que lleva la cancillería es cristiano. Pues en el momento en que esto ocurre, que se asume como credo que las máquinas tienen consciencia, tenemos que empezar a hablar de derechos de las máquinas que tienen que [resoplido] convivir y coexistir con los derechos humanos, es decir, que restringen a sí mismo en consecuencia los derechos humanos. Y con ello e desviamos también la cuestión de todo lo que es la responsabilidad, porque de repente ya no se trata de la responsabilidad de empresas a la hora de priorizar de forma legítima el acceso al agua dentro de una comunidad, sino que se trata del derecho de las máquinas al agua. y con ello estamos reformando todo lo que es la idea del derecho en en en todo lo que es a nivel internacional, a nivel local y a nivel también pues nacional. Y eso tendría un impacto bastante fuerte. Y por ello vemos que eh precisamente los científicos dentro de la IA que dicen que se tiene que saber para poder hablar de ello están cooptando palabras de otras ciencias [resoplido] como por ejemplo la palabra inteligencia misma o la palabra conciencia o por ejemplo ahora el caso de Navio Stock es un caso matemático, no es un caso de inteligencia artificial o el caso de ciberseguridad que tampoco es un caso de inteligencia artificial. E los dos ejemplos que ponía el señor Rojas son ejemplos de otras disciplinas que la IA y los ingenieros de la IA cooptan sin ningún problema de cooptarlo sin acabar de entender esas ciencias para luego afirmar que lo están haciendo. Vamos a dejares todo esto es importante. Vamos a dejar que el doctor Rojas responda al respecto y de ahí ya no nos queda mucho tiempo. Sí. Miren este, yo no me he encontrado ninguna máquina consciente hasta ahora, ni creo que me la vaya a encontrar mañana, ni creo que me la vaya a encontrar la próxima semana. Así que hablar de los derechos de las máquinas me parece eh por lo pronto por lo pronto este muy apresurado. Y eh otra cuestión es que eh yo sí estoy alarmado. Yo vengo de la inteligencia artificial y me sorprendo de encontrar gente que no está en el medio, que no está alarmada, que dice todo es unaidad de la conspiración, todo es una cuestión de que están haciendo mucho ruido para subir sus valores en el mercado. No es así. Si algún valor puede tener mi intervención hoy en día en este panel es que ustedes también estén alarmados. Y con eso ya está en realidad respondiendo mi última pregunta que es el título del debate de hoy. Oportunidad o amenaza, inteligencia artificial. Es una realidad y es una realidad preocupante, Juan Sebastián, es una estoy de acuerdo, es una realidad y y no y creo que no hay que evadir la responsabilidad, incluso cuando la tecnología efectivamente está avanzando muy rápido y tiene un potencial enorme para ser para transformar. O también [música] es una oportunidad, pero pero identificando quiénes son los principales responsables y identificando también unas reglas, una oportunidad revolución tecnológica con reglas reglamentada. Y Lorena, la última palabra, corta, por favor, oportunidad o amenaza. Es una realidad, pero no es inevitable y es preocupante. La conclusión del panel de hoy, la inteligencia artificial es una realidad, pero hay que regularla. Muchísimas gracias por acompañarnos en este programa de Aondo. Es mi último programa en este debate. Ha sido un placer y un honor acompañarlos durante estos años. Gracias también a mi ronda de debate. Gracias. [música] [música] [música] [música] ¿Cómo lo van a parar? He.

Assistir ao vídeo original no YouTube

Assuntos: Agentes de IA. Publicado no YouTube em 2026-09-17.

Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.