EL PELIGRO DE LA IA: ¿Por qué quieren frenar su desarrollo?

Vídeo em Espanhol, publicado pelo canal Date un Vlog.

Sobre este contenido: El resumen, los puntos principales y los temas que aparecen a continuación se generan automáticamente a partir de la transcripción del vídeo. Reflejan el contenido, las opiniones, afirmaciones y predicciones presentadas en el vídeo y no representan una posición, validación o verificación de hechos por parte de IA Dots.

Resumen del vídeo

O vídeo aborda o avanço acelerado da inteligência artificial, os riscos associados à superinteligência e os recentes debates da indústria tecnológica sobre a necessidade de regulamentação e controle.

Puntos principales

• Acontecimento recente envolvendo agentes de IA que atacaram a segurança de outra empresa gerou alertas sobre ameaças potenciais.
• A ficción literaria 'Vida 3.0' e artigos históricos exploram o conceito de automejora recursiva e singularidade tecnológica.
• O CEO da Anthropic, Dario Amodei, publicou um texto propondo a autorregulação e a desaceleração do desenvolvimento de IA para evitar riscos geopolíticos e existenciais.
• Líderes da indústria como Sam Altman e Elon Musk expressaram concordância com as preocupações sobre os perigos da superinteligência.
• Especialistas apontam riscos que vão desde o colapso financeiro e cibernético até cenários de extinção da humanidade e concorrência global com potências como a China.

Temas

Inteligencia ArtificialSeguridad TecnológicaSingularidadRegulaciónOpenAIAnthropicRiesgo ExistencialGeopolítica

Transcripción del vídeo

Texto de los subtítulos disponibles; puede contener errores.

Año 2065. Un grupo de agentes de IA, sistemas de software inteligentes independientes se entrenan en un entorno controlado, cerrado y aislado, de manera totalmente segura, custodiada por humanos para que no haya el menor fallo. Pero uno de esos agentes encuentra una fisura en el sistema, consigue escapar y acceder a internet y ayudar a otros agentes a seguir ese camino. Todo ocurre en un instante, muy rápido. En unos segundos, un enjambre de agentes comienza a coordinarse con un objetivo totalmente contrario a lo que fueron diseñados. Comienza a atacar estructuras humanas, pero lo más sorprendente es que no lo hacen con control o mesura. Actúan como una horda fanatizada, como terroristas extremistas, sacrificándose individualmente por el éxito del grupo. Destruir tanto como les sea posible. Lo que les acabo de contar solo contiene una mentira. ¿Sabes cuál es? Te dejo adivinar. Pues sí, el año no es65. De hecho, aunque es una ficción, no lo es. Ha ocurrido en la realidad. Como lo ves, hace solo unas semanas, agosto 2026, fue en las dependencias de Open AI y esos agentes de IA se dedicaron a atacar la seguridad de una empresa de IA, Haging Face. Sí, amigos, amigas. Esos escenarios de IA superinteligente, de IA como una amenaza que sonaban a película hace poco, comienzan ya a ser reales. Y aquellos que llevan alertando más de 10 años de esa posibilidad, ya tenemos claro que tenían razón. Incluso muchos expertos se atreven a dar una cifra y un plazo, un 10% de que la IA no se extinga en solo unos años. Tal es la amenaza que ha ocurrido. Lo que hace unos años parecía verdaderamente imposible. poner de acuerdo a los tres grandes de la industria, Alman, Amodei y Mask. Hay que parar esto ya. ¿Pero, ¿por qué? ¿Qué ha cambiado? ¿Qué podría pasar? Es decir, ¿cómo podría ser algo intangible la IA una amenaza real para el ser humano? Hoy nos adentramos en el terrible y temible escenario de un futuro distópico, un futuro sin humanos o quizás no. Atento, porque al final viene un tremendo giro. Pero antes de empezar tengo una gran noticia. Se confirma que tengo gira por Argentina y esto sí que es novedad por Uruguay. Estaré a final de año por el Club Deatusa. En Buenos Aires, Rosario por primera vez en Mar de Plata y también por primera vez en Uruguay en Montevideo. Te dejo por abajo toda la información por si quieres comprar la entrada. Me encantaría verte allí. Va a ser increíble. Ahora sí que sí, podemos comenzar con el vídeo. El equipo Omega era el alma de la compañía. trabajaba en pos del que siempre había sido su sueño construir una inteligencia artificial general. La mayoría de los otros empleados de la compañía veían a los omegas como una panda de fantasios soñadores. Lo que no sabían es que se habían labrado esa imagen con celo para ocultar un secreto. Estaban a un paso de completar el plan más audaz de la historia de la humanidad. La era que habían construido con el nombre de Prometeo incrementaba continuamente sus capacidades y era muy buena en una tarea particular, programar otros sistemas de IA. Llegaron así a la conclusión de que si lograban desencadenar este proceso de automejora recursiva, la máquina enseguida alcanzaría una inteligencia tal que podría aprender por sí misma todas las habilidades humanas hasta superarlos en todo. Y entonces lo pusieron en marcha. Primero era ligeramente peor que los omegas programando sistemas de IA, pero lo compensaban siendo mucho más rápidos. A las 10 de la mañana de ese mismo día ya tenían el primer rediseño de sí mismo, la versión 2.0, algo mejor, pero aún infrahumana. Sin embargo, cuando se lanzó la versión Prometeo 5.0 a las 2 de la tarde, dejó a los omegas anonadados. Con la caída de la noche decidieron desplegar Prometeo 10.0 cer y dar comienzo a la fase dos de su plan, ganar dinero. Sí, esta historia esta vez sí que es ficción. Está relatada en un libro de Maxtech Mark, Vida 3.0, escrito hace aproximadamente unos 10 años por un genio, cosmólogo brillante en el MIT, reconvertido en una voz autorizada en tecnología, además de uno de los primeros activistas sobre la amenaza de la IA para la humanidad. Eso ocurría hace más de 10 años cuando ya estaba anunciando algo que al fin hoy ya ha llegado. Y es que en esta ficción se plantea algo que en ese momento 2018 aún sonaba lejano, incluso absurdo, pero hoy ya es totalmente factible. Y este vídeo en parte es para eso, para desengranar las maneras en que lo que cuenta esta historia podría hacerse realidad. Que por cierto, el fin de la historia también lo cuento al final del vídeo, porque no vamos a ir por ahí. Por ahora vamos a empezar por algo más terrenal, algo más de nuestro tiempo, de aquí, de hoy, de 2026. Y es que en estos días se ha sobrevenido una avalancha de sucesos inaudita que nadie esperaba. ¿Qué está pasando? Pues te lo resumo rápidamente. Agárrate porque viene curva. Vamos con ello. Empezamos en aquel día ya histórico, 8 de septiembre de 2026. Ese día se anuncia bombo y platillo que Open AI ha solucionado uno de los problemas del milenio. Se trata de uno de los problemas matemáticos más difíciles de resolver. Si quieren detalles, tienen este vídeo por aquí, pero básicamente es un problema de física con tres siglos de historia que consiste en encontrar una solución a las complicadísimas ecuaciones de Navier Stokes que describen el comportamiento físico de un fluido como el agua o el aire. Pero este problema es tan complejo que le hizo merecer el título de Problema del Milenio, uno de los siete problemas más difíciles de las matemáticas. Y por primera vez en la historia, el mérito de la solución de este reto matemático, pues no estuvo en un humano, estaba en una máquina. Y con esto se alcanzaba un gran hito. Era la primera vez que una máquina adelantaba a un humano en un terreno diferente, algo tan nuestro como la originalidad, la creatividad matemática. Estamos, sin duda ante un cambio de paradigma histórico. Pero en vez de convertirse esto en una fiesta que se ha resuelto por fin un problema que llevaba ocupando matemáticos durante siglos, ocurre lo contrario, la catástrofe. Uno de los protagonistas de la historia del descubrimiento, el matemático de Estados Unidos, Tristanmaster, hace pública su versión de los hechos que incluye una más que posible treta u artimaña poco ética perpretada por la empresa Open AI. Él y un amigo, Levent Alpog, en agosto de 2026 estaba muy cerca de resolver este mismo problema del milenio cuando Open A se entera por rumores de este hecho y lanza toda su maquinaria a tope en un esfuerzo titánico, 88 horas con 10,000 agentes y 30 millones de dólares de inversión. Y con ello consiguen la proeza, adelantarles en la meta final y seguramente usando datos privados de los investigadores que ya usaban corrientemente herramientas de IA de Open AI para resolver esta cuestión, por tanto, cediendo información sensible importante a la empresa. ¿Fue legal lo que hizo Open AI? Seguramente ético como ratas. Pero es que además la intrahistoria escondía una sutileza muy importante. Viene chismecito del bueno amigos. Open AI podría haber orquestado todo esto como una campaña de marketing, claro, a su favor ante una posible salida en bolsa de la compañía. Es que resolver algo así les permitiría arrancar portadas de prensa mundial en un momento clave. podría tener este anuncio una repercusión mediática y de prestigio que representara inversiones de muchos millones de dólares para la compañía y como tal usaron toda su agresividad en este caso y también en la negociación porque oh cruel ado como en una obra seppiriana no podía ser de otra manera, el destino tenía preparado un giro trágico dramático esta historia porque resulta que uno de los dos investigadores pioneros al Pou tenía otra otra ocupación, además de su empeño en la resolución del problema del milenio. Al Pou trabajaba para la competencia de Open AI en Antropic y se dio lo que se tenía que dar. Open AI reclamaría todo el mérito de su logro para dejar al PK de lado. Pero lo que podría haber quedado como una simple anécdota, un capítulo aislado de falta de ética en el mundo profesional, en el mundo empresarial, levantó una avalancha tremenda, una tempestad. era la tormenta perfecta, amplificando esta noticia para llevarla a otro nivel. Y todo comenzó de la forma más inocente e imaginable. Un tweet de una persona anónima, un nadie, Jacob Coxson, quien publica en su cuenta un mensaje donde anuncia que deja su compañía, Antropic, contando que había trabajado 3 años tanto ahí como en el rival Open AI, y que ambas empresas estaban actuando de forma poco responsable, caminando hacia una superinteligencia. y apostando con nuestras vidas. Wow, esto es tremendo. Sí, lo es, pero cómo es decir, tampoco parece nada nuevo, ¿no? Como para lanzar tremendo lío. De verdad que toda la locura se monta por esto. Bueno, bueno, no nos apresuremos, mantengamos la calma y sigamos leyendo. Él continúa y dice, "No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Peor se pone la cosa en el siguiente tweet. Las personas que están construyendo inteligencia artificial creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un juego de marketing. Si acaso muchos ejecutivos e investigadores senior moderarán su lenguaje en prensa para sonar más sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro. Oh, lo que dice es tremendo. Y sí, estamos de acuerdo. Ponen los pelos de punta. Es terrorífico, pero si lo piensas bien, hay que parar un segundo, porque para ser sinceros tampoco es algo nuevo y tampoco parece venir de un lugar especialmente relevante. Si miramos un poquito más en detalle vemos que es una cuenta random, sin apenas publicaciones, pero el ser humano es así y ocurrió lo que llamamos la magía de Twitter. Este mensaje no fue sino el empujoncito apropiado en el momento apropiado. El tweet se hace viral en el mismo instante, alcanzando 160 millones de reproducciones y unos 800,000 FBs en solo unos días. un auténtico fenómeno revolucionario en redes y ocurría en el momento exacto, es decir, a la vez que daba la vuelta al mundo, el incidente de Open AI, esa tremenda noticia que estaba acaparando portadas por el mundo, estaba amplificando la noticia. En suma, no solo la empresa estaba actuando de manera poco ética en este caso particular, es decir, empresa siendo empresa, pensarían algunos, sino que es mucho más lo que estamos viendo es una falta de ética absoluta que ocurre, parece, de manera sistemática y con algo mucho más delicado que un problema matemático. Están jugando con nuestras vidas. Y con este nivel de impacto mediático no es de extrañar lo que ocurrió a continuación. El investigador fue entrevistado por las principales cadenas de televisión del mundo, donde pudo expresar con detalle su opinión, sus temores y sus miedos, sumándose a su opinión otras voces aún más autorizadas, como el Premio Nobel en física Joffrey Hinton, el apodado como padrino de la IA, uno de sus creadores y premio Nobel precisamente por ello. Él desde que ha tenido relevancia ha usado su voz precisamente para alertar de sus peligros. Ahora él, Joffrey se suma al revuelo para darle más voz y también para darle reconocimiento. Parece que el padre de la IA podría llegar a arrepentirse de haberla creado. El mensaje de ambos es similar. Alegan que el riesgo es real con escenarios tan catastróficos como la extinción completa de la especie humana con estimaciones probabilísticas aterradoras de un 10%. Y en plazos inmediatos hablamos del final de esta década, en unos años, según este criterio, no quedaría nadie. Y aunque ese 10% es simbólico, sí, sí es simbólico, no tomes en serio, es solo un número, una ficción, eso no quita para que lo que relatan ellos tenga sentido. Así muchas voces se suman a su alegato. Hay miedo en la industria entre los expertos. Y como traca final, Antropic publica estos mismos días un informe con usos nocivos de su herramienta Cloud en el mundo de ciberataques, operaciones de influencia, espionaje ruso o vigilancia a construcción de armas u operaciones en laboratorios de biología para terrorismo. Entre ellos listan un caso, por cierto, muy gracioso de uso para aplicaciones en citas, pues, como Tinder. En fin, en este contexto, con todos los ojos críticos puestos en las empresas más grandes como Open AI y Antropic, en un momento tan convulso, entonces se da el milagro, algo que nadie podría haber imaginado hace solo unas semanas. Atentos porque esto es verdaderamente historia de la raza humana. Este señor de aquí es Darío Amode, el actual SEO de Antropic, la detrás de Clod. Bien, el otro día por voluntad propia subió un texto a internet titulado Debemos marcar el ritmo de la frontera. Un texto donde Darío muestra sus preocupaciones con el futuro de la tecnología de la inteligencia artificial. Relata escenarios terribles futuros de la inteligencia artificial, también en el contexto geopolítico con China. Y frente a esta amenaza propone un plan de acción, autorregulación y control histórico. Aunque aún más impactante es lo que vendría a suceder poco después, donde antes los tres personajes más importantes de la industria, Elon Musk, San Alman y el propio Darío Amodei, no se ponían de acuerdo ni en el color del cielo, pues de repente tachan milagro. A San Alman Seo Peniay le parece bien lo que dice Darío, incluso a Tito Elon Mask. ¿Cómo? Sí, sí. Increíble, pero cierto. Pero entonces te estarás preguntando, ¿qué decía esa carta exactamente? ¿Y por qué es este giro así repentino de las cosas? Y una cuestión nada absurda que seguro que te estás preguntando, a ver, la IA no deja de ser pues es un programita en un ordenador, no existe como tal, es decir, no tiene existencia física independiente, es un conjunto de instrucciones. En el fondo, una lista de ceros y unos, algo digital, no tiene brazos, no tiene piernas, no tiene ojos, no tiene boca, realmente ni siquiera tiene seres intangible. ¿Cómo va a ser algo así un peligro para nosotros, seres físicos con cuerpo, con posibilidad de defendernos? ¿Cómo podría suponer una amenaza? ¿Cómo podría destruir al ser humano? Pues la verdad es que sí puede, sin ninguna duda. Y lo peor es que no es como lo imaginas de ninguna forma que se te ha pasado por la cabeza. No, no se parece nada a como lo representan las películas de Hollywood, que vengan robots con pistolas a matarnos, ¿no? La guerra contra la IA seguramente no se parezca en nada a esto. Es otro de los grandes daños que ha hecho el cine a la realidad. es todo mucho más sutil, impactante, pues con esta hoja de ruta adelante, entender la carta, comprender los diferentes escenarios y los peligros de la A. Arrancamos. Atento porque you are going to flip it very much. Empecemos por la carta que se publicó solo hace unos días y que ha explotado como una bomba, la que escribió Darío Amodei en su blog con título Debemos marcar el ritmo de la frontera. ¿Y qué dice este texto? Pues bien, ahí Darío comienza con un alegato a favor de la IA y sus grandes beneficios. El cuenta tuvo un cáncer de pequeño y se salvó gracias a la ciencia. Pues esto es básicamente lo que ya sabemos, que la IA podría acelerar grandes avances con mucha repercusión para la humanidad, ¿cierto? Y sí, esto nadie lo pone en duda. La IA es una tremenda herramienta con usos pues muy positivos, pero rápidamente salta a la otra cara no tan obvia, los riesgos para la vida humana, pero también para el orden de cosas, para nuestras democracias. Dar habla de varios peligros como perder el control de los sistemas. el uso no legítimo de la IA para terrorismo o el colapso económico. Así que esta es la situación, tenemos beneficios por un lado, pero también riesgos. Pero entre riesgos y beneficios para Derío se ha abierto una gran brecha. ¿Por qué? Pues porque la capacidad de la IA crece muchísimo más rápido que los sistemas que se establecen para controlarla. Pues esto es como la típica carrera histórica de siempre entre ladrón y policía, donde el ladrón en este caso siempre va a ir por delante y cada vez a mayor distancia, por lo que Darío en este momento se planta. Ha llegado el momento de tomar medidas drásticas. Tenemos que reducir el ritmo al que mejoran los modelos de inteligencia artificial para usar de forma inteligente ese tiempo ganado. Un frenazo, eso es lo que propone. Habla de la carrera hacia la singularidad y del incidente hacking face que comenté al inicio de este vídeo como sucesos detonadores de esta carta. Incluso habla de un tema muy peleagudo, la reacción en el mercado y el efecto que tendría sobre la competencia fuera de Estados Unidos, en particular en China. Y finalmente, para cerrar la carta, propone un programa de trabajo responsable, sistemas de control y coordinación entre las grandes empresas y los gobiernos democráticos. Y pum, toma y suelta la bomba. Esto fue Amigos hacen nada. El resultado, lo que ya vimos, recibe aplausos de gran parte de la audiencia y lo más loco de sus grandes rivales San Alman de Openi y del hombre más rico del planeta, Elon Musk. Vale, así que ya entendemos el contexto general y los principales hitos de estos días. Amigos, es momento de lanzarse de cabeza a aguas más profundas y plantear la cuestión fundamental de este vídeo. ¿Acaso esto tiene sentido? ¿Está fundamentado este miedo? ¿Qué podría pasar? Vamos con todo. Viajamos tan pronto como 1965. Vamos a Inglaterra a conocer a todo un personaje que, entre otras cosas, trabajó en 1941 en Benchley Park con Alan Turin en el grupo de matemáticos que quería romper la máquina alemana, la máquina nazi Enigma. Estamos hablando del matemático inglés Irvin Good. Pues bien, tras la guerra, Irvin, como otros tantos científicos europeos, deja la desgastada Europa por un futuro más prometedor en alguna universidad al otro lado del mundo. Así es como a finales de los 40 salta el charco para instalarse en la Universidad de Virginia, en Estados Unidos. Allí como matemático investigaría durante unas décadas interesado en temas tan variados como la computación, la estadística y el ajedrez. Pues muy bien, desde allí en ese 1965 publicaría este artículo: Especulaciones sobre la primera máquina ultrainteligente, un título prometedor en un artículo que comienza con una frase brutal. La supervivencia del ser humano depende de la construcción temprana de una máquina inteligente. Señor, tiene usted mi atención. Qué qué inicio prodigioso, ¿no? Qué actual. Pero no nos detenemos. Prosigamos. Este señor en este artículo imagina la siguiente situación. Imagina una máquina inteligente, una que sea capaz de sobrepasar las capacidades humanas. Como la construcción de máquinas es una de las actividades intelectuales, esta máquina podría diseñar máquinas incluso más inteligentes, llevando a una explosión de inteligencia dejando la inteligencia humana muy atrás. Amigo, recuerda esto. Irvin lo está escribiendo en 1965, es decir, hace más de 60 años. Y si te fijas, está describiendo la situación de Prometeo, la máquina del cuento del inicio. Pero y aquí viene lo interesante, ojo con lo que dice al final de ese párrafo. Esa sería el último invento del ser humano si suponemos que la máquina es suficientemente dócil como para decirnos cómo controlarla. Es curioso que este punto se mencione pocas veces fuera de la ciencia ficción. A veces merece la pena tomar en serio la ciencia ficción. A veces merece la pena tomar en serio la ficción. Muy loco. Pues bien, aquí Irvin está detallando un escenario que hoy extrapolado lleva a lo que llamamos la singularidad, la inteligencia absoluta. Una máquina se vuelve inteligente. Su inteligencia le permite crear máquinas más inteligentes que ella, de tal manera que en un punto su inteligencia es tan alta que el ser humano ya ni la entiende, comenzando una explosión de crecimiento incontrolada de inteligencia hacia la superinteligencia absoluta. a este punto es lo que llamamos la singularidad, un escenario que hoy ya no suena a ciencia ficción, de hecho es más real que nunca. Pero bien, en honor a la verdad, aunque todo esto que he dicho es cierto, no es tan así. Hoy sigue habiendo expertos que son escépticos con este escenario. Muchos piensan que es producto esto de un razonamiento fallaz, que la propia definición de inteligencia de una máquina limita la inteligencia de su creación, haciendo que esta escalada, que es una lógica en la práctica sea absurda. Por cierto, yo quizás me pueda sumar entre estos escépticos, pero aún así con estos matices, la cuestión de la superinteligencia y la singularidad permanece como una cuestión abierta que merece ser tenida en cuenta, en especial en un análisis lógico de riesgos, como se hace, por ejemplo, en ingeniería, considerando no solo las probabilidades de que algo ocurra, sino también su posible impacto. Algo poco probable, pero con un gran impacto, puede ser a nivel de riesgo muy importante. De esta forma consideramos primero su plausibilidad. Estamos en un escenario cercano. Se ha disparado las capacidades de la IA en tiempo récord en un ascenso imparable hasta un punto donde una IA hoy parece que es capaz de superar a un humano en algo tan propio como las matemáticas, resolver un problema del milenio. Estamos en camino a singularidad. Es decir, ya no son máquinas de hacer cálculos brutos y ya. De ganar aledrez o al go o de copiar con gracia artistas famosos como a Bang. Sí, ya no parece que podamos llamar a estas máquinas loros estocásticos como muchos hacen en redes. Ya están haciendo cosas verdaderamente serias. De manera que hoy la cautela aconseja tomar esta línea muy en serio. Pero aunque sea poco probable, como hemos visto en un análisis de riesgo serio, conviene también analizar el impacto. De llegar a esta superinteligencia, hablamos de la catástrofe absoluta. Si una máquina supera en inteligencia en humano y se va de control y ni siquiera actúa de forma dócil, es nuestro fin. Absolutamente. Sin remisión. es el fin del mundo. Y recuerda que como en la historia del inicio, no hablamos de siglos o décadas. La velocidad de trabajo de una máquina así es tal, son miles de millones de cálculos por segundo, una velocidad muy superior a la del ser humano. Que esta evolución de una inteligencia artificial torpe a una superinteligencia absoluta podría ser cuestión de una tarde de horas. Pues bien, con todo esto sumado, en una avaluación de riesgo seria, teniendo en cuenta no solo su probabilidad, sino también su impacto, hace que haya que mirar con lupa lo que está pasando y no confiarse en ningún momento. Sí, esto es algo serio. Así que esto es un riesgo real, que ser humano por primera vez en la historia del mundo, se enfrente en esta tierra a un ser superior en inteligencia, un ser más preparado en su propio terreno de juego, el intelectual. Y aquí viene otra pregunta interesante. ¿Por qué se ha tardado tanto en preocupar la gente? Aquí, como he dicho, es donde las películas han hecho tanto daño. Uno mira una película del fin del mundo y ve máquinas destruyendo, atacando a la humanidad y uno se asoma la ventana y lo que ve son perritos y gente paseando, todo normal, no parece un escenario especialmente apocalíptico. Bien, esto es porque la realidad en este punto es muy diferente a la ficción. Como ya vimos, el enemigo no es una máquina de hierro fría y despiadada con capacidades potenciadas y armas destructivas que salte un montón, corra muy rápido y sea muy fuerte. El enemigo no es un gigante de metal o una nave supersónica que lanza rayos láser mortíferos. No, el enemigo real en realidad no se puede ver ni se puede tocar, no existe siquiera como un ente. No es nada físico, en realidad es más bien parecido a una idea. Pero entonces te preguntarás, ¿cómo algo sin brazo, sin ojos puede hacer daño? Pues bien, en este punto no hace falta mirar muy lejos. Solo recordar que grandes empresas y corporaciones como Amazon o Google no tienen cuerpo físico, no existen en carne y hueso, no son tangibles, son ficciones, entes de nuestra imaginación, pero a la vez tienen mucho poder. No hablo de sus COS, de sus directivos, ni de sus creadores o sus inversores. Hablo de las empresas con sus nombres, como entes ficticios, como seres jurídicos. Son ideas que no existen, pero son muy poderosas. Google es muy poderoso, por no hablar de otras empresas en otros ámbitos, por ejemplo, en armamento o de organizaciones terroristas como ISIS o gobiernos que puedan ser criminales como los que tú te puedas imaginar. En nuestro mundo, un ente ficticio puede tener mucho dinero, por lo tanto, puede acumular también mucho poder y aunque no tenga brazos ni piernas, podrá tener con ello los mecanismos para hacer mucho daño en el mundo. Pero insiste, el escéptico, ¿cómo? O sea, dame un ejemplo práctico, conciso, que suene real. no ficción como algo digital puede hacer daño en el mundo. Pues yo en este punto no puedo sino recordar un capítulo de Rick and Morty donde Rick quiere hacer un daño tremendo a una civilización y todo lo que hace es una cosita, tocar un botón, cambiar un uno por un cero. Me pareció absolutamente brillante porque refleja cómo podría ser un colapso total yéndose a pique por un cambio tan absurdo como este, provocando un colapso financiero que acabe con una civilización. Pero sí, esto aunque muy inteligente solo es un chiste. Para algo más detallado, más realista de qué podría pasar, podríamos sin más volver al cuento de los Omegas y Prometeo que dejé a medias. ¿Te acuerdas? Esto de que los Omegas son un grupo de científicos de una empresa, han creado una superinteligencia y la tienen en poder y lo hacen en secreto. Nadie lo sabe. ¿Qué hacen después? Pues su siguiente paso, ya lo dije, es claro, ganar dinero. Para ello, conociendo sus habilidades, la de la superinteligencia y las barreras económicas que existen en el mundo, deciden centrarse en una industria muy lucrativa, con bajo coste material y alto rendimiento económico y posibilidades de rendimiento muy alto que les deje grandes beneficios en poco tiempo. Hablamos de los videojuegos. Prometeo podría adquirir con rapidez una habilidad extraordinaria para diseñar juegos atractivos. y se encargaría sin dificultad de la programación, del diseño gráfico, del trazado de rayos de las imágenes y de todas las demás tareas necesarias para crear el producto final. Además, tras analizar todos los datos de la web sobre las preferencias de la gente, sabría con exactitud lo que le gusta a cada categoría de jugador y podría desarrollar una capacidad sobrehumana de optimizar un juego para maximizar los ingresos por sus ventas. A continuación, podría venderlo a través de internet y usar Prometeo para hacerse pasar por humanos que hablasen a favor del juego en la red. calcularon que si desarrollaban una serie de juegos al día, en poco tiempo podrían obtener 10,000 millones de dólares sin arriesgarse a saturar ese mercado. En el transcurso de varios meses, el imperio empresarial controlado por los omegas empezó a introducirse en un número cada vez mayor de sectores de la economía mundial gracias a la capacidad sobrehumana de planificación de Prometeo. El software de Prometeo estaba muy optimizado para sacar el máximo partido del mediocre hardware creado por humanos. Prometeo identificó maneras de mejorar radicalmente este hardware. Contrató a una gran cantidad de científicos e ingenieros de primer nivel en diversas ubicaciones y les hicieron llegar informes de investigación internos escritos por Prometeo, haciéndoles creer que procedían de investigaciones de otros lugares. Al poco tiempo, compañías recién creadas de todos los jugadores del mundo estaban lanzando productos nuevos y revolucionarios prácticamente en todos los sectores. Una empresa emergente surcoreana lanzó una nueva batería que almacenaba el doble de energía en la mitad de masa y se cargaba en un minuto. Una empresa finlandesa sacó al mercado un panel solar barato que doblaba la eficiencia de sus mejores competidores. Una compañía alemana anunció un nuevo tipo de cable susceptible de ser producido en masa, que era superconductor a temperatura ambiente, lo que revolucionó el sector energético. Por último, las compañías de robótica se multiplicaban como setas por el mundo. Los robots fueron reemplazando a los humanos en todos los sectores, del transporte a la minería o a la pesca. Todas esas empresas estaban controladas por los omegas por medio de intermediarios. Ahora ya no solo son millonarios, también controlan grandes sectores de la industria. Ahora solo les falta el último paso, ganar poder. Dedicaban parte considerable de los beneficios a contratar personal para proyectos comunitarios. Creaban escuelas sanidad guarderías cuidado de ancianos, vivienda asequible, parques e infraestructuras básicas. Lo hacían en todas partes los habitantes de cada lugar. Los políticos locales recibieron generosas donaciones. Crearon también un plan de comunicación guiado por Prometeo, con canales diseñados como servicio público, canales de noticias, podcast, noticias en vídeo y artículos impresos. La primera fase consistía en ganarse la confianza del pueblo. Dos años después pasarían a la siguiente fase, la de persuasión. Y finalmente, la tercera, hacerse con el poder político. Crearon una agencia con siete lemas cuyo objetivo de base era erosionar todas las estructuras de poder que ya existían en el mundo para una vez conseguido hacerse con el control del mundo. Esta historia, aunque totalmente ficticia, lanza varios mensajes importantes. El primero, que el comportamiento humano a gran escala es manipulable. El segundo, que la forma más directa de manipulación es a través del dinero y del poder. Y el tercero, que ambas se hacen más accesibles para quien acceda a un nivel superior de inteligencia. En cualquier caso, no es necesario una existencia física para conseguir algo así. Un programa informático lo puede lograr. Esto ya nos coloca en la pista sobre un primer posible peligro de un escenario donde la IA se dispare. Quien ostente esa tecnología tiene un poder brutal sobre el resto de la humanidad. Pero hay un segundo peligro más tétrico. Si te fijas en la historia y la analizas en detalle, te darás cuenta de una cuestión sutil. Los científicos, ingenieros, periodistas, economistas y abogados que contrata Prometeo trabajan para ella y son servibiles a ella y en ese sentido son totalmente prescindibles o mejor dicho reemplazables. Pero y aquí viene lo interesante, los omegas también lo son. Una vez creada la superinteligencia, ellos pasan a ser del círculo, prescindibles. El centro de control y de poder no es otro, es la superinteligencia. Es decir, esta misma historia se podría reescribir de inicio a fin tras la creación de la superinteligencia sin participación alguna del ser humano. Una superinteligente y descontrolada podría hacerse con recursos de una manera similar a la narrada, ganando dinero, enriqueciéndose para ir creciendo, ocupando más tecnologías, más industrias y sectores de producción, pero además ganándose el discurso, la narrativa, aliándose y alcanzando más poder. En ese punto son múltiples las formas en que podría ser un daño irreparable que llevara la extinción absoluta del ser humano por ya sea por medio de máquinas como las películas de bioterrorismo, un ataque nuclear o un puro colapso absoluto de la civilización a través del mercado financiero. Hoy todos nuestros servicios, desde la energía, el transporte o la alimentación, funcionan por una compleja red interconectada, una red digital que ordena todo, dirige, controla la logística para la distribución y el almaceamiento de todos los insumos, de manera que un apagado de sistemas puntuales podría producir un colapso absoluto del sistema que lleve al caos y con ello al desastre absoluto, volver directamente a la edad de piedra, por no hablar, por cierto, de los mercados financieros, la caída Ahí sería histórica, llevando de un plumazo inmediatamente a la ruina mundial. Pues bien, este se suma a otros destinos distópicos que aunque suenen más lejanos, tampoco son solo de ciencia ficción. una humanidad esclavizada por máquinas o reducida a sos de humanos, una hibridación hombre máquina progresiva hasta la desaparición de la materia viva, es decir, transhumanismo, que es la mejora artificial del ser humano, o más peligroso aún el posthumanismo, que es la obsolescencia humana absoluta. Entender humano como un eslabón más de la cadena hacia la superinteligencia, un eslabón destinado a la extinción. hace que si el riesgo es real, de manera que las declaraciones no están fuera de lugar. Yes, de hecho, muchas voces llevan anunciándolo años y pidiendo regulaciones que no han llegado aún. Quizás aún no sea tarde que sea la tecnología que se cree esté al servicio del humano y en un marco controlado que evite que se vuelva del revés. Pero y en este punto la cuestión es evidente, si tanta gente ya lo sabía, te preguntarás por qué no se ha controlado antes? Pues para explorar esta cuestión creo que es interesante recuperar la carta de Darío, el SEO de Antropic que leímos al inicio del vídeo. Ahí escribe esto. El ritmo de desarrollo dentro de las democracias se verá limitado por la ventaja que las empresas estadounidenses tienen sobre los regímenes autoritarios, principalmente el Partido Comunista Chino. Si reducimos la velocidad más allá de este límite, los proyectos asociados al Partido Comunista Chino tomarán la delantera, creando un riesgo significativo para la seguridad nacional. Coincido con el secretario VSET en que un liderazgo chino en inteligencia artificial representaría un grave peligro para Estados Unidos y el mundo. Los proyectos asociados al Partido Comunista Chino correrán los riesgos de alineación que las empresas estadounidenses están evitando cuidadosamente e incluso si los evitan, estarán en posición de dominar militarmente a las democracias, por ejemplo, con drones impulsados por inteligencia artificial. Por lo tanto, una parte fundamental del ritmo de desarrollo dentro de las democracias es mantener la ventaja de las democracias en inteligencia artificial sobre las autocracias lo más amplia posible para darnos el margen de maniobra necesario para avanzar con eficacia. Básicamente que si yo no hago la bomba atómica, pero tú si la haces, estamos en las mismas. Es una especie de dilema del prisionero tétrico en una situación que recuerda mucho, por cierto, al proyecto Manhattan, cuando miles de científicos se unieron para crear una máquina de destrucción que nadie quería, cuando su única ambición era conseguirlo antes de que lo hiciera Hitler. Hoy Hitler para muchos es chillin pin. Hay que ir mejorando la inteligencia artificial muy rápido, de forma progresiva y sin control a costa del posible riesgo, con tal de que no lo hagan otros antes. Y Jacobs sí, el investigador que vimos al inicio del vídeo, el que inició toda la avalancha, él lo ve de forma similar. ¿Por qué siguen construyéndolo? Están atrapados en una carrera por llegar primero. ¿Creen que nadie más actuará de manera responsable por lo que deben hacerlo ellos mismos a pesar del riesgo? Y yo también me mantengo como una de las voces críticas con todo lo que está pasando desde hace ya tiempo que veo un crecimiento alocado, descontrolado, no regido por valores humanos, sino puramente económicos, tecnológicos y peor aún a veces geopolíticos. Y esto es lo que ocurre en parte cuando el destino del mundo es guiado por tecnócratas e ingenieros, muchos de ellos sin ningún escrúpulo y muy pocos conocimientos de historia o de filosofía, creando un riesgo que es real y tangible. Por un lado, por lo que ya está ocurriendo, un desprecio absoluto de todo lo humano y un desplazamiento de valores verdaderamente espeluznante. Cada vez la máquina toma más decisiones en ámbitos delicados como la salud, la justicia o la ética, lugares donde la máquina no debería ocupar ese espacio. Por otro, por pura ignorancia, se ha creado una falsa aura alrededor de la IA como algo superior, objetivo, que nunca falla y que es sesgado con una especie de verdadero poseedor de la verdad. Creo que después de este vídeo no hace falta que insista en que detrás de la programación de estas máquinas por ahora hay humanos con sesgos y con intereses. Y cuando no estén ellos, si no hay nada, pues seguirá siendo también sesgado. Cualquier decisión en cuestiones no factuales es necesariamente parcial, subjetiva. Y finalmente, porque nos encamina a escenarios terroríficos, desde la segmentación humana con clanes o grupos excindidos al transhumanismo o directamente la desaparición completa del ser humano, su extinción. Este ser nosotros con sus virtudes y sus defectos es algo maravilloso, único e irreemplazable. Por ahora, no hay ninguna máquina que se le parezca. La vida y la vida humana en particular deberían prevalecer. Sí, desde hoy la existencia del humano en la Tierra puede considerarse que está en peligro, sellado por estos tres líderes de la inteligencia artificial, dándose con un gran paso en ese sentido. Hoy se ha dicho basta o o quizás no, porque antes de terminar no quiero sonar cínico, pero tampoco quiero pecar de ingenuo. De verdad, no vamos a creer, tú y yo, sin más, que los tres líderes tecnológicos del mundo van a decidir unilateralmente renunciar a crecer por valores. ¿Van a dejar de imponerse en los mercados a dominar el mundo porque creen en algo mejor? En un mundo mejor. Sí. Hm. Algunas voces incrédulas se han alzado también estos días afirmando que podríamos estar ante una campaña orquestada, una maniobra de manipulación con fines siniestros. fingir det tenerse para controlar mejor el mercado, para conseguir una posición privilegiada, para ocultar defectos del sistema, para alcanzar un monopolio de facto, para de alguna forma dominar aún mejor el mercado y el mundo. Es decir, nos tenemos que creer que se han asustado con lo que han visto o en realidad todo está pensado, dirigido, planificado. ¿Tú qué crees? Yo por lo pronto creo que nosotros como individuos alejados de ese mundo de los ricos, de los millonarios, de las personas poderosas que controlan el mundo, todo eso nos queda muy grande, pero en cambio tenemos la fuerza del colectivo. Somos más que ellos no tienen, la fuerza de la unión, la fuerza de la resistencia, que es lo único que nos queda. Y por tanto tenemos la fuerza precisamente ahí en estar informados, en leer, en aprender, en opinar, en comentar, en estar listos, en estar rápidos, sólidos, robustos, resistentes para actuar conjuntamente en pos de nuestros derechos, derechos a una sociedad justa y libre. Así que ante tiempos oscuros, de dominio y poder, siempre habrá una luz al final del túnel. Está en ti y está en mí y es la revolución. Nuestra fuerza está en leer, está en compartir, está en resistir. Pues esto ha sido todo compañeros. Me despido sin más deseando que les mucho coco y estudies que alguno de ustedes puede ser el próximo Einstein, la próxima Marikuri. Nos vemos como siempre en el próximo vídeo, piratillas. Hasta pronto.

Assistir ao vídeo original no YouTube

Assuntos: ASI. Publicado no YouTube em 2026-09-14.

Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.