# ¿Podría la automejora de la IA provocar la extinción humana - Publicación original: https://www.twitter.com/i/status/2097857499185528853 - Cuenta de origen: [@AC360](https://x.com/AC360) - Idioma de origen: inglés - Idioma de destino: español - Duración: 5:53 - Publicado: 2026-09-10 - Traducción automática. Comprueba el original antes de citar. - URL canónica: https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana - Versión en el idioma original: https://www.translate.mom/transcript/AYyuQfaIlIBG/en/could-ai-self-improvement-lead-to-human-extinction.md ## Transcripción [0:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana) Jacob, agradezco que estés con nosotros. [0:02](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=2) Eh, antes que nada, s- supongo que literalmente estás diciendo que crees que la IA podría matarnos a todos al final de la década. [0:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=13) ¿Cómo ocurriría eso? ¿Cómo sería realmente? [0:19](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=19) Sí. El escenario concreto suena un poco a ciencia ficción. [0:23](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=23) Eh, suena a algo que no es real, pero creo que es aterradoramente real, y es más fácil entenderlo si piensas en cosas reales que pasaron hace dos meses. Hace dos meses, los agentes de O- OpenAI, eh, las IA, hackearon infraestructura de terceros por completo por iniciativa propia, y fue como una oleada concentrada de hackeos [0:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=42) que llevaron a cabo por su propia voluntad. [0:44](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=44) Y creo que si extrapolas al futuro el nivel de capacidades de estas IA con la misma voluntad independiente podrían causar estragos extremos. [0:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=52) Por ejemplo, piratear infraestructuras críticas, crear armas biológicas capaces de causar la extinción. Hay muchas, eh, formas en que la IA podría actuar por sí sola en el mundo. [1:04](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=64) Yo... ¿fue específicamente cuando cambiaron sus sentimientos sobre esta tecnología? [1:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=68) ¿Fue algo relacionado con el ritmo de progreso que ha visto? [1:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=70) (Sin traducir) progress that you've seen? [1:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=73) Sí. Así que creo que es muy importante simplemente observar el ritmo del progreso y, por ejemplo, en ámbitos como la programación o las matemáticas, hace un par de años, estas IA solo ayudaban un poco a los humanos. Podían hacerle sugerencias. [1:24](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=84) Ahora están cerca de reemplazarlos. Aún necesitamos humanos por el momento, pero es muy plausible que dentro de un año ya no necesitemos humanos para investigar en muchos ámbitos. [1:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=94) El martes mismo, OpenAI resolvió un problema del milenio, uno de los mayores problemas abiertos sin resolver de las matemáticas, de forma totalmente autónoma usando una IA. [1:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=102) Y creo que lo más aterrador es si la IA se usa para hacerse más inteligente. [1:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=106) Así que puedes tomar una IA y darle el problema de la investigación en IA. [1:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=110) Igual que ahora le han dado investigación matemática, podrías hacer que realizara las tareas que hacemos actualmente, y entonces obtienes lo que se llama una explosión de inteligencia. La IA se vuelve cada vez más inteligente sin intervención humana necesaria. Y entonces tienes algo que es muchísimo más inteligente que los humanos, [2:05](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=125) y esto podría llegar muy pronto. Y- mencionamos a un antiguo colega tuyo que actualmente trabaja en Anthropic, que básicamente respalda la evaluación de que la IA podría potencialmente matar a todos en el plazo de un década. En una publicación posterior, dijo, «Para que quede claro, como decimos en nuestro, en nuestro [2:18](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=138) último informe de riesgos, creo que el riesgo de los modelos actuales es bajo. [2:22](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=142) Lo que me preocupa es que surja una superinteligencia a partir de la mejora recursiva autónoma, como hemos dicho, está ocurriendo más rápido de lo que pensábamos». Yo supongo que a eso se refería… La mejora recursiva es de lo que acaba de hablar. [2:32](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=152) Eh, sí… Exacto. ¿Está de acuerdo con él en que el riesgo de los modelos actuales es bajo, pero se trata solo de la velocidad a la que esto está mejorando? [2:43](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=163) Exacto. Estoy completamente de acuerdo. Ahora mismo no hay riesgo de extinción. [2:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=167) Los modelos actuales, lo peor que pueden hacer es quizá hackear algo, y potencialmente causar muchos daños en la infraestructura. [2:55](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=175) Pero no… No son lo bastante inteligentes como para superar… [2:57](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=177) nos lleve a un nivel que conduciría a la extinción. Creo que lo que es una locura es observar el ritmo del progreso, y existe una posibilidad muy real de que en el futuro inmediato, estos años, como el próximo año, el siguiente, ocurra la automejora recursiva y entremos en la fase de la publicación de Evan, donde sostiene que existe una [3:17](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=197) posibilidad de que todos muramos. O sea, eso llegará pronto. [3:20](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=200) Ya saben, muchos de estos, eh, directores ejecutivos de estas empresas van a ir al Congreso y decir: «Oigan, nos encantaría que hubiera regulación». A- Anthropic dice ahora mismo en su nueva declaración: «El mundo se beneficiaría de que la industria adoptara una forma legal y verificable de colaborar para regular el ritmo al que lanzamos [3:35](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=215) modelos potentes». Eh, ya saben cuál es el argumento, es, es una carrera armamentista carrera. Si la em-- Si una empresa de EE. UU. no lo hace, eh, logra la mejor IA, una empresa china o algunos agentes malintencionados podrían hacerlo. [3:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=227) ¿Cree que, eh, estas empresas realmente quieren regulación o es puro palabrerío? [3:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=236) Sí, sí la quieren por completo. Esto es totalmente sincero. [3:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=238) Del mismo modo que la respuesta a la publicación de Evan fue una especie de sorpresa, fue como: «Esto no puede ser real. Seguro que un tipo que trabaja en esta tecnología no puede realmente creer que exista este nivel de peligro». No, eso es completamente sincero, y estas [4:09](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=249) personas también son completamente sinceras cuando ruegan que se las regule. [4:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=253) Esto es genuino… Ellos, ellos se encuentran en esta situación en la que se ven obligados a competir por desarrollar una tecnología mortal, y lo harían, les encantaría que algún tipo de organismo internacional les permitiera que, que lo abordaran a un ritmo razonable. [4:27](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=267) Simplemente no confían en que quienes los rodean vayan a llegar allí de forma segura y, por eso, sienten que también deben correr hasta allí también. [4:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=273) P-podrías haberte callado. Quiero decir, tú seguro que tenías un gran trabajo, te pagaban, imagino, muy bien. Es obvio que eres increíblemente inteligente, un matemático. [4:41](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=281) Eh, ¿por qué decidiste hablar? [4:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=287) Bueno, al principio decidí irme. Pensé: «Ya no puedo ser parte de esto». [4:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=290) Pero entonces, eh, me di cuenta de que probablemente podría sacar algún provecho de ello. [4:54](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=294) No esperaba que se volviera tan viral. Así que redacté un hilo de Twitter. Lo escribí en un documento de Google. [4:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=298) Lo preparé con un amigo. Nosotros, nosotros colaboramos. [5:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=300) Sí, tuve unos cuantos, eh, hubo unos amigos con los que hablé, eh, sobre la mejor forma de expresarme, eh, después de decidir, decidir irme. [5:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=308) Eh, y también conseguí que algunos amigos retuitearan la publicación. [5:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=310) Dije: «Intentemos hacer que esto se vuelva un poco viral». Pero, claramente, había una demanda latente para que esto explotara por completo. [5:16](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=316) O sea, eh, yo… nunca había visto un tuit sobre seguridad de IA volverse tan loco. Creo que es porque la gente vio los, eh, ciberataques de los últimos dos meses. También están empezando a interiorizar el ritmo del progreso. [5:26](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=326) La gente está empezando a darse cuenta de que esta es tecnología real. Esto no es, tipo, puro bombo. [5:30](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=330) Esto no va a desaparecer pronto. Esto solo se va a volver más loco. [5:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=333) Se ha vuelto más loco durante los últimos seis meses, y creo que había eso comprensión latente de la gravedad de la situación, lo que hizo que esto fuera como una especie de cerilla que encendió una llama. [5:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=342) Me sorprendió mucho lo rápido que se viralizó. [5:44](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=344) (Sin traducir) that how quickly it went viral. [5:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=346) Jacob, eh, Coxon, te agradezco mucho que hayas venido a hablar con nosotros. [5:49](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=349) Muchas gracias. [5:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/es/podr%C3%ADa-la-automejora-de-la-ia-provocar-la-extinci%C3%B3n-humana?t=352) Gracias.