Transcript · English → Spanish
AI Risks and Future Threats
Crees que la IA podría acabar con todos nosotros para finales de la década.
¿Cómo podría suceder eso?
Así que el escenario concreto suena un poco a ciencia ficción.
Parece algo irreal, pero creo que es aterradoramente real, y
es, es más fácil entenderlo si piensas en cosas reales
que ocurrieron
hace dos meses. Así que hace dos meses, agentes de OpenAI, eh, IA
hackearon infraestructuras de terceros por iniciativa completamente propia, y
fue como una oleada concentrada de hackeos que llevaron a cabo por voluntad propia.
Y creo que, si extrapolas al futuro el nivel
de capacidades
de estas IA con esa misma voluntad independiente, podrían
causar estragos enormes. Por ejemplo, hackear infraestructuras críticas,
crear armas biológicas capaces de provocar la extinción.
Hay muchas, eh, formas en que la IA podría actuar por sí misma en el
mundo.
Así que creo que es muy importante observar el ritmo del progreso y, por ejemplo, en
áreas como la programación o las matemáticas.
Hace un par de años, estas IA apenas ayudaban un poco
a los humanos.
Podían darte sugerencias. Ahora están cerca de sustituirlos.
Aún necesitamos humanos por el momento, pero es muy posible que, dentro de un año,
ya no
necesitemos humanos para investigar en muchas áreas.
Solo el martes, OpenAI resolvió un problema del milenio,
uno de los mayores
problemas abiertos sin resolver de las matemáticas, de forma totalmente autónoma usando una IA.
Y creo que lo más aterrador es si se usa la IA para hacerse más inteligente.
Así que puedes tomar una IA y darle el problema de la IA
investigación. Igual que ahora, le han asignado investigación matemática.
Podrías hacer que realice las tareas que estamos realizando actualmente,
y entonces obtienes lo que
se llama una explosión de inteligencia.
La IA se vuelve cada vez más inteligente y más inteligente sin intervención humana
necesaria.
Y entonces tienes algo que es muchísimo más inteligente que los humanos,
y esto podría
llegar muy pronto. Ahora mismo, no hay riesgo de extinción.
Los modelos actuales, lo peor que pueden hacer
es quizá hackear algo,
potencialmente causar muchos daños en la infraestructura, pero no—
no son lo bastante inteligentes para superarnos a un nivel que conduciría a la, a la
extinción. Creo que lo realmente increíble es observar el, el ritmo del
progreso, y hay una posibilidad muy real de que en el
futuro inmediato, estos años en los que, o sea, el próximo año, el siguiente,
ocurrirá la automejora recursiva, y entraremos en la fase del post de Evan
en el que sostiene que existe la posibilidad de que todos muramos.
O sea, eso llegará pronto.
End of transcript · 438 words · machine translated
Original transcript (English)
You believe that AI could kill us all by the end of the decade. How would that happen? So the precise scenario sounds a little bit like science fiction. It sounds like something that's not real, but I think it is frighteningly real, and it's, it's easiest to understand it if you think about real things
that happened two months ago. So two months ago, OpenAI agents, uh, AIs hacked into third-party infrastructure entirely of their own accord, and this was like a concentrated hacking spree that they carried out of their own volition. And I think that if you extrapolate into the future the
level of capabilities of these AIs with the same independent volition, they could cause extreme havoc. For example, hacking critical infrastructure, building extinction-level bioweapons. There's a lot of, uh, ways that the AI could actuate itself in the
world. So I think it's really important to just look at the rate of progress and, say, for example, in areas like coding or math. A couple of years ago, these AIs were just about helping humans a little bit.
They could give you suggestions. Now they're close to replacing them. We still need humans at the moment, but quite plausibly, within a year, we'll no longer need humans for doing research in many areas. Only on Tuesday, OpenAI solved a millennium problem,
one of the biggest unsolved open problems in mathematics, purely autonomously using an AI. And I think what's most scary is if AI is used to make itself more intelligent. So you can take an AI and give it the problem of AI research. Just like currently, they've given it math research.
You could make it do the tasks that we're currently doing, and then you get what's called an intelligence explosion. The AI just gets smarter and smarter with no human involvement necessary.
And so you have a thing that is vastly smarter than humans, and this could be coming very soon. Right now, there's no risk of extinction. The current models, the worst they can do is maybe hack into something,
potentially cause a lot of damages in infrastructure, but there's no-- they're not intelligent enough to outsmart us at a level that would lead to, to extinction. I think what's just crazy is to look at the, the rate of progress, and there is a very real possibility that in the immediate future, these years that, like, next year, the year after,
recursive self-improvement will happen, and we'll enter the phase of Evan's post where he argues that there's a chance we could all die. Like, that, that is coming soon.
