TranslateMom Do you believe there is a greater than ten percent chance ¿Crees que hay más de un diez por ciento de probabilidad
that AI could kill all de que la IA pueda matar a todos
humans, potentially within a decade? los humanos, posiblemente en una década?
So this is the kind of thing that is very hard to estimate because we've Así que esto es algo que es muy difícil de estimar porque jamás
never hemos
had anything like this before. We've never created beings tenido nada parecido antes. Jamás hemos creado seres
that may soon be que quizá pronto sean
smarter than us. We don't know what's gonna happen. más inteligentes que nosotros. No sabemos qué va a pasar.
We should obviously be cautious. It would be very foolish to say there Obviamente, deberíamos ser cautelosos. Sería muy insensato decir que
was like a había como un
one percent chance. Um, nobody knows how to estimate it. uno por ciento de probabilidades. Eh, nadie sabe cómo estimarlo.
A ten percent chance seems not a, not an unreasonable estimate to me, but Un diez por ciento no me parece una, una estimación poco razonable, pero
nobody really knows how to give a sensible estimate. nadie sabe realmente cómo dar una estimación sensata.
Right. But you just said ten percent Claro. Pero acabas de decir que un diez por ciento
doesn't seem an unreasonable estimate that AI could- no parece irrazonable estimar que la IA podría—
Yes Sí.
... kill all humans. matar a todos los humanos.
Yes. Sí.
Wow. Vaya.
Oh my God. Dios mío.
Yes. Sí.
How? How could it kill us all? ¿Cómo? ¿Cómo podría matarnos a todos?
Um, Eh,
if it's much smarter than us, um, there's so many ways it could do it, si es mucho más inteligente que nosotros, eh, hay muchísimas formas de hacerlo,
I don't No
think it's much worth speculating. creo que valga mucho la pena especular.
And you don't actually- Y en realidad no…
Oh, oh, actually, I do want to know that. I, I, like how? Give me... Oh, oh, de hecho, sí quiero saberlo. Yo… o sea, ¿cómo? Dame…
Could you give me one example? ¿Podrías darme un ejemplo?
Well, the first thing to realize is it doesn't even have to be able to act Bueno, lo primero que hay que entender es que ni siquiera tiene que ser capaz de actuar
in the en el
real world to cause devastation. So it would be able to mundo real para causar devastación. Así que podría
cause complete chaos just by talking to people. causar un caos total solo hablando con la gente.
But it will also be able to design very nasty viruses, Pero también podrá diseñar virus muy desagradables,
biological viruses, as well as computer viruses. virus biológicos, además de virus informáticos.
It could do devastating cyber attacks, um, Podría llevar a cabo ciberataques devastadores, eh,
and there's just countless other ways it could get rid of us if it wanted y hay muchísimas otras formas en que podría deshacerse de nosotros si quisiera
to. We have to figure out how to design it so hacerlo. Tenemos que descubrir cómo diseñarla para que
that it won't want no quiera
to. hacerlo.