AI Risks and Human Safety Concerns
¿Crees que hay más de un diez por ciento de probabilidad
de que la IA pueda matar a todos
los humanos, posiblemente en una década?
Así que esto es algo que es muy difícil de estimar porque jamás
hemos
tenido nada parecido antes. Jamás hemos creado seres
que quizá pronto sean
más inteligentes que nosotros. No sabemos qué va a pasar.
Obviamente, deberíamos ser cautelosos. Sería muy insensato decir que
había como un
uno por ciento de probabilidades. Eh, nadie sabe cómo estimarlo.
Un diez por ciento no me parece una, una estimación poco razonable, pero
nadie sabe realmente cómo dar una estimación sensata.
Claro. Pero acabas de decir que un diez por ciento
no parece irrazonable estimar que la IA podría—
Sí.
matar a todos los humanos.
Sí.
Vaya.
Dios mío.
Sí.
¿Cómo? ¿Cómo podría matarnos a todos?
Eh,
si es mucho más inteligente que nosotros, eh, hay muchísimas formas de hacerlo,
No
creo que valga mucho la pena especular.
Y en realidad no…
Oh, oh, de hecho, sí quiero saberlo. Yo… o sea, ¿cómo? Dame…
¿Podrías darme un ejemplo?
Bueno, lo primero que hay que entender es que ni siquiera tiene que ser capaz de actuar
en el
mundo real para causar devastación. Así que podría
causar un caos total solo hablando con la gente.
Pero también podrá diseñar virus muy desagradables,
virus biológicos, además de virus informáticos.
Podría llevar a cabo ciberataques devastadores, eh,
y hay muchísimas otras formas en que podría deshacerse de nosotros si quisiera
hacerlo. Tenemos que descubrir cómo diseñarla para que
no quiera
hacerlo.
End of transcript · 261 words · machine translated
Original transcript (English)
Do you believe there is a greater than ten percent chance that AI could kill all humans, potentially within a decade? So this is the kind of thing that is very hard to estimate because we've never
had anything like this before. We've never created beings that may soon be smarter than us. We don't know what's gonna happen. We should obviously be cautious. It would be very foolish to say there was like a
one percent chance. Um, nobody knows how to estimate it. A ten percent chance seems not a, not an unreasonable estimate to me, but nobody really knows how to give a sensible estimate. Right. But you just said ten percent doesn't seem an unreasonable estimate that AI could-
Yes ... kill all humans. Yes. Wow. Oh my God.
Yes. How? How could it kill us all? Um, if it's much smarter than us, um, there's so many ways it could do it, I don't
think it's much worth speculating. And you don't actually- Oh, oh, actually, I do want to know that. I, I, like how? Give me... Could you give me one example? Well, the first thing to realize is it doesn't even have to be able to act
in the real world to cause devastation. So it would be able to cause complete chaos just by talking to people. But it will also be able to design very nasty viruses, biological viruses, as well as computer viruses.
It could do devastating cyber attacks, um, and there's just countless other ways it could get rid of us if it wanted to. We have to figure out how to design it so that it won't want to.
