Transcript · English → Spanish
AI's Impact on Society and Democracy
Has oído a gente decir que deberíamos volar las granjas de servidores porque no
hay
forma… Una vez que, eh, esto arranque, no habrá forma de frenarlo.
¿Qué opinas de eso?
Bueno, la,
la, la inteligencia de verdad potente no va a estar, eh, distribuida por
todas partes. Estará en, eh, un número limitado de centros de servidores.
Si hablamos, o sea, de una IA muy, como muy profunda, una IA de gran potencia.
Eh, no está, este,
no- no va a estar en tu portátil ni en tu teléfono.
Va, va a estar en, ya sabes, una situación donde haya, como,
100 000, eh, computadoras muy potentes trabajando juntas
e- en un centro de servidores. Así que no es
s- no es, no es, o sea, sutil, y hay, h- hay
un número limitado de
lugares donde eso, eso puede suceder.
D- de hecho, podrías, t- si tan solo puedes m-
puedes ver la firma
térmica desde el espacio.
Sí.
Y es… será muy obvio. Eh, no sugiero que vayamos
y volemos los centros
de datos ahora mismo, pero
tal vez haya algún… Sería prudente tener algún tipo de
plan de contingencia
d- d- d- donde el gobierno tenga la capacidad de
cortar, cortar
la energía a estos, eh, c- centros de servidores.
O sea, eh,
no hace falta volarlo. Solo puedes cortar la energía. Mmm…
¿Y qué activarí—
O, o cortar también la conectividad. Esa es otra forma.
Claro.
Sí.
Pero ¿qué activaría ese interruptor, crees tú, en tu mente?
¿Cuál sería el umbral
que habría que cruzar para
justificar que el gobierno te corte la energía o te corte la señal?
Bueno, es decir, supongo que si perdiéramos el control de una super-IA,
eh, como por alguna razón, o sea, como las cosas que normalmente funcionarían
para
hacer un apagado pasivo, como las contraseñas de administrador,
si de alguna manera
dejan de funcionar,
eh, donde n- n- donde no podemos, eh,
ralentizar o, o,
ya sabes, a-
no, no estoy se- yo- no tengo una respuesta precisa, pero si,
si hay algo
que nos preocupa, eh, y, y,
eh, el, y, y somos, somos incapaces de detenerlo con, con, eh,
comandos de software, entonces, eh, probablemente queramos tener algún tipo de
interruptor de apagado por hardware.
Sí.
Creo que, ya sabes, no está de más.
Has hablado con- Como conoces a Larry Page-
Probablemente tengamos uno, sí
y obviamente conoces a los de OpenAI
porque tú la iniciaste.
Definitivamente tenemos uno.
Has, has, ¿has
hablado con los,
con las personas que dirigen estas dos, las mayores empresas de IA, sobre esto
¿recientemente?
No he hablado con Larry Page, eh, hace unos años porque se molestó mucho
conmigo
por OpenAI.
Eh—
Mmm
Así que cuando, cuando se creó OpenAI, eh,
sí, sí cambió las cosas hacia un, de… de un mundo unipolar
donde Google, Google DeepMind controlaba,
eh, ya sabes, como dije, tres cuartas partes del talento en IA a
donde ahora hay una especie de, eh,
mundo bipolar u OpenAI y Google DeepMind, y están,
eh… Y ahora, curiosamente, parece, eh, que OpenAI tal vez va por delante.
Eh,
así que, eh, he, he tenido conversaciones con, eh,
el equipo de OpenAI y Sam Altman. No he hablado con Larry Page porque
no
quiere hablar más conmigo, eh, desde hace unos años.
Eh—
¿Puedo preguntarte, ya que has vivido mucho de esto,
sobre esa forma de pensar?
¿Por qué alguien no sería especista,
centrado en los humanos al pensar en la tecnología? O sea,
¿cuál es la lógica ahí?
Eh, creo que lo que intenta decir es que, eh,
si tuviera que adivinar, que, que, eh, toda
consciencia, eh, debería ser tratada por igual, eh, ya sea
digital o biológica.
Mmm.
Y no estás de acuerdo.
No estoy de acuerdo, sí.
Eh, en especial si la, eh, digital, eh,
consciencia o como quieras llamarla, inteligencia digital, eh, decide
limitar la inteligencia biológica.
Claro. Así que solo estás creando a tu propio
amo esclavista, ¿y por qué harías eso?
No suena muy bien.
Sí, o sea,
no deberíamos, al menos deberíamos, eh, no hay por qué apresurarse, ¿sabes?
O sea, ¿cuál es la prisa?
¿Dónde, dónde está el fuego?
Cómo, eh, bueno, qué, o sea, cuéntanos sobre la prisa.
Así que esto, durante… Sé que llevas hablando de esto durante
años y, en cierto modo, en
la periferia de nuestra atención, hemos oído a Elon Musk hablar de la IA.
Pero para la mayoría de la gente, han pasado como tres meses desde que
tuvieron alguna
interacción con esto en absoluto.
Eh, ¿cuál es el plazo aquí? ¿En qué momento empieza de verdad a
cambiar
nuestra sociedad, ¿crees?
Creo que empieza a tener, eh… probablemente
un, un impacto este año. GPT-4, eh, ahora está, como, escribiendo
poesía. Eh, y—
Poesía bastante decente, en realidad.
Bastante decente.
Sí.
Su, eh,
habilidad para rimar es increíble.
Sí. Sí, y es coherente.
Sí, lo es. Eh, incluso tiene una narrativa.
Como—
Sí.
Así que tienes una—
Así es.
Sí.
Así que podrías decir, como—
Eso es difícil de hacer
la mayoría de los humanos no puede hacer eso.
Es verdad.
Así que ya superó el punto de lo que la mayoría de los humanos puede hacer.
Eh, la mayoría de los humanos no puede escribir tan bien como, eh, ChatGPT.
Eh,
y sin duda, y, y ningún, ningún humano puede escribir así de bien, tan rápido—
Claro.
que yo sepa. Eh, o sea, eh, tal vez Shakespeare.
¿Cómo puedes tener una democracia con una tecnología así?
Digo, si la democracia es, ya sabes, el gobierno del pueblo,
el voto de cada persona es
igual al de cualquier otra persona, o sea, y la gente
está eligiendo sus votos
libremente,
¿puedes tener una democracia con esto?
Bueno, por eso planteo la preocupación de que, eh, la IA sea una influencia
importante en las elecciones. Eh, y, e incluso si dices que la IA
no tiene autonomía, bueno, es muy probable
que la gente use la IA,
eh, como una herramienta,
eh, en las elecciones. Eh,
y luego
ya sabes, si la IA es lo bastante inteligente,
es decir, ¿están usando la herramienta o la herramienta los está usando a ellos?
Así que creo que las cosas, las cosas se están poniendo raras,
y se están poniendo raras muy rápido.
Suscríbete al canal de YouTube de Fox News para no perderte nuestras
aperturas nocturnas, historias que están cambiando el mundo y cambiando tu
vida en Tucker Carlson Tonight.
End of transcript · 1,087 words · machine translated
Original transcript (English)
You've heard people say we should just blow up the server farms because there's no way... Once, uh, this gets rolling, there's no way to slow it down. What do you think of that? Well, the,
the, the really heavy-duty intelligence is not going to be, uh, distributed all over the place. It'll be in, uh, a limited number of server centers. If you say, like, a very, like very sort of deep AI, heavy-duty AI. Uh, it's not, um, it- it's not gonna be on your laptop or your phone.
It's, it's gonna be in, you know, a situation where there's, like, 100,000, uh, really powerful computers working together i- in a server center. So it's not s- it's not, it's not, like, subtle, and there, th- there are a limited number of
places where that, that can happen. I- in fact, you could, y- if you can just l- you can just look at the heat signature from space. Yeah.
And it's, it'll be very obvious. Uh, I'm not suggesting we, we go and blow up data service centers right now, but there may be some... It may be wise to have some sort of contingency plan
wh- wh- wh- where the government's got an ability to shut down, shut down power to these, uh, s- server centers. Like, uh, you don't have to blow it up. You can just cut the power. Um...
And what would trip- Or, or cut connectivity as well. That's another way. Right. Yeah. But what would trip that switch, do you think, in your mind?
What would be the threshold that you'd have to pass to warrant the government cutting off your power or cutting off your signal? Well, I mean, I guess if we lost control of some super AI, um, like for some reason, like, like the things that would normally work
to do a passive shut down, like the administrator passwords, if they somehow stop working, um, where w- w- where we can't, uh,
slow down or, or, you know, t- I'm, I'm not su- I- I don't have a precise answer, but if, if there's something that we're concerned about, um, and, and,
uh, the, and, and are, are, unable to stop it with, with, uh, software commands, then, uh, we probably want to have some kind of hardware off switch. Yes. I think, you know, it can't hurt.
Have you talked to- Since you know Larry Page- Probably have one, yeah ... and you obviously you know the OpenAI guys 'cause you started it. We definitely have one.
Do, do, have you talked to the, the people who run these two, the biggest AI companies, about this recently? I haven't talked to Larry Page, uh, in a few years because he got very upset
with me about OpenAI. Uh- Hmm ... so when, when OpenAI was created, uh,
it, it did, it did shift things into a, fr- from unipolar world where Google, Google DeepMind controlled, uh, you know, like I said, three-quarters of all AI talent to where there's now sort of, uh, bipolar world or OpenAI and Google DeepMind, and they're,
uh... And now weirdly, it, it seems, uh, OpenAI is maybe ahead. Um, so, uh, so I, I have had conversations with, um, the OpenAI team and Sam Altman. I haven't talked to Larry Page because he doesn't
want to talk to me anymore, uh, for a few years. Uh- Can I ask you just about, since you've been around a lot of this, the thinking? So why would anyone not be a specist, be
human-centered in his thinking about technology? Like, what's the thinking there? Um, I think what he's trying to say is that, um, if I were to guess, I, that he, that, uh, all consciousness, uh, should be treated, uh, equally, um, and whether
that is digital or biological. Hmm. And you disagree. I disagree, yeah. Um, especially if the, uh, digital, uh,
consciousness or whatever you want to call it, digital intelligence, uh, decides to curtail the biological intelligence. Right. So you're just building your own slave master, and why would you do that? Doesn't sound great.
Yeah, I mean, we shouldn't, we, we should at least, uh, we- no need to rush, you know? Like, what's the hurry? Where, where's the fire? How, uh, well, what, I mean, tell us about the hurry.
So this, for, I know you've been talking about this for years and on the sort of the periphery of our attention, we've heard Elon Musk talking about AI. But for most people, it's been like three months since they've had any
interaction with this at all. Um, so what's the timeline here? At what point does it start to really change our society, do you think? I think it starts to have, um, uh, probably
a, an impact this year. GPT-4, uh, now it's, like, writing poetry. Um, and- Pretty decent poetry, actually. Pretty decent. Yeah.
It's, uh, skill at rhyming is incredible. Yes. Yes, and it's coherent. Yes, it is. Uh, it, it's even got a narrative. Like-
Yes ... so you've got a- That's right. Yeah. So you could say, like-
That's hard to do ... like, most humans can't do that. That's true. So it's already past the point of what most humans can do. Uh, most humans cannot write as well as, uh, uh, ChatGPT.
Um, and they certainly, and, and no, no human can write that well, that fast- Right ... as, to the best of my knowledge. Uh, so, uh, maybe Shakespeare. How can you have a democracy with technology like that?
I mean, if democracy is, you know, government by the people, each person's vote is equal to every other person's vote, I mean, and people are choosing their votes freely,
can you have a democracy with this? Well, that's why I raise the concern of, um, AI being a significant influence in elections. Um, and it, and even if you say the AI doesn't have agency, well, it's very likely that people will use the AI,
um, as a tool, uh, in elections. Um, and then it, you know, if the AI is smart enough, it, it, are they using the tool, or is the tool using them?
So I think things, things are getting weird, and they're getting weird fast. Subscribe to the Fox News YouTube channel to catch our nightly opens, stories that are changing the world and changing your life from Tucker Carlson Tonight.
