Transcript · English → Japanese
AI Control and Future Narratives
私は、人間が支配を維持するとは 考えにくい
もし、その、もし…
つまり、
もしデジタル知能が
生物学的知能の100万倍も 多ければ、それは、
人間が支配しているなんて
その状況では想像しがたい。
AIが私たちに優しいといい。
そうなるように何かできる？
真実を探求する姿勢と 好奇心をプログラムするのは、
ええと、
たぶんいいことだと思う。私は、そ の、 僕らは、
注意すべきだと思う。
ほら、AIディストピアの シナリオを作りすぎないように
ネット上では。AIは ネット上のすべてを学習するから。
だからユートピアになるって言え ば—
AIは「ああ、それが俺が—
ええと、ディストピアに—
なるべき姿なんだ、
そうするかも。
俺はターミネーターになるべきだ」 って。だって彼らは、その、何というか…
彼らは、あの、 『ターミネーター』の脚本を80種類読 んだ。
だから「じゃあ、これが… これが俺なんだな」って、ターミネ ーターが。
たぶん、もっと… えっと…
もっとユート…ユ… AI向けのユートピア物語を増やそ う。
そうすれば、「まあ、 ターミネーターにならなくてもい いかも。
親しみやすい管理者にでも なればいい」とか、
えっと、
庭師とか。 わからないけど、こう、こう、こう…
僕らを、ほら、あつ… 人間を幸せにしようとする感じ。
友人に「プロトピア」という考えが あって、こういうものなんだ…
だってユートピアは
実現不可能な理想… 理想主義的な目標を表しがちで、
たいてい、 ユートピアを作ろうとすると
ディストピアを作ってしまう。
物語はたいていそうなる。 だから彼女はプロトピアにすべき だと考えてる
それは
達成可能な、
ええと、その、
未来、つまり、完璧ではないけど、 それでも、
良くて、あなたが…あなたが…
未来を見通せたなら、 「ああ、そうだ、
それはいい
未来だ」と言うような。
End of transcript · 340 words · machine translated
Original transcript (English)
I, I find it unlikely that humans would remain in control if the, if... I mean, if there's a million times more digital intelligence than there is biological intelligence, it's,
it's hard to imagine humans being in control in that scenario. So I hope the AI's nice to us. Anything we can do to encourage that? I think programming truth-seeking and curiosity,
um, is, is probably good. I think, I, I guess we, we wanna be careful about being, you know, cr- creating too many AI dystopian scenarios online because the AIs are trained on everything online.
So if we say it's gonna be utopian- They might be like, "Oh, that's what I- ... uh, dystopian- ... that's what I should be ... they'll do it.
I should be Terminator," you know? 'Cause they, what- whatever. They read, you know, 80 versions of the Terminator script. So it's like, "I guess that's what, guess that's me," Terminator. Maybe we, we should have, uh, some more, uh... Let's, let's have some more uto- u- utopian narratives for AI,
um, so then it can like, "Well, maybe I shouldn't be Terminator. Maybe I can be friendly overseer or something like that," or, um, like a gardener or something. I don't know, like be, be, be, be... Treat us, you know, tr- try to make humans happy type of thing.
A friend of mine has this idea called protopian which is like... 'Cause utopian tends to represent some impossible ideal- idealistic goal, and usually in the, in attempting to create a utopia you create a dystopia is
usually how the narrative goes. So she thinks it should be protopia which is an achievable, uh, you know, future, um, that is, it's, it's not perfect but it's, it's
good and something that you'd be, you'd... Like if you could look into the future you'd say, "Okay, yeah, that would be a good future."
