Transcript · English → Japanese
AI Risks and Regulatory Challenges
さて、サム・アルトマンは、人々が
AIについて思い描く一部のシナリ オを、 「まるでディストピア的で
低俗なSF映画の
筋書きのようだ」と評しました。
彼は人々に、 「終末論の罠」に
陥らないよう警告しました。 さて、あなたはAIをこれまでで最も 危険な
存在で、核兵器すら
取るに足らなく見せるものだと呼 びました。
どうやらサム・アルトマンなら、あ なたは
終末論の罠に
陥っていると言うでしょう。どう答 えますか？
ええ、
責任あるAIの指導者は皆、ええ、 サム・
アルトマンも、ダリオ・アモデイも 含め―含めて、 ええ、
皆、
これは非常に懸念すべきことだと 世界に訴えています。
それが起こり得る可能性のある
否定的なシナリオとして語られる と、そう、 人々がまるで
全人類が何らかの身近な形で危機 に瀕しているかのように振る舞えば、誇張されかねません。
それは行き過ぎです。ですが、例え ば、 比べてみると
車や飛行機や麻薬など、
私たちが持ててよかったと思う あらゆるものには
安全を守るための重要な規制能力 が ありますが
人々を守るためのものと比べても、 これはそれらのどれよりも危険で す。
ですから、ええと、
ご存じのように、
私たちが制御を維持しなければ、 厳しい可能性もあります。
業界は警鐘を鳴らすという 役目を果たしていると思います。
ええと、しかし、もし
慎重に行えば、 こうしたリスクを最小限にできる という
考えは、ええと、伝わっていないの かもしれません。 特に政府が
時には、ご存じのように、 極端に走って
一切の安全策を持たないか、 完全に止めるかの
二択になるからです。ご存じのよう に、 飛行機や車、薬で行ったような
中間点を見つけることが、ええと、
現時点ではあまり洗練されていな い ということです。
だが、その中間点は存在すると信じ ています。
End of transcript · 393 words · machine translated
Original transcript (English)
Now Sam Altman called some of the scenarios that people are envisioning about AI, quote, "So dystopian that they sound like the plot of bad science fiction movies," unquote. He warned against people falling into, quote, "The trap of doomerism,"
unquote. Now you've called AI the most dangerous thing ever that makes nuclear weapons look like nothing. Sam Altman, it sounds like, would suggest that you are falling into the
trap of doomerism. How would you respond? Well, all responsible AI leaders, uh, including Sam Altman, includ- including Dario Amodei, uh, they are
telling the world this is very concerning. The way that gets articulated in terms of potential negative scenarios, yes, it can get overblown when people act like all of humanity is at risk in some intimate way. That is going too far. But say, compared to
cars or planes or drugs, you know, all things that I think we're pleased that we have significant regulatory capability to try and keep people safe, this is more dangerous than any of those. And so, uh,
you know, there are, uh, some grim possibilities if we don't, don't maintain control. And I do think the industry is doing its job to raise the alarm bell. Uh, but, uh, this idea that if, if we're judicious, we can minimize these risks,
uh, maybe that's not coming across, particularly because the government sometimes, you know, goes to the extreme of let's not have any safeguards or let's completely stop this. You know, finding that middle ground like we did with planes and cars and medicines, uh,
that we don't have a lot of sophistication right now. But I do believe that middle ground exists
