Transcript · English → Japanese
AI Regulation and Safety Perspectives
こうした、えー、AIと 呼ばれる人たちから話を聞きまし た
加速主義者です
最近、率直に言って、 彼らは裏切られたと感じています。
OpenAIが基本的にAnthropicを まねていると感じているんです、え ー、
そしてその
CEO、ダリオ・アモデイを 非常に厳しい
AI規制を推し進める点で。
お聞きしたいのですが、具体的に どこで意見が異なるのでしょうか
Anthropicとその
規制推進派の、えー、CEO、ダリオ—
はい。
新たなAI規制に関しては、えー、 どこに、どこに隔たりがあるのです か？
かなり大きな
隔たりがあります。えー、わ、私たち は常に
この技術は民主化され、人々の 手に渡らなければならないと強く 信じています。
えー、最大の違いの一つは
私たちと一部の
より厳格な、いわゆるAI安全性重視 派との間にあります。私たちは世界は
この技術の恩恵と人々の主体性のた めに、 ある程度の悪いことが起きるのを 受け入れる
人々が主体性を持てることです。つ まり、ええと、私は、
私は反対です。 だが、こう考える人々の視点は理解 できます
「この
技術は非常に強力になり、 あまりに危険だから、たった一つの 研究所が
サンフランシスコでそれを保有し、 悪いことが起きないようにして
その上で
恩恵をどう分配するかを考えるべ きだ」と。 それは完全に受け入れがたい
自由と人間の主体性、そして人々が
自ら未来を決めるという観点から の代償です。 だが、その考えがどこから来るのか は理解できます
また、より穏やかな
私たちが提唱する規制の姿勢には、
受け入れることが伴うとも思いま す
社会が理解していく中で、悪いこと が いくつか起きるという事実を
回復力について。だから私は、こう いう取引は受け入れません。
回復力について。だから私は、こう いう取引は受け入れません。
例えば「大規模なハッキングや
悪用がこの技術で起きないように し、
詐欺も一切なく、
その他の悪いことも一切
起きないようにする」と。でも
人々は悪いことよりも、桁違いに多 くの
良いことをすると思います。
しかし
AIに制御を奪われる深刻な可能性 に
関しては、これは今すぐの
懸念ではありませんが、 遠い未来の話でもないかもしれま せん。
ええと、 これは加速主義者たちに
こう言いたいところです。
「この未来へ突き進む前に、少し慎 重に
考えよう」と。だから、受け入れるべ きなのは
限定されたリスク、理解しているリ スクであり、 その見返りとして得る
利益や、
ええと、
自由、自律性、今話したあらゆるも ののためなら 受け入れてよい。でも、
本当に破滅的なリスクは受け入れ ないことです。
本当に破滅的なリスクは受け入れ ないことです。
ええ。明確にすると、 あなたはサン
フランシスコの単一の研究所が
この技術すべてを支配していると。 ええと、 それは、そう言う人たちの主張によ く似ています。
Anthropicが
基本的に規制当局を取り込み、 唯一の、ええと、
ある種の
支配的な、 おそらく最前線で唯一の存在にな ろうとしていると。
ええと、あなたは それが彼らの狙いかもしれないと 思いますか？
そして、当然あなたは— それを懸念している。
あなたは—つまり、 私は懸念するでしょう、
もし彼らが実際にそうしたなら。
それが彼らの望みかどうかは、 彼らに聞く必要があります。
ええ。それと改めて、 あなた方が、ええと、支持したくな い
政策についてですが、
Anthropicが支持している ものがあり、
連邦レベルか、
州レベルか。ええと、なぜなら改め て、 あなた方は、
今や同じ考えではないのですから
ええと、最先端で中国と歩調を合わ せることに関しては—
はい
中国とです。 第三者評価機関についても同じ認 識です。
ええと、何が、 一つの差別化要因でしょう？
ええと、
私が最後に聞いたところでは、 差別化要因の一つは
私たちは一切の
最先端モデル以外のものへの 制限やテストは望まないことです。
非常に強力なモデルを作るが
絶対的な
最先端モデルではない人々を、ええ と、
潜在的なリスクに本当に焦点を
当てるという趣旨で遅らせたくあ りません。
私は、たとえそうだとしても
テストも監督も一切
最先端より一世代か二世代遅れた モデルに
行わなければ、悪いことが起こるの は認めます。
それらで悪いことが起きても、ええ と、 ライセンス制度を
そうしたモデルに提唱するつもり はありません。
End of transcript · 891 words · machine translated
Original transcript (English)
We've heard from some of these, um, y- I think people call them AI accelerationists recently, and to be, to be frank, they feel betrayed. They feel like OpenAI is basically copying Anthropic, uh, and its
CEO, Dario Amodei, in its push for very aggressive regulations on AI. Can I just ask, you know, where do you specifically diverge from Anthropic and its pro-regulation, uh, CEO, uh, Dario-
Yeah ... when it comes to new AI rules? Um, where's, where's the daylight? I think there's a lot of daylight. Um, w- we have always been a big believer that this technology has to be democratized and put in people's
hands. Uh, I think one of the biggest differences between us and some of the stricter, let's say, AI safety people, is we believe that the world should accept some bad things happening for the benefits of this technology and people having the agency. So, like, you know, I,
I disagree, but I understand the perspective of people who are like, "This technology's gonna get so powerful, and it's so dangerous, that a single lab in San Francisco should have it and make sure nothing bad happens and kind of
figure out how to dole out the benefits." I think that is a completely unacceptable trade-off from a perspective of liberty and human agency and people self-determining the future. But I understand where it comes from, and I do think the lighter touch regulatory stance that we advocate for comes with an
accepting of the fact that some bad things are gonna happen as society figures out the resilience. So I wouldn't take a trade of saying, like, "We'll make sure there's no
major hacks, there's no kind of like misuse of this technology, there's zero scams, there's zero all the other bad things that will happen," um, because I think people will do tremendously, orders of magnitude, more good
stuff than bad stuff. But when it comes to the potential of, like, a serious loss of control to AI, and this is not a today worry, but it may not be in the distant future,
um, this is where I would say to the accelerationists, like, "Let's be a little thoughtful about lurching into this future." Um, so I would say accept bounded risks, accept risks that we understand in exchange for the
benefits and, um, liberty, agency, all those things I was just talking about, but don't accept, like, the really catastrophic risk.
Yeah. And just to be clear, you mentioned a single lab in San Francisco controlling all of this technology. Um, that sounds a lot like the folks who say Anthropic is making a play to basically capture regulators and be the sole, uh,
sort of like dominant, maybe the only player at the frontier. Um, do you think that might be what they're doing? And, and obviously you would-- you have concerns about that. You would need to-- I mean, I would have concerns
if they actually did that. You'd need to ask them if that's what they wanna do. Yeah. And again, just on specific policies that you guys, um, do not want to support that Anthropic is supporting,
whether that's the federal level, at the state level. Um, 'cause again, you guys are, are now on the same page when it comes to, uh, pacing the frontier- Yeah
... with China. Same page with third-party evaluators. Um, w- you know, what's, what's just one differentiator? Um, the last I heard, one of the different differentiators is we don't want any
restrictions or testing on anything but the frontier models. We do not want to slow down people that make very powerful but not the absolute frontier in the spirit of, um, you know, really focusing on the potential
catastrophic risks. I don't, I don't think, even though I believe that if you don't put any testing or any oversight on models that are one or two generations behind the frontier, I accept that
bad things will happen with those, um, I would not go advocate a licensing regime for those.
