Transcript · English → Japanese
AI Safety Concerns and Competition
無謀です。つまり、問題の一因は 二つの
有力な研究所、つまり私がそう呼ぶ AI企業が
私は「研究所」という呼び方を おかしいと思います、なぜなら
実際には営利目的の
企業だからです。ええと、
でも、その、AI企業、その、 二大企業は、ほら、
その、その——
AnthropicとOpenAIです。ええと、 両社の——両社の
モデルの性能はかなり近いです。
ええと、だから、 実際、どちらにとっても
減速するのは
実質的に相手に首位を譲ることな くしては困難です。
ええと、
全体的に見れば、私は、私は、 Anthropicのほうが、その、ほら、
より多くの
安全性への配慮をOpenAIより重視し ていると思います。
ええと、でも、
でも、ほら、 Anthropicでさえ
自社のモデルを懸念していること を
認めています。
ええと、ほら、Anthropicの、本当に多く の、ええと、 Anthropicの人たちが
それについて公に懸念を表明して いて、つまり 自分たちの、自分たちのモデルが
自分たちを怖がらせていると。 怖いほど賢くなっていると。
ええと、
だから
私、つまり、私は— それに、ここに完璧な解決策はない んです。
うん。
でも、でも、もっとよい解決策にな るでしょう その代わりに、
ええと、OpenAIが自社のテスト
ええと、基盤を自社モデル上で実行 するだけでなく、 Anthropicもテスト
基盤を
OpenAIのモデル上で実行し、さらに、 ほら、
SpaceXもテスト基盤を実行し、 ええと、
GoogleとMetaもそうしていて、 さらに中国の有力企業の3社か
4社ほども、全社がそれを実行して いたなら。
問題を見つける可能性は 劇的に高まります
End of transcript · 312 words · machine translated
Original transcript (English)
Reckless. I mean, and part of the issue is that you've got the two leading labs or AI companies, as I call them. I, I, I find the lab term to be funny since, since they're actually for-profit corporations. Um,
but, uh, the AI companies, uh, the, the two leading ones, you know, in, in-- are Anthropic and OpenAI. Um, and, and they're quite-- their models are quite close in capability. Um, so it's, it's actually difficult for either one to
slow down without essentially handing the lead to the other. Um, you know, on balance, I, I, I think Anthropic is, is-- you know, puts more, more
care into their safety than, than OpenAI. Um, but, but, you know, even Anthropic would acknowledges that they are worried about their models.
Um, you know, many, many Anthropic, um, many people from Anthropic have publicly voiced concern about it basically saying that their, their models are, are scaring them. That they're getting scary smart. Um, so
I, I mean, I-- and like there's no perfect solution here. Mm. But, but it would be a better solution if instead of, uh, OpenAI running their test, uh, harness on, on their own models, if Anthropic was also running the test
harness on OpenAI models and, you know, SpaceX is running its test harness and, uh, Google and Meta were doing that and also maybe some three or four of the leading Chinese companies were all doing it.
The odds that you will find issues are dramatically greater
