Transcript · English → Japanese
Liability and Responsibility in AI Development
そこでの責任は誰が負うのでしょ うか？
そしてもちろん、当然ながら、 政府が責任を負うと言うでしょう
なぜなら
これについて政府を訴えて、えー、 勝訴することは決してできないか らです
とはいえ、彼らは
その責任を負うべきです。えー、し かし多分 それはもう通用しないかもしれま せん
なぜなら彼らが政府の 代理人かもしれないからです
そして、私は、 この件で訴訟の原告適格がどこで 認められるのか
分かりませんが、私たちは、
認められるべきです。そしてこの部 屋の皆さんは、 率直に言って、これから
キャリアの中で、学業の中で、 求められることになるでしょう
何をするにしても、 こうした問題に対処することを。
何をするにしても、 こうした問題に対処することを。
どこに線を引くのでしょうか？ なぜならアルゴリズムは
私たちが、えー、つまり、 あなたが誤りを犯すと理解するよ うな形では
誤りを犯せないからです。なぜなら その出力における誤りは
コンピューターの責任ではない。 命令に従う奴隷なのだ。
責任はその 開発者、プログラマー、創造者、
その
設計者にある。 つまり責任は一人の
人間にある。
それを隠すことはできない。 磨き消すこともできないだろう？
銃の製造者は
確かに銃の誤用に対しては 責任を負わない。
だが、最新の
兵器の試験中に彼らが
うっかり近くの村を、つまり 壊滅させたなら
刑務所に行くべきは大砲ではない。
それに、報道声明を出して
新型モデルが
隣人をハッキングしたことに驚い たと 述べたからといって
あるいはミサイルの破壊的な力に 感心したからといって
ミサイルを発射したことへの 責任から
逃れられるわけではない
ミサイルは勝手に発射されたんじ ゃない。 あなたが発射したんだ。
ええと、それで、その… 話せることはたくさんありますが、
皆さんに
考えてほしいのは、 これをどう扱うかです。
今、こうしたクローズドモデルは AI安全、AI
安全、彼らが言うところの安全主義 を唱え、 その考えでは、これらはとても
危険だと。なんて危険なんだ。 でも、あまりに魅力的だ。
とても重要で、価値がある。 手放すことはできない。
でも、まあ、 何人かは死ぬだろうが、
それでもいい。
まあ、そういうこともある。ああ、 企業をハッキングするだろう。
おっと、まあ、どうでもいい。ええと、 そこに投資しよう。
ここで問うべきなのは
誰がこれを運用するのか？ これは私たちのデバイスにも、より 広く
世界中で
当てはまるべきです。今、 Appleから携帯電話を買うと、
それを使えるようになる前に、ええ 、 「OK」をクリックして続行しなければ ならない。
すると彼らは言う。「まあ、 その責任はあなたが負うんです。
あなたが、 続行するためにOKをクリックした んですから」と。
GoogleはAndroidスマホを売る。
SamsungもAndroidスマホを売る。 あなたはOKをクリックして続行す る。
すると責任はすべてあなたにある が、 そんな仕組みであるはずがない。
なぜならあなたには
システムを調べられない。 どう使われているか理解できない。
特にLLMの場合、 あなたがクエリを送る先は
彼らが運用するモデルで、ええ、 彼らはあなたの
安全と皆の安全のために、 プロンプトを傍受して
プロンプトを組み替えながら、 「私たちは、ええ、
安全規則を適用し、
それに変換を加えています」と言う 。
ええ、その責任はあなたにあると言 うが、
違う。彼らが何をしたか、私には見 えもしない。
質問したら、 何か答えが返ってきた。
それがエージェント型AIで、私が これをハーネスに組み込む場合は？
ハーネスとは要するに小さなプロ グラムで、 基本的にこうした
大規模モデルに指示を与え、 その指示を
既存のツールに提供できるように するものです。 それらはあなたのローカル
システム上にあります。すると今度 は、 インターネットにつながったあな たのコンピューターが
率直に言って、 モデルに遠隔操作されることにな る。
そのモデルは遠くにあって、仕組み も 分からない。それでも、まあ、うまく
動くことを願うわけです。率直に言 って、 かなりうまく動きます。
でも時々、ハッキングするかもしれ ない。 ほら、どこかの適当な会社を
ハッキングしたり
するかもしれない。
ええと、
サム・アルトマンは刑務所に入れ るべきだと思う。 ええと、それは
教訓的な経験になると思う。
End of transcript · 870 words · machine translated
Original transcript (English)
Who owns the liability there? And of course, naturally, they would say the government owns the liability because you're never gonna successfully, uh, sue the government for this, even though they,
they should eat it. Uh, but maybe that doesn't work anymore because maybe they are an agent of government. And I, I don't know where we're ever gonna see standing to sue on this, but we, we should. And people in this room, I think, are frankly going to be
called upon in the course of their careers, in the course of their studies, in the course of whatever you do, to contend with these kind of issues. Where are we gonna draw a line? Because an algorithm cannot make mistakes in the way that we understand it as, uh, you know,
you making an error. Because the errors in its outputs are not the computer's. It's the slave to its instructions. The responsibility lies with its developer, its programmer, its creator, its architect, which is to say responsibility lies with a
person. And we cannot hide that. We cannot abrade that away, right? A, a gun maker is not liable, it's true, for the misuse of a gun. Uh, but if during the testing of their latest
piece of artillery, they mistakenly obliterate, you know, a nearby village, it's not the cannon that should go to jail. And, you know, just because you put out a press release describing how surprised
you were that your new model, you know, hacked the neighbor, uh, or d- you know, how impressed you are by this de-destructive power of your missile, uh, that doesn't release you from the liability of launching it. The missile didn't launch itself. You launched it.
Uh, and, and so th- there's a lot we can get into, but the idea that I want people to, uh, contend with is, is how we deal with this. And right now, these closed models are saying AI safety, AI safety, safetyism, as they call it, uh, where the idea is these things are so
dangerous. Oh gosh, they're so dangerous, but they're so dazzling. They're so important. They're so valuable. We can't get rid of them. But, you know, oh, it's gonna kill some people, but it's all right. You know, that just happens. Oh, it's gonna hack some companies.
Oops, you know, whatever. Uh, we'll invest in them. The idea here is who operates this? And this should apply to our devices more broadly around the world. Right now, you buy a cell phone from Apple, and
before you're allowed to use it, uh, you have to click OK to continue. Uh, and they go, "Well, you're assuming liability for that. You, you clicked OK to continue." You know, Google sells you an Android phone. Samsung sells you an Android phone. You click OK to continue.
And now that's all you, but that can't be possibly how it works because you can't inspect the system. You can't understand how it's used. And particularly in the context of LLMs, where you're submitting queries to a model that they are running, uh, where they are for your
safety and everyone else's safety, intercepting the prompt and recomposing the prompt saying, "We're doing, uh, applying safety rules and transformations to it." Uh, that's on you,
but it's not. I can't even see what you did. I asked you a question, you gave me something back in return. And if it's an agentic AI where I'm putting this thing in a harness, right? The harness being just a little program that basically uses these large models to feed it instructions that it can then
provide to tools that are existing on your local system. So now your computer that is connected to the internet is being frankly, remotely controlled, uh, by a model that's far away that you don't understand how it works, but, you know, you hope it works pretty well. And frankly, they do work reasonably well.
But every now and then it might hack, you know, some random company or whatever out there. Uh, I think we need to put Sam Altman in jail, uh, and I think it'll be an
instructive experience.
