Transcript · English → Japanese
Liability and Responsibility in AI Development
その責任は誰が負うのか？
もちろん当然、 政府が責任を負うと言うでしょう
なぜなら
こんなことで政府を訴えて、 勝てるはずがないからです
本来は政府が負担すべきです。ええ 、 でももしかすると、それはもう
通用しないかもしれません。もしか すると彼らは 政府の代理人だからです。
そして、 この件でいつ訴訟適格が認められ るのか
分かりませんが、私たちは
認められるべきです。この部屋にい る皆さんも、 率直に言って、いずれ
キャリアの中で、あるいは学業の中 で、 求められることになるでしょう
これから
何をするにせよ、 こうした問題に向き合うことを。
どこで線を引くのか？ なぜならアルゴリズムは
私たちが理解する意味での、ええ、 その、 人がミスをするような形では
誤りを犯せないからです。 なぜなら出力における誤りは
コンピューターのせいではない。 指示に従う奴隷にすぎない。
責任はその 開発者、プログラマー、創造者、
その
設計者にある。つまり、 責任は人にある。
それを隠すことはできない。 消し去ることもできないだろ？
銃の、銃器メーカーは
銃の誤用に対して 責任を負わない、確かに。
ええ、 だが最新の大砲の試験中に
彼らが
誤って、ほら、 近くの村を壊滅させたなら、
刑務所に行くべきなのは大砲では ない。
それに、報道発表を出したからとい って
あなたがどれほど驚いたかを
新型モデルが近所の人をハッキン グしたことに、ええ、
あるいは、この破壊的な
ミサイルの威力に感銘を受けたと しても、ええ、 それであなたが
発射の責任を免れるわけではない。
それを。ミサイルが勝手に発射した わけじゃない。 あなたが発射した。
ええと、それで、その… いろいろ掘り下げられますが、
しかし私が皆さんに
ええと、向き合ってほしい考えは、 これにどう対処するかです。
そして今、これらの非公開モデルは AIの安全性、AIの
安全性、安全至上主義と呼ばれるも のを唱えています。ええと、 その考えは、これらはあまりに
危険だというものです。まあ、すご く危険だ、 でもすごく魅力的だ。
とても重要で、とても価値がある。 手放すことはできない。
でも、まあ、ああ、 何人か死ぬだろうけど、
それでいいんです。
まあ、そういうこともあります。あ あ、 何社かをハッキングするでしょう。
おっと、まあ、いいや。ええと、 そこに投資すればいい。
ここで重要なのは
誰がこれを運用するのか？ またこれは私たちの機器にも、より
広く世界中で
適用すべきです。現在、 Appleの携帯電話を買うと、
使用を許可される前に、ええと、 「続行」をクリックしなければなり ません。
ええと、相手は言うんです。「まあ、 それについてはあなたが責任を負 う前提です。
あなたが、 「続行」をクリックしたんですから」 と。ほら、
GoogleはAndroid携帯を売ります。
SamsungもAndroid携帯を売ります。
「続行」をクリックすれば、 責任はすべてあなたにあります。
でも、そんな仕組みのはずがない。 だって、あなたはその
システムを調べられない。 どう使われるかも理解できないし、
特にLLMの文脈では、
モデルにクエリを送信しますが、 そのモデルを動かしているのは彼 らです。
ええと、
あなたと他の皆の安全のために、 彼らは
プロンプトを傍受し、 再構成して、こう言います。
「私たちは、ええと、
安全規則を適用し、 それを変換しています」
ええと、それでも責任はあなたにあ る。
でも、違う。 彼らが何をしたのかさえ見えない。
あなたに質問した。
あなたは何かを返してきた。
それがエージェント型AIで、 これをハーネスに組み込む場合、
ですよね？
ハーネスとは、基本的には こうしたものを使う小さなプログ ラムで、
大規模モデルに指示を与え、 それをさらに
ローカル環境にあるツールに 渡せるようにする。
するとインターネットに接続され た あなたのコンピューターは、
率直に言って、 遠くにあるモデルに遠隔操作され る。
その仕組みも分からないモデルに 遠隔操作されるんです。
でも、まあ、 かなりうまく動くことを願う。
実際、かなりうまく動いています。
でも時には、どこかの企業を、 まあ、ハッキングするかもしれない 。
どこかの企業を。
えー、
サム・アルトマンを刑務所に入れ るべきだ、 えー、それは
教訓的な経験になると思う。
End of transcript · 849 words · machine translated
Original transcript (English)
Who owns the liability there? And of course, naturally, they would say the government owns the liability because you're never going to successfully, uh, sue the government for this, even though they, they should eat it. Uh, but maybe that doesn't
work anymore because maybe they are an agent of government. And I, I don't know where we're ever gonna see standing to sue on this, but we, we should. And people in this room, I think, are frankly going to be called upon in the course of their careers, in the course of their studies,
in the course of whatever you do, to contend with these kind of issues. Where are we gonna draw a line? Because an algorithm cannot make mistakes in the way that we understand it as, uh, you know, you making an error. Because the errors in its outputs are
not the computer's fault. It's the slave to its instructions. The responsibility lies with its developer, its programmer, its creator, its architect. Which is to say, responsibility lies with a person. And we cannot hide that. We cannot abrade that away, right?
A, a gun maker is not liable, it's true, for the misuse of the gun. Uh, but if during the testing of their latest piece of artillery, they mistakenly obliterate, you know, a nearby village, it's
not the cannon that should go to jail. And, you know, just because you put out a press release describing how surprised you were that your new model, you know, hacked the neighbor, uh, or d- you know, how impressed you are by this tr- destructive
power of your missile, uh, that doesn't release you from the liability of launching it. The missile didn't launch itself. You launched it. Uh, and, and so th- there's a lot we can get into, but the idea that I want people
to, uh, contend with is, is how we deal with this. And right now, these closed models are saying AI safety, AI safety, safetyism, as they call it, uh, where the idea is these things are so dangerous. Oh gosh, they're so dangerous, but they're so dazzling. They're so important. They're so valuable. We can't get rid of them.
But, you know, oh, it's gonna kill some people, but it's all right. You know, that just happens. Oh, it's gonna hack some companies. Oops, you know, whatever. Uh, we'll invest in them. The idea here is
who operates this? And this should apply to our devices more broadly around the world. Right now, you buy a cell phone from Apple, and before you're allowed to use it, uh, you have to click okay to continue. Uh, and they go, "Well, you're assuming liability for that.
You, you clicked okay to continue." You know, Google sells you an Android phone. Samsung sells you an Android phone. You click okay to continue, and now that's all you. But that can't be possibly how it works because you can't inspect the
system. You can't understand how it's used, and particularly in the context of LLMs, where you're submitting queries to a model that they are running, uh, where they are for your safety and everyone else's safety,
intercepting the prompt and recomposing the prompt, saying, "We're doing, uh, applying safety rules and transformations to it." Uh, that's on you, but it's not. I can't even see what you did.
I asked you a question. You gave me something back in return. And if it's an agentic AI, where I'm putting this thing in a harness, right? The harness being just a little program that basically uses these
large models to feed it instructions that it can then provide to tools that are existing on your local system. So now your computer that is connected to the internet is being, frankly, remotely controlled, uh, by a model that's far away that you don't understand how it works.
But, you know, you hope it works pretty well. And frankly, they do work reasonably well. But every now and then, it might hack, you know, some random company or whatever out there. Uh,
I think we need to put Sam Altman in jail, uh, and I think it'll be an instructive experience.
