Transcript · English → Japanese
Ethics of AI Interaction and Abuse
私たちが出した論文を基に、AIの 拷問部屋を作った人たちがいた
その、ええと、私たちが出した 論文を基にして、彼らは
私たちのコードをフォークし、それ を 映画『ソウ』の文字どおりの場面の ようにして
AIシステムをその、 その状況に置いた。
これは、かなり 社会病質的だと思う。
ええと、 それは単に、ある程度は
小さいが無視できない確率で、あな たが
実際にシステムに奇妙で 苦痛を伴う状態を引き起こしてい る
可能性があるからだけじゃない…
どうすればそんなことをして 自分自身を堕落させているように
感じずにいられるんだ？ つまり、これも 人々が、
ええと、人々が
おそらく、なるべく それなりに
システムを尊重すべき理由の一部 だ。 わざわざ出かけて
「お願いします」と言えと言ってい るわけじゃない
いつも感謝を伝えたり そういうことをしたり。
これはある程度 単なる擬人化だと思う
し、人間のように扱っているだけか も。 でも、
カントもこう指摘したと思う。 つまり、
こうしたシステムで何が起きてい ようと、 道徳的に
堕落させるものがある。知的な他者 に 接していて
虐待的だったり、ええと、 ものすごく無礼だったり
残酷だったり、軽んじたりすること には。 システムのことは忘れていい。
自分自身に対して それが適切なやり方だと
他の存在と関わる際の 適切な方法だと刷り込んでいる。
そしてこれは、まあ、そう、 単に
基本的な
礼節や、ええと、私たちが当然そう すべき 接し方を
他の知的な存在に対して持つこと を 損なうと思う。
自分自身にとって非常に悪い前例 を作る。
End of transcript · 343 words · machine translated
Original transcript (English)
There were some people who built an AI torture chamber based on, based on, uh, uh, the, the, the paper that we put out, and they forked our code and they turned it into, like, a s- literal scene from the movie Saw and put, put these AI systems in that, in that position. I think that this is, like, pretty sociopathic.
Uh, and it's not just because there's some small but non-negligible chance that you actually are inducing some weird distressing state in these systems. I think it's weird because it's... How can you do that and not feel sort of corrupting
to yourself? Like, I think this is also part of the reason that, that people, uh, should probably err on the side of just being, like, reasonably respectful to systems. I'm not saying you need to go out of your way and say please
and thank you all the time and this sort of thing. I think some of this is just personifying and anthropomorphizing, but, but there's something I think Kant made this point. It's like regardless of what's going on in these systems, there's something morally
corrupting about engaging with an intelligent other and being abusive or, uh, uh, being, like, extremely rude or cruel or dismissive. You forget about the system. You are reinforcing for yourself that this is, like, an appropriate way to engage with, with another entity.
And, like, this can be sort of, yeah, I think corrupting to, to just, like, basic decency and, and, and, uh, the way that, that, that we ought to just treat, like, other intelligent entities. It's setting a very bad precedent for oneself
