Transcript · English → Japanese
Risks of Super Intelligent AI Development
ええと、
あらゆるAI企業が 超知能AIを作ろうとしている。
これは あらゆる作業で 人間より優れたAIのことだ。
これがうまくいけば、 莫大な恩恵があり得る。
これは経済を変革し、
科学や医療を 大幅に進歩させ、
ほぼ全員の人生を より良くする可能性がある。
だが現状のままでは、私は 五分五分以上の確率で
人類がこれらのAIの制御を失うと 思う。
そして人類の絶滅で終わるかもし れない。
私の経験上、企業は 極めて無謀に行動している。
これほどの危険があるのに。
一因は企業文化にある。
企業はスタートアップ思考で動き、 速さを優先し、
問題を起こしても、後で直す。
写真共有アプリなら それでいい。
史上最も強力な技術を 作る場合には通用しない。
End of transcript · 162 words · machine translated
Original transcript (English)
So, um, all the, uh, AI companies are trying to build super intelligent AI. This means AIs that are better than humans at every task. If this goes well, there could be tremendous upside. This could transform the economy,
it could make huge improvements in, in science and medicine, and it could make nearly everyone's life better. But on the current path, I think it is more likely than not that humanity loses control to these AIs, and it could end in human extinction.
From my experience, the companies are being extremely reckless, given the stakes. Part of it is the culture. The companies run on a startup mindset, move fast, break things, fix them later.
That works for a photo sharing app. It does not work for building the most powerful technology ever built.
