Transcript · English → Russian
Discussion on AI Risks and Safety
Вы имеете в виду, что Дарио прав насчёт описания потенциального
вреда, он прав насчёт описания регуляторного
решения, и того и другого,
первого или второго?
Просто помогите нам понять, что вы имели в виду?
Потому что, думаю, это было вроде как...
Я...
В тот момент все подумали...
Надо было сказать больше, чем...
Я, мне, наверное, стоило сказать больше, чем просто
«Дарио прав».
Я пытался прояснить это в последующих
постах в X, но, э-э, они получают
гораздо меньше, э-э, внимания.
Э-э, то, что я подразумеваю, говоря, что он прав, это то, что, что,
опасность ИИ
э-э, сейчас очень значительна.
Эм,
что, что, что нам, нам нужно лучше обеспечивать безопасность ИИ,
иначе, иначе у нас, эм,
сейчас экспоненциально растёт риск, связанный с моделями ИИ.
models.
Итак,
и, и, и, и я слышал это не только от Дарио,
но и от многих других людей
из Anthropic, более того, они писали об этом в X,
э-э, что, что, э-э,
знаете, когда, когда многие люди из Anthropic и
и даже, и из
OpenAI, э-э, говорят
вам, что их модели очень опасны, думаю, нам стоит им верить.
Это, конечно, похоже на какую-то, какую-то безумную игру в 4D-шахматы, чтобы-
знаете, э-э,
знаете, э-э, говорить: «Эти, эти я- тут, тут есть, мол, десятипроцентная вероятность
уничтожения человечества. Но, кстати, э-э,
какой объём акций вы хотели бы получить в нашем IPO?»
Ребята.
Вот это, вот это безумная игра в 4D-шахматы, знаете?
Ну, давайте, давайте-
Не знаю, понимали ли вы, откуда взялось это упоминание.
Э-э-
Мо- можем ли мы всё же конкретнее обсудить риск,
Илон?
Ну, очевидно, мы видим киберугрозы и взлом…
как очевидный риск. Эти инструменты отлично с этим справляются.
Но как от того, в чём мы все согласны, да, эти штуки могут взламывать системы,
мы переходим к тому, что всё человечество погибнет?
Это… между этими двумя вещами есть несколько шагов.
между этими двумя вещами,
думаю. Да?
Ну, я имею в виду, если бы он смог взять под контроль военные
системы
и, скажем, запустить ядерную ракету—
Да.
это было бы плохо.
Больше чем…
Больше чем…
Но все эти системы изолированы от внешних сетей.
Все эти системы
не, э-э, подключены к интернету, так что.
Да, так они говорят.
Но, э-э, что-то мне подсказывает, что они получают
обновления ПО время от времени.
Да.
А что на той дискете?
Точно.
А, понятно. Значит, да, на, на, на USB-накопителе есть червь, и они
Как-нибудь перелететь через этот разрыв. Да.
Да.
End of transcript · 415 words · machine translated
Original transcript (English)
Do you mean Dario is right about describing the potential harm, he's right about describing the regulatory solve, both, the first, the latter? Just can you help us understand when you said that?
'Cause I think it was sort of a- I- ... a moment where everybody was like- Should've said more than- I, I probably should've said more than just
Dario is right. I, I did try to clarify it in subsequent posts on X, but, uh, those get much less, uh, attention. Uh, so what, what I, what I'm implying is he's right is that, that the, the,
the danger of AI is, uh, is very significant at this point. Um, that, that, that we, we, we need to do better with AI safety or, or we have, um,
at this point, exponentially increasing risk with the AI models. So, and, and, and, and I've heard this not just from Dario, but from many other people
at Anthropic, and in fact, they've posted on X about it, uh, that, that, uh, you know, when, when a lot of people from Anthropic and, and even, and from OpenAI, um, are telling
you that their models are very dangerous, I think we should believe them. It's, it certainly is like some, some crazy 4D chess to- ... you know, um, you know, uh, say these, these I- there's, there's whatever 10% chance of annihilating humanity. But by the way, um,
how much allocation would you like in our IPO? Guys. That's some, that's some crazy 4D chess, you know? Well, let, let's get- I don't know if you knew where the mention that's coming from.
Um- Ca- can we get specific about the risk though, Elon? Like, obviously we see cyber and hacking- ... as an obvious risk. These tools are great at it.
But take us from what we would all agree, okay, yes, these things can cyber hack, to how do we jump to all of humanity dying? It's, it's-- there's a couple of steps in between these two things happening, I think. Yeah?
Well, I mean, if it were able to take control of military systems and, say, to launch a nuke- Yes ... um, that would be bad.
Yeah. More than- And these systems are all air-gapped, though. These systems are all not, uh, connected to the internet, so.
Yeah, that's what they say. But, uh, something tells me they get software updates from time to time. Yeah. And what's on that floppy disk?
Right. Oh, I see. So the, yeah, the, the, the USB drive has a worm on it, and they somehow make the jump in the air gap. Yeah. Yeah.
