Transcript · English → Russian
AI Safety and Future Perspectives
ИИ нас убьёт?
Просто это то место, с которого вам нужно начать на этой неделе.
Что ж, думаю, если мы все хорошо справимся и, эм, и будем действовать
ответственно, то нет. То есть я весьма оптимистично смотрю на то,
что это
будет очень позитивным будущим для всех.
Слушайте, я думаю, что существует много, эм, риторики,
наполненной
мрачными предсказаниями, и я думаю, что
есть ряд лабораторий, которые работают над созданием, эм,
продвинутого ИИ, и
я не думаю, что нам нужна какая-то, типа, общеотраслевая
координация, чтобы не
чтобы не обязательно всё испортить. Думаю, каждой лаборатории просто нужно
уделить время, и когда она видит какие-то проблемы, вам
уделить время, и когда она видит какие-то проблемы, вам
просто нужно уделить время, необходимое внутри компании, чтобы, эм,
убедиться, что вы
безопасно продвигаемся. Знаете, с недавним запуском Muse
у нас была
версия, которая несколько месяцев назад была довольно хорошей, и мы
хотели убедиться, что действительно довели до ума всё, что касается
конфиденциальности и безопасности
потому что суть в том, что, если вы создаёте продукт,
люди не захотят им пользоваться, если он не делает того, что им нужно.
Знаете, мы хотим прийти к миру, где каждый сможет извлечь пользу из
этого, и —
Да.
Э-э, этого просто не будет.
Люди не примут это, если не будут этому доверять.
Да.
Так что я лично считаю, что мы вступаем в фазу,
когда доверие и согласованность действительно станут
следующим, самым важным набором возможностей, верно?
Думаю, мы подходим к моменту, когда уже будет не так важно, насколько
лучше она разбирается в математике, да? Она уже довольно хорошо разбирается в математике.
Ну, знаешь, это полезно—
для многих вещей.
для многих вещей.
Да.
Думаю, сейчас, типа, мы внутри компании обсуждаем
следующее:
знаешь, следование инструкциям, делает ли она то, что тебе нужно?
Понимание намерений, она, ну, понимает твои намерения?
Понимает ли она, что соответствует твоим ценностям?
И, думаю, добиться этого будет важнее всего в дальнейшем,
чтобы
соответствовать тому, чего люди на самом деле хотят в мире. Так что не знаю.
Да. Нет, я, я думаю, и это—
Я, я считаю, что есть, типа, немало коммерческих стимулов сделать это
правильно.
End of transcript · 348 words · machine translated
Original transcript (English)
Is AI gonna kill us? It's just that this is the place you have to start this week. Well, I think if we all do a good job and, um, and act responsibly, then no. I mean, I'm quite optimistic about the fact that this
is gonna be a very positive future for everyone. Look, I mean, I think that there's a lot of, uh, rhetoric that is filled with doom, and I mean, my view on this is that there are a number of labs that are working on building, um,
advanced AI, and I don't think that we need some kind of, like, industry-wide coordination to not, to not necessarily mess this up. I think that just each lab needs to
take the time, and when it sees that there are issues, you just take the time that you need internally to, uh, make sure that you're proceeding safely. You know, with the Muse launch that we just did, we had a
version of it that was quite good a few months ago, and we wanted to make sure that we really nailed all the privacy and security parts of it because part of this is that if you're building a product, like, people aren't gonna wanna use it if it doesn't do what they want.
You know, we wanna get to a world where, you know, everyone can, can benefit from this and- Yeah ... um, it's, it's just not gonna happen. People aren't gonna adopt it if they, if they don't trust it.
Yeah. So my, my own view on this is that we're entering a phase where trust and alignment is actually going to be the most important next set of capabilities, right? I think we're getting to a point where it may not matter that much how much
better it gets at math, right? It's already pretty good at math. Um, you know, that's useful- Yeah ... for a bunch of things. Yeah.
I think at this point, like, the, the things that we talk about internally are, you know, instruction following, does it do what you want? Intent understanding, does it, does it kind of understand your intent? Does it understand your values alignment?
And I think nailing those things are gonna be the most important next things to align with what people actually want in the world. So I don't know. Yeah. No, I, I think, and it's- I, I happen to think that there's, like, plenty of commercial incentive to get this
right
