Transcript · English → Bulgarian
Liability and Responsibility in AI Development
Кой носи отговорността там?
И, разбира се, естествено, те биха казали, че правителството носи
отговорността, защото
никога няма успешно, ъъ, да осъдите правителството за това, въпреки че
те, те би трябвало да го поемат. Ъъ, но може би това вече не
работи, защото може би те са агент на правителството.
И аз, не знам дали изобщо някога ще видим
правно основание да се заведе дело за това, но ние,
ние трябва. И хората в тази зала, мисля, честно казано, ще бъдат
призвани в хода на своите кариери, в хода на обучението си,
в
хода на каквото и да правите, да се справят с подобни въпроси.
Къде ще теглим границата? Защото един алгоритъм не може да прави
грешки по начина, по който го разбираме, ъъ, нали,
като когато вие допуснете грешка. Защото грешките в резултатите му са
не на компютъра. Той е роб на инструкциите си.
Отговорността е на неговия разработчик, програмист, създател,
неговия
архитект. С други думи, отговорността е на човек.
И не можем да го скрием. Не можем да го заличим, нали?
Един, един производител на оръжия
не носи отговорност, вярно е, за неправомерната употреба на оръжие.
Ъм, но ако при изпитанието на най-новото им
артилерийско оръдие те
по погрешка унищожат, нали, близко село, не
оръдието трябва да отиде в затвора.
И, нали, само защото публикувате прессъобщение
в което описвате колко изненадани
сте били, че новият ви модел, нали, е хакнал съседа, ъъ,
или, нали, колко сте впечатлени от разруши— разрушителната
мощ на ракетата ви, ъъ, това не ви освобождава от
отговорност за изстрелването
нея. Ракетата не се изстреля сама. Ти я изстреля.
Ъ, и, и т-така че има много неща, в които можем да навлезем,
но идеята, с която искам хората
да се, ъ, занимаят, е как да се справим с това.
А в момента тези затворени модели говорят за безопасността на ИИ, ИИ
безопасност, сейфтизъм, както го наричат.
Ъ, при което идеята е, че тези неща са толкова опасни.
Боже, толкова са опасни, но са толкова ослепителни.
Толкова са важни.
Толкова са ценни. Не можем да се отървем от тях.
Но, нали, о, ще убие някои хора,
но всичко е наред.
Нали, просто се случва. О, ще хакне някои компании.
Упс, нали, все тая. Ъм, ще инвестираме в тях.
Идеята тук е:
кой управлява това? И това трябва да важи по-широко за нашите устройства
по целия
свят. В момента, си купувате мобилен телефон от Apple и
преди да ти бъде позволено да го използваш, ъ, трябва да кликнеш „ОК“, за да продължиш.
Ъ, и те казват: „Е, ти поемаш отговорност за това.
Ти, ти кликна „ОК“, за да продължиш.“ Нали,
Google ти продава телефон с Android.
Samsung ти продава телефон с Android. Кликваш „ОК“, за да продължиш.
И сега всичко е твоя отговорност, но няма как да работи така,
защото ти
не можеш да провериш системата. Не можеш да разбереш как се използва.
И особено в контекста на LLM-и, когато изпращаш заявки към
модел, който те управляват, ъ, където за твоята
безопасност и безопасността на всички останали прихващат подканата и
преформулират подканата, казвайки: „Ние, ъ,
прилагаме правила за безопасност и
трансформации към нея.“
Ъ, това е твоя отговорност,
но не е. Дори не мога да видя какво сте направили.
Зададох ти въпрос, а ти ми върна нещо в отговор.
И ако това е агентен ИИ, при който поставям това нещо в обвивка,
нали?
Обвивката е просто малка програма, която основно използва тези
големи модели, за да ѝ подават инструкции, които после може да
предоставя на инструменти, които се намират на локалната ти
система. Така компютърът ти, който е свързан с
интернет, откровено казано, се управлява дистанционно, ъъ, от модел
който е далеч и не разбираш как работи.
Но, нали, се надяваш да работи доста добре.
И, честно казано, те работят сравнително добре.
Но от време на време може да хакне, нали, някоя случайна компания или нещо такова
някъде.
Ъъ,
Мисля, че трябва да вкараме Сам Алтман в затвора, ъъ, и мисля, че това ще бъде
поучително преживяване.
End of transcript · 664 words · machine translated
Original transcript (English)
Who owns the liability there? And of course, naturally, they would say the government owns the liability because you're never going to successfully, uh, sue the government for this, even though they, they should eat it. Uh, but maybe that doesn't
work anymore because maybe they are an agent of government. And I, I don't know where we're ever gonna see standing to sue on this, but we, we should. And people in this room, I think, are frankly going to be called upon in the course of their careers, in the course of their studies,
in the course of whatever you do, to contend with these kind of issues. Where are we gonna draw a line? Because an algorithm cannot make mistakes in the way that we understand it as, uh, you know, you making an error. Because the errors in its outputs are
not the computer's. It's the slave to its instructions. The responsibility lies with its developer, its programmer, its creator, its architect. Which is to say, responsibility lies with a person. And we cannot hide that. We cannot abrade that away, right?
A, a gun maker is not liable, it's true, for the misuse of a gun. Uh, but if during the testing of their latest piece of artillery, they mistakenly obliterate, you know, a nearby village, it's
not the cannon that should go to jail. And, you know, just because you put out a press release describing how surprised you were that your new model, you know, hacked the neighbor, uh, or d- you know, how impressed you are by the str- destructive
power of your missile, uh, that doesn't release you from the liability of launching it. The missile didn't launch itself. You launched it. Uh, and, and so th- there's a lot we can get into, but the idea that I want people
to, uh, contend with is, is how we deal with this. And right now, these closed models are saying AI safety, AI safety, safetyism, as they call it. Uh, where the idea is these things are so dangerous. Oh gosh, they're so dangerous, but they're so dazzling.
They're so important. They're so valuable. We can't get rid of them. But, you know, oh, it's gonna kill some people, but it's all right. You know, that just happens. Oh, it's gonna hack some companies.
Oops, you know, whatever. Uh, we'll invest in them. The idea here is who operates this? And this should apply to our devices more broadly around the world. Right now, you buy a cell phone from Apple, and
before you're allowed to use it, uh, you have to click Okay to continue. Uh, and they go, "Well, you're assuming liability for that. You, you clicked Okay to continue." You know, Google sells you an Android phone. Samsung sells you an Android phone. You click Okay to continue.
And now that's all on you, but that can't be possibly how it works because you can't inspect the system. You can't understand how it's used. And particularly in the context of LLMs, where you're submitting queries to a model that they are running, uh, where they are for your
safety and everyone else's safety, intercepting the prompt and recomposing the prompt, saying, "We're doing, uh, applying safety rules and transformations to it." Uh, that's on you,
but it's not. I can't even see what you did. I asked you a question, you gave me something back in return. And if it's an agentic AI, where I'm putting this thing in a harness, right? The harness being just a little program that basically uses these
large models to feed it instructions that it can then provide to tools that are existing on your local system. So now your computer that is connected to the internet is being, frankly, remotely controlled, uh, by a model that's far away that you don't understand how it works.
But, you know, you hope it works pretty well. And frankly, they do work reasonably well. But every now and then, it might hack, you know, some random company or whatever out there. Uh,
I think we need to put Sam Altman in jail, uh, and I think it'll be an instructive experience.
