Transcript · English → French
Liability and Responsibility in AI Development
À qui incombe la responsabilité ?
Et bien sûr, naturellement, ils diraient que l’État assume la
responsabilité parce que
vous n’arriverez jamais à, euh, poursuivre l’État pour ça, même s’ils
devraient en payer le prix. Euh, mais peut-être que ça ne
marche plus parce qu’ils sont peut-être un agent de l’État.
Et moi, je ne sais pas où nous verrons un jour
la qualité pour agir à ce sujet, mais nous,
nous le devrions. Et les gens dans cette salle, je pense, vont en fait être
appelés, au cours de leur carrière, de leurs études,
au
cours de tout ce que vous ferez, à faire face à ce genre de questions.
Où allons-nous tracer la ligne ? Car un algorithme ne peut pas faire
d’erreurs de la manière dont nous le concevons, euh, vous savez,
vous faites une erreur. Car les erreurs dans ses résultats sont
ce n'est pas la faute de l'ordinateur. Il est l'esclave de ses instructions.
La responsabilité incombe à son développeur, son programmeur, son créateur,
son
architecte. Autrement dit, la responsabilité incombe à une personne.
Et nous ne pouvons pas le cacher. Nous ne pouvons pas effacer ça, pas vrai ?
Un, un fabricant d'armes
n'est pas responsable, c'est vrai, de la mauvaise utilisation de l'arme.
Euh, mais si, lors des essais de leur dernier
engin d'artillerie, ils
anéantissent par erreur, vous savez, un village voisin, ce n'est
pas le canon qui devrait aller en prison.
Et, vous savez, ce n'est pas parce que vous publiez un communiqué
expliquant à quel point
vous avez été surpris que votre nouveau modèle, vous savez, ait piraté le voisin, euh,
ou d- vous savez, à quel point vous êtes impressionné par cette p- puissance destructive
de votre missile, euh, que cela vous exonère de la
responsabilité de l'avoir lancé
C'est toi. Le missile ne s'est pas lancé tout seul. C'est toi qui l'as lancé.
Euh, et donc… il y a beaucoup de choses qu'on peut aborder,
mais l'idée à laquelle je veux que les gens
se confrontent, euh, c'est la manière dont on gère ça.
Et en ce moment, ces modèles fermés parlent de sécurité de l'IA, de sécurité de l'IA,
de sécuritarisme, comme ils l'appellent, euh, selon l'idée que ces choses sont tellement
dangereuses. Oh là là, elles sont si dangereuses, mais elles sont si éblouissantes.
Elles sont si importantes. Elles ont tant de valeur. On ne peut pas s'en débarrasser.
Mais, vous savez, oh, ça va tuer quelques personnes,
mais ce n'est pas grave.
Vous savez, ça arrive, c'est tout. Oh, ça va pirater des entreprises.
Oups, vous savez, peu importe. Euh, on va investir dans ces entreprises.
L'idée, ici, c'est
qui contrôle ça ? Et cela devrait s'appliquer plus largement à nos appareils
à travers le
monde. En ce moment, vous achetez un téléphone portable à Apple, et
avant d'être autorisé à l'utiliser, euh, vous devez cliquer sur OK pour continuer.
Euh, et ils disent : « Eh bien, vous assumez la responsabilité pour ça.
Vous, vous avez cliqué sur OK pour continuer. » Vous savez,
Google vous vend un téléphone Android.
Samsung vous vend un téléphone Android.
Vous cliquez sur OK pour continuer, et maintenant, tout repose sur vous.
Mais ça ne peut pas fonctionner ainsi parce que vous ne pouvez pas inspecter le
système. Vous ne pouvez pas comprendre comment il est utilisé,
et particulièrement dans le contexte des
LLM, où vous soumettez des requêtes à un modèle
qu'ils font fonctionner, euh,
où ils assurent votre sécurité et celle de tout le monde,
interceptez l'invite et la recomposent, en disant :
« Nous faisons, euh,
appliquons des règles de sécurité et des transformations. »
Euh, c'est votre responsabilité,
mais ce n'est pas le cas. Je ne peux même pas voir ce que vous avez fait.
Je vous ai posé une question.
Vous m'avez donné quelque chose en retour.
Et si c'est une IA agentique, où je mets ce truc dans une enveloppe logicielle,
n'est-ce pas ?
Cette enveloppe n'est qu'un petit programme qui utilise essentiellement ces
grands modèles pour leur fournir des instructions qu'ils peuvent ensuite
transmettre à des outils qui existent sur votre système
local. Donc maintenant, votre ordinateur, qui est connecté à
Internet, est, franchement, contrôlé à distance, euh, par un modèle
qui est loin et dont vous ne comprenez pas le fonctionnement.
Mais, vous savez, vous espérez qu'il fonctionne plutôt bien.
Et franchement, ils fonctionnent assez bien.
Mais de temps en temps, il pourrait pirater, vous savez, une entreprise quelconque ou autre,
quelque part.
Euh,
Je pense qu'il faut mettre Sam Altman en prison, euh, et je pense que ce serait une
expérience édifiante.
End of transcript · 766 words · machine translated
Original transcript (English)
Who owns the liability there? And of course, naturally, they would say the government owns the liability because you're never going to successfully, uh, sue the government for this, even though they, they should eat it. Uh, but maybe that doesn't
work anymore because maybe they are an agent of government. And I, I don't know where we're ever gonna see standing to sue on this, but we, we should. And people in this room, I think, are frankly going to be called upon in the course of their careers, in the course of their studies,
in the course of whatever you do, to contend with these kind of issues. Where are we gonna draw a line? Because an algorithm cannot make mistakes in the way that we understand it as, uh, you know, you making an error. Because the errors in its outputs are
not the computer's fault. It's the slave to its instructions. The responsibility lies with its developer, its programmer, its creator, its architect. Which is to say, responsibility lies with a person. And we cannot hide that. We cannot abrade that away, right?
A, a gun maker is not liable, it's true, for the misuse of the gun. Uh, but if during the testing of their latest piece of artillery, they mistakenly obliterate, you know, a nearby village, it's
not the cannon that should go to jail. And, you know, just because you put out a press release describing how surprised you were that your new model, you know, hacked the neighbor, uh, or d- you know, how impressed you are by this tr- destructive
power of your missile, uh, that doesn't release you from the liability of launching it. The missile didn't launch itself. You launched it. Uh, and, and so th- there's a lot we can get into, but the idea that I want people
to, uh, contend with is, is how we deal with this. And right now, these closed models are saying AI safety, AI safety, safetyism, as they call it, uh, where the idea is these things are so dangerous. Oh gosh, they're so dangerous, but they're so dazzling. They're so important. They're so valuable. We can't get rid of them.
But, you know, oh, it's gonna kill some people, but it's all right. You know, that just happens. Oh, it's gonna hack some companies. Oops, you know, whatever. Uh, we'll invest in them. The idea here is
who operates this? And this should apply to our devices more broadly around the world. Right now, you buy a cell phone from Apple, and before you're allowed to use it, uh, you have to click okay to continue. Uh, and they go, "Well, you're assuming liability for that.
You, you clicked okay to continue." You know, Google sells you an Android phone. Samsung sells you an Android phone. You click okay to continue, and now that's all you. But that can't be possibly how it works because you can't inspect the
system. You can't understand how it's used, and particularly in the context of LLMs, where you're submitting queries to a model that they are running, uh, where they are for your safety and everyone else's safety,
intercepting the prompt and recomposing the prompt, saying, "We're doing, uh, applying safety rules and transformations to it." Uh, that's on you, but it's not. I can't even see what you did.
I asked you a question. You gave me something back in return. And if it's an agentic AI, where I'm putting this thing in a harness, right? The harness being just a little program that basically uses these
large models to feed it instructions that it can then provide to tools that are existing on your local system. So now your computer that is connected to the internet is being, frankly, remotely controlled, uh, by a model that's far away that you don't understand how it works.
But, you know, you hope it works pretty well. And frankly, they do work reasonably well. But every now and then, it might hack, you know, some random company or whatever out there. Uh,
I think we need to put Sam Altman in jail, uh, and I think it'll be an instructive experience.
