Transcript · English → Italian
Liability and Responsibility in AI Development
Chi si assume la responsabilità in quel caso?
E naturalmente, ovviamente, direbbero che il governo si assume la
responsabilità perché
non riuscirai mai, ecco, a citare in giudizio il governo per questo, anche se
loro dovrebbero farsene carico. Ma forse non
funziona più perché forse sono un agente del governo.
E io, non so dove potremo mai trovare
la legittimazione ad agire in questo caso, ma noi,
noi dovremmo. E le persone in questa sala, credo, francamente, saranno
chiamate, nel corso delle loro carriere, nel corso dei loro studi,
nel
corso di qualunque cosa facciate, ad affrontare questioni di questo tipo.
Dove tracceremo il confine? Perché un algoritmo non può commettere
errori nel modo in cui intendiamo, ecco,
che voi commettiate un errore. Perché gli errori nei suoi risultati sono
non del computer. È schiavo delle sue istruzioni.
La responsabilità ricade sul suo sviluppatore, il suo programmatore, il suo creatore,
il suo
architetto. Vale a dire, la responsabilità ricade su una persona.
E non possiamo nasconderlo. Non possiamo cancellarlo, giusto?
Un, un fabbricante di armi
non è responsabile, è vero, dell'uso improprio di un'arma.
Eh, ma se, durante il collaudo del loro ultimo
pezzo di artiglieria, loro
per errore radono al suolo, sapete, un villaggio vicino, non è
il cannone che dovrebbe finire in prigione.
E, sapete, solo perché pubblicate un comunicato stampa
in cui descrivete quanto sorpresi
siete stati che il vostro nuovo modello, sapete, abbia hackerato il vicino, eh,
o c— sapete, quanto siete colpiti dalla potenza d— distruttiva
del vostro missile, eh, questo non vi esonera dalla
responsabilità di lanciarlo
Esso. Il missile non si è lanciato da solo. Sei stato tu a lanciarlo.
Ehm, e, e quindi c- c'è molto di cui possiamo parlare,
ma l'idea con cui voglio che le persone
si confrontino è, ehm, è come affrontiamo tutto questo.
E ora questi modelli chiusi dicono: sicurezza dell'IA, sicurezza dell'IA,
sicurezza, sicurezza a tutti i costi, come la chiamano.
Ehm, l'idea è che queste cose siano così pericolose.
Oddio, sono così pericolose, ma sono anche così straordinarie.
Sono così importanti.
Sono così preziose. Non possiamo sbarazzarcene.
Ma, sapete, oh, uccideranno alcune persone,
ma va bene.
Sapete, succede e basta. Oh, hackereranno alcune aziende.
Ops, sapete, che importa. Ehm, ci investiremo.
L'idea qui è:
chi gestisce tutto questo? E questo dovrebbe applicarsi ai nostri dispositivi
più in generale nel
mondo. Ora, compri un cellulare da Apple, e
prima che ti sia consentito usarlo, eh, devi cliccare OK per continuare.
Eh, e loro dicono: «Beh, ti assumi la responsabilità.
Tu, hai cliccato OK per continuare.» Sai,
Google ti vende un telefono Android.
Samsung ti vende un telefono Android. Clicchi OK per continuare.
E ora ricade tutto su di te, ma non può assolutamente funzionare così
perché tu
non puoi ispezionare il sistema. Non puoi capire come viene usato.
E soprattutto nel contesto degli LLM, in cui invii richieste a un
modello che gestiscono loro, eh, dove, per la tua
sicurezza e quella degli altri, intercettano il prompt e lo
riformulano, dicendo: «Stiamo, eh,
applicando regole di sicurezza e
trasformazioni.»
Eh, è responsabilità tua,
ma non lo è. Non riesco nemmeno a vedere cosa avete fatto.
Ti ho fatto una domanda, e tu mi hai dato qualcosa in risposta.
E se è un'IA agentica, in cui inserisco questa cosa in un framework,
giusto?
Il framework è solo un piccolo programma che in pratica usa questi
grandi modelli per dargli istruzioni che poi può
fornire a strumenti che esistono sul tuo sistema
locale. Quindi ora il tuo computer, che è connesso a Internet,
viene, francamente, controllato da remoto, eh, da un modello
che è lontano e di cui non capisci come funziona.
Ma, sai, speri che funzioni piuttosto bene.
E francamente, funzionano abbastanza bene.
Ma ogni tanto potrebbe hackerare, sai, qualche azienda a caso o roba del genere
là fuori.
Eh,
Penso che dobbiamo mettere Sam Altman in prigione, eh, e credo che sarebbe un'esperienza
istruttiva.
End of transcript · 657 words · machine translated
Original transcript (English)
Who owns the liability there? And of course, naturally, they would say the government owns the liability because you're never going to successfully, uh, sue the government for this, even though they, they should eat it. Uh, but maybe that doesn't
work anymore because maybe they are an agent of government. And I, I don't know where we're ever gonna see standing to sue on this, but we, we should. And people in this room, I think, are frankly going to be called upon in the course of their careers, in the course of their studies,
in the course of whatever you do, to contend with these kind of issues. Where are we gonna draw a line? Because an algorithm cannot make mistakes in the way that we understand it as, uh, you know, you making an error. Because the errors in its outputs are
not the computer's. It's the slave to its instructions. The responsibility lies with its developer, its programmer, its creator, its architect. Which is to say, responsibility lies with a person. And we cannot hide that. We cannot abrade that away, right?
A, a gun maker is not liable, it's true, for the misuse of a gun. Uh, but if during the testing of their latest piece of artillery, they mistakenly obliterate, you know, a nearby village, it's
not the cannon that should go to jail. And, you know, just because you put out a press release describing how surprised you were that your new model, you know, hacked the neighbor, uh, or d- you know, how impressed you are by the str- destructive
power of your missile, uh, that doesn't release you from the liability of launching it. The missile didn't launch itself. You launched it. Uh, and, and so th- there's a lot we can get into, but the idea that I want people
to, uh, contend with is, is how we deal with this. And right now, these closed models are saying AI safety, AI safety, safetyism, as they call it. Uh, where the idea is these things are so dangerous. Oh gosh, they're so dangerous, but they're so dazzling.
They're so important. They're so valuable. We can't get rid of them. But, you know, oh, it's gonna kill some people, but it's all right. You know, that just happens. Oh, it's gonna hack some companies.
Oops, you know, whatever. Uh, we'll invest in them. The idea here is who operates this? And this should apply to our devices more broadly around the world. Right now, you buy a cell phone from Apple, and
before you're allowed to use it, uh, you have to click Okay to continue. Uh, and they go, "Well, you're assuming liability for that. You, you clicked Okay to continue." You know, Google sells you an Android phone. Samsung sells you an Android phone. You click Okay to continue.
And now that's all on you, but that can't be possibly how it works because you can't inspect the system. You can't understand how it's used. And particularly in the context of LLMs, where you're submitting queries to a model that they are running, uh, where they are for your
safety and everyone else's safety, intercepting the prompt and recomposing the prompt, saying, "We're doing, uh, applying safety rules and transformations to it." Uh, that's on you,
but it's not. I can't even see what you did. I asked you a question, you gave me something back in return. And if it's an agentic AI, where I'm putting this thing in a harness, right? The harness being just a little program that basically uses these
large models to feed it instructions that it can then provide to tools that are existing on your local system. So now your computer that is connected to the internet is being, frankly, remotely controlled, uh, by a model that's far away that you don't understand how it works.
But, you know, you hope it works pretty well. And frankly, they do work reasonably well. But every now and then, it might hack, you know, some random company or whatever out there. Uh,
I think we need to put Sam Altman in jail, uh, and I think it'll be an instructive experience.
