Transcript · English → French
Founding OpenAI and AI Ethics
Oui. Bon,
revenons à OpenAI un instant.
Euh,
la raison pour laquelle j'ai fondé
OpenAI, c'est que j'étais inquiet, d'après mes conversations
avec Larry Page, qui était autrefois un ami proche,
euh, qu'il ne se souciait pas assez
des dangers de l'IA.
Euh, ça a vraiment culminé
lors de ma fête d'anniversaire,
euh, quand il, devant un grand groupe de personnes,
m'a traité de
spéciste,
euh,
parce que je privilégiais l'humanité aux ordinateurs.
Euh, ça… je trouvais ça inquiétant.
Euh, je lui ai dit : « Larry, euh, de quel côté es-tu ? »
« Euh, on dirait que tu es du côté des
ordinateurs,
euh, mais tu dois vraiment être dans l'équipe de l'humanité
ici, tu vois. »
Euh,
donc,
euh, après ça, je me suis dit : « OK, là, c'est bon.
Il nous faut un contrepoids à, euh, Google, euh,
parce que Larry ne semble pas se soucier que les humains la créent ou non.
Euh,
alors je me suis demandé, quel est l'opposé de Google ?
Ce serait une organisation open source à but non lucratif,
et c'est de là que vient le mot « open » dans OpenAI. Cela signifie open source.
Et, et j'ai apporté
J'ai fourni tout l'argent au début, euh,
comme lors de l'un des tours de série A, B ou C et,
euh, j'ai recruté les personnes clés comme Ilya
Sutskever
et, euh,
je leur ai appris tout ce que je sais
et, euh,
vous savez.
J', j'ai même conclu l'accord avec
Microsoft avec, avec Satya au départ pour
j- j'ai convaincu Satya de donner du temps sur
Azure.
Euh,
et pour tout ça, je n'ai pas
cherché la moindre
récompense financière.
Euh,
Le, le… Et, et la raison pour laquelle j'ai refusé l'offre
d'actions, c'est
parce que, enfin, je me suis dit, qu'est-ce que vous… Des actions de quoi ?
Enfin, les associations à but non lucratif ne sont pas censées avoir des actions,
du moins, la dernière fois que j'ai
vérifié.
Euh, vous savez, elles ne reposent pas…
Les associations à but non lucratif ne sont pas censées être un moyen de s'enrichir.
Euh, c'est pourquoi j'ai refusé l'offre de
parts, car cela ne
semblait moralement ni légalement défendable.
Euh—
End of transcript · 361 words · machine translated
Original transcript (English)
Yeah. Well, just going back to OpenAI for a second. Um, the reason I founded OpenAI was because I was concerned, based on my conversations
with Larry Page, who used to be a close friend of mine, um, that he was not sufficiently concerned about the dangers of AI. Um, this really came to a head when at my birthday party,
uh, he, in front of a large group of people, called me a specist, um, for favoring humanity over computers.
Uh, that-- I found that troubling. Um, I was like, "Larry, uh, what side are you on?" "Um, it sounds like you're on like side of the computers, uh, but you really need to be on team humanity
here, you know." Um, so, uh, after that, I was like, "Okay, this is it. We gotta have some counterbalance to, uh, Google, um,
because Larry doesn't seem to care if humans make it or not." Um, so I, I thought, what's the opposite of Google? It would be an open source nonprofit, and that's where the word open in OpenAI comes from. It, it means open source.
And, and I, I provided I provided all the money beginning, um, like one of the series A, B, C rounds and, uh, recruited the key people like Ilya Sutskever
and, um, taught them everything I know and, uh, you know. I, I actually even got them the deal with
Microsoft with, with Satya initially to g- I got Satya to donate some time from Azure. Um, and for all that, I did not
seek any financial reward whatsoever. Um, the, the... And, and the reason I actually turned down the offer for shares is
because, I mean, I, I felt like, what are you... Shares in what? Like, nonprofits aren't supposed to have shares, at least last time I checked. Um, you know, they're not based...
Nonprofits are not supposed to be a vehicle for self-enrichment. Uh, so that's why I turned down the offer of shares because it, it didn't seem morally or legally defensible. Um-
