Nobel Speech on AI Risks and Benefits
Vos Majestés, Vos Altesses royales, Vos Excellences,
chers lauréats, Mesdames et Messieurs.
Cette année, les comités Nobel de physique
et de chimie ont
reconnu les progrès spectaculaires réalisés dans une nouvelle forme
d'intelligence artificielle qui utilise des réseaux neuronaux
artificiels pour apprendre à résoudre des problèmes informatiques difficiles.
Cette nouvelle forme d'IA excelle à modéliser l'intuition humaine
plutôt que le raisonnement humain, et elle nous permettra
de créer des assistants très intelligents et très compétents
qui accroîtront la productivité dans presque tous les secteurs.
Si les bénéfices de cette productivité accrue peuvent être partagés équitablement,
ce sera une avancée merveilleuse pour toute l'humanité.
Malheureusement, les progrès rapides de l'IA s'accompagnent
de nombreux risques à court terme.
Il a déjà créé des chambres d’écho clivantes en proposant
aux gens du contenu qui les indigne.
Il est déjà utilisé par des régimes autoritaires pour une surveillance massive
et par des cybercriminels pour des attaques d’hameçonnage.
Dans un avenir proche, l’IA pourrait servir à créer de terribles
virus et d’horribles armes létales qui décideraient elles-mêmes
qui tuer ou mutiler.
Tous ces risques à court terme exigent une attention urgente et ferme
de la part des gouvernements et des organisations internationales.
Il existe aussi une menace existentielle à plus long terme qui
surviendra lorsque nous créerons des êtres numériques plus intelligents que
nous.
Nous ignorons si nous pourrons garder le contrôle,
mais nous avons désormais la preuve que s’ils sont créés par des entreprises
motivées par des profits à court terme, notre sécurité ne sera pas prioritaire
priorité.
Nous devons de toute urgence étudier comment empêcher ces nouveaux êtres
de vouloir prendre le contrôle.
Ils ne relèvent plus de la science-fiction.
Merci.
End of transcript · 280 words · machine translated
Original transcript (English)
Your majesties, your royal highnesses, excellencies, dear laureates, ladies and gentlemen. This year, the Nobel committees in physics and chemistry have recognized the dramatic progress being made in a new form of
artificial intelligence that uses artificial neural networks to learn how to solve difficult computational problems. This new form of AI excels at modeling human intuition rather than human reasoning, and it will enable us to create highly intelligent and knowledgeable assistants
who will increase productivity in almost all industries. If the benefits of the increased productivity can be shared equally, it will be a wonderful advance for all humanity. Unfortunately, the rapid progress in AI comes with many short term risks.
It has already created divisive echo chambers by offering people content that makes them indignant. It is already being used by authoritarian governments for massive surveillance and by cyber criminals for fishing attacks. In the near future, AI may be used to create terrible new
viruses and horrendous lethal weapons that decide by themselves who to kill or maim. All of these short term risks require urgent and forceful attention from governments and international organizations. There is also a longer term existential threat that will
arise when we create digital beings that are more intelligent than ourselves. We have no idea whether we can stay in control, but we now have evidence that if they are created by companies motivated by short term profits, our safety will not be the top
priority. We urgently need research on how to prevent these new beings from wanting to take control. They are no longer science fiction. Thank you.
