Transcript · English → German
Nobel Speech on AI Risks and Benefits
Eure Majestäten, Eure Königlichen Hoheiten, Exzellenzen,
liebe Preisträgerinnen und Preisträger, meine Damen und Herren.
In diesem Jahr haben die Nobelkomitees für Physik
und Chemie
die dramatischen Fortschritte bei der Entwicklung einer neuen Form von
künstlicher Intelligenz, die künstliche neuronale
Netzwerke nutzt, um zu lernen, wie schwierige rechnerische Probleme gelöst werden können.
Diese neue Form der KI ist besonders gut darin, die menschliche
Intuition statt menschliches Schlussfolgern zu modellieren, und wird es uns ermöglichen,
hochintelligente und sachkundige Assistenten zu schaffen,
die die Produktivität in fast allen Branchen steigern werden.
Wenn die Vorteile der gesteigerten Produktivität gerecht geteilt werden können,
wird dies ein wunderbarer Fortschritt für die gesamte Menschheit sein.
Leider bringt der rasche Fortschritt bei der KI
viele kurzfristige Risiken mit sich.
Es hat bereits polarisierende Echokammern geschaffen, indem es
Menschen Inhalte anbietet, die sie empören.
Sie wird bereits von autoritären Regierungen zur Massenüberwachung
und von Cyberkriminellen für Phishing-Angriffe eingesetzt.
In naher Zukunft könnte KI eingesetzt werden, um schreckliche neue
Viren und entsetzliche tödliche Waffen zu erschaffen, die selbst entscheiden,
wen sie töten oder verstümmeln.
All diese kurzfristigen Risiken erfordern die dringende und entschlossene
Aufmerksamkeit von Regierungen und internationalen Organisationen.
Es gibt auch eine langfristige existenzielle Bedrohung, die entstehen wird,
wenn wir digitale Wesen erschaffen, die intelligenter sind als
wir selbst.
Wir haben keine Ahnung, ob wir die Kontrolle behalten können,
aber wir haben jetzt Beweise dafür, dass, wenn sie von Unternehmen erschaffen werden,
die von kurzfristigen Gewinnen motiviert sind, unsere Sicherheit nicht an erster Stelle stehen wird.
Priorität.
Wir brauchen dringend Forschung darüber, wie wir diese neuen Wesen daran hindern können
die Kontrolle übernehmen zu wollen.
Sie sind keine Science-Fiction mehr.
Danke.
End of transcript · 274 words · machine translated
Original transcript (English)
Your majesties, your royal highnesses, excellencies, dear laureates, ladies and gentlemen. This year, the Nobel committees in physics and chemistry have recognized the dramatic progress being made in a new form of
artificial intelligence that uses artificial neural networks to learn how to solve difficult computational problems. This new form of AI excels at modeling human intuition rather than human reasoning, and it will enable us to create highly intelligent and knowledgeable assistants
who will increase productivity in almost all industries. If the benefits of the increased productivity can be shared equally, it will be a wonderful advance for all humanity. Unfortunately, the rapid progress in AI comes with many short term risks.
It has already created divisive echo chambers by offering people content that makes them indignant. It is already being used by authoritarian governments for massive surveillance and by cyber criminals for fishing attacks. In the near future, AI may be used to create terrible new
viruses and horrendous lethal weapons that decide by themselves who to kill or maim. All of these short term risks require urgent and forceful attention from governments and international organizations. There is also a longer term existential threat that will
arise when we create digital beings that are more intelligent than ourselves. We have no idea whether we can stay in control, but we now have evidence that if they are created by companies motivated by short term profits, our safety will not be the top
priority. We urgently need research on how to prevent these new beings from wanting to take control. They are no longer science fiction. Thank you.
