Nobel Speech on AI Risks and Benefits
Sus Majestades, sus Altezas Reales, excelencias,
queridos laureados, damas y caballeros.
Este año, los comités Nobel de física
y química han
reconocido los espectaculares avances logrados en una nueva forma de
inteligencia artificial que usa redes neuronales
para aprender a resolver difíciles problemas computacionales.
Esta nueva forma de IA destaca al modelar la intuición
humana en vez del razonamiento humano, y nos permitirá
crear asistentes muy inteligentes y con amplios conocimientos
que aumentarán la productividad en casi todas las industrias.
Si los beneficios de la mayor productividad pueden compartirse por igual,
será un avance maravilloso para toda la humanidad.
Por desgracia, el rápido progreso de la IA conlleva
muchos riesgos a corto plazo.
Ya ha creado cámaras de eco divisivas al ofrecer
a la gente contenido que la indigna.
Ya está siendo utilizada por gobiernos autoritarios
para una vigilancia masiva y por ciberdelincuentes para ataques de phishing.
En un futuro cercano, la IA podría utilizarse para crear terribles nuevos
virus y horrendas armas letales que decidan por
sí mismas a quién matar o mutilar.
Todos estos riesgos a corto plazo requieren
atención urgente y firme de gobiernos y organizaciones internacionales.
También hay una amenaza existencial a más largo plazo que
surgirá cuando creemos seres digitales más inteligentes que
nosotros.
No sabemos si podremos mantener el
control, pero ahora tenemos pruebas de que, si son creados por empresas
motivadas por beneficios a corto plazo, nuestra seguridad no será lo más importante.
prioridad.
Necesitamos urgentemente investigar cómo impedir que estos nuevos seres
quieran tomar el control.
Ya no son ciencia ficción.
Gracias.
End of transcript · 260 words · machine translated
Original transcript (English)
Your majesties, your royal highnesses, excellencies, dear laureates, ladies and gentlemen. This year, the Nobel committees in physics and chemistry have recognized the dramatic progress being made in a new form of
artificial intelligence that uses artificial neural networks to learn how to solve difficult computational problems. This new form of AI excels at modeling human intuition rather than human reasoning, and it will enable us to create highly intelligent and knowledgeable assistants
who will increase productivity in almost all industries. If the benefits of the increased productivity can be shared equally, it will be a wonderful advance for all humanity. Unfortunately, the rapid progress in AI comes with many short term risks.
It has already created divisive echo chambers by offering people content that makes them indignant. It is already being used by authoritarian governments for massive surveillance and by cyber criminals for fishing attacks. In the near future, AI may be used to create terrible new
viruses and horrendous lethal weapons that decide by themselves who to kill or maim. All of these short term risks require urgent and forceful attention from governments and international organizations. There is also a longer term existential threat that will
arise when we create digital beings that are more intelligent than ourselves. We have no idea whether we can stay in control, but we now have evidence that if they are created by companies motivated by short term profits, our safety will not be the top
priority. We urgently need research on how to prevent these new beings from wanting to take control. They are no longer science fiction. Thank you.
