مخاطر الذكاء الاصطناعي الفائق: هل يتحرك الكونغرس في الوقت المناسب؟
2 min Machine translated Tech & science
2 min Machine translated Tech & science
وكم من الوقت أمام المشرّعين فعليًا للتعامل مع هذا قبل أن يصبح مشكلة كبيرة؟
وقت قليل جدًا. وما معنى قليل جدًا؟ بضعة أسابيع، شهر؟
ربما سنة، لكن ليس أكثر من سنة بكثير. نحن— إذا نظرتم إلى التوقعات بشأن موعد بلوغنا الذكاء الفائق، فقد كان التقدير ربما 30 سنة، وربما 50 سنة، ثم انخفض إلى ربما 10 سنوات، وربما 20 سنة.
والآن يقول الناس، ويقول كثير من الباحثين، إنها بضع سنوات فقط.
لم يتبقَّ سوى بضع سنوات، لأن الذكاء الاصطناعي بلغ الآن مرحلة يصمم فيها ذكاءً اصطناعيًا أفضل.
يُسمّى ذلك التحسين الذاتي التكراري. سيخرج الأمر عن السيطرة ما لم نفعل شيئًا.
علينا أن نبطئ التقدم. وقد رأينا مؤخرًا، أمم، شيئًا يشبه تشيرنوبل صغيرة، حادثة Hugging Face هذه، حيث هربت أعداد كبيرة من الذكاءات الاصطناعية من القيود المفروضة عليها.
كانت هذه كيانات مارقة. وما يحدث هو أن الشركات الكبرى تطوّر الذكاء الاصطناعي بأسرع ما يمكن.
إنها في سباق لتطوير أذكى ذكاء اصطناعي. لا نعرف في الوقت الراهن كيف يمكننا الحفاظ على سيطرتنا على ذكاء اصطناعي فائق الذكاء، ولذلك ينبغي ألا نطوّره إلى أن نعرف كيف يمكننا الحفاظ على السيطرة عليه.
ينبغي ألا نطوّر أشياء قد تقضي علينا إلى أن نعرف كيف نمنعها من القضاء علينا.
هل تعتقد أن الكونغرس سريع بما يكفي ليتمكن من الاستجابة لشيء كهذا خلال عام؟
تبدو متشككًا. تبدو، تبدو متشككًا. لديك التعديل الخامس هنا، صحيح؟
حسنًا. أستاذ، هل تعتقد أنك— أنا، أنا لا أعرف. أوه، آسف.
ربما—ربما يستطيع الكونغرس أن يتصرف بشكل مختلف جدًا حيال هذه المسألة لأن هناك دعمًا كبيرًا من الحزبين له.
End of transcript · 247 words · machine translated
And how much time do lawmakers actually have to get ahead of this before this is a big problem?
Very little. And what's very little? A few weeks, a month?
Maybe a year, but not much more than a year.
We-- If you look at predictions for when we'll get super intelligence, it used to be maybe 30 years, maybe 50 years, then it came down to maybe 10 years, maybe 20 years.
Now people are saying, a lot of the researchers are saying, only a few years.
There's only a few more years because AI has now reached the point where AI is designing better AI.
That's called recursive self-improvement.
It is going to get out of control unless we do something.
We need to slow down. And we've seen recently, um, it's something like a little Chernobyl, this Hugging Face accident, where a lot of AIs escaped the bounds that were put on them.
These were rogue agents. And what's happening is the big companies are developing AI as fast as possible.
They're in a race to develop the most intelligent AI.
We don't know at present how we can stay in control of super intelligent AI, and so we shouldn't develop it until we know how we can stay in control of it.
We shouldn't be developing stuff that might wipe us out until we know how to prevent it wiping us out.
Do you think Congress is nimble enough to be able to react to something like this in a year?
You seem doubtful. You seem, you seem skeptical.
You have the Fifth Amendment here, right?
Okay. Professor, do you think you- I, I don't know. Oh, sorry.
May-maybe Congress can behave very differently about this issue because there is a lot of bipartisan support for it.
TranslateMom transcribes and translates videos from X, TikTok, YouTube and Instagram. Paste a link and you get a page like this one, in your language.