# Bolehkah AI yang Memperbaiki Dirinya Menyebabkan Kepupusan Manusia - Original post: https://www.twitter.com/i/status/2097857499185528853 - Source account: [@AC360](https://x.com/AC360) - Source language: English - Target language: Malay - Duration: 5:53 - Published: 2026-09-10 - Machine translated. Check the original before quoting. - Canonical URL: https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia - Original-language version: https://www.translate.mom/transcript/AYyuQfaIlIBG/en/could-ai-self-improvement-lead-to-human-extinction.md ## Transcript [0:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia) Jacob, saya menghargai kehadiran kamu bersama kami. [0:02](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=2) Erm, pertama sekali, s-saya andaikan anda benar-benar mengatakan bahawa anda percaya, erm, bahawa AI boleh membunuh kita semua menjelang akhir dekad ini. [0:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=13) Bagaimana itu akan berlaku? Maksud saya, apakah rupanya nanti? [0:19](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=19) Ya. Jadi senario yang tepat kedengaran sedikit seperti fiksyen sains. [0:23](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=23) Erm, ia kedengaran seperti sesuatu yang tidak nyata, tetapi saya rasa ia amat menakutkan dan nyata, dan lebih mudah untuk memahaminya jika anda memikirkan perkara sebenar yang berlaku dua bulan lalu. Jadi dua bulan lalu, ejen O- OpenAI, [0:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=33) erm, AI, menggodam infrastruktur pihak ketiga sepenuhnya atas kehendak mereka sendiri, dan ini, seperti, satu siri penggodaman yang tertumpu yang mereka lakukan atas kehendak mereka sendiri. [0:44](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=44) Dan saya rasa jika anda mengekstrapolasi ke masa depan tahap keupayaan AI ini dengan kehendak bebas yang sama boleh menyebabkan huru-hara yang dahsyat. [0:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=52) Contohnya, menggodam infrastruktur kritikal, membina senjata biologi bertaraf kepupusan. Ada banyak, eh, cara yang AI boleh bertindak sendiri di dunia. [1:04](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=64) Saya— adakah... Secara khususnya, bilakah perasaan anda tentang teknologi ini berubah? Adakah ia sesuatu tentang kadar kemajuan yang anda lihat? [1:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=73) Ya. Jadi saya rasa sangat penting untuk melihat kadar kemajuan dan, katakanlah, dalam bidang seperti pengaturcaraan atau matematik, beberapa tahun lalu, AI ini hanya sekadar membantu manusia sedikit sahaja. Ia boleh memberi anda cadangan. [1:24](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=84) Kini, ia hampir menggantikan mereka. Kita masih memerlukan manusia pada masa ini, tetapi agak munasabah dalam setahun kita tidak akan lagi memerlukan manusia untuk melakukan penyelidikan dalam banyak bidang. [1:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=94) Baru pada hari Selasa, OpenAI menyelesaikan satu masalah milenium, salah satu masalah terbuka terbesar yang belum diselesaikan dalam matematik, sepenuhnya secara autonomi menggunakan AI. [1:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=102) Dan saya rasa yang paling menakutkan ialah jika AI digunakan untuk menjadikan dirinya lebih pintar. [1:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=106) Jadi, anda boleh mengambil AI dan memberikannya masalah penyelidikan AI. [1:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=110) Sama seperti kini mereka memberikannya penyelidikan matematik, anda boleh menyuruhnya melakukan tugas yang sedang kita lakukan, dan kemudian anda mendapat apa yang dipanggil letupan kecerdasan. AI itu semakin pintar dan semakin pintar tanpa penglibatan manusia [2:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=120) diperlukan. Jadi, anda mempunyai sesuatu yang jauh lebih pintar daripada, daripada manusia, dan ini mungkin akan berlaku tidak lama lagi. [2:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=128) A- Kami menyebut seorang bekas rakan sekerja anda yang kini bekerja di Anthropic, yang pada dasarnya menyokong penilaian bahawa AI berpotensi membunuh semua orang dalam tempoh dekad. Dalam hantaran susulan, dia berkata, "Untuk menjelaskan, seperti yang kami katakan dalam, dalam [2:18](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=138) laporan risiko terkini kami, saya rasa risiko daripada model semasa adalah rendah. [2:22](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=142) Apa yang saya bimbangkan ialah kecerdasan super yang timbul daripada penambahbaikan kendiri secara rekursif, seperti yang kami katakan, berlaku lebih pantas daripada, daripada yang kami sangkakan." Saya anggap itulah yang anda— Penambahbaikan kendiri rekursif itulah yang baru anda bincangkan tadi. Um, ya- Tepat sekali [2:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=154) adakah anda bersetuju dengannya bahawa model semasa, risikonya rendah, tetapi cuma kelajuan yang dengannya perkara ini kini semakin baik? [2:43](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=163) Tepat sekali. Saya setuju sepenuhnya. Buat masa ini, tiada risiko kepupusan. [2:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=167) Model semasa, perkara paling buruk yang boleh dilakukannya mungkin menggodam sesuatu, berpotensi menyebabkan banyak kerosakan pada infrastruktur. [2:55](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=175) Tetapi tiada— Ia tidak cukup bijak untuk mengatasi kita pada tahap yang akan membawa kepada kepupusan. Saya rasa yang benar-benar gila ialah melihat, kadar kemajuan itu, dan ada kemungkinan yang sangat nyata bahawa dalam masa terdekat, tahun-tahun ini, [3:09](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=189) seperti tahun depan, tahun selepas itu, penambahbaikan kendiri rekursif akan berlaku dan kita akan memasuki fasa dalam hantaran Evan di mana dia berhujah bahawa ada kemungkinan kita semua boleh mati. Itu, itu akan tiba tidak lama lagi. [3:20](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=200) Tahulah, ramai daripada, mereka ini, eh, CEO syarikat-syarikat ini akan, tahulah, akan pergi ke Kongres dan berkata, "Hei, kami sangat mengalu-alukan peraturan." A- Anthropic dalam kenyataan baharu mereka sekarang berkata, "Dunia akan mendapat manfaat jika industri [3:32](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=212) mengamalkan cara yang sah di sisi undang-undang, boleh disahkan untuk bekerjasama dalam menentukan rentak cara kami melancarkan model yang berkuasa." Um, tahulah hujahnya, ia, ia adalah senjata perlumbaan. Jika syarikat AS-- Jika syarikat AS tidak, er, [3:43](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=223) mencapai AI terbaik AI, syarikat China atau beberapa pihak jahat di luar sana mungkin akan. [3:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=227) Adakah anda percaya, er, bahawa syarikat-syarikat ini benar-benar mahukan peraturan, atau sekadar cakap kosong? [3:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=236) Mereka, mereka memang mahu. Ini benar-benar jujur. [3:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=238) Sama seperti reaksi terhadap hantaran Evan agak terkejut, ia seperti, “Ini tak mungkin benar. Tentunya seorang lelaki yang mengusahakan teknologi ini tak mungkin benar-benar percaya tahap bahaya ini wujud.” Tidak, itu benar-benar tulen, dan mereka ini juga benar-benar tulen apabila mereka merayu untuk dikawal selia. [4:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=253) Ini benar-benar tulen… Mereka, mereka mendapati diri dalam situasi ini apabila mereka terpaksa berlumba-lumba membina teknologi yang membawa maut, dan mereka akan, mereka mahu badan antarabangsa membenarkan mereka untuk mendekatinya pada kadar yang munasabah. [4:27](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=267) Mereka cuma tidak percaya orang di sekeliling mereka akan sampai ke situ dengan cara yang selamat jadi mereka rasa mereka perlu berlumba untuk sampai ke situ juga. [4:32](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=272) (Not translated) too. [4:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=273) A- anda boleh saja berdiam diri. Maksud saya, anda, saya pasti anda ada pekerjaan yang hebat, dibayar, saya bayangkan, dengan sangat lumayan. Anda jelas sangat bijak, seorang ahli matematik. [4:41](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=281) Um, kenapa anda memutuskan untuk bersuara? [4:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=287) Pada mulanya, saya cuma memutuskan untuk pergi. [4:48](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=288) Saya fikir, "Saya tak boleh lagi menjadi sebahagian daripada ini." [4:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=290) Tapi kemudian saya, uh, sedar saya mungkin boleh memanfaatkannya sedikit. [4:54](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=294) Saya tidak sangka ia akan menjadi tular sebegini. [4:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=296) Jadi apa yang saya lakukan ialah saya menulis bebenang Twitter . Saya menulisnya dalam Google Doc. [4:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=298) Saya merangkanya bersama seorang kawan. Kami, kami bekerjasama. [5:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=300) Ya, saya ada beberapa, eh, ada beberapa rakan yang saya berbincang dengan tentang cara terbaik untuk menyatakan diri saya, erm, selepas saya memutuskan untuk, memutuskan untuk pergi. [5:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=308) Eh, kemudian saya juga minta beberapa rakan untuk mengeciap semula perkara itu. [5:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=310) Saya macam, "Mari cuba jadikan ini sedikit tular." Tapi jelas sekali, terdapat permintaan terpendam agar perkara ini benar-benar meledak. [5:16](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=316) Macam, eh, saya— saya tak pernah lihat ciapan keselamatan AI menjadi segila ini. Saya rasa sebab orang nampak, eh, serangan siber dalam beberapa bulan kebelakangan ini. Mereka juga mula memahami kadar kemajuan. [5:26](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=326) Orang mula menyedari ini teknologi sebenar. Ini bukan sekadar, gembar-gembur. [5:30](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=330) Ini takkan hilang dalam masa terdekat. Ini cuma akan jadi semakin gila. [5:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=333) Ia semakin gila sejak enam bulan lalu, dan saya rasa memang ada hal itu pemahaman terpendam tentang betapa seriusnya situasi itu yang menyebabkan perkara ini menjadi seperti sejenis, sebatang mancis yang menyalakan sejenis api. [5:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=342) Seperti, saya sangat terkejut dengan sejauh mana betapa cepatnya ia tular. [5:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=346) Jacob, eh, Coxon, saya amat menghargai anda, eh, kerana datang dan bercakap dengan kami. [5:49](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=349) Terima kasih banyak-banyak. [5:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/ms/bolehkah-ai-yang-memperbaiki-dirinya-menyebabkan-kepupusan-manusia?t=352) Terima kasih.