# Bisakah AI yang Meningkatkan Dirinya Menyebabkan Kepunahan Manusia

- Postingan asli: https://www.twitter.com/i/status/2097857499185528853
- Akun sumber: [@AC360](https://x.com/AC360)
- Bahasa sumber: Inggris
- Bahasa target: Indonesia
- Durasi: 5:53
- Diterbitkan: 2026-09-10
- Terjemahan mesin. Periksa versi asli sebelum mengutip.
- URL kanonis: https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia
- Versi bahasa asli: https://www.translate.mom/transcript/AYyuQfaIlIBG/en/could-ai-self-improvement-lead-to-human-extinction.md

## Transkrip

[0:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia) Jacob, saya menghargai Anda, Anda bersama kami.

[0:02](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=2) Pertama-tama, s- saya berasumsi Anda benar-benar mengatakan bahwa Anda percaya, eh, bahwa AI bisa membunuh kita semua pada akhir dekade ini.

[0:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=13) Bagaimana itu bisa terjadi? Maksudnya, seperti apa wujudnya?

[0:19](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=19) Ya. Jadi, skenario pastinya terdengar agak seperti fiksi ilmiah.

[0:23](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=23) Eh, terdengar seperti sesuatu yang tidak nyata, tapi menurut saya ini sungguh nyata dan menakutkan, dan paling mudah memahaminya jika Anda memikirkan hal-hal nyata yang terjadi dua bulan lalu. Jadi dua bulan lalu, agen O- OpenAI,

[0:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=33) eh, AI, meretas infrastruktur pihak ketiga sepenuhnya atas kemauan mereka sendiri, dan ini, seperti, aksi peretasan besar-besaran yang terfokus yang mereka lakukan atas kehendak mereka sendiri.

[0:44](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=44) Dan saya pikir, jika Anda mengekstrapolasikan ke masa depan tingkat kemampuan dari AI-AI ini, dengan kehendak independen yang sama bisa menimbulkan kekacauan besar.

[0:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=52) Misalnya, meretas infrastruktur penting, membuat senjata biologis tingkat kepunahan. Ada banyak, eh, cara bagi AI untuk bertindak sendiri di dunia.

[1:04](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=64) Saya— apakah... Tepatnya, kapan perasaan Anda tentang teknologi ini berubah?

[1:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=68) Apakah itu karena laju kemajuan yang Anda lihat?

[1:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=70) (Belum diterjemahkan) progress that you've seen?

[1:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=73) Ya. Jadi, menurut saya sangat penting untuk melihat laju kemajuan dan, katakanlah, di bidang seperti pemrograman atau matematika, beberapa tahun lalu, AI-AI ini hanya sekadar sedikit membantu manusia. Mereka bisa memberi Anda saran.

[1:24](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=84) Sekarang mereka hampir menggantikan manusia.

[1:26](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=86) Kita masih membutuhkan manusia saat ini, tetapi sangat mungkin dalam setahun kita tak lagi membutuhkan manusia untuk melakukan riset di banyak bidang.

[1:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=94) Baru pada hari Selasa, OpenAI memecahkan masalah milenium, salah satu masalah terbuka terbesar yang belum terpecahkan dalam matematika, sepenuhnya secara mandiri menggunakan AI.

[1:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=102) Dan menurut saya, yang paling menakutkan adalah jika AI digunakan untuk membuat dirinya lebih cerdas.

[1:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=106) Jadi, Anda bisa mengambil AI dan memberinya masalah riset AI.

[1:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=110) Seperti saat ini mereka memberinya riset matematika, Anda bisa membuatnya mengerjakan tugas yang sedang kita lakukan, lalu terjadilah apa yang disebut ledakan kecerdasan. AI itu semakin cerdas dan semakin cerdas tanpa keterlibatan manusia yang diperlukan. Maka, Anda memiliki sesuatu yang jauh lebih cerdas daripada, daripada manusia,

[2:05](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=125) dan ini bisa segera terjadi. K- kami menyebut mantan kolega Anda yang saat ini bekerja di Anthropic, yang pada dasarnya mendukung penilaian bahwa AI berpotensi membunuh semua orang dalam waktu dekade. Dalam unggahan lanjutan, dia berkata, "Untuk memperjelas, seperti yang kami katakan dalam, dalam

[2:18](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=138) laporan risiko terbaru kami, saya pikir risiko dari model saat ini rendah.

[2:22](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=142) Yang saya khawatirkan adalah superintelijensi yang muncul dari peningkatan diri rekursif, seperti yang telah kami katakan, terjadi lebih cepat daripada, daripada yang kami kira." Saya anggap itu yang Anda-- Peningkatan diri rekursif itulah yang baru saja Anda bicarakan tadi. Um, y- Tepat.

[2:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=154) Apakah Anda setuju dengannya bahwa risiko dari model saat ini rendah, tetapi hanya kecepatan peningkatannya sekarang?

[2:43](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=163) Tepat. Saya sangat setuju. Saat ini tidak ada risiko kepunahan.

[2:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=167) Model saat ini, hal terburuk yang bisa mereka lakukan mungkin meretas sesuatu, berpotensi menyebabkan banyak kerusakan pada, pada infrastruktur.

[2:55](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=175) Tapi tidak ada-- Mereka tidak cukup cerdas untuk mengakali kita pada tingkat yang akan mengarah pada kepunahan. Menurut saya yang benar-benar gila adalah melihat laju kemajuannya, dan ada kemungkinan yang sangat nyata bahwa dalam waktu dekat, tahun-tahun ini,

[3:09](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=189) seperti tahun depan, tahun berikutnya, perbaikan diri rekursif akan terjadi dan kita akan memasuki fase unggahan Evan saat ia berpendapat bahwa ada kemungkinan kita semua bisa mati. Itu, itu akan segera terjadi.

[3:20](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=200) Anda tahu, banyak CEO perusahaan-perusahaan ini akan, Anda tahu, akan pergi ke Kongres dan berkata, "Hei, kami ingin regulasi." A- Anthropic dalam pernyataan barunya sekarang mengatakan, "Dunia akan diuntungkan jika industri ini mengadopsi cara yang sah dan dapat diverifikasi untuk bekerja sama mengatur cara kami merilis

[3:35](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=215) model-model yang kuat." Um, Anda tahu argumennya, ini, ini perlombaan senjata perlombaan. Jika perusa— Jika sebuah perusahaan AS tidak, eh, mencapai AI terbaik AI, perusahaan China atau pihak jahat mungkin akan mencapainya.

[3:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=227) Apakah Anda percaya bahwa, eh, perusahaan-perusahaan ini benar-benar menginginkan regulasi, atau itu cuma basa-basi?

[3:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=236) Mereka benar-benar menginginkannya. Ini benar-benar tulus.

[3:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=238) Sama seperti respons terhadap unggahan Evan yang semacam terkejut, rasanya seperti, “Ini tak mungkin nyata. Pasti seorang pria yang mengerjakan teknologi ini tak mungkin benar-benar percaya ada tingkat bahaya sebesar ini.” Tidak, itu benar-benar tulus, dan orang-orang ini juga benar-benar tulus saat mereka memohon untuk diatur.

[4:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=253) Ini benar-benar tulus… Mereka, mereka mendapati diri dalam situasi ini ketika mereka terdorong untuk berlomba membangun teknologi mematikan, dan mereka akan, mereka akan senang jika semacam badan internasional mengizinkan mereka untuk, untuk menanganinya dengan kecepatan yang wajar.

[4:27](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=267) Mereka hanya tidak percaya bahwa orang-orang di sekitar mereka akan sampai ke sana dengan cara yang aman, jadi mereka merasa harus berlomba sampai ke sana juga.

[4:32](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=272) (Belum diterjemahkan) too.

[4:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=273) K-kau bisa saja tetap diam. Maksudku, kau, aku yakin kau punya pekerjaan bagus, dengan bayaran, kurasa, sangat tinggi. Jelas kau sangat cerdas, seorang matematikawan.

[4:41](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=281) Um, kenapa kau memutuskan untuk bicara?

[4:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=287) Awalnya, aku hanya memutuskan untuk pergi.

[4:48](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=288) Aku berpikir, "Aku tak bisa lagi menjadi bagian dari ini."

[4:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=290) Tapi kemudian aku, uh, menyadari bahwa aku mungkin bisa memanfaatkannya untuk sesuatu.

[4:54](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=294) Aku tidak menyangka ini akan menjadi seviral ini.

[4:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=296) Jadi, aku menulis sebuah utas Twitter. Aku menulisnya di Google Doc.

[4:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=298) Aku menyusunnya bersama seorang teman. Kami, kami berkolaborasi.

[5:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=300) Ya, aku punya beberapa, eh, ada beberapa teman yang kuajak berdiskusi, eh, tentang cara terbaik untuk mengekspresikan diri, um, setelah aku memutuskan, memutuskan untuk pergi.

[5:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=308) Eh, lalu aku juga mengajak beberapa teman untuk, untuk meretwit hal itu.

[5:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=310) Aku bilang, "Mari coba buat ini jadi agak viral." Tapi jelas, ada permintaan yang terpendam agar hal ini benar-benar meledak.

[5:16](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=316) Seperti, eh, aku— aku belum pernah melihat twit keamanan AI menjadi segila ini. Kurasa karena orang-orang melihat, eh, serangan siber dalam beberapa bulan terakhir. Mereka juga mulai memahami laju kemajuannya.

[5:26](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=326) Orang-orang mulai menyadari bahwa ini teknologi nyata. Ini bukan, seperti, sekadar sensasi.

[5:30](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=330) Ini tidak akan hilang dalam waktu dekat. Ini hanya akan semakin gila.

[5:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=333) Ini makin gila selama enam bulan terakhir, dan kurasa ada itu pemahaman laten akan parahnya situasi yang membuat ini seperti semacam korek api yang menyalakan semacam api.

[5:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=342) Seperti, saya sangat terkejut dengan sejauh mana betapa cepatnya hal itu menjadi viral.

[5:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=346) Jacob, uh, Coxon, saya sangat menghargai Anda uh, datang dan berbicara dengan kami.

[5:49](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=349) Terima kasih banyak.

[5:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/id/bisakah-ai-yang-meningkatkan-dirinya-menyebabkan-kepunahan-manusia?t=352) Terima kasih.