# A automelhoria da IA pode levar à extinção humana - Publicação original: https://www.twitter.com/i/status/2097857499185528853 - Conta de origem: [@AC360](https://x.com/AC360) - Idioma de origem: inglês - Idioma de destino: português - Duração: 5:53 - Publicado: 2026-09-10 - Tradução automática. Confira o original antes de citar. - URL canônica: https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana - Versão no idioma original: https://www.translate.mom/transcript/AYyuQfaIlIBG/en/could-ai-self-improvement-lead-to-human-extinction.md ## Transcrição [0:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana) Jacob, agradeço a você, por estar conosco. [0:02](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=2) Hum, antes de tudo, p- presumo que você esteja dizendo literalmente que acredita, ahn, que a IA poderia matar todos nós até o fim da década. [0:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=13) Como isso aconteceria? Tipo, como isso seria na prática? [0:19](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=19) Sim. Então, o cenário exato parece um pouco ficção científica. [0:23](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=23) Ahn, parece algo que não é real, mas acho que é assustadoramente real, e é mais fácil entendê-lo se você pensar em coisas reais que aconteceram há dois meses. Então, há dois meses, agentes da O- OpenAI, ahn, IAs, invadiram infraestrutura de terceiros inteiramente por iniciativa própria, e foi, tipo, [0:39](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=39) uma onda concentrada de invasões que realizaram por vontade própria. [0:44](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=44) E acho que, se você extrapolar para o futuro o nível das capacidades de essas IAs com a mesma vontade independente poderiam causar estragos extremos. [0:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=52) Por exemplo, invadir infraestruturas críticas, criar armas biológicas capazes de causar extinção. Há muitas, hã, formas de a IA agir por conta própria no mundo. [1:04](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=64) E- isso... Mais especificamente, quando seus sentimentos em relação a essa tecnologia mudaram? Foi algo relacionado ao ritmo do progresso que você viu? [1:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=73) Sim. Então, acho muito importante apenas observar o ritmo do progresso e, por exemplo, em áreas como programação ou matemática, há alguns anos, essas IAs só ajudavam um pouco os humanos. Elas podiam dar sugestões. [1:24](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=84) Agora, estão perto de substituí-los. Ainda precisamos de humanos no momento, mas é bastante plausível que, dentro de um ano, não precisemos mais de humanos para fazer pesquisas em muitas áreas. [1:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=94) Só na terça-feira, a OpenAI resolveu um problema do milênio, um dos maiores problemas em aberto não resolvidos da matemática, de forma totalmente autônoma usando uma IA. [1:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=102) E acho que o mais assustador é se a IA for usada para se tornar mais inteligente. [1:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=106) Então, você pode pegar uma IA e dar a ela o problema da pesquisa em IA. [1:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=110) Assim como atualmente deram a ela pesquisa matemática, você poderia fazer com que ela realizasse as tarefas que estamos fazendo atualmente, e então ocorre o que se chama de uma explosão de inteligência. A IA simplesmente fica cada vez mais inteligente, sem qualquer envolvimento humano [2:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=120) necessário. E então você tem algo que é muito mais inteligente do que os humanos, e isso pode estar chegando muito em breve. [2:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=128) V- mencionamos um ex-colega seu que atualmente trabalha na Anthropic, basicamente endossando a avaliação de que a IA poderia potencialmente matar todos dentro de um década. Numa publicação posterior, disse, "Para que fique claro, como dizemos no nosso, no nosso mais recente relatório de riscos, acho que o risco dos modelos atuais é baixo. [2:22](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=142) O que me preocupa é o surgimento de superinteligência através de autoaperfeiçoamento recursivo, como dissemos, que está a acontecer mais depressa do que, do que pensávamos." Eu suponho que é disso que acabou de falar— o autoaperfeiçoamento recursivo é aquilo de que acabou de falar agora. Hum, s- Exatamente [2:34](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=154) concorda com ele que o risco dos modelos atuais é baixo, mas que é apenas a velocidade a que isto está agora a melhorar? [2:43](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=163) Exatamente. Concordo plenamente. Neste momento, não há risco de extinção. [2:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=167) Os modelos atuais, o pior que podem fazer é talvez invadir algo, potencialmente causar muitos danos nas infraestruturas. [2:55](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=175) Mas não há— não são suficientemente inteligentes para ludibriar nós a um nível que levaria à, à extinção. Acho que o que é simplesmente louco é olhar para a velocidade do progresso, e há uma possibilidade muito real de que, no futuro imediato, nestes anos, [3:09](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=189) como no ano que vem, no ano seguinte, a autoaperfeiçoamento recursivo acontecerá e nós entraremos na fase da publicação do Evan, em que ele argumenta que há uma chance de todos nós morrermos. Tipo, isso, isso está chegando em breve. [3:20](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=200) Sabe, muitos dos, destes, uh, CEOs dessas empresas vão, sabe, vão ao Congresso e dizem: "Ei, adoraríamos regulamentação." A- A Anthropic em sua nova declaração agora diz: "O mundo se beneficiaria se o setor adotasse uma forma legal e verificável de trabalhar em conjunto para definir o ritmo de como lançamos [3:35](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=215) modelos poderosos." Hum, sabe o argumento, é, é uma corrida armamentista corrida. Se uma empresa americana— Se uma empresa americana não o fizer, ah, alcançar a melhor IA, uma empresa chinesa ou alguns maus agentes por aí poderiam conseguir. [3:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=227) Você acredita que, ah, essas empresas realmente querem regulamentação, ou é só da boca para fora? [3:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=236) Elas, elas querem mesmo. Isto é totalmente sincero. [3:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=238) Assim como a reação à publicação do Evan foi meio de surpresa, foi tipo: "Isso não pode ser real. Um cara trabalhando nessa tecnologia certamente não pode realmente acreditar que há esse nível de perigo." Não, isso é totalmente genuíno, e essas pessoas também são totalmente genuínas quando imploram para serem regulamentadas. [4:13](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=253) Isto é genuíno… Elas, elas se encontram neste cenário em que são compelidas a correr para criar uma tecnologia mortal, e elas fariam isso, adorariam que algum tipo de organismo internacional lhes permitisse de, de se aproximarem disso num ritmo razoável. [4:27](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=267) Só não confiam em que as pessoas ao redor delas vão chegar lá de forma segura, por isso sentem que também precisam correr para lá também. [4:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=273) V-você poderia ter ficado calada. Quer dizer, você tinha, tenho certeza, um ótimo emprego e era paga, imagino, muito bem. Você obviamente é incrivelmente inteligente, uma matemática. [4:41](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=281) Hum, por que decidiu se manifestar? [4:47](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=287) Bem, inicialmente decidi simplesmente sair. [4:48](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=288) Pensei, "Não posso mais fazer parte disso." [4:50](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=290) Mas então, ah, percebi que provavelmente poderia fazer algum uso disso. [4:54](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=294) Não esperava que isso viralizasse tanto. [4:56](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=296) Então, o que fiz foi publicar uma thread no Twitter. Eu a escrevi num Google Doc. [4:58](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=298) Preparei o rascunho com uma amiga. Nós, nós colaboramos. [5:00](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=300) Sim, eu tinha alguns, hum, havia alguns amigos com quem discuti, hum, a melhor forma de me expressar, hum, depois que decidi, decidi sair. [5:08](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=308) Hum, e também pedi a alguns amigos para retuitarem a publicação. [5:10](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=310) Eu disse: "Vamos tentar e viralizar isso um pouco." Mas, claramente, havia uma demanda latente para que isso explodisse completamente. [5:16](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=316) Tipo, hum, eu— eu nunca vi um tweet sobre segurança de IA ficar tão louco. Acho que é porque as pessoas viram os, hum, ciberataques nos últimos dois meses. Eles também estão começando a assimilar o ritmo do progresso. [5:26](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=326) As pessoas estão começando a perceber que isto é tecnologia real. Isto não é, tipo, exagero. [5:30](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=330) Isto não vai desaparecer tão cedo. Isto só vai ficar mais louco. [5:33](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=333) Tem ficado mais louco nos últimos seis meses, e acho que houve aquele uma compreensão latente da gravidade da situação que fez com que isto fosse tipo uma espécie de, de fósforo que acendeu uma espécie de, uma chama. [5:42](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=342) Tipo, para mim foi muito chocante ver o quanto rapidamente isso viralizou. [5:46](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=346) Jacob, ah, Coxon, agradeço muito por, ah, ter vindo conversar conosco. [5:49](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=349) Muito obrigado. [5:52](https://www.translate.mom/transcript/AYyuQfaIlIBG/pt/a-automelhoria-da-ia-pode-levar-%C3%A0-extin%C3%A7%C3%A3o-humana?t=352) Obrigado.