Transcript · English → Portuguese
Risks and Impacts of AI Transition
Bill, você disse que não há um plano para facilitar a
entrada na
era da IA, e que subestimamos o impacto da,
da IA.
De que forma?
Bem, no último ano, essas IAs se tornaram dramaticamente mais
poderosas, até mais rápido do que eu esperava, e agora elas
são capazes de causar, hum, risco de ataque
cibernético, risco de bioterrorismo, risco psicossocial.
E devo dizer que estou meio chocado por ver que os critérios exatos
com que avaliamos esses modelos e as ações que tomamos para
minimizar os danos estejam realmente ausentes,
e o amplo diálogo,
de fazer toda a sociedade debater os prós e contras aqui, hum,
simplesmente não está acontecendo. E então, hum, sabe, temos que
minimizar esses danos por meio de critérios e análises cuidadosas,
e temos que acelerar as coisas boas, senão,
sabe, poderíamos ter uma reação adversa total,
que,
com a qual a IA sofreria.
Eu, eu conversei com Dario Amodei, em maio passado.
Ele estimava que 50% de todas as vagas de escritório de nível inicial poderiam ser
eliminadas entre… nos próximos um a cinco anos, dez a 20% de
desemprego possivelmente nos próximos, cinco anos.
Você escreve sobre o que considera serem os três grandes riscos
que surgem com a transição para a I— IA. Poderia falar sobre eles?
Sim, então,
há, há um grande risco de
pessoas mal-intencionadas, seja
aplicando golpes nas pessoas,
ataques cibernéticos ou, no caso extremo,
bioterrorismo. Então, sabe, esses,
usos negativos, precisamos monitorar
coisas como criar um, um vírus perigoso,
para ver se isso está acontecendo. Outro problema será
a mudança no mercado de trabalho, o que ainda não aconteceu
ainda, mas porque as IAs estão ficando tão confiáveis
agora, é, elas podem ser usadas em vários
empregos bem
definidos, e,
sabe, isso seria, é, algo difícil de
se adaptar. E, por fim, só o efeito, é, psicossocial
de uma criança ter todos os seus amigos sendo
IAs e não ser incentivada a lidar
com humanos reais e, sabe, todo o aprendizado e a alegria que
se tem, é, ao interagir socialmente.
E com cada uma dessas coisas, é, estou
muito preocupado e quero desacelerar ou eliminar
esses efeitos negativos.
Bem, digo, isso é possível? Digo, sobre, sobre a perda de empregos,
s- sabe, é, o, o contra-argumento
que algumas pessoas usam é: veja, é, você
sabe, a cada mudança tecnológica houve
perda de
empregos. Sabe, com a lâmpada elétrica,
os acendedores de lampiões perderam seus
empregos. Você, neste ensaio, argumenta que em muitas
mudanças tecnológicas passadas, as perdas de empregos ocor-, ocorreram
ao longo de um período maior, até várias gerações em alguns
casos. Essas perdas de emprego virão bem mais rápido
e de uma vez só.
Sim, abrange todos os setores da economia,
hum, a princípio no colarinho branco, mas depois,
conforme os robôs humanoi-, humanoides forem surgindo,
no colarinho azul também.
Teremos, pela primeira vez,
o equivalente à cognição humana.
Então o histórico passado engana as pessoas, porque lá nós
éramos mais ricos e empregos como, sabe, projetar atrações na
Disneyland, ter mais psiquiatras, éramos ricos o suficiente
para criar esses empregos adicionais. Aqui, conforme a
máquina fica melhor, hum, que os humanos em
funções bem definidas e trabalha 24 horas por dia,
vai ser uma
algo maior. E assim, o... o nível para alguém chegar
e dizer que desta
vez é diferente é muito alto, mas estou apostando a minha
reputação totalmente no fato de que, hum,
em termos de impacto no mercado de trabalho, isso é muito
diferente de qualquer tecnologia em que estive
envolvido ou que, hum, tenha sur- gido na história
humana.
End of transcript · 603 words · machine translated
Original transcript (English)
Bill, you said that there's no plan to ease the entry into the AI era, and that we underestimate the impact of, of AI. In what way?
Well, over the last year, these AIs have gotten dramatically more powerful, even faster than I expected, and they're now capable of causing, um, cyber attack risk, bio-terrorism risk, psychosocial risk. And I have to say I'm kind of shocked that the exact criteria
that we review these models with and the actions we take to minimize the harms are really completely missing, and the broad dialogue, we get all of society talking about the trade-offs here, uh, that's just not taking place. And so, uh, you know, we've gotta
minimize these harms through careful review and criteria, and we have to accelerate the good stuff or else, you know, we could have a complete backlash, uh, that, uh, AI would suffer from.
I, I talked to Dario Amodei, uh, last May. He was estimating 50% of all entry level white collar jobs could be eliminated between... in the next one to five years, 10 to 20% unemployment possibly in the next, uh, five years. You write about the, what you think are the three big risks
that come with the transition to A- AI. Can you just go through them? Yeah, so the, there's a big risk of people with ill intent, either defrauding people,
uh, cyber attacks, or in the extreme case, bio-terrorism. So, you know, these, um, negative uses, uh, we need to monitor things like creating a, a dangerous virus, uh, to, to see if that's happening. Another problem will
be the job market change, which has not happened yet, but because the AIs are getting so reliable now, uh, they can be used for a variety of well-defined jobs, and,
you know, that would, uh, be a tough thing to adjust to. And finally, just the, uh, psychosocial effect that a kid might have all their friends being AIs and not be pushed to deal with real humans and, you know, all the learnings and joy you
get, uh, by being engaged socially. And so every one of those things, uh, I'm very concerned and I wanna slow down or eliminate those negative effects. Well, I mean, is that possible? I mean, on, on the job loss,
y- you know, uh, the, the counterargument that some people make is look, uh, you know, at every technological change there's been job losses. You know, with the electric light bulb,
lamplighters lost their jobs. You, in this essay, make the argument that a lot of past technological changes, the job losses have, have taken place over a longer period of time, even several generations in some cases. These job losses will come much quicker
and all at once. Yes, it's across every sector of the economy, uh, initially with white collar, but then as the humanoi- humanoid robots come along, blue collar as well.
You will have, for the first time, the equivalent of human cognition. So that past history misleads people because there we were richer and so jobs like, you know, designing rides at Disneyland, having more psychiatrists, we were richer enough
to create those additional jobs. Here, as the machine gets better, uh, than human for well-defined jobs and works 24 hours a day, it's going to be a bigger deal. And so the, the bar for somebody coming along
and saying this time is different is very high, but I'm staking my reputation completely on the fact that, uh, in terms of the impact on the job market, this is very different than any technology that I've been
involved in or that, uh, has come a- across in human history.
