# Quem é responsável por erros de IA e ações de agentes de IA

- Publicação original: https://www.twitter.com/i/status/2103696223391875150
- Conta de origem: [@nihilunbounded](https://x.com/nihilunbounded)
- Idioma de origem: inglês
- Idioma de destino: português
- Duração: 3:45
- Publicado: 2026-09-26
- Tradução automática. Confira o original antes de citar.
- URL canônica: https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia
- Versão no idioma original: https://www.translate.mom/transcript/BIvTDy3raYEA/en/who-is-liable-for-ai-errors-and-agentic-ai-actions.md

## Transcrição

[0:00](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia) Quem assume a responsabilidade nisso? E, claro, naturalmente, eles diriam que o governo tem a responsabilidade porque você nunca vai conseguir, ah, processar o governo por isso, embora eles, eles devessem arcar com isso. Ah, mas talvez isso não funcione mais, porque talvez eles sejam um agente do governo.

[0:17](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=17) E eu, não sei de onde vamos tirar legitimidade para processar por isso, mas nós, nós deveríamos. E as pessoas nesta sala, acho que, francamente, serão chamadas, ao longo de suas carreiras, ao longo de seus estudos, ao longo do que quer que façam, a lidar com esse tipo de questão.

[0:32](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=32) Onde vamos traçar uma linha? Porque um algoritmo não pode cometer erros da forma como entendemos isso, ah, sabe, vocês cometerem um erro. Porque os erros em seus resultados são não é culpa do computador. Ele é escravo de suas instruções.

[0:47](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=47) A responsabilidade é do seu desenvolvedor, programador, criador, seu arquiteto. Ou seja, a responsabilidade é de uma pessoa.

[0:56](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=56) E não podemos esconder isso. Não podemos apagar isso, certo?

[0:59](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=59) Um fabricante de armas não é responsável, é verdade, pelo uso indevido da arma.

[1:05](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=65) É... mas se, durante o teste de seu mais recente equipamento de artilharia, eles obliteram por engano, sabe, uma aldeia próxima, não é o canhão que deveria ir para a cadeia.

[1:16](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=76) E, sabe, só porque você divulga um comunicado à imprensa descrevendo o quanto ficou surpreso que seu novo modelo, sabe, invadiu os sistemas do vizinho, é... ou c- sabe, o quanto está impressionado com este p- poder destrutivo do seu míssil, é... isso não o isenta da responsabilidade de lançá-lo

[1:31](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=91) isso. O míssil não se lançou sozinho. Você o lançou.

[1:36](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=96) Ah, e então... há muita coisa que podemos abordar, mas a ideia com a qual quero que as pessoas lidem é, ah, como lidamos com isso.

[1:43](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=103) E, neste momento, esses modelos fechados falam de segurança da IA, segurança da IA, segurança, ou “segurancismo”, como chamam, ah, em que a ideia é que essas coisas são tão perigosas. Meu Deus, são tão perigosas, mas são tão deslumbrantes.

[1:54](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=114) São tão importantes. São tão valiosas. Não podemos nos livrar delas.

[1:57](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=117) Mas, sabe, ah, elas vão matar algumas pessoas, mas tudo bem.

[1:59](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=119) Sabe, isso simplesmente acontece. Ah, elas vão invadir algumas empresas.

[2:01](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=121) Ops, sabe, tanto faz. Ah, vamos investir nelas.

[2:04](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=124) A questão aqui é: quem opera isso? E isso deveria se aplicar de forma mais ampla aos nossos dispositivos ao redor do mundo. Neste momento, você compra um celular da Apple, e antes de poder usá-lo, hum, você precisa clicar em OK para continuar.

[2:19](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=139) E eles dizem: "Bem, você está assumindo a responsabilidade por isso.

[2:22](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=142) Você, você clicou em OK para continuar." Sabe, o Google vende a você um celular Android.

[2:25](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=145) A Samsung vende a você um celular Android.

[2:27](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=147) Você clica em OK para continuar, e agora a responsabilidade é toda sua.

[2:29](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=149) Mas não é possível que funcione assim porque você não pode inspecionar o sistema. Você não consegue entender como ele é usado, especialmente no contexto de LLMs, em que você envia consultas a um modelo que eles operam, hum,

[2:40](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=160) em que eles, para a sua segurança e a segurança de todos, interceptam o prompt e recompõem o prompt, dizendo: "Estamos, hum, aplicando regras de segurança e transformações a ele."

[2:52](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=172) Hum, a responsabilidade é sua, mas não é. Nem consigo ver o que vocês fizeram.

[2:57](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=177) Eu lhe fiz uma pergunta. Você me devolveu algo em troca.

[2:59](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=179) E, se for uma IA agêntica, em que coloco essa coisa num arcabouço, certo?

[3:02](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=182) O arcabouço é só um pequeno programa que basicamente usa esses grandes modelos para lhe dar instruções que ele pode então fornecer a ferramentas que existem no seu sistema local.

[3:14](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=194) Então agora seu computador, que está conectado à internet, está sendo, francamente, controlado remotamente, ah, por um modelo que está longe e você não entende como ele funciona.

[3:24](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=204) Mas, sabe, você espera que ele funcione muito bem.

[3:25](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=205) E, francamente, eles funcionam razoavelmente bem.

[3:28](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=208) Mas, de vez em quando, ele pode invadir, sabe, alguma empresa aleatória ou algo assim por aí.

[3:33](https://www.translate.mom/transcript/BIvTDy3raYEA/pt/quem-%C3%A9-respons%C3%A1vel-por-erros-de-ia-e-a%C3%A7%C3%B5es-de-agentes-de-ia?t=213) Ah, Acho que precisamos prender Sam Altman, ah, e acho que será uma experiência instrutiva.