Clonación de voz con IA y riesgos de la autenticación por voz
Lo que me aterra es que, al parecer, todavía hay
algunas instituciones financieras
que aceptan una huella vocal como autenticación
para que puedas, no sé, mover mucho dinero o hacer alguna otra cosa.
Dices una frase de verificación, y simplemente lo hacen.
Eh, es una locura que sigan haciendo eso.
Es que la IA ya ha derrotado por completo a eso.
La IA ya ha derrotado por completo a la mayoría de las
formas en que la gente se autentica
actualmente, salvo, no sé, las contraseñas.
Pero todos esos métodos sofisticados,
ya sabes, de tomarte una selfie y saludar o
usar tu voz o lo que sea, eh, me pone muy nervioso que tengamos una
inminente, importante e inminente crisis de fraude
debido
a esto. Eh,
hemos intentado, creo que otros en nuestra industria han
intentado advertirles, más o menos,
a la gente: «Oigan, que no publiquemos la
tecnología no significa que
no existe". Algún actor malicioso va a difundirlo.
Esto no es algo muy difícil de hacer. Esto llegará muy, muy pronto.
Eh, y
ya saben, ahora hay informes, obviamente, sobre
este tipo de ataques
de rescate, en los que tienen la voz de tu hijo o de alguno de tus padres y hacen
esta llamada urgente. Eh, eso va a ser muy convincente.
La sociedad tiene que abordar este problema de forma más general,
pero la gente tendrá
que cambiar su forma de interactuar. Tendrán que cambiar la manera de
verificar,
por ejemplo, si esta persona me llama. Ahora mismo es una llamada de voz.
Pronto será un video por FaceTime. Será indistinguible de la realidad.
Eh,
y enseñar a la gente a autenticarse en un mundo así, cómo pensar en,
ya saben, los i- impactos del fraude, esto es algo enorme.
Eso podría ser algo en lo que podríamos pensar colaborar, la
identificación de esas, eh, alucinaciones o las, las
suplantaciones intencionales creo que sería algo muy beneficioso, eh, en lo que
participar. Pero
el progenitor... eh, ser progenitor de dos adolescentes
End of transcript · 335 words · machine translated
Original transcript (English)
The thing that terrifies me is apparently there are still some financial institutions that will accept a voice print as authentication for you to, like, move a lot of money or do something else. You say a challenge phrase, and they just do it.
Um, that is a crazy thing to still be doing. Like, AI has fully defeated that. AI has fully defeated most of the ways that people authenticate currently other than, like, passwords.
But all of these, like, fancy, you know, take a selfie and wave or do your voice or whatever, um, I am very nervous that we have an impending, a significant impending fraud crisis because
of this. Um, we have tried, I think other people in our industry have tried to sort of warn people like, "Hey, just because we're not releasing the technology doesn't mean it
doesn't exist." Some, some bad actor is going to release it. This is not a super difficult thing to do. This is coming very, very soon. Um, and you know, there's obviously some reports now of these sort of like ransom
attacks where people have the voice of your kid or your parent and they make this urgent call. Um, that is going to get so compelling. Society has to deal with this problem more generally, but people are gonna have to change the way they interact. They're gonna have to change the way they
verify, like, this person calling me. Right now it's a voice call. Soon it's gonna be a video FaceTime. It'll be indistinguishable from reality. Um, and teaching people how to authenticate in a world like that, how to think about,
you know, the b- the fraud impacts, this is a huge deal. That might be something we could think about partnering on, the identification of those, uh, hallucinations or the, the intentional impersonations I think would be a really beneficial, uh, thing to engage in. But
the parent-- uh, being the parent of two teenagers
