Transcript · English → French
Digital Camouflage and AI Detection
Euh, le cadre vert indique que je suis détecté comme une
personne. Euh, c'est l'algorithme YOLO qui tourne en arrière-plan.
Et dès que je porte le T-shirt, je ne
suis plus détecté comme une, comme une personne.
Hum-hum.
Donc, en gros, je peux
faire comme ça. C'est une—
réponse très directe
de l'algorithme.
Hum-hum.
Je m'appelle Simon Weckert. Je suis un artiste des nouveaux médias basé à
Berlin, et je travaille surtout avec du, euh, code et de l'électronique.
Hum-hum.
Ça s'appelle le camouflage numérique, oui, oui.
Mais ça va dans le sens de la mode adversariale.
On voit aussi que, par exemple, les voitures, euh, ont une certaine peinture
pour être invisibles aux caméras Flock, par exemple, et je fais en quelque sorte la
même chose pour la, euh, détection de personnes. Euh, donc, le
euh, motif adversarial, euh, que je crée est imprimé sur un, sur un
Un T-shirt que vous pouvez porter, et puis, une fois que vous
vous tenez devant un
algorithme de détection d'objets, par exemple, YOLO dans mon projet, vous
devenez, euh, invisibles. J'avais un motif, un motif aléatoire,
puis, euh, j'ai commencé par, euh, demander à YOLO : « Quel
pourcentage
d'une personne vois-tu quand
ce motif est, euh, sur la personne ? » Puis YOLO répondait : « Je vois
cent pour cent », ou quelque chose comme ça.
Et ce que l'algorithme, euh, fait essentiellement durant l'entraînement
c'est qu'il modifie lentement les motifs, les couleurs et les formes,
les retourne, les fait pivoter, etc., et chaque fois que je faisais
cela, je demandais à nouveau : « Quel pourcentage vois-tu maintenant ?
Combien ? » Et ainsi de suite.
Et puis, a- après un moment, j'ai réalisé, d'accord, en gros, la confiance
le score de l'algorithme s'est éloigné de la catégorie de
personne. À Berlin, nous avons actuellement la situation
où c'est la
première fois qu'ils vont utiliser l'IA pour des caméras, euh, euh, ces
systèmes de caméras pour détecter, euh,
surtout le comportement humain. Vous savez, c'est une chose que quelqu'un soit derrière
une caméra et vous observe, mais maintenant, il y a une IA, et si cela
se joue entre la sécurité et la liberté, je choisis toujours la liberté,
vous savez ? Donc
End of transcript · 370 words · machine translated
Original transcript (English)
Um, the green box is, um, showing that I'm getting detected as a person. Um, this is the, uh, YOLO algorithm running behind. And once I'm wearing the T-shirt, I'm not getting detected anymore as a, as a person. Mm-hmm.
So I can basically do like this. It's like a- ... very direct response by the algorithm. Mm-hmm.
My name is Simon Weckert. I'm a new media artist based in Berlin, and mostly I work with, uh, code and electronics. Mm-hmm. It's called digital camouflage, yeah, yeah. But it goes into the direction of adversary fashion.
We also see that, for example, cars, um, have a certain painting to be invisible against flock cameras, for example, and I kind of do the same for, um, person detection. Um, so the, um, adversary pattern, uh, which I create is printed on a, on a T-shirt, which you can wear, and then once you
are standing in front of an object detection algorithm, for example, YOLO in my project, you are getting, um, invisible. I had a pattern, like a random pattern, and then, um, I started with, um, asking YOLO, "How much percentage
of a person do you see when this pattern is, uh, on the person?" And then YOLO reported like, "I see one hundred percent," or something. And then what the algorithm, um, the training process basically is doing is, like, it's changing slowly patterns, colors and shapes,
flip them, rotate them, and so on and so forth, and every time after I did that, I ask again, "How much percentage do you see now? How much?" And so on and so forth. And then s- after a while I realized, okay, basically the confidence score of the algorithm went away from the category of
the person. In Berlin right now we have the situation that it's the first time that they're gonna use AI for camera, um, um, these camera systems to detect, um, most of it human behavior. You know, it's one thing that somebody's behind
a camera and watching at you, but now you have an AI, and if it comes between the question of security and freedom, I always choose freedom, you know? So
