Transcript · Hindi → English
Facial Recognition and Protest Controversy
First, a claim made headlines. Delhi Police's facial recognition system
had identified 2,873 people at the student protest at Jantar Mantar
whose faces matched the police criminal database.
जिनके चेहरे Police criminal database से match हो रहे थे।
The claim was startling because it included those accused of murder, rape, and attempted
murder. Then an impossible
discrepancy emerged. Many of them were not at the protest at the time,
but in jail. The Indian Express
examined 205 names in serious cases. At least 25
people were in jail at the time, 17 in murder cases, four in rape cases,
and four accused in attempted murder cases.
In other words, the algorithms had placed a person in jail and
identified them in the crowd at Jantar Mantar as well.
The Supreme Court quashed the FIR against the student protest, but left room for action against these
2,873 people if verified
evidence was found. The Delhi Police
It has been said that action will not be taken solely on the basis of a facial recognition match,
First, there will be field verification. But this story goes beyond technology.
Before verification,
the narrative of 2,873 criminals had spread.
It had damaged the public image of the protest and its protesters.
Now who will verify the damage?
This is not just a matter of accuracy.
surveillance, due process and protest's democratic
rights
are at issue. Let algorithmic investigation take the lead
It may be, but it isn't evidence. A machine can signal
suspicion. The authority to declare a citizen a criminal should not
be given.
End of transcript · 261 words · machine translated
Original transcript (Hindi)
पहले एक दावा headline बना। Delhi Police के facial recognition system ने जंतर मंतर के student protest में 2873 ऐसे लोगों को पहचान लिया जिनके चेहरे Police criminal database से match हो रहे थे। दावा चौंकाने वाला था क्योंकि इसमें murder, rape, attempt to
murder के आरोपी भी थे। फिर एक असंभव दरार दिखाई दी। इनमें से कई लोग protest के वक्त protest में नहीं, जेल में थे। द इंडियन एक्सप्रेस ने गंभीर मामलों के 205 नामों की जांच की। कम से कम पच्चीस लोग उस समय जेल में थे। murder case के सत्रह, rape cases
के चार और attempt to murder cases के चार आरोपी। यानी algorithms ने व्यक्ति को उस समय जेल में भी रखा और जंतर मंतर की भीड़ में भी पहचान लिया। Supreme Court ने student protest के खिलाफ FIR quash कर दी लेकिन इन 2873 लोगों के विरुद्ध verified
evidence मिलने पर कार्रवाई की गुंजाइश छोड़ दी। दिल्ली Police ने कहा है कि केवल facial recognition match के basis पर action नहीं होगा, पहले field verification होगी। लेकिन यही कहानी technology से आगे चली जाती है। verification से पहले 2873 criminals का narrative फैल चुका
था। उसने protest और protesters की public image को नुकसान पहुंचा दिया था। अब इस नुकसान की verification कौन करेगा? यह सिर्फ accuracy का मामला नहीं है。 surveillance, due process और protest के लोकतांत्रिक अधिकार
का सवाल है। algorithm investigation को lead दे सकता है, evidence नहीं। मशीन शक का संकेत दे सकती है। किसी नागरिक को अपराधी घोषित करने का अधिकार नहीं दिया जाना चाहिए।
