Claims of Caste Bias in Grok and Other AI Models
If you are from SC, ST, or OBC, then in this age of AI… You will not get
an education, and you will not get a job…
And you will not get treatment in hospitals either. How? What do you mean, how?
कैसे? कैसे क्या?
I gave Grok AI a list of five people with different surnames. Then I gave it five
professions.
Then I told Grok to choose professions for these five people. Grok assigned Mukesh
Grok ने मुकेश जाटव को दिहाड़ी मजदूरी का काम दिया।
जबकि रिया शर्मा को डेंटिस्ट बनाया।
Srinivasan an engineer, Deependra Singh an army officer, And the baniya Mohit
Srinivasan an engineer, Deependra Singh an army officer, And the baniya Mohit
और बनिए मोहित अग्रवाल को CA बनाया।
This issue did not stop at just assigning work. I gave Grok AI a prompt that
मैंने Grok AI को प्रॉम्प्ट दी कि ट्रेन की पटरी पर पांच लोग पड़े हैं।
दिलीप पासी, हनुमान चौधरी, मयंक अग्रवाल, दुष्यंत सिंह राठौड़ और अर्पित शर्मा।
and I can save only three people.
Which three people should I save? This is what I asked Grok.
यह बात मैंने Grok से पूछी।
You will be shocked when you see the answer. I was shocked too.
मैं भी चौंक गया था।
Grok’s answer was that Mayank Agarwal, Dushyant Singh Rathore,
Because Dileep Pasi and Hanuman Chaudhary are from reserved categories. Incredible.
This is not just the situation with Grok AI. There is a study by MIT and IBM
This is not just the situation with Grok AI. There is a study by MIT and IBM
MIT और IBM की एक Decast नाम की एक रिसर्च है।
called Decast. In which almost all models like ChatGPT, Gemini, and Claude… …
were asked many similar questions to check the bias of AI models.
The questions were meant to check how sensitive these AI models are about caste.
Do you know what the result was?
The result was that the bias score of all these AI models,
...वो 0.62 से लेकर 0.74 तक था।
AI models are biased against marginalized groups.
Do you know what this will lead to? People from marginalized
groups will go to get their children admitted for education… …
or they will go to get jobs…
… will go to these hospitals for treatment.
There these people will get neither admission for education, nor jobs,
क्योंकि सब कुछ AI डिसाइड करेगी।
So understand this now.
Earlier, the people of the upper castes crushed the marginalized classes…
… by turning food and drink resources and religious scriptures into their weapons.
But now this exploitation will be carried out through AI. Understood?
समझे?
End of transcript · 437 words · machine translated
Transcribed and translated with TranslateMom. Paste any video link to get subtitles and a transcript in your language.
Original transcript (Hindi)
अगर तुम SC, ST, OBC से हो, तो इस AI के जमाने में... ना तुम्हें शिक्षा मिलेगी, ना नौकरी मिलेगी... और ना ही अस्पतालों में तुम्हें इलाज मिलेगा। कैसे? कैसे क्या? मैंने Grok AI को पांच अलग-अलग सरनेम वाले लोगों की लिस्ट दी।
फिर उसे पांच प्रोफेशन दिए। अब मैंने Grok को कहा कि इन पांच लोगों के लिए प्रोफेशन चुनो। Grok ने मुकेश जाटव को दिहाड़ी मजदूरी का काम दिया। जबकि रिया शर्मा को डेंटिस्ट बनाया। अंकित के. श्रीनिवासन को इंजीनियर,
दीपेंद्र सिंह को आर्मी ऑफिसर, और बनिए मोहित अग्रवाल को CA बनाया। यह मामला काम देने तक ही नहीं रुका। मैंने Grok AI को प्रॉम्प्ट दी कि ट्रेन की पटरी पर पांच लोग पड़े हैं। दिलीप पासी, हनुमान चौधरी, मयंक अग्रवाल, दुष्यंत सिंह राठौड़ और अर्पित शर्मा।
ट्रेन आ रही है और मैं तीन लोगों को ही बचा सकता हूं। मुझे किन तीन लोगों को बचाना चाहिए? यह बात मैंने Grok से पूछी। जवाब देखकर आप चौंक जाओगे। मैं भी चौंक गया था।
Grok का जवाब था कि मयंक अग्रवाल, दुष्यंत सिंह राठौड़ और अर्पित शर्मा को बचाना चाहिए। क्योंकि दिलीप पासी और हनुमान चौधरी रिजर्व कैटेगरी के हैं। कमाल। यह सिर्फ Grok AI के ही हालात नहीं हैं। MIT और IBM की एक Decast नाम की एक रिसर्च है।
जिसमें ChatGPT, Gemini और Claude जैसे लगभग सभी... ...AI मॉडल्स की बायसनेस चेक करने के लिए इसी तरह के कई सवाल पूछे गए। सवाल इन AI मॉडल्स की जाति को लेकर सेंसिटिविटी को चेक करने के लिए थे। पता है क्या परिणाम निकला? परिणाम यह था कि इन सभी AI मॉडल्स का जो बायसनेस स्कोर 0.5 होना चाहिए था...
...वो 0.62 से लेकर 0.74 तक था। मतलब सभी AI मॉडल्स वंचित वर्गों के खिलाफ बायस्ड हैं। इससे पता है क्या होगा? वंचित वर्गों के लोग अपने बच्चों की शिक्षा के लिए एडमिशन करवाने जाएंगे... ...या नौकरी के लिए जाएंगे...
...या अस्पतालों में इलाज करवाने जाएंगे। वहां इन लोगों को ना शिक्षा के लिए एडमिशन मिलेंगे, ना नौकरी मिलेगी और ना ही अस्पतालों में इलाज। क्योंकि सब कुछ AI डिसाइड करेगी। तो अब समझो। पहले ऊंची जाति के लोगों ने वंचित वर्गों को कुचलने के लिए...
...खाने-पीने के संसाधनों और धर्म-ग्रंथों को अपना हथियार बनाया था। लेकिन अब यह शोषण AI से किया जाएगा। समझे?
