पैटर्न पहचान नस्लवाद क्यों नहीं है?

यदि कोई मनुष्य जाति के आधार पर किसी बुरे कार्य का सामान्यीकरण करने का प्रयास करता है, तो इसे नस्लवाद कहा जाता है।

लेकिन, यदि कोई मशीन ऐसा ही करती है, जैसे कि नस्ल इनपुट के आधार पर बुरे कार्य का अनुमान लगाना। इसे नस्लवाद नहीं कहा जाता. क्यों?

विशेष रूप से, मैं जिस मशीन के बारे में बात कर रहा हूं वह मशीन लर्निंग है। जहां यह इनपुट और आउटपुट जोड़ी के आधार पर सीखता है, एक मॉडल लौटाता है।

इसके अलावा, यदि यह गहरी शिक्षा का उपयोग करता है, तो एआई डिजाइनर स्वयं यह नहीं समझ सकता है कि मॉडल कैसे अनुमान लगाता है। विकिपीडिया में समझाने योग्य एआई के बारे में कहा गया है

एक्सएआई मशीन लर्निंग की "ब्लैक बॉक्स" प्रवृत्ति का मुकाबला करता है, जहां एआई के डिजाइनर भी यह नहीं बता सकते कि यह एक विशिष्ट निर्णय पर क्यों पहुंचे।

तो, क्यों?

संकीर्ण अर्थ में*, नस्लवाद एक चेतन मन का जानबूझकर किया गया कार्य, विश्वास या विचार है (संभवतः अवचेतन नस्लीय पूर्वाग्रहों से उत्पन्न होता है जिसके बारे में किसी को पता नहीं हो सकता है)।

कंप्यूटर हैं' इसे चेतन माना जाता है। इसलिए एआई डेटा से जो निष्कर्ष निकालता है उसे उसी अर्थ में नस्लवादी नहीं कहा जा सकता है।

लेकिन एआई में नस्लीय पूर्वाग्रह और अन्य चीजों के प्रति पूर्वाग्रह हो सकते हैं (चाहे वह खराब डेटा के कारण हो या कुछ सांख्यिकीय कारणों से हो) -महत्वपूर्ण सहसंबंध)। यह कुछ ऐसा है जिसके बारे में बहुत से एआई डेवलपर्स जानते हैं और इसका मुकाबला करने की कोशिश करते हैं (उदाहरण के लिए मॉडल की विशेषताओं में से एक के रूप में दौड़ को शामिल नहीं करना)।

हम नहीं चाहते कि एआई में उदाहरण के लिए नस्लीय पूर्वाग्रह, क्योंकि हम नहीं चाहते कि लोगों के साथ उन चीजों के आधार पर अलग व्यवहार किया जाए जिन्हें वे नियंत्रित नहीं कर सकते (जैसे नस्ल)। यह विशेष रूप से तब होता है जब डेटा खराब हो या नस्लों के बीच अंतर छोटा हो, या यदि कुछ भ्रमित करने वाले चर हों।

यह भी देखें: एआई नैतिकता।

(यह संभवतः एक बेहतर है एआई स्टैक एक्सचेंज साइट के लिए प्रश्न।)

* व्यापक अर्थ में, उदाहरण के लिए। "प्रणालीगत नस्लवाद" किसी समाज या संगठन की नीतियों और प्रथाओं के कारण भेदभाव को संदर्भित करता है, जो जरूरी नहीं है (लेकिन अक्सर होता है) सिस्टम में किसी भी व्यक्ति के जानबूझकर सीधे-नस्लीय रूप से प्रेरित कार्य को प्रतिबिंबित करता है। लेकिन कोई यह तर्क दे सकता है कि ऐसी प्रणाली में अभी भी इन नीतियों से उत्पन्न कई जानबूझकर कार्य हैं, और नीतियां स्वयं अधिक प्रत्यक्ष नस्लवाद से उत्पन्न हो सकती हैं।

आखिरकार, नस्लवाद के लिए चेतना की आवश्यकता है या नहीं यह एक अर्थ संबंधी अंतर है। परिभाषा को जानबूझकर किए गए कृत्यों तक सीमित रखने का कुछ फ़ायदा है, ताकि अर्थ ख़राब न हो जाए। जानबूझकर किए गए कृत्यों को गैर-जागरूक नीतियों और मशीनों के साथ जोड़ने में भी कुछ लाभ हो सकता है, इस बात पर जोर देने के लिए कि दोनों मामलों में समान नुकसान हो सकता है।

यदि कोई मनुष्य जाति के आधार पर किसी बुरे कार्य का सामान्यीकरण करने का प्रयास करता है , इसका नस्लवाद कहा जाता है।

सबसे पहले, "नस्लवाद" को कैसे परिभाषित किया जाना चाहिए, इसकी कोई एकल और सार्वभौमिक समझ नहीं है, लेकिन सामाजिक वैज्ञानिक मानकों के अनुसार, ऐसा नहीं है। आप यहां जो वर्णन कर रहे हैं वह नकारात्मक नस्लीय रूढ़िवादिता है।

इसके अलावा, व्यक्तिगत और संरचनात्मक नस्लवाद के बीच एक महत्वपूर्ण अंतर है। यदि कोई व्यक्ति जागरूक नस्लीय रूढ़िवादिता को आश्रय देता है और उस पर कार्य करता है, तो हम आम तौर पर सहमत हो सकते हैं कि यह व्यक्ति नस्लवादी है। लेकिन संरचनात्मक नस्लवाद (पृथक और निम्न आवास, सामूहिक क़ैद, आदि) सैद्धांतिक रूप से ऐसी दुनिया में मौजूद हो सकता है जहां नस्लीय रूढ़िवादिता अनुपस्थित है या कम से कम कोई कारणात्मक शक्ति नहीं है।

लेकिन, अगर कोई मशीन भी ऐसा ही प्रदर्शन करती है, जैसे जाति इनपुट के आधार पर बुरे कार्य का अनुमान। इसे नस्लवाद नहीं कहा जाता. क्यों?

इस समझ के साथ, इसमें कोई आश्चर्य नहीं होना चाहिए कि यह आधार वस्तुगत रूप से गलत है। लोगों (उदाहरण के लिए, एल्गोरिथम जस्टिस लीग में शामिल लोगों) ने प्रदर्शित किया है कि मशीन सीखने के अनुप्रयोगों में संरचनात्मक नस्लवाद स्पष्ट है।

आप पूछते हैं:

पैटर्न पहचान नस्लवाद क्यों नहीं है?

पैटर्न पहचान केवल डेटा के बीच पैटर्न की खोज है, और एल्गोरिथम और अनुमानी गणना का एक वर्ग है। आम तौर पर, यह तय करने के लिए कंप्यूटर को प्रोग्राम करना संभव है कि कोई पैटर्न मौजूद है या नहीं। उदाहरण के लिए, पूर्णांकों का एक क्रम दें, यह तय करना संभव है कि अनुक्रम मोनोटोनिक में है या नहीं। या तर्क में, यदि सत्यों का एक सेट दिया जाए तो निर्णय लेना संभव है