‘Algorithmic Bias’: The Next Challenge for Justice Reform

Keywords : Newsletter TopNewsletter Top,Police TechnologyPolice Technology,Race and EquityRace and Equity,Science & TechnologyScience & Technology

जैसा कि प्रौद्योगिकी न्यायिक संस्थानों का एक अविभाज्य हिस्सा बन जाती है, शोधकर्ताओं ने एल्गोरिदमिक डिजाइनों के भीतर असमानता और नस्लीय पूर्वाग्रह को संबोधित करना शुरू कर दिया है जिन्हें अदालतों, पुलिस और सिस्टम के अन्य घटकों को मजबूत करने के लिए तैनात किया जा रहा है।

बर्कले टेक्नोलॉजी लॉ जर्नल में आने वाले पेपर के अनुसार, एल्गोरिदमिक पूर्वाग्रह को संबोधित करने का सबसे प्रभावी तरीका एक परिवर्तनीय न्याय ढांचा के माध्यम से है।

"डेटा-संचालित प्रौद्योगिकियां अयोग्यता, अहिनती नहीं हो सकती हैं, या सामाजिक और बिजली संरचनाओं से अलग और अलग नहीं मानी जा सकती हैं," पूर्वोत्तर विश्वविद्यालय में कानून और राजनीति विज्ञान के एक सहायक प्रोफेसर रशीदा रिचर्डसन ने लिखा है।

"ऐसा इसलिए है क्योंकि प्रौद्योगिकी, और वैज्ञानिक ज्ञान अधिक आम तौर पर, एम्बेड करता है और सामाजिक प्रथाओं, पहचान, मानदंडों, सम्मेलनों, प्रवचन, यंत्र और संस्थानों में एम्बेडेड होता है।"

लेखक यह बताते हुए शुरू होता है कि स्टेम कंपनियों, कांग्रेस के कार्यालयों के भीतर नस्लीय विविधता की कमी, और यहां तक ​​कि प्रौद्योगिकी नीति करियर और संस्थानों जैसे गैर-लाभ जैसे संस्थानों और सोचने वाले टैंकों का प्रभाव उस पर असर पड़ता है जिस तरह से तकनीक बनाई जाती है और इसका उपयोग किया जाता है- जिसके परिणामस्वरूप पक्षपातपूर्ण एल्गोरिदम होते हैं जो समुदायों को परेशान कर सकते हैं और प्रौद्योगिकी क्षेत्र पर हावी हो सकते हैं।

रिचर्डसन का कहना है कि मुख्य कारण यह है कि आज इस्तेमाल की जाने वाली अधिकांश एल्गोरिदमिक तकनीक को मुख्य रूप से सफेद कार्यबल द्वारा बनाया गया था, जो अनजाने में दौड़ को समझते समय एक तकनीकी "आदर्श" बना रहा था।

"श्वेतता को नस्लीय श्रेणी के रूप में नहीं माना जाता है, [के रूप में] अन्य श्रेणियां हैं," वह लिखती हैं।

एक न्याय-संबंधी लेंस के माध्यम से इस अवधारणा की खोज, रिचर्डसन को संबोधित करता है "पुलिस अपराध डेटा, जो पॉलिसी में उपयोग की जाने वाली डेटा संचालित प्रौद्योगिकियों के लिए प्राथमिक डेटा स्रोत है," और विवरण डेटा के भीतर उपयोग किए जाने वाले एल्गोरिदम का उपयोग क्षेत्रों की पहचान करने के लिए कैसे किया जाता है उच्च अपराध।

हालांकि, रिचर्डसन लिखते हैं, यह क्षमता एक कीमत पर आती है। इन एल्गोरिदम द्वारा पहचाने गए 'विकार "की केंद्रित साइटों को वंचित पड़ोस होने की संभावना है, जो रंग के लोगों द्वारा आबादी वाले हैं, जो परिणामस्वरूप एक ओवर-पॉलिसिंग के अधीन हैं।

प्रभाव में, एल्गोरिदम ने उन्हें क्रिमिनोजेनिक के रूप में वर्गीकृत किया, वहां रहने वाले लोगों के परिणामों की नकारात्मक श्रृंखला को स्थापित किया।

एक उदाहरण के रूप में, वह पिछले दशकों में पुलिस द्वारा पेश की गई "टूटी हुई खिड़कियों" और "हॉट स्पॉट" रणनीतियों का हवाला देती है-जो प्रभावी रूप से लक्षित पड़ोस बनाती है, भले ही सार्वजनिक सुरक्षा के लिए खतरे एक छोटे से क्षेत्र तक ही सीमित हो सकते हैं।

"वास्तव में," रिचर्डसन कहते हैं, "शोध से पता चलता है कि इनमें से व्यवस्थित प्रभाव ... पॉलिसिंग अभ्यास" नस्लीय अलगाव को लागू करना है।

यह भी देखें: डिजिटल पुलिस उपकरण 'नस्लीय पूर्वाग्रह' पुनर्नवीनीकरण ', संयुक्त राष्ट्र पैनल चेतावनी

इसी तरह, रिचर्डसन ने उस अपराध-केंद्रित भौगोलिक सूचना प्रणाली (जीआईएस) और अन्य कंप्यूटर-आधारित उपकरण जैसे कंपस्टैट "वारंट ग्रेटर जांच" लिखते हैं।

रिचर्डसन ने 2017 में कैसे उद्धृत किया था, शिकागो पड़ोस को शॉट्सपोटर, शॉटस्पोटर कनेक्ट और पुलिस अवलोकन उपकरणों के लिए उच्च बंदूक हिंसा और हत्याकांड दरों के बारे में पुलिस अवलोकन उपकरणों के लिए चुना गया था। पड़ोस, अर्थात् एंगलवुड और वेस्ट गारफील्ड पार्क "लगभग विशेष रूप से काले और लैटिनक्स निवासियों से युक्त हैं।"

यह, रिचर्डसन लिखते हैं, कोई दुर्घटना नहीं है, और आगे यह बात करता है कि "पॉलिसी पॉलिसी, प्रथाओं और रणनीति नस्लीय अलगाव और इसके परिणामों को मजबूत करने के लिए कैसे काम करती है।"

बदलने के लिए आगे देख रहे हैं

"एक परिवर्तनीय न्याय ढांचा को पर्याप्त रूप से जांचने और निवारण करने और डेटा संचालित प्रौद्योगिकियों और अनुप्रयोगों के विकास में सुधार करने के लिए आवश्यक है," रिचर्डसन अपने पेपर में लिखते हैं।

कुछ भी नहीं जो अदालतें एल्गोरिदमिक पूर्वाग्रहों के चुनाव के लिए पारदर्शिता, निरीक्षण, या तंत्र प्रदान करने में विफल रही हैं, रिचर्ड का कहना है कि इन प्रथाओं को खुले में लाने के लिए और अधिक शोध की आवश्यकता है।

"डेटा संचालित प्रौद्योगिकी विकास और नीति के लिए एक परिवर्तनीय न्याय ढांचा और प्रैक्सिस हमें भविष्य में आगे बढ़ने में मदद कर सकता है जहां प्रौद्योगिकी और समाज सामूहिक संबंधों के लिए डिज़ाइन किए गए हैं," रिचर्डसन ने निष्कर्ष निकाला।

रशिदा रिचर्डसन पूर्वोत्तर विश्वविद्यालय में कानून और राजनीति विज्ञान के वर्तमान सहायक प्रोफेसर हैं। वह रूटर लॉ स्कूल में एक विज़िटिंग विद्वान भी हैं और जर्मन मार्शल फंड में डिजिटल इनोवेशन एंड डेमोक्रेसी पहल में सूचना नीति और कानून और एक वरिष्ठ साथी के रूटर्स इंस्टीट्यूट और एक वरिष्ठ साथी भी हैं।

पूर्ण पेपर यहां पहुंचा जा सकता है।

अतिरिक्त पढ़ने: डेट्रॉइट मुकदमा शुल्क चेहरे की पहचान पूर्वाग्रह 2021

यह भी देखें: चेहरे की पहचान सॉफ्टवेयर अफ्रीकी-अमेरिकी चेहरे को गलत करता है: अध्ययन 2019

एंड्रिया सिप्रियानो एक टीसीआर स्टाफ लेखक है।