AI ट्रांस और नॉन बाइनरी लोगों की पहचान नहीं कर सकता है
रेन डोव एक बार में पी रहा है और उसे बाथरूम जाने की जरूरत है। जैसे ही वह पहुंच गलियारे से नीचे जाती है, एक कैमरा उसके लिंग के अनुसार शौचालय के दरवाजे को खोलने के लिए उसके चेहरे को स्कैन करता है। रेन डोव का चेहरा किस दरवाजे से खुलेगा? शायद पुरुषों के कमरे में एक।
बोल्डर, यूएसए में कोलोराडो विश्वविद्यालय के शोध में पाया गया कि प्रमुख कृत्रिम बुद्धि-आधारित चेहरे की पहचान सॉफ्टवेयर ट्रांस और गैर-बाइनरी लोगों की पहचान नहीं कर सकता है।
जबकि cisgender पुरुषों और महिलाओं को 98% मामलों में सटीक रूप से वर्गीकृत किया गया था, ट्रांसजेंडर लोगों (जो अपने जन्म के लिंग के साथ पहचान नहीं करते हैं) को लगभग 30% समय में गर्भपात कर दिया गया था। गैर-बायनेरिज़ (जो खुद को पुरुष या महिला के रूप में नहीं पहचानते हैं) के मामले में, मशीन सभी प्रयासों से चूक गई।
सर्वेक्षण करने के लिए, हैशटैग #woman, #man, #transwoman, #transman, #agenderqueer और #nonbinary के साथ Instagram पर चेहरों की 2, 450 तस्वीरें एकत्रित की गईं। समूह या आधे-छिपे हुए चेहरे के रिकॉर्ड को हटा दिए जाने के बाद, जो कुछ बचा था उसे 350 छवियों के समूहों में विभाजित किया गया था, जिनका उपयोग चेहरे की पहचान करने वाले सॉफ़्टवेयर रेकग्निशन (अमेज़ॅन), वॉटसन (आईबीएम), एज़्योर (माइक्रोसॉफ्ट) और क्लेरिफ़ई के परीक्षण के लिए किया गया था।
कृत्रिम बुद्धि पूर्वाग्रह का प्रतिकार करती है
शोधकर्ताओं का मानना है कि एल्गोरिदम पुरानी रूढ़ियों का उपयोग करते हैं, जो त्रुटि दर को और बढ़ाता है। एक उदाहरण टीम से ही आया था: शोधकर्ताओं में से एक, जिसके लंबे बाल हैं, को सॉफ्टवेयर के आधे हिस्से में महिला के रूप में वर्गीकृत किया गया था।
न केवल लिंग गलत समझा गया है: जनवरी में जारी एक एमआईटी मीडिया लैब अध्ययन से संकेत मिलता है कि रेकग्निशन ने अश्वेत महिलाओं की पहचान की, जो उस समय गोलीबारी के 30% पुरुषों की थी। जबकि इस तरह की खामियां ठीक नहीं हैं, पूर्वाग्रह सबसे असामान्य स्थानों में दिखाई देते हैं: 2015 में, Google फ़ोटो, कृत्रिम बुद्धिमत्ता का उपयोग करते हुए, गोरिल्ला छवियों के रूप में काले उपयोगकर्ता सेल्फी को चिह्नित किया।
ऐईसी TecMundo के माध्यम से ट्रांस और गैर-बाइनरी लोगों की पहचान नहीं कर सकता है
