तारीख (Date): 10-06-2023

प्रासंगिकता: जीएस 3: विज्ञान और प्रौद्योगिकी, जीएस 4: नैतिकता

मुख्य शब्द: AI पूर्वाग्रह, आर्टिफिशियल इंटेलिजेंस, पारदर्शिता और जवाबदेही, सामाजिक अच्छाई

प्रसंग-

• आर्टिफिशियल इंटेलिजेंस (AI) एक तेजी से विकसित होने वाली तकनीक है जिसमें हमारे जीवन के कई पहलुओं में क्रांति लाने की क्षमता है। हालाँकि, इस बात की चिंता बढ़ रही है कि AI का उपयोग मौजूदा पूर्वाग्रहों और भेदभाव को बढ़ावा देना के लिए किया जा सकता है। यह एक गंभीर समस्या है, क्योंकि हाशियाकृत समूहों के लोगों के जीवन पर इसका प्रभाव पड़ सकता है।
• जेफ्री हिंटन (कृत्रिम बुद्धिमत्ता अग्रणी), एलोन मस्क (टेस्ला के सह-संस्थापक और सीईओ), इमाद मोस्ताक (ब्रिटिश एआई विशेषज्ञ), कैथी ओ'नील (अमेरिकी गणितज्ञ, डेटा वैज्ञानिक और लेखक), स्टुअर्ट जे. रसेल (ब्रिटिश कंप्यूटर वैज्ञानिक), सहित प्रौद्योगिकी नेताओं, शोधकर्ताओं और विशेषज्ञों द्वारा आर्टिफिशियल इंटेलिजेंस (AI) के खिलाफ चेतावनियों में वृद्धि हुई है।
• हाल ही में, विश्व स्वास्थ्य संगठन ने सार्वजनिक स्वास्थ्य देखभाल के लिए एआई का उपयोग करने में सावधानी बरतने का आह्वान किया।

AI पूर्वाग्रह कैसे हो सकता है?

• AI एल्गोरिदम अतीत से भविष्य में सीख सकते हैं । इसका मतलब यह है कि वे मौजूदा पूर्वाग्रहों और भेदभाव को कायम रख सकते हैं, यदि पक्षपाती डेटा पर उन्हें प्रशिक्षित किया जाता है । उदाहरण के लिए, एल्गोरिदम, कैरियर ट्रैजेक्टोरियों और संगठन में पिछले कर्मचारियों के प्रदर्शन के माध्यम से यह सीख सकते हैं कि पुरुष सामान्य रूप से महिलाओं की तुलना में अधिक उत्पादक होता है|
• संयुक्त राष्ट्र विकास कार्यक्रम की एक हालिया रिपोर्ट में इस बात पर प्रकाश डाला गया है कि 'एल्गोरिदमिक पूर्वाग्रह का वित्तीय सेवाओं, स्वास्थ्य सेवा, खुदरा और गिग वर्कर उद्योगों पर सबसे अधिक प्रभाव पड़ता है'। इस रिपोर्ट में यह भी बताया गया है कि एआई-जनित क्रेडिट स्कोरिंग ने पुरुषों की तुलना में महिलाओं को कम स्कोर देने की प्रवृत्ति प्रदर्शित की, भले ही उनकी वित्तीय पृष्ठभूमि समान थी।
• जबकि इन एल्गोरिदम को फीडबैक लूप और प्रोग्रामेटिक सुधार के माध्यम से सुधारने के लिए डिज़ाइन किया गया है, उनमें नैतिकता की कमी है; और मनुष्यों के विपरीत, वे रूढ़ियों, मानदंडों, संस्कृति या परंपराओं पर सवाल नहीं उठाते। मशीनों में निष्पक्षता या सहानुभूति की भावना नहीं होती है, विशेष रूप से अल्पसंख्यकों और विकलांग समुदायों के मामले में जो की समाज में देखा जा सकता है। इसके अलावा, मशीनें सीखे गए पैटर्न को सामान्य करती हैं, बिना यह जाने कि उन्हें प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा विविध और पूर्ण हैं|
• भारतीय राज्यों, उनकी कई भाषाओं, रंगों, संस्कृतियों और परंपराओं की पृष्ठभूमि के साथ, यह खतरा अधिक असमानता फैला सकता है और हाशिए पर रहने वाले समूहों और अल्पसंख्यकों के लिए और अधिक बहिष्कार कर सकता है|

AI पूर्वाग्रह का कैसे सुधार करें?

• हमें अपने लोगों को लाभ पहुंचाने वाले एल्गोरिदम और मॉडल बनाने के लिए स्वच्छ, संगठित, डिजिटाइज्ड और अच्छी तरह से संचालित सार्वजनिक डेटा की आवश्यकता है। इस नवाचार को अपनाने से पहले उद्योग और सरकारों दोनों को सावधानी बरतनी चाहिए और अपने शोध, विकास और जांच में पर्याप्त निवेश करना चाहिए।
• यह अनिवार्य है कि हम एआई के विकास को एक जिम्मेदार और सूचित तरीके से प्राथमिकता दें। उदाहरण के लिए, जिम्मेदार एआई के लिए नीति आयोग की पहल।
• यह सुनिश्चित करना महत्वपूर्ण है कि एआई एल्गोरिदम को प्रशिक्षित करने के लिए उपयोग किया जाने वाला डेटा समग्र रूप से जनसंख्या का प्रतिनिधित्व करता है। इसका अर्थ है जीवन के सभी क्षेत्रों के लोगों के डेटा को शामिल करना, जिसमें हाशिये पर रहने वाले समूहों के लोग भी शामिल हैं

निष्कर्ष

• निजी क्षेत्र और चिकित्सकों को इस यात्रा में सरकारों के साथ मिलकर काम करना चाहिए। इस बात पर जोर देना महत्वपूर्ण है कि लक्ष्य बुद्धिमान मशीनों का निर्माण होना चाहिए जो समावेशी हों और देश की विविधता और विषमता को दर्शाती हों। इस नवाचार को अपनाने से सभी के लिए समानता और समानता की दिशा में हमारी प्रगति में बाधा नहीं आनी चाहिए; इसे हमारे सुधारों और सकारात्मक बदलाव के प्रयासों का समर्थन करना चाहिए।
• भारत में एआई के उपयोग में सामाजिक भलाई के लिए एक शक्तिशाली उपकरण बनने की क्षमता है। हालांकि, एआई पूर्वाग्रह की क्षमता के बारे में जागरूक होना और इस जोखिम को कम करने के लिए कदम उठाना महत्वपूर्ण है। इन कदमों को उठाकर, हम यह सुनिश्चित कर सकते हैं कि एआई का उपयोग समाज के सभी सदस्यों के लाभ के लिए किया जाए, भले ही उनकी पृष्ठभूमि कुछ भी हो।

स्रोत: द हिंदू