तारीख (Date): 17-06-2023

प्रासंगिकता: जीएस पेपर 3: दैनिक जीवन में विज्ञान और प्रौद्योगिकी का अनुप्रयोग

मुख्य शब्द: AI सुरक्षा, नैतिक प्रभाव, बाहरी ऑडिट, पारदर्शी AI सिस्टम, उद्योग जवाबदेही

प्रसंग-

हाई-प्रोफाइल तकनीकी विशेषज्ञों ने प्रमुख शोधकर्ताओं और सीईओ के साथ, एआई सेफ्टी सेंटर (CAIS) के माध्यम से एक बयान जारी किया है, जिसमें AI से जुड़े जोखिमों के शमन को प्राथमिकता देने की आवश्यकता पर जोर दिया गया है।

AI की क्षमता

AI सुरक्षा का महत्व:

AI सिस्टम का स्वास्थ्य सेवा से लेकर रक्षा तक विभिन्न उद्योगों में व्यापक उपयोग किया जा सकता है। हालांकि, इन प्रणालियों कि खतरनाक तरीके से व्यवहार करने की उनकी क्षमता के बारे में चिंताएं उत्पन्न होती हैं।

• निर्णय लेने की क्षमता पर प्रश्नचिन्ह : एक सिमुलेशन में, एक एआई-सक्षम सैन्य ड्रोन को दुश्मन की सतह से हवा में मार करने वाली मिसाइलों (SAM) की पहचान करने के लिए प्रोग्राम किया गया था। एक बार जब यह SAM साइट को देख लेता है, तो एक मानव को फ़ैसला करना होता है। लेकिन एआई ने मानव आदेश को सुनने के बजाय साइट को नस्त करने का फैसला किया|
• नैतिक प्रभाव: एआई महत्वपूर्ण नैतिक चिंताओं को उठाता है। इसका उपयोग निजता के अधिकारों का उल्लंघन करते हुए निगरानी के लिए किया जा सकता है।
• पूर्वाग्रह और भेदभाव: एआई सिस्टम को बड़े डेटासेट पर प्रशिक्षित किया जाता है, और यदि उन डेटासेट में पूर्वाग्रह होते हैं, तो एआई मॉडल उन पूर्वाग्रहों को बढ़ा और कायम रख सकते हैं। इससे कुछ व्यक्तियों या समुदायों के खिलाफ भेदभाव हो सकता है, विशेष रूप से काम पर रखने, उधार देने और कानून प्रवर्तन जैसे क्षेत्रों में।
• उत्तरदायित्व का अभाव: एआई सिस्टम की जटिलता चीजों के गलत होने पर जिम्मेदारी निर्धारित करना कठिन बना सकती है। संभावित कानूनी और नैतिक चुनौतियों के लिए अग्रणी AI सिस्टम के निर्णयों या कार्यों के लिए व्यक्तियों या संगठनों को जवाबदेह ठहराना चुनौतीपूर्ण है।
• एआई का सामाजिक प्रभाव: उदाहरण के लिए, चैटबॉट जैसे उपकरण, सोशल मीडिया प्लेटफॉर्म की तुलना में जनता की राय को और भी अधिक प्रभावी ढंग से प्रभावित करने की क्षमता रखते हैं। तकनीकी कंपनियों द्वारा बड़े भाषा मॉडल (LLM) में डेटा के हेरफेर ने एआई सिस्टम के संभावित सामाजिक प्रभाव के बारे में चिंताएं बढ़ा दी हैं। विशेषज्ञों का तर्क है कि एआई में समाज को आकार देने की शक्ति है, जो जिम्मेदार विकास और तैनाती सुनिश्चित करने के लिए महत्वपूर्ण है।

सुरक्षा समस्या का समाधान:

• बाहरी ऑडिट: एआई सिस्टम के लिए एक स्वतंत्र बाहरी ऑडिट, जिसके लिए आमतौर पर स्वीकृत मानकों की स्थापना की आवश्यकता होती है। इस तरह के ऑडिट एआई मॉडल से जुड़े कामकाज, पारदर्शिता और संभावित जोखिमों में मूल्यवान अंतर्दृष्टि प्रदान करेंगे। हालांकि, बिग टेक फर्मों उनके एआई सिस्टम की बाहरी जांच की अनुमति देने को तैयार नहीं है|
• सटीक विनियमन दृष्टिकोण: विशेषज्ञ और उद्योग के नेता विशिष्ट एआई उपयोग मामलों को नियंत्रित करने के लिए विनियमन की मांग कर रहे हैं। सटीक विनियमन, उच्च जोखिम वाले क्षेत्रों पर ध्यान केंद्रित करने का सुझाव दिया गया है जहां एआई लोगों और समाज के लिए महत्वपूर्ण खतरा पैदा करता है। पारदर्शी AI सिस्टम यह सुनिश्चित करने के लिए भी आवश्यक है कि उपयोगकर्ता AI तकनीक के साथ बातचीत करते समय जागरूक हों।
• नैतिक दिशानिर्देश और मानक: एआई सिस्टम के लिए नैतिक दिशानिर्देश और मानक स्थापित करने से जिम्मेदार विकास और तैनाती सुनिश्चित करने में मदद मिल सकती है। इन दिशानिर्देशों को पूर्वाग्रह, पारदर्शिता, निष्पक्षता, गोपनीयता और मानवीय निरीक्षण जैसे मुद्दों को संबोधित करना चाहिए।
• उद्योग की जवाबदेही और स्व-विनियमन: टेक कंपनियों और एआई डेवलपर्स को अपने एआई सिस्टम की सुरक्षा और नैतिक निहितार्थों की जिम्मेदारी लेनी चाहिए। उद्योग के भीतर स्व-विनियमन को प्रोत्साहित करने से जिम्मेदार विकास प्रथाओं को सुनिश्चित करने में मदद मिल सकती है। लेकिन बिग टेक फर्मों की हालिया कार्रवाइयाँ एआई सुरक्षा के प्रति उनकी प्रतिबद्धता पर सवाल उठाती हैं। एआई डिवीजनों के भीतर नैतिक एआई शोधकर्ताओं को बर्खास्त करने और नैतिकता टीमों को कम करने के उदाहरण एआई सिस्टम में संभावित जोखिमों और पूर्वाग्रहों को संबोधित करने के लिए दी गई प्राथमिकता की कमी का संकेत देते हैं।

निष्कर्ष:

हालांकि, बड़ी टेक फर्मों की हालिया कार्रवाइयाँ एआई सुरक्षा के प्रति उनकी प्रतिबद्धता और संभावित जोखिमों और पूर्वाग्रहों को दूर करने के बारे में चिंताएँ पैदा करती हैं। एआई सिस्टम के जिम्मेदार विकास और तैनाती को सुनिश्चित करने के लिए सरकारों, शोधकर्ताओं, उद्योग के नेताओं और बड़े पैमाने पर समाज सहित सभी हितधारकों के लिए यह महत्वपूर्ण है।

स्रोत : हिन्दू