ए आई नैतिकता, सिस्टम में पारदर्शिता, निष्पक्षता व जवाबदेही की ज़रूरत पर देती है ज़ोर

जौनपुर में, आर्टिफ़िशियल इंटेलिजेंस, आज हमारे दैनिक जीवन को बदल रहा है, क्योंकि, यह कार्यों को अधिक कुशल और सुलभ बना रहा है। ए आई-संचालित ऐप बेहतर कृषि पैदावार सुनिश्चित करने के लिए, वास्तविक समय के मौसम पूर्वानुमान और व्यक्तिगत फ़सल प्रबंधन युक्तियां प्रदान करके किसानों की मदद कर रहे हैं। शहरी क्षेत्रों में, ए आई-संचालित सिस्टम यातायात प्रवाह को अनुकूलित कर रहे हैं, भीड़भाड़ को कम कर रहे हैं और आवागमन को आसान बना रहे हैं। त्वरित सेवा और स्मार्ट स्टॉक नियंत्रण की अनुमति देकर, स्वचालित ग्राहक सहायता के माध्यम से स्थानीय व्यवसाय भी ए आई से लाभान्वित हो रहे हैं। जैसे-जैसे ए आई विभिन्न क्षेत्रों में एकीकृत हो रहा है, जौनपुर के लोग बढ़ी हुई सुविधा, उत्पादकता और आर्थिक विकास का अनुभव कर रहे हैं। हालांकि, जैसे-जैसे यह तकनीक विकसित होती है, ए आई के नैतिक निहितार्थों पर विचार करना और इसके ज़िम्मेदार और उचित उपयोग को सुनिश्चित करना महत्वपूर्ण है। आर्टिफ़िशियल इंटेलिजेंस, आचार–नीति या एथिक्स(Ethics) ए आई सिस्टम में पारदर्शिता, निष्पक्षता और जवाबदेही की आवश्यकता पर ज़ोर देती है। साथ ही, यह सुनिश्चित करती है कि, ये प्रौद्योगिकियां व्यक्तिगत अधिकारों और गोपनीयता की रक्षा करते हुए समाज को लाभ पहुंचाती हैं। आज हम, आर्टिफ़िशियल इंटेलिजेंस (ए आई) की नैतिक चुनौतियों पर चर्चा करेंगे। फिर, हम इस बात पर ध्यान केंद्रित करेंगे कि, ए आई नैतिकता क्यों महत्वपूर्ण है। इसके बाद, हम ए आई-संचालित एल्गोरिथम सॉफ़्टवेयर मूल्य-निर्धारण की, बढ़ती चिंता की जांच करेंगे। अंत में, हम ए आई नैतिकता के प्रमुख सिद्धांतों की जांच करेंगे। 
आर्टिफ़िशियल इंटेलिजेंस की नैतिक चुनौतियां-
१.ए आई पक्षपात की चुनौती-
ए आई विकास की प्राथमिक नैतिक चिंताओं में से एक, पक्षपात है। ए आई सिस्टम को बड़ी मात्रा में डेटा पर प्रशिक्षित किया जाता है और यदि प्रशिक्षण डेटा पक्षपाती या अधूरा है, तो इसके परिणाम पक्षपाती हो सकते हैं।
२.पारदर्शिता और व्याख्यात्मकता-
ए आई सिस्टम, अक्सर ब्लैक बॉक्स(Black Box) के रूप में काम करते हैं और बिना स्पष्ट स्पष्टीकरण के निर्णय लेते हैं। पारदर्शिता की यह कमी, जवाबदेही और निष्पक्षता को लेकर चिंता पैदा करती है। जब ए आई हमारे जीवन के महत्वपूर्ण पहलुओं, जैसे कि – क्रेडिट स्कोरिंग(Credit scoring) या नौकरी अनुप्रयोगों को प्रभावित करता है, तो पारदर्शिता और व्याख्या सुनिश्चित करना आवश्यक हो जाता है। 
शोधकर्ता और डेवलपर(Developers), ए आई सिस्टम को अधिक व्याख्या योग्य बनाने के तरीकों की खोज कर रहे हैं, जिससे उपयोगकर्ताओं को यह समझने में मदद मिलेगी कि, निर्णय कैसे लिए जाते हैं और किसी भी संभावित पक्षपात का पता लगाया जा सकता है।
३.गोपनीयता और डेटा सुरक्षा-
ए आई, डेटा पर बहुत अधिक निर्भर करता है, और बड़ी मात्रा में एकत्र की गई व्यक्तिगत जानकारी गोपनीयता और डेटा सुरक्षा के बारे में चिंताएं बढ़ाती है। ए आई सिस्टम संवेदनशील डेटा का संसाधन और विश्लेषण करता है। इसलिए, व्यक्तिगत गोपनीयता की रक्षा करना और यह सुनिश्चित करना महत्वपूर्ण हो जाता है कि, डेटा को सुरक्षित रूप से संभाला जाए। ए आई प्रगति के लिए डेटा उपयोग और व्यक्तियों के गोपनीयता अधिकारों की रक्षा के बीच संतुलन बनाना एक प्रमुख चुनौती है, जिसके लिए मज़बूत डेटा सुरक्षा नीतियों और एन्क्रिप्शन विधियों(Encryption methods) की आवश्यकता है।
४.जवाबदेही और उत्तरदायित्व-
ए आई-संचालित दुनिया में, जवाबदेही और ज़िम्मेदारी महत्वपूर्ण हैं। ए आई सिस्टम के कार्यों के लिए किसे ज़िम्मेदार ठहराया जाना चाहिए? जैसे-जैसे ए आई अधिक स्वायत्त होता जाता है, दायित्व निर्धारित करना जटिल होता जाता है। व्यक्तियों, संगठनों या यहां तक कि, ए आई सिस्टम को जवाबदेह बनाए रखने के लिए, रूपरेखा और दिशानिर्देश स्थापित करना महत्वपूर्ण है। इसमें ज़िम्मेदारी की स्पष्ट रेखाओं को परिभाषित करना, नियामक ढांचे को विकसित करना और ए आई सिस्टम को अनैतिक निर्णय लेने से रोकने के लिए, मानवीय निरीक्षण सुनिश्चित करना शामिल है।
५.नैतिक ए आई शासन का महत्व-
ए आई विकास में नैतिक विचारों को संबोधित करने के लिए, व्यापक शासन ढांचे आवश्यक हैं। सरकारें, उद्योग जगत के नेता और शोधकर्ता ए आई के लिए दिशानिर्देश और नैतिक मानक स्थापित करने के लिए, सहयोग कर रहे हैं। ये ढांचे, यह सुनिश्चित करने पर ध्यान केंद्रित करते हैं कि, ए आई से समाज को लाभ हो, मानवाधिकारों का सम्मान हो और नुकसान कम से कम हो। ए आई सिस्टम के डिज़ाइन और परिनियोजन में नैतिक विचारों को शामिल करके, हम ज़िम्मेदार ए आई विकास और उपयोग को बढ़ावा दे सकते हैं। 
आर्टिफ़िशियल इंटेलिजेंस नैतिकता क्यों महत्वपूर्ण हैं?
ए आई की नैतिकता महत्वपूर्ण है क्योंकि, ए आई तकनीक को मानव बुद्धि को बढ़ाने या बदलने के लिए डिज़ाइन किया गया है, जिसे अगर ठीक से प्रबंधित नहीं किया गया, तो महत्वपूर्ण जोखिम हो सकते हैं। चूंकि, ए आई के एल्गोरिथम निर्णय लेते हैं कि, किसे ऋण मिलेगा, किस उम्मीदवार को काम पर रखा जाएगा या पुलिस संसाधनों को कैसे आवंटित किया जाएगा, अनैतिक ए आई उपयोग के परिणाम दूरगामी हो सकते हैं।
एक बड़ी चिंता ए आई द्वारा असमानता को बढ़ाने की क्षमता है। ए आई जिस डेटा से काम करता है, उसके भीतर पक्षपात की प्रतिकृति के बारे में चिंताओं के साथ-साथ, ए आई-संचालित चेहरे की पहचान प्रणालियों की, रंगीन लोगों की पहचान करते समय कम सटीक होने के लिए आलोचना की गई है। इससे गलत गिरफ़्तारी या अन्य हानिकारक परिणाम हो सकते हैं।
प्रोलिफ़िक(Prolific) के अनुसार, गोपनीयता का सम्मान सुनिश्चित करने के लिए, ए आई नैतिकता महत्वपूर्ण है। जैसे-जैसे ए आई सिस्टम बड़ी मात्रा में व्यक्तिगत डेटा को एकत्र और उसका विश्लेषण करते हैं, उस डेटा का उपयोग और भंडारण कैसे किया जाता है, इस बारे में चिंताएं सामने आती हैं। उपयोगकर्ता पूरी तरह से समझ नहीं पाते हैं कि, उनकी जानकारी कैसे संसाधित की जा रही है या उस तक किसकी पहुंच है। इससे डेटा के दुरुपयोग या उल्लंघन का खतरा पैदा होता है।
ए आई एल्गोरिथम मूल्य-निर्धारण का उदय-
रियलपेज(RealPage) – एक संपत्ति प्रबंधन सॉफ़्टवेयर कंपनी – किराये के बाज़ार में ए आई-संचालित मूल्य-निर्धारण को सक्षम करने का आरोप लगाते हुए, कई मुकदमों के केंद्र में है। यह सॉफ़्टवेयर मकान मालिकों से इकाई मूल्य और रिक्ति दरों जैसे डेटा एकत्र करता है, और किराए की सिफ़ारिशें प्रदान करता है। एक तर्क है कि, इससे मूल्य प्रतिस्पर्धा समाप्त हो जाती है, जिससे मकान मालिकों को लॉकस्टेप में किराया बढ़ाने की अनुमति मिलती है, जिससे आवास सामर्थ्य संकट बिगड़ जाता है। रियलपेज पर, अपने सुझावों का पालन करने के लिए मकान मालिकों पर दबाव डालने, सिफ़ारिशों को कठिन बनाने व अस्वीकार करने और अनुपालन न करने पर इसकी सेवा से हटाने की धमकी देने के आरोप लगाए गए हैं।  
कानूनी चुनौती, एल्गोरिथम मूल्य-निर्धारण के लिए पारंपरिक अविश्वास कानूनों को लागू करने में निहित है। मौजूदा कानूनों के तहत, अभियोगी को कीमतें तय करने के लिए, प्रतिस्पर्धियों के बीच, एक स्पष्ट समझौता साबित करना होगा। हालांकि, जब एल्गोरिथम सीधे समन्वय के बिना स्वतंत्र रूप से कीमतें निर्धारित करते हैं, तो ऐसी मिलीभगत का प्रदर्शन करना मुश्किल हो जाता है। अभियोगी को अपना मामला बनाने के लिए सबूत की आवश्यकता होती है, लेकिन, एक मज़बूत कानूनी दावा दायर करने के बाद ही, खोज शक्तियों के बिना महत्वपूर्ण डेटा – जैसे आंतरिक दस्तावेज़ या एल्गोरिथम विवरण – तक नहीं पहुंच सकते हैं।
एल्गोरिथम मूल्य-निर्धारण, अचल संपत्ति से परे होटल, स्वास्थ्य बीमा और मांस प्रसंस्करण जैसे उद्योगों में फ़ैल रहा है। कुछ एल्गोरिथम मानवीय इरादे के बिना भी, स्वायत्त रूप से मिलीभगत करना सीख सकते हैं। कुछ जर्मन गैस स्टेशनों के प्रमुख खिलाड़ियों ने, जब अलग-अलग मूल्य निर्धारण एल्गोरिथम को अपनाया, तो उनकी मार्जिन में 38% की वृद्धि हुई। यह उदाहरण, दर्शाता है कि कैसे एल्गोरिथम स्पष्ट समझौतों के बिना भी, परिणामों का समन्वय कर सकते हैं।
एल्गोरिथम मिलीभगत पर मुकदमा चलाने के लिए, अदालतों ने एक उच्च मानक निर्धारित किया है। यदि एल्गोरिथम मूल्य-निर्धारण अनियंत्रित रहता है, तो यह “मूल्य निर्धारण डिस्टोपिया(Pricing dystopia)” को जन्म दे सकता है, जहां लागत कम करने और नवाचार करने की प्रतिस्पर्धा को, समन्वित मूल्य वृद्धि से बदल दिया जाता है। इसका मतलब – उपभोक्ताओं के लिए स्थायी रूप से ऊंची कीमतें; अवरुद्ध आर्थिक विकास; और मुक्त-बाज़ार पूंजीवाद को मौलिक रूप से कमज़ोर करना – होगा, जहां कीमतें केंद्रीकृत, एल्गोरिथम-संचालित प्रणालियों के बजाय, प्रतिस्पर्धा द्वारा निर्धारित की जाती हैं। 
आर्टिफ़िशियल इंटेलिजेंस नैतिकता के प्रमुख सिद्धांत क्या हैं?
ए आई नैतिकता के प्रमुख सिद्धांत, ए आई सिस्टम को ज़िम्मेदारी से बनाने और उपयोग करने के लिए, दिशानिर्देश प्रदान करते हैं। इन सिद्धांतों में निम्नलिखित शामिल हैं:
१.निष्पक्षता और गैर-भेदभाव: 
ए आई को निष्पक्षता को बढ़ावा देना चाहिए और नस्ल, लिंग या अन्य संरक्षित विशेषताओं के आधार पर व्यक्तियों के खिलाफ़, भेदभाव नहीं करना चाहिए। इसके डेवलपर्स को, ए आई मॉडल को प्रशिक्षित करने के लिए, उपयोग किए जाने वाले डेटा में पक्षपात को पहचानने और खत्म करने के लिए, सक्रिय रूप से काम करने की आवश्यकता है।
२.पारदर्शिता: 
ए आई सिस्टम को निर्णय लेने के तरीके में पारदर्शी होना चाहिए। यह पारदर्शिता सुनिश्चित करती है कि, उनके संचालन को उपयोगकर्ताओं द्वारा समझा जा सकता है और नियामकों द्वारा उसकी जांच की जा सकती है।
३.जवाबदेही: 
ए आई का उपयोग करने वाले डेवलपर्स और संगठनों को, अपने सिस्टम के कार्यों के लिए जवाबदेह होना चाहिए। यदि कोई ए आई सिस्टम, कुछ नुकसान पहुंचाता है, तो उसके रचनाकारों या ऑपरेटरों पर ज़िम्मेदारी का पता लगाना संभव होना चाहिए।
४.गोपनीयता: 
ए आई सिस्टम को उपयोगकर्ताओं के डेटा को नैतिक और सुरक्षित रूप से संभालकर, उनकी गोपनीयता का सम्मान करना चाहिए। इसका मतलब, न केवल डेटा को उल्लंघनों से बचाना है बल्कि, यह भी सुनिश्चित करना है कि, उपयोगकर्ताओं का इस पर नियंत्रण हो कि, उनके डेटा का उपयोग कैसे किया जाए।
५.स्वायत्तता: 
मनुष्य को ए आई सिस्टम पर नियंत्रण बनाए रखना चाहिए, खासकर जब वे सिस्टम लोगों के जीवन को प्रभावित करने वाले निर्णयों में शामिल हों। हालांकि, ए आई निर्णय लेने में सहायता कर सकता है, लेकिन, इसे महत्वपूर्ण क्षेत्रों में मानवीय निर्णय का स्थान नहीं लेना चाहिए।
६.स्थिरता: 
ए आई को समाज और पर्यावरण के दीर्घकालिक कल्याण में योगदान देना चाहिए। यह सिद्धांत, ए आई के विकास को प्रोत्साहित करता है, जो सामाजिक या पर्यावरणीय नुकसान को बढ़ाने के बजाय, जनता की भलाई करता है।

संदर्भ 
https://tinyurl.com/2b52c35y
https://tinyurl.com/3wftsuty
https://tinyurl.com/2b52c35y
https://tinyurl.com/bdz9atx2

चित्र संदर्भ
1. एक इंसान से बात करते अमेका नामक रोबोट को संदर्भित करता एक चित्रण (flickr)
2. बच्चों के साथ खेलते रोबोट को संदर्भित करता एक चित्रण (Pexels)
3. भावनात्मक चेहरे के साथ एक एक व्यक्ति को घूरते रोबोट को संदर्भित करता एक चित्रण (flickr)
4. मानव मस्तिष्क की नकल करती कृत्रिम बुद्धिमत्ता को संदर्भित करता एक चित्रण (flickr)