प्रशासनिक निर्णय में AI बनाम अंतरात्मा
RAS मुख्य परीक्षा, पत्र II, इकाई I, बिंदु 7: नैतिक चिंताएँ, दुविधाएँ और चुनौतियाँ; AI बनाम अंतरात्मा
- जनवरी 2026 के पाठ्यक्रम के अनुसार अद्यतन
- पढ़ने का समय: लगभग 15 मिनट
परीक्षा-भार (हमारी गिनती, RAS पत्र II इकाई I, 2018, 2021, 2023, 2024)
52 में से सीधा प्रश्न 0 (नया विषय)। निकटतम पुराने प्रश्न: 2021 भाग ग प्र.12 (नैतिक निर्णय बनाम प्रशासनिक निर्णय) और 2023 भाग ग प्र.13 (नैतिक दुविधा)। संबंधित UPSC प्रश्न: GS पत्र 4, 2024 (AI) और 2023 (अंतरात्मा)
30 सेकंड का सार
याद रखें
- AI यहाँ वह सॉफ़्टवेयर है जो पुराने आँकड़ों से पैटर्न सीखकर अंक देता, चिह्नित करता, अनुमान लगाता या सुझाव देता है। अंतरात्मा (विवेक) वह भीतरी नैतिक बोध है जो बताता है क्या उचित है और चुनाव के लिए व्यक्ति को जवाबदेह बनाता है।
- मशीन गणना कर सकती है, ज़िम्मेदारी नहीं उठा सकती। AI से गति, पैमाना और एकरूपता मिलती है, पर वह न गलती का बोझ महसूस करता है, न आँकड़े के पीछे खड़े इंसान को देखता है।
- विफलताएँ प्रलेखित हैं: डच बाल-लाभ घोटाला (सरकार का इस्तीफ़ा, जनवरी 2021), ऑस्ट्रेलिया का रोबोडेट (2019 में अवैध ठहराया गया), हरियाणा की परिवार पहचान पत्र (PPP) पेंशन-त्रुटियाँ (रिपोर्टों के अनुसार), डेट्रॉयट में चेहरा-पहचान से गलत गिरफ़्तारी (जनवरी 2020)।
- उत्तर "AI या अंतरात्मा" नहीं है। उत्तर है: AI सुझाए, ज़िम्मेदार इंसान तय करे, और छह रक्षोपाय रहें: पारदर्शिता, व्याख्येयता, जवाबदेही, मानव-समीक्षा, निष्पक्षता, निजता।
- परीक्षा के लिए एक पंक्ति: "AI निर्णय में मदद कर सकता है; निर्णय का स्वामी केवल इंसान हो सकता है।"
भाग क बॉक्स (लिखने के लिए तैयार, 15 शब्द)
याद रखें
- एल्गोरिदमिक पूर्वाग्रह: AI के परिणामों में व्यवस्थित अन्याय, जो प्रायः पक्षपाती डेटा से आता है।
- ह्यूमन-इन-द-लूप: नागरिक पर असर से पहले प्रशिक्षित अधिकारी AI-निर्णय जाँचे और बदल सके।
- अंतरात्मा (विवेक) वह भीतरी नैतिक बोध है, जो सही-गलत बताकर व्यक्ति को जवाबदेह बनाता है।
मुख्य शब्द (हिंदी और अंग्रेज़ी)
| शब्द | सरल अर्थ |
|---|---|
| कृत्रिम बुद्धिमत्ता (Artificial Intelligence) | पुराने आँकड़ों से सीखकर अनुमान, वर्गीकरण या सुझाव देने वाला सॉफ़्टवेयर |
| एल्गोरिदम (Algorithm) | आँकड़ों को अंक या निर्णय में बदलने वाले चरणबद्ध नियम या मॉडल |
| स्वचालित निर्णय (Automated decision-making) | ऐसा निर्णय जो मुख्यतः सॉफ़्टवेयर से निकले, बीच में इंसान का विचार बहुत कम या बिल्कुल नहीं |
| निर्णय-सहायता बनाम निर्णय-निर्माण | सहायता में AI सामग्री देता है, निर्णय इंसान का रहता है। निर्माण में AI का परिणाम ही निर्णय बन जाता है। पूरा विषय इसी फ़र्क पर टिका है |
| एल्गोरिदमिक पूर्वाग्रह (Algorithmic bias) | परिणामों में बार-बार दिखने वाला अन्यायपूर्ण झुकाव, जो प्रायः प्रशिक्षण-डेटा या डिज़ाइन में छिपे पुराने पक्षपात या कमी से आता है |
| स्वचालन-पूर्वाग्रह (Automation bias) | अपने विवेक से ज़्यादा मशीन के उत्तर पर भरोसा करने की आदत |
| ब्लैक बॉक्स | ऐसी प्रणाली जिसके कारण देखे या समझाए न जा सकें, प्रयोग करने वाले को भी नहीं |
| अंतरात्मा / विवेक (Conscience) | अपने कर्मों को परखने वाला भीतरी नैतिक बोध, जो व्यक्ति को जवाबदेह बनाता है |
प्रशासन AI की ओर क्यों जाता है (इस पक्ष को भी न्याय दें)
गति और पैमाना: लाखों आवेदनों की छँटाई घंटों में।
एकरूपता: सब पर एक ही नियम लगे, तो पक्षपात और मनमर्ज़ी घट सकती है।
पैटर्न पकड़ना: दोहरे लाभार्थी, जालसाज़ी के गिरोह और जोखिम वाले इलाके आँख से पकड़ना कठिन है।
बेहतर लक्ष्यीकरण: सीमित धन सही लोगों तक जल्दी पहुँचे।
अच्छा उत्तर पहले यह पक्ष मानता है, फिर सीमाएँ बताता है। AI को सीधे नकार देना भोला लगता है।
AI अंतरात्मा की जगह क्यों नहीं ले सकता
1. नैतिक कर्ता नहीं। मॉडल को पछतावा नहीं होता, उसे दंड नहीं दिया जा सकता, उससे "तुमने ऐसा क्यों किया?" नहीं पूछा जा सकता। ज़िम्मेदारी इंसान पर ही रहनी चाहिए।
2. जैसा डेटा, वैसा नतीजा। पुराना डेटा झुका हो तो मॉडल वही झुकाव सीखकर हज़ारों पर एक साथ लगा देता है।
3. अपारदर्शिता। कारण समझाया न जा सके तो नागरिक चुनौती नहीं दे सकता और अधिकारी बचाव नहीं कर सकता।
4. संदर्भ की अनदेखी। अंक नहीं जानता कि विधवा का नाम दो जगह अलग वर्तनी में दर्ज है या परिवार का कमाने वाला अभी गुज़रा है।
5. बड़े पैमाने की भूल। एक अधिकारी की गलती एक फ़ाइल बिगाड़ती है, मॉडल की गलती किसी के देखने से पहले पूरे जिले को।
6. स्वचालन-पूर्वाग्रह और कौशल-क्षय। अधिकारी बिना सोचे हस्ताक्षर करने लगते हैं। तब इंसान "लूप में" केवल कागज़ पर रहता है।
7. निजता और निगरानी। जितना ज़्यादा डेटा, नागरिक पर उतनी ज़्यादा सत्ता।
अकेली अंतरात्मा भी पर्याप्त क्यों नहीं
अंतरात्मा गलत, स्वार्थी या असंगत भी हो सकती है: दो ईमानदार अधिकारी एक ही मामले में अलग निर्णय ले सकते हैं। नियम, अभिलेख और औज़ार पूर्वानुमेयता देते हैं और व्यक्तिगत मनमानी पर अंकुश रखते हैं। संतुलित उत्तर यह है: अंतरात्मा सीमा तय करती है और निर्णय का स्वामित्व लेती है; नियम पूर्वानुमेयता देते हैं; AI साक्ष्य जुटाता है। (यह संतुलित पाठ हमारी व्याख्या है और भाग ग के उत्तर को इसी की ज़रूरत है।)
प्रशासन में AI के छह सिद्धांत
| सिद्धांत | अधिकारी के लिए अर्थ | भारतीय आधार |
|---|---|---|
| पारदर्शिता | प्रणाली कैसे चलती है, यह दर्ज रहे; जहाँ संभव हो बाहरी जाँच हो सके | नीति आयोग का Responsible AI दस्तावेज़ (फ़रवरी 2021): पारदर्शिता का सिद्धांत; MeitY की India AI Governance Guidelines (5 नवंबर 2025): "Understandable by Design" |
| व्याख्येयता | नागरिक को सरल शब्दों में कारण बताया जा सके | वही दो दस्तावेज़ |
| जवाबदेही | हर परिणाम के लिए नामित व्यक्ति या निकाय उत्तर दे | नीति आयोग का जवाबदेही सिद्धांत; MeitY: विकासकर्ता और प्रयोगकर्ता "दृश्यमान और जवाबदेह" रहें |
| मानव-समीक्षा (human in the loop) | प्रशिक्षित इंसान जाँच और पलट सके, खासकर नुकसान से पहले | MeitY का "People First" सूत्र (जहाँ तक संभव हो मानवीय निगरानी और नियंत्रण); केरल उच्च न्यायालय की नीति (जिला न्यायपालिका के लिए), 19 जुलाई 2025: AI औज़ार से किसी भी स्थिति में निष्कर्ष, राहत, आदेश या निर्णय निकालना वर्जित (न्यायिक नियम; प्रशासन के लिए हम इसे सादृश्य के रूप में लेते हैं) |
| निष्पक्षता | समूह-वार त्रुटि की जाँच; भेदभाव नहीं | नीति आयोग: समानता, समावेशन और अभेदभाव; MeitY: "Fairness and Equity" |
| निजता | केवल आवश्यक और विधिसम्मत डेटा | पुट्टस्वामी (24 अगस्त 2017); डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 (स्वीकृति 11 अगस्त 2023; नियम नवंबर 2025 में अधिसूचित) |
कानून और नीति के आधार
पुट्टस्वामी बनाम भारत संघ (24 अगस्त 2017): नौ न्यायाधीश, सर्वसम्मति: निजता अनुच्छेद 21 में संरक्षित है। हर हस्तक्षेप को वैधानिकता, आवश्यकता और आनुपातिकता की कसौटी पर खरा उतरना होगा।
आधार निर्णय (26 सितंबर 2018): 4:1 बहुमत ने आधार अधिनियम को शर्तों के साथ वैध माना; धारा 57 (निजी संस्थाओं द्वारा आधार माँगना) रद्द हुई। उपयोग: वैध प्रणाली को भी सीमा में रहना पड़ता है।
मेनका गांधी बनाम भारत संघ (1978): राज्य की प्रक्रिया न्यायसंगत, निष्पक्ष और युक्तियुक्त होनी चाहिए; अनुच्छेद 14, 19 और 21 साथ काम करते हैं। बिना कारण बताए अंक के सहारे लाभ रद्द करना इस कसौटी पर कठिनाई में पड़ता है (यह हमारा अनुप्रयोग है)।
नीति आयोग, "Towards Responsible AI for All: Approach Document for India, Part 1, Principles for Responsible AI" (फ़रवरी 2021): सात सिद्धांत: सुरक्षा और विश्वसनीयता; समानता; समावेशन और अभेदभाव; निजता और सुरक्षा; पारदर्शिता; जवाबदेही; सकारात्मक मानवीय मूल्यों का संरक्षण और संवर्धन। साथ ही शिकायत-निवारण तंत्र और, जहाँ हानि की आशंका अधिक हो, इंसान के हस्तक्षेप की व्यवस्था की माँग।
IndiaAI मिशन: केंद्रीय मंत्रिमंडल की स्वीकृति, मार्च 2024, पाँच वर्ष के लिए लगभग 10,372 करोड़ रुपये का परिव्यय।
MeitY, India AI Governance Guidelines (5 नवंबर 2025 को जारी): सात सूत्र: Trust is the Foundation; People First; Innovation over Restraint; Fairness and Equity; Accountability; Understandable by Design; Safety, Resilience and Sustainability। दस्तावेज़ के अनुसार अभी अलग AI कानून की ज़रूरत नहीं, मौजूदा कानून लागू हों। "People First" के अनुसार जहाँ तक संभव हो मनुष्य के पास AI प्रणालियों पर अंतिम नियंत्रण रहे और मानवीय निगरानी जवाबदेही के लिए आवश्यक है।
DPDP अधिनियम, 2023: डेटा-संरक्षण कानून। अधिनियम के पाठ (अधिनियम संख्या 22, 2023) में यूरोपीय संघ जैसा "केवल स्वचालित निर्णय के विरुद्ध अधिकार" नहीं है। जो मिलता है: धारा 8(3): जिस व्यक्तिगत डेटा से नागरिक को प्रभावित करने वाला निर्णय लिया जाना संभावित हो, उसकी पूर्णता, सटीकता और संगतता सुनिश्चित करना; धाराएँ 11 से 13: जानकारी, सुधार और मिटाने, तथा शिकायत-निवारण के अधिकार। धारा 7(ख) राज्य को सब्सिडी या लाभ देने के लिए कुछ डेटा बिना नई सहमति के प्रयोग करने देती है। इसलिए AI-निर्णय की निष्पक्षता मुख्यतः संविधान, प्रशासनिक कानून और नीति पर टिकती है।
वैश्विक संदर्भ (मूल्य-वृद्धि के लिए): यूरोपीय संघ का GDPR अनुच्छेद 22(1): केवल स्वचालित प्रसंस्करण पर आधारित, कानूनी या वैसे ही गंभीर प्रभाव वाले निर्णय के अधीन न होने का अधिकार। अनुच्छेद 22(3): कम से कम मानवीय हस्तक्षेप, अपनी बात रखने और निर्णय को चुनौती देने का अधिकार। EU AI Act: 1 अगस्त 2024 से प्रभावी; उच्च-जोखिम प्रणालियों पर मानवीय निगरानी और पारदर्शिता के दायित्व। UNESCO की AI-नैतिकता सिफ़ारिश: नवंबर 2021, 193 सदस्य देशों द्वारा स्वीकृत।
भारतीय परंपरा में अंतरात्मा (केवल स्रोत-सहित उद्धरण)
गांधी: "The 'still small voice' within you must always be the final arbiter when there is a conflict of duty." (यंग इंडिया, 4 अगस्त 1920)। भाव: कर्तव्यों के टकराव में भीतर की धीमी आवाज़ ही अंतिम निर्णायक है। और: "For me the Voice of God, of Conscience, of Truth, or the Inner Voice or 'the Still Small Voice' mean one and the same thing." (हरिजन, 8 जुलाई 1933)।
गीता 18.63: "विमृश्यैतदशेषेण यथेच्छसि तथा कुरु", अर्थात् इस पर पूरी तरह विचार करो, फिर जैसा चाहो वैसा करो। इसे प्रायः इस रूप में पढ़ा जाता है कि अर्जुन से अंधानुसरण नहीं, सोचकर चुनने को कहा गया (यह व्याख्या है; आगे 18.66 में शरणागति का उपदेश भी आता है, इसलिए यह न लिखें कि गीता असीमित निजी चुनाव सिखाती है)। गीता में विवेक-शक्ति के लिए मूल शब्द बुद्धि है (अध्याय 2 का बुद्धि-योग); विवेक (सत्-असत्, उचित-अनुचित का भेद) परवर्ती वेदांत का शब्द है, जो इसी भीतरी विवेचना के लिए प्रचलित है।
हाना आरेन्ट, Eichmann in Jerusalem (1963): उन्होंने बड़े अनर्थ की जड़ "विचारहीनता" (thoughtlessness) में खोजी और इसे "the fearsome, word-and-thought-defying banality of evil" कहा।
न्यूरेम्बर्ग सिद्धांत IV (अंतरराष्ट्रीय विधि आयोग, 1950): ऊपर के आदेश पर काम करने से व्यक्ति ज़िम्मेदारी से मुक्त नहीं होता, "provided a moral choice was in fact possible to him", यानी जब नैतिक चुनाव संभव था।
हमारी कड़ी: "एल्गोरिदम ने कहा था" आज का "ऊपर से आदेश था" है। बिना सोचे हस्ताक्षर करने वाले ने न चुनकर भी चुनाव किया है।
परीक्षा के लिए सावधानी: अंतरात्मा सनक नहीं है। उसे सत्य, अहिंसा और संविधान की कसौटी पर परखिए; सेवा में पहले आपत्ति लिखित में उठाइए और ऊपर बढ़ाइए, चुपके से आदेश की अवहेलना मत कीजिए। (यह उत्तर-लेखन की सलाह है, किसी नियम का हवाला नहीं।)
उत्तर में प्रयोग
एक उदाहरण, एक पंक्ति की सीख, एक सिद्धांत। जैसे: "डच बाल-लाभ मामले (जनवरी 2021 में सरकार का इस्तीफ़ा) में पक्षपाती जोखिम-मॉडल ने हज़ारों परिवारों के साथ अन्याय किया; इसलिए व्याख्येयता और मानवीय समीक्षा वैकल्पिक नहीं हैं।"
विचारक और उद्धरण बॉक्स
| नाम | विचार | एक प्रयोग योग्य पंक्ति |
|---|---|---|
| महात्मा गांधी | कर्तव्यों के टकराव में भीतरी आवाज़ अंतिम मार्गदर्शक | "The 'still small voice' within you must always be the final arbiter when there is a conflict of duty." (यंग इंडिया, 4 अगस्त 1920) |
| भगवद्गीता 18.63 | पूरा सोचो, फिर चुनो | "विमृश्यैतदशेषेण यथेच्छसि तथा कुरु" |
| हाना आरेन्ट (1963) | विचारहीनता अनर्थ को संभव बनाती है | "the fearsome, word-and-thought-defying banality of evil" |
| न्यूरेम्बर्ग सिद्धांत IV (1950) | आदेश पूरा बचाव नहीं | "provided a moral choice was in fact possible to him" |
| आयुक्त होम्स, रोबोडेट रिपोर्ट (7 जुलाई 2023) | चेतावनियाँ अनसुनी, स्वचालित नुकसान | "venality, incompetence and cowardice" |
| गांधी का तावीज़ (उनके नाम से प्रचलित; प्रायः 1947 का बताया जाता है; मूल स्रोत नहीं मिला; शब्द संस्करण-भेद से बदलते हैं) | हर कदम को सबसे कमज़ोर पर असर से परखें | "recall the face of the poorest and the weakest man ... and ask yourself, if the step you contemplate is going to be of any use to him" |
चित्र: प्रवाह-चित्र: मानव-समीक्षा वाला निर्णय
नागरिक का मामला आता है (आवेदन, लाभ, शिकायत)
नोड (धूसर)
AI छँटाई और अंक देता है। परिणाम केवल सुझाव है
नीचे तीर। नोड (नीला)
क्या परिणाम प्रतिकूल है (इनकार, रद्दीकरण, दंड), असामान्य है या दाँव ऊँचा है?
नीचे तीर। हीरा (नारंगी)
हाँ
दाईं ओर तीर, लेबल । नोड (नारंगी)
प्रशिक्षित अधिकारी कारण और नागरिक का पक्ष पढ़ता है; पलट सकता है। लिखित कारण सहित निर्णय
नहीं (नियमित, अनुकूल)
हीरे से नीचे तीर, लेबल । नोड (हरा)
नियमित स्वीकृति। बेतरतीब नमूने की मानवीय जाँच
नागरिक को कारण और अपील का रास्ता बताया जाता है
दोनों नोड मिलकर: नोड (धूसर)
अपील या शिकायत अधिकारी समीक्षा करता है
नीचे तीर। नोड (गहरा नीला)
पूर्वाग्रह और त्रुटि की जाँच, फिर प्रणाली और नियमों में सुधार
नीचे तीर। नोड (गहरा नीला)
हमारा सूत्र: AI स्वीकृति में मदद कर सकता है; हर इनकार का स्वामी इंसान हो।
पाद-पट्टी
यह अवधारणा पहले कैसे पूछी गई: RPSC ने "नैतिक निर्णय बनाम प्रशासनिक निर्णय" (2021) और "व्यक्तिगत बनाम व्यावसायिक नैतिकता" (2023) 10 अंक में, तथा "नैतिक दुविधा" 2 अंक में (2021) पूछी है। दुविधा 2021 से 2023 के बीच 2 अंक से 10 अंक पर पहुँची। नए AI और अंतरात्मा वाले शब्दों के लिए भी यही राह अपेक्षित है: पहले परिभाषा, फिर भाग ग में विवेचना।
हमारा अनुमान (RPSC की जानकारी नहीं)
| भाग | संभावित रूप |
|---|---|
| क (2 अंक) | "एल्गोरिदमिक पूर्वाग्रह से क्या आशय है?" / "अंतरात्मा को परिभाषित कीजिए।" / "ह्यूमन-इन-द-लूप से क्या आशय है?" / "AI शासन में व्याख्येयता क्या है?" |
| ख (5 अंक) | "क्या प्रशासनिक निर्णय AI पर भरोसे से लिए जा सकते हैं? दो नैतिक जोखिम बताइए।" / "क्या नियमों की तुलना में अंतरात्मा अधिक विश्वसनीय मार्गदर्शक है?" / "AI-सहायित निर्णयों के लिए प्रशासक को जवाबदेह क्यों रहना चाहिए?" |
| ग (10 अंक) | "AI तेज़ निर्णय ले सकता है पर महसूस नहीं कर सकता। क्या प्रशासक को निर्णय AI पर छोड़ना चाहिए? उदाहरण सहित विवेचना कीजिए।" / "प्रशासक अंतरात्मा बचाकर भी AI का उपयोग कैसे कर सकता है?" / छोटा काल्पनिक केस: AI औज़ार लाभ रद्द करने का सुझाव देता है, अधिकारी को शक है। |
आम गलतियाँ
याद रखें
- केवल "AI खतरनाक है" लिख देना। अच्छा उत्तर पहले AI के असली लाभ बताता है, फिर सीमाएँ।
- "ह्यूमन-इन-द-लूप" को जादुई शब्द मान लेना। इंसान आँख मूँदकर हस्ताक्षर करे तो लूप खोखला है (डच मामला)।
- मामलों के आँकड़े बिना स्रोत या वर्ष के लिख देना। केवल वही लिखिए जिसका पक्का पता हो, और मीडिया-रिपोर्ट वाले आँकड़ों के साथ "रिपोर्टों के अनुसार" जोड़िए।
स्व-परीक्षण (5 स्मरण प्रश्न)
याद रखें
- प्रशासन में AI के छह सिद्धांतों में से कोई चार बताइए।
- डच बाल-लाभ मामले में डेटा संरक्षण प्राधिकरण ने क्या पाया और सरकार ने इस्तीफ़ा कब दिया?
- निर्णय-सहायता और निर्णय-निर्माण में क्या फ़र्क है?
- "still small voice" पर गांधी की पंक्ति और उसका स्रोत-वर्ष बताइए।
- पुट्टस्वामी की आनुपातिकता कसौटी के तीन अंग कौन-से हैं?
उत्तर-कुंजी
(1) पारदर्शिता, व्याख्येयता, जवाबदेही, मानव-समीक्षा, निष्पक्षता, निजता; (2) राष्ट्रीयता को जोखिम-संकेतक बनाया गया, जो अवैध और भेदभावपूर्ण था; सरकार का इस्तीफ़ा 15 जनवरी 2021; (3) सहायता में इंसान तय करता है, निर्माण में AI का परिणाम ही निर्णय है; (4) "final arbiter when there is a conflict of duty", यंग इंडिया 1920; (5) वैधानिकता, आवश्यकता (वैध उद्देश्य), आनुपातिकता।
उदाहरण (वास्तविक, प्रलेखित) और उत्तर में प्रयोग
केस स्टडीडच बाल-लाभ घोटाला (नीदरलैंड)
2005 से 2019 के बीच लगभग 26,000 अभिभावकों पर लाभ-धोखाधड़ी का गलत आरोप लगा। डच डेटा संरक्षण प्राधिकरण ने पाया कि आवेदकों की (दोहरी) राष्ट्रीयता को जोखिम-संकेतक बनाया गया था, ऐसे जोखिम-वर्गीकरण मॉडल में जो आवेदनों को अपने-आप "जोखिम भरा" चिह्नित करता था; कर प्रशासन पर अवैध और भेदभावपूर्ण प्रसंस्करण के लिए 27.5 लाख यूरो का जुर्माना (दिसंबर 2021)। संसदीय समिति की रिपोर्ट "Unprecedented Injustice": 17 दिसंबर 2020। सरकार का इस्तीफ़ा: 15 जनवरी 2021। प्रति अभिभावक 30,000 यूरो मुआवज़े की घोषणा: 22 दिसंबर 2020
सीख
पक्षपात और अड़ियल मानवीय अमल। जिन अधिकारियों ने बस झंडी मान ली, वे "लूप में" थे पर सोच नहीं रहे थे (हमारी व्याख्या)
केस स्टडीरोबोडेट (ऑस्ट्रेलिया)
स्वचालित आय-औसत विधि से कल्याण-लाभार्थियों पर कर्ज़ थोपे गए। संघीय न्यायालय, नवंबर 2019 (अमातो): औसत-आय विधि अवैध; सरकार ने बिना प्रमाण ऐसे कर्ज़ थोपना रोकना मान लिया। सामूहिक वाद (Prygodicz) में लगभग 11.2 करोड़ ऑस्ट्रेलियाई डॉलर का समझौता, न्यायालय की मंज़ूरी जून 2021। सरकार का कुल पैकेज (वापसी, माफ़ किए कर्ज़, मुआवज़ा) रिपोर्टों के अनुसार लगभग 1.8 अरब ऑस्ट्रेलियाई डॉलर। रॉयल कमीशन रिपोर्ट, 7 जुलाई 2023: आयुक्त कैथरीन होम्स ने इसे "venality, incompetence and cowardice" की "extraordinary saga" कहा। (सटीक रूप से यह स्वचालन था, मशीन-लर्निंग नहीं, पर सबक वही है)
सीख
कानूनन गलत नियम को स्वचालित करने से गलती कई गुना हो जाती है। कर्मचारियों की चेतावनियाँ अनसुनी रहीं
केस स्टडीहरियाणा परिवार पहचान पत्र (PPP), रिपोर्ट 2024
मीडिया जाँचों (अल जज़ीरा, जनवरी 2024 सहित) में बताया गया कि परिवार-डेटाबेस ने बहुत-से जीवित लोगों को मृत दर्ज कर उनकी पेंशन रोकी। अल जज़ीरा के अनुसार, अगस्त 2023 में विधानसभा में रखे सरकारी आँकड़ों में तीन वर्ष में 2,77,115 बुज़ुर्गों और 52,479 विधवाओं की पेंशन रोकी गई (कुल तीन लाख से ऊपर)। उसी रिपोर्ट के अनुसार सरकार ने RTI आवेदनों पर प्रणाली का तर्क और स्रोत-कोड साझा नहीं किया। आँकड़ों को "रिपोर्टों के अनुसार" ही लिखें
सीख
ब्लैक बॉक्स और आसान अपील का अभाव सबसे ज़्यादा बुज़ुर्गों और निर्धनों को मारता है
केस स्टडीआधार-आधारित भुगतान और नरेगा (भारत, जनवरी 2023 से)
नरेगा मज़दूरी के लिए आधार-आधारित भुगतान प्रणाली (ABPS) लाई गई; समय-सीमा कई बार बढ़ानी पड़ी। मज़दूरों के संगठन (नरेगा संघर्ष मोर्चा, दिसंबर 2023) के अनुसार पंजीकृत मज़दूरों का लगभग एक-तिहाई (34.8 प्रतिशत) और सक्रिय मज़दूरों का लगभग 12.7 प्रतिशत इसके अयोग्य था। इसे "मज़दूर संगठन की रिपोर्ट" ही लिखें
सीख
ज़मीनी तैयारी से पहले तकनीक अनिवार्य करने पर असली हकदार बाहर हो जाते हैं
केस स्टडीचेहरा-पहचान (अमेरिका)
Gender Shades अध्ययन (2018): परखी गई प्रणालियों में गहरे रंग की महिलाओं में त्रुटि दर लगभग 35 प्रतिशत तक, जबकि हल्के रंग के पुरुषों में 1 प्रतिशत से कम। रॉबर्ट विलियम्स की डेट्रॉयट में जनवरी 2020 में गलत मिलान पर गलत गिरफ़्तारी; जून 2024 के समझौते में चेहरा-मिलान के आधार पर गिरफ़्तारी से पहले स्वतंत्र साक्ष्य अनिवार्य
सीख
मिलान सुराग है, प्रमाण नहीं
केस स्टडीन्यायालय में जोखिम-अंक (अमेरिका, COMPAS)
प्रोपब्लिका विश्लेषण (23 मई 2016) में गलत-सकारात्मक दरों में नस्लीय पूर्वाग्रह की बात (निर्माता कंपनी ने इसका खंडन किया; विवाद निष्पक्षता की दो अलग परिभाषाओं पर है); विस्कॉन्सिन सर्वोच्च न्यायालय (जुलाई 2016, लूमिस) ने सीमाओं की चेतावनी के साथ सज़ा-निर्धारण में अंकों की अनुमति दी
सीख
अंक सूचना दे सकता है; निर्णय उसी जज के पास रहे जो कारण बता सके
केस स्टडीजब इंसान ने मशीन को रोका (1983)
26 सितंबर 1983 को सोवियत पूर्व-चेतावनी प्रणाली ने मिसाइलें आने की सूचना दी; ड्यूटी अधिकारी स्टैनिस्लाव पेत्रोव ने इसे झूठा अलार्म माना और आगे नहीं बढ़ाया। वह उपग्रह-प्रणाली की भूल थी (बादलों पर सूर्य-प्रकाश के परावर्तन से)
सीख
मशीन के आउटपुट पर विवेक अंतिम जाँच है
लघु केस अध्ययन (काल्पनिक केस / Hypothetical case)
उदाहरण (काल्पनिक)केस 1: पेंशन का जोखिम-अंक (काल्पनिक केस / Hypothetical case)
राजस्थान के एक जिले में नया सॉफ़्टवेयर बैंक, पहचान और सर्वे के आँकड़ों से हर सामाजिक सुरक्षा पेंशनर को "संदिग्ध" अंक देता है। जिला कलेक्टर को 1,800 "संदिग्ध" पेंशनरों की सूची और 60 दिन में रिसाव घटाने का लक्ष्य मिलता है। विक्रेता कहता है कि औज़ार "95 प्रतिशत सटीक" है। खंड-स्तर के कर्मचारियों की त्वरित नमूना-जाँच में दिखता है कि चिह्नित लोगों में कई बुज़ुर्ग विधवाएँ दूर के गाँवों की हैं, जिनके नाम अलग-अलग अभिलेखों में अलग वर्तनी से दर्ज हैं। चिह्नित पेंशन अगले महीने से अपने-आप रुक जाएगी।
- हितधारक
- पेंशनर (विधवाएँ, बुज़ुर्ग, दिव्यांग) और उनके परिवार; खंड-स्तरीय कर्मचारी; विक्रेता; लक्ष्य तय करने वाली राज्य सरकार; कलेक्टर; करदाता।
- मुद्दा और टकराते मूल्य
- रिसाव-नियंत्रण और राजकोषीय ज़िम्मेदारी (साधन-तर्क) बनाम गरिमा, समावेशन और निष्पक्ष प्रक्रिया (मूल्य)। ध्यान दें: "सटीकता" और "चिह्नित लोगों में कितने सचमुच दोषी हैं" अलग बातें हैं। मान लें कि चिह्नित 1,800 में 95 प्रतिशत सही हैं, तब भी लगभग 90 गलत हैं; व्यवहार में यह संख्या कहीं अधिक हो सकती है। हर गलत चिह्न का मतलब एक व्यक्ति की आमदनी बंद होना है।
- तीन विकल्प
- क. लक्ष्य के अनुसार सभी चिह्नित पेंशन रोक दें. लाभ: लक्ष्य पूरा; एकरूपता. हानि: असली निर्धन प्रभावित; सुनवाई नहीं; बिना कारण के निर्णय की ज़िम्मेदारी कलेक्टर पर. ख. औज़ार को पूरी तरह ठुकराकर हाथ से जाँच चलाएँ. लाभ: मशीन से कोई बहिष्करण नहीं. हानि: असली धोखाधड़ी जारी रहती है; उपयोगी संकेत बेकार; लक्ष्य छूटता है. ग. अंक केवल जाँच की प्राथमिकता तय करने में लगाएँ: रोकने से पहले क्षेत्र-सत्यापन और सुनवाई; मृत्यु या दोहराव का स्पष्ट प्रमाण न हो तो भुगतान जारी. लाभ: न्यायसंगत, असली धोखाधड़ी भी पकड़ में आती है, लिखित रूप में बचाव योग्य. हानि: धीमा; कर्मचारियों का अधिक समय; कुछ सप्ताह रिसाव जारी रह सकता है.
- सर्वश्रेष्ठ विकल्प: ग
- समर्थक मूल्य और कानून: निष्पक्ष और युक्तियुक्त प्रक्रिया (मेनका गांधी, 1978); नीति आयोग के जवाबदेही और पारदर्शिता सिद्धांत (2021); MeitY का "People First" (मानवीय निगरानी); सुनवाई का अवसर (नैसर्गिक न्याय का सामान्य सिद्धांत); गांधीजी का तावीज़ (उनके नाम से प्रचलित): सबसे गरीब और कमज़ोर व्यक्ति का चेहरा याद कीजिए और पूछिए कि आपका कदम उसके काम आएगा या नहीं।
सीख
कार्रवाई: अल्पकालिक: राज्य को नमूना-त्रुटि के निष्कर्ष के साथ लिखें और चरणबद्ध सत्यापन का प्रस्ताव दें; गाँव-गाँव शिविर लगाकर सुनवाई करें; कारण लिखित में दें; हेल्पलाइन खोलें; हर मामले का रजिस्टर रखें। दीर्घकालिक: श्रेणी-वार त्रुटि-अंकेक्षण और अंक कैसे बनता है, इसका सरल विवरण माँगें; जिला-स्तर पर अपील अधिकारी तय करें; "बचाया गया रिसाव" के साथ "गलत चिह्नित और सुधारा गया" को भी प्रदर्शन-मापदंड बनाएँ।
उदाहरण (काल्पनिक)केस 2: "400 फ़ाइलों पर दस्तखत" (काल्पनिक केस / Hypothetical case)
राजस्थान के एक जिले में तहसील-स्तर के अधिकारी को वरिष्ठ अधिकारी कहता है कि AI औज़ार द्वारा सुझाई गई 400 छात्रवृत्ति अस्वीकृतियों पर "शुक्रवार तक बकाया निपटाने के लिए" एक साथ ई-हस्ताक्षर कर दें। अधिकारी दस फ़ाइलें बेतरतीब खोलता है और तीन गलत अस्वीकृत दिखती हैं: औज़ार ने आय-प्रमाणपत्र गलत पढ़ लिए। वरिष्ठ कहता है, "प्रणाली स्वीकृत है, आपका हस्ताक्षर औपचारिकता है।"
- हितधारक
- आवेदक छात्र और उनके परिवार; अधिकारी; वरिष्ठ; सहकर्मी; प्रणाली के स्वामी; विक्रेता।
- मुद्दा और टकराते मूल्य
- वरिष्ठ के प्रति निष्ठा और बकाया निपटारा बनाम अधिकारी का अपना कर्तव्य (विवेक लगाना), छात्रों के साथ न्याय, ईमानदारी और साहस। औज़ार जो भी कहे, हस्ताक्षर की व्यक्तिगत जवाबदेही रहती है।
- तीन विकल्प
- क. शुक्रवार तक सब पर हस्ताक्षर. लाभ: कोई टकराव नहीं; बकाया साफ़. हानि: आँख मूँदकर मुहर; छात्र गलत अस्वीकृत; हस्ताक्षरकर्ता जवाबदेह. ख. खुला इनकार और मीडिया में जाना. लाभ: सिद्धांत पर डटना. हानि: आवेदकों को राहत नहीं; भरोसा और मार्ग टूटे; पहले ऊपर बढ़ाने का चरण छूटा. ग. थोक हस्ताक्षर नहीं। नमूने की गड़बड़ी लिखित में रखें; प्रस्ताव दें कि हर अस्वीकृति पर मानवीय समीक्षा हो और स्वीकृतियाँ तेज़ी से निपटें; पुनर्जाँच के लिए समय और कर्मचारी माँगें; बिना जाँची फ़ाइलों पर हस्ताक्षर के निर्देश पर लिखित में ऊपर बढ़ाएँ. लाभ: छात्रों की रक्षा; पदानुक्रम बना रहता है; अभिलेख बनता है. हानि: देरी; खिंचाव; कुछ व्यक्तिगत जोखिम.
- सर्वश्रेष्ठ विकल्प: ग
- समर्थक मूल्य: कर्तव्यों के टकराव में भीतरी आवाज़ अंतिम निर्णायक (गांधी, 1920); निष्पक्ष प्रक्रिया (मेनका गांधी, 1978); "नैतिक चुनाव वास्तव में संभव था" का सिद्धांत (न्यूरेम्बर्ग सिद्धांत IV, नैतिक उपमा के रूप में); केरल उच्च न्यायालय की नीति (2025) में हर समय मानवीय निगरानी और MeitY का मानवीय निगरानी का विचार।
सीख
कार्रवाई: अल्पकालिक: नमूना और फिर सभी अस्वीकृतियाँ जाँचें; नोट लिखें; गलत अस्वीकृत फ़ाइलों पर पुनर्विचार करें और उन छात्रों को दस्तावेज़ दोबारा देने का नया अवसर दें। दीर्घकालिक: स्थायी नियम कि AI स्वीकृतियाँ तेज़ कर सकता है पर हर अस्वीकृति का कारण इंसान लिखे; त्रुटि-पंजी; स्वचालन-पूर्वाग्रह पर प्रशिक्षण; दस्तावेज़ पढ़ने की खराबी ठीक कराने के लिए विक्रेता को सूचना।
अभ्यास प्रश्न
अभ्यास प्रश्नलगभग 15 शब्द
एल्गोरिदमिक पूर्वाग्रह क्या है?
आदर्श उत्तर
AI के परिणामों में व्यवस्थित अन्याय, जो प्रायः पक्षपाती या अधूरे डेटा से आता है।
अभ्यास प्रश्नलगभग 50 शब्द
क्या प्रशासनिक निर्णय AI पर छोड़े जा सकते हैं? दो नैतिक जोखिम बताइए।
आदर्श उत्तर
AI सहायक हो सकता है, अकेला निर्णायक नहीं। पहला जोखिम पूर्वाग्रह: मॉडल पक्षपाती डेटा सीखकर हज़ारों के साथ एक साथ अन्याय करता है, जैसे डच बाल-लाभ घोटाला (2021 में इस्तीफ़ा)। दूसरा जवाबदेही: ब्लैक बॉक्स नागरिक को उत्तर नहीं दे सकता। प्रतिकूल परिणाम पर प्रशिक्षित अधिकारी कारण सहित जाँच करे।
अभ्यास प्रश्नलगभग 100 शब्द
AI तेज़ निर्णय ले सकता है पर महसूस नहीं कर सकता। क्या प्रशासक को निर्णय AI पर छोड़ देना चाहिए? उदाहरण सहित विवेचना कीजिए।
आदर्श उत्तर
AI गति, पैमाना और एकरूपता देता है, इसलिए उसे ठुकराना समझदारी नहीं। पर वह निर्णय की ज़िम्मेदारी नहीं ले सकता, आँकड़ों के पीछे के इंसान को नहीं देखता और अपने कारण नहीं बता पाता। रोबोडेट (ऑस्ट्रेलिया, 2019 में अवैध ठहराया गया) और डच बाल-लाभ घोटाला दिखाते हैं कि स्वचालित गलती सबसे भारी निर्धनों पर पड़ती है। अतः AI सूचना दे, निर्णय प्रशासक ले। रक्षोपाय: समझाने योग्य कारण, प्रतिकूल कार्रवाई से पहले मानवीय समीक्षा, अपील, पूर्वाग्रह-जाँच और निजता की सीमाएँ (पुट्टस्वामी, 2017)। गांधीजी ने भीतरी आवाज़ को कर्तव्य-टकराव में अंतिम निर्णायक कहा; मशीन का अंक उसकी जगह नहीं ले सकता।
इस सटीक विषय पर RPSC का वास्तविक PYQ: अभी कोई नहीं। यह विषय जनवरी 2026 के पाठ्यक्रम में नया है। भाव में सबसे निकट ये वास्तविक प्रश्न हैं (पत्र II, इकाई I)
2021भाग ग10 अंक
Explain the factors essential in 'Ethical decision' making. In case of ethical decision being against to administrative decision, how will you harmonise them? Explain with examples. AI बनाम अंतरात्मा वाला ही टकराव: औज़ार या नियम बनाम भीतरी नैतिक निर्णय।
2023भाग ग10 अंक
What do you mean by moral dilemma? Should personal ethics take precedence over professional ethics in a situation of moral conflict?
2021भाग क2 अंक
What do you understand by ethical dilemma?
2024भाग ख5 अंक
Do you think that administrative decisions are free of political bias? निर्णय में पूर्वाग्रह, चाहे इंसान का हो या मशीन का।
संबंधित UPSC प्रश्न (RPSC के नहीं; शब्द और प्रश्न-क्रमांक मूल पेपर में देख लें)
2024UPSC सिविल सेवा मुख्य परीक्षाGS पत्र 4, प्र.1(क)10 अंक
The application of Artificial intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.
2023UPSC सिविल सेवा मुख्य परीक्षाGS पत्र 4, प्र.5क10 अंक
Is conscience a more reliable guide when compared to laws, rules and regulations in the context of ethical decision-making? Discuss.
यह उत्तर कैसे लिखें
भूमिका
AI और अंतरात्मा की एक-एक पंक्ति; बताइए कि प्रश्न यह है कि निर्णय का स्वामी कौन है।
मुख्य भाग
- (1) AI के वास्तविक लाभ; (2) सीमाएँ: पूर्वाग्रह, अपारदर्शिता, जवाबदेही, संदर्भ; (3) एक-दो उदाहरण; (4) छह सिद्धांत; (5) अकेली अंतरात्मा भी क्यों पर्याप्त नहीं।
निष्कर्ष
AI सूचना दे, इंसान निर्णय ले और उत्तर दे।
अतिरिक्त मूल्य
- गांधी की "अंतिम निर्णायक" पंक्ति; मेनका गांधी (1978) की निष्पक्ष प्रक्रिया; MeitY का "People First"; वैश्विक संकेतक के रूप में GDPR अनुच्छेद 22।
एक पेज में दोहराव
- परिभाषाएँ: AI = आँकड़ों से सीखकर अंक या सुझाव देता है। अंतरात्मा = जवाबदेह बनाने वाला भीतरी नैतिक बोध। सहायता बनाम निर्माण।
- लाभ: गति, पैमाना, एकरूपता, पैटर्न पकड़, लक्ष्यीकरण।
- जोखिम: नैतिक कर्ता नहीं, जैसा डेटा वैसा नतीजा, ब्लैक बॉक्स, संदर्भ की अनदेखी, बड़े पैमाने की भूल, स्वचालन-पूर्वाग्रह, निजता।
- छह सिद्धांत: पारदर्शिता, व्याख्येयता, जवाबदेही, मानव-समीक्षा, निष्पक्षता, निजता।
- उदाहरण: डच बाल-लाभ (2005-2019 के मामले; रिपोर्ट 17 दिसंबर 2020; इस्तीफ़ा 15 जनवरी 2021; जुर्माना 27.5 लाख यूरो दिसंबर 2021)। रोबोडेट (2019 अवैध; सामूहिक वाद-समझौता 2021; कुल पैकेज लगभग 1.8 अरब ऑस्ट्रेलियाई डॉलर, रिपोर्टों के अनुसार; रॉयल कमीशन 7 जुलाई 2023)। हरियाणा PPP (रिपोर्ट 2024)। नरेगा ABPS (जनवरी 2023 से)। चेहरा-पहचान (Gender Shades 2018; डेट्रॉयट जनवरी 2020)। पेत्रोव (26 सितंबर 1983)।
- भारत: पुट्टस्वामी 24 अगस्त 2017; आधार 26 सितंबर 2018 (4:1); मेनका गांधी 1978; नीति आयोग फ़रवरी 2021; IndiaAI मिशन मार्च 2024; MeitY दिशानिर्देश नवंबर 2025; DPDP अधिनियम अगस्त 2023; केरल उच्च न्यायालय नीति 19 जुलाई 2025।
- विचारक: गांधी 1920 और 1933; गीता 18.63; आरेन्ट 1963; न्यूरेम्बर्ग IV 1950।
- सुरक्षित सूत्र: AI स्वीकृति में मदद करे; हर इनकार का स्वामी इंसान हो।
- अंतिम पंक्ति: AI सूचित करे, अंतरात्मा निर्णय करे, अधिकारी उत्तर दे।