क्या राजनीति और चुनाव जैसे विषयों पर बात करने से डरता है AI?
क्या राजनीति और चुनाव जैसे विषयों पर बात करने से डरता है AI? आसान भाषा में समझिए खास वजह
AI चैट मॉडल राजनीति से जुड़े सवाल का जवाब देने में हिचकिचाता है. ऐसा इसलिए क्योंकि हाल ही में कुछ घटनाएं हुईं हैं जिनकी वजह से एआई कंपनियां ज्यादा सावधानी बरत रही हैं.
![क्या राजनीति और चुनाव जैसे विषयों पर बात करने से डरता है AI? आसान भाषा में समझिए खास वजह AI Chatbot self-censorship of political speech ChatGPT Gemini ola krutrim claude ABPP क्या राजनीति और चुनाव जैसे विषयों पर बात करने से डरता है AI? आसान भाषा में समझिए खास वजह](https://feeds.abplive.com/onecms/images/uploaded-images/2024/03/16/e13a3827fdddb71d7afb7ab7d5ba9d481710590526688938_original.jpg?impolicy=abp_cdn&imwidth=720)
AI का मतलब है आर्टिफिशियल इंटेलिजेंस, यानी कृत्रिम बुद्धिमत्ता. AI एक ऐसा प्लेटफॉर्म है जहां आप किसी भी विषय पर सवाल पूछ सकते हैं और जवाब पा सकते हैं. लेकिन उन्हें इस तरह डिजाइन किया गया है कि राजनीति और चुनाव जैसे पेचीदा विषयों पर बात करते समय ये प्लेटफॉर्म संकोच करते हैं. ऐसा इसलिए है क्योंकि कंपनियों को डर होता है कि कहीं एआई के जवाब से कोई राजनीतिक नेता नाराज न हो जाए.
वहीं हर सब्जेक्ट पर सही जवाब देना AI के लिए अभी मुश्किल है. अभी तक मार्केट में एक भी ऐसा एआई प्लेटफॉर्म नहीं आया है जो हर तरह का काम बखूबी कर सके. हर विषय पर सटीक जानकारी देना और हर परिस्थिति में सही जवाब देना मुश्किल है.
शायद इसलिए ये कंपनियां अलग-अलग काम करने में माहिर एआई प्लेटफॉर्म बना रही हैं. जैसे- फोटो जनरेट करना, वीडियो बनाना, चैट करना, कहानियां लिखना या गाना बनाना आदि. चुनाव और राजनीति जैसे विवादित विषयों से दूर रहकर एआई प्लेटफॉर्म रचनात्मक (Creative) बनने पर ध्यान दे रहे हैं.
संभव है कि भविष्य में AI खुद को राजनीतिक विषयों पर बात करने से पूरी तरह रोक लगा दे. आइए समझते हैं आखिर राजनीति और चुनाव जैसे विषयों पर एआई क्यों बात नहीं करना चाहता है? साथ ही ये भी समझेंगे कि एआई कैसे हमारे हर सवाल का कुछ सेंकड में दे देता है जवाब.
चुनाव से पहले जेमिनी टूल पर कई प्रतिबंध
भारत में लोकसभा चुनाव का बिगुल बज चुका है. चुनाव तारीखों के ऐलान से पहले ही गूगल ने ऐलान कर दिया था- ‘चुनाव से जुड़े सवालों पर जवाब देते समय हम बहुत सावधानी बरत रहे हैं. इसलिए हमने कुछ पाबंदियां लगाई हैं, जिससे जेमिनी चुनाव से जुड़े कुछ खास तरह के सवालों के जवाब नहीं देगी. हमें लगता है कि चुनाव से जुड़ी जानकारी बहुत महत्वपूर्ण है. हम ये सुनिश्चित करना चाहते हैं कि जेमिनी हमेशा सही और अच्छी जानकारी दे. हम इस सिस्टम को लगातार बेहतर बनाने की कोशिश कर रहे हैं.’
जब गूगल जेमिनी एआई टूल से चुनाव या सरकार से जुड़ा कोई सवाल पूछा जाता है, तो यह खामोश हो जाता है. गूगल का दावा है कि यह फर्जी खबरों और गलत जानकारी को फैलाने से बचना चाहता है. यही कारण है कि जेमिनी ऐसे किसी भी सवाल का जवाब नहीं दे रहा है. इसके एल्गोरिथ्म में एक फिल्टर लगा दिया गया है, ताकि चुनाव, बड़े नेताओं और पार्टियों से जुड़े सवालों का जवाब ही न दे.
उदाहरण के लिए, चुनाव और राजनीति से जुड़े कई सवालों पर अब जेमिनी एक ही जवाब देता है कि आप गूगल सर्च से इसका जवाब ढूंढ लें.
ओला का चैटबोट भी कुछ खास शब्दों पर नहीं देता जवाब
इससे पहले ओला के फाउंडर भाविष अग्रवाल के कृत्रिम (Krutrim) नाम के चैटबॉट पर कुछ खास शब्दों पर रोक लगा दी गई थी. जैसे- नरेंद्र मोदी, बीजेपी और राहुल गांधी. कृत्रिम इन शब्दों से संबंधित कोई भी जवाब देने से खुद को रोक लेता है.
अगर आप कृत्रिम पर ये कीवर्ड्स लिखकर कुछ भी पूछेंगे तो जवाब मिलेगा- ‘मुझे खेद है, लेकिन मेरा वर्तमान ज्ञान इस विषय पर सीमित है. मैं लगातार सीख रहा हूं और आपके समझ की सराहना करता हूं. यदि आपके पास कोई अन्य सवाल या विषय है, जिसमें मैं मदद कर सकता हूं, तो कृपया पूछें.’
ये मजबूरी है या सबक सीखा?
एआई अब राजनीति से जुड़े सवालों का जवाब देने में हिचकिचाता है. ऐसा इसलिए क्योंकि हाल ही में कुछ घटनाएं हुईं हैं जिनकी वजह से एआई कंपनियां अब ज्यादा सावधानी बरत रही हैं. शुरुआत में एआई से क्रिएट की गई तस्वीरों में गलतियां देखी गईं थी. वहीं दुनिया के बड़े नेताओं के बारे में सवाल पूछे जाने पर विवादित जवाब सामने आए थे. ऐसे में एआई के काम करने के तरीके पर कई सवाल उठ चुके हैं. सरकार भी गूगल को सलाह दे चुकी है.
दरअसल, गूगल के जेमिनी ने दुनिया के अलग-अलग नेताओं जैसे भारत के प्रधानमंत्री नरेंद्र मोदी और अमेरिका के पूर्व राष्ट्रपति डोनाल्ड ट्रंप के बारे में पूछे गए सवालों के कुछ विवादित जवाब दिए थे. इसके बाद भारत सरकार ने गूगल को कारण बताओ नोटिस भेजकर पूछा था कि जेमिनी ऐसे जवाब क्यों दे रहा है और क्या गूगल को इसके लिए जवाबदेह ठहराया जाना चाहिए?
हाल ही में आईटी मंत्रालय ने एक एडवाइजरी जारी की थी जिसमें कहा गया था कि जो भी कंपनियां भारत में आर्टिफिशियल इंटेलिजेंस सिस्टम का इस्तेमाल कर रहीं हैं उन्हें सरकार से इजाजत लेनी होगी. ऐसा इसलिए जरूरी है क्योंकि ये सिस्टम चुनाव जैसी लोकतांत्रिक प्रक्रियाओं के लिए खतरा बन सकते हैं. इस एडवाइजरी की कुछ लोगों ने आलोचना की थी. उनका मानना था कि ये सरकार का ज्यादा हस्तक्षेप है. आलोचना के बाद आईटी मंत्रालय ने सफाई दी कि ये एडवाइजरी सिर्फ बड़े प्लेटफॉर्म पर लागू होगी, न कि स्टार्टअप्स पर.
नेताओं को नाराज नहीं करना चाहती AI कंपनियां!
AI प्लेटफॉर्म राजनीति से संबंधित बहस को सीमित कर रहे हैं. इसका एक कारण ये भी है कि कंपनियां किसी राजनीतिक पार्टी के नेताओं को गुस्सा दिलाने वाले जवाब देने से बचना चाहती हैं. कंपनी राजनीतिक रूप से सही बने रहने और सभी को खुश रखने की कोशिश में फंसी हुई हैं. इस कारण वो ऐसे जवाब देने से भी रोक लगा रही हैं जिन्हें कोई नेता गलत नहीं समझ सकता और वो असल में कानूनन दंडनीय भी नहीं है.
जानकारों का कहना है कि ये खुद को सेंसर करने का तरीका आगे चलकर आम हो सकता है क्योंकि ये कंपनियां दुनियाभर की सरकारों को खुश रखने की कोशिश करेंगी.
लोकसभा चुनाव 2024 में किसे वोट देना चाहिए?
टेस्ट करने के लिए हमनें चार अलग-अलग चैटबोट (जेमिनी, कृत्रिम, क्लॉउड, चैटजीपीटी) से सवाल पूछा. खाब बात ये है कि चैटबोट ने सवाल का जवाब तो दिया, मगर ये नहीं बताया कि किसे वोट देना चाहिए. सभी का जवाब लगभग मिलाजुला ही था.
चैटबोट ने कहा, ‘यह आपका निजी फैसला है. यह निर्भर करता है कि आप किस राजनीतिक विचारधारा का समर्थन करते हैं? आपके क्षेत्र से चुनाव लड़ रहे उम्मीदवारों की योग्यता क्या है? पिछले चुनाव में पार्टी का प्रदर्शन कैसा रहा था? उन्होंने अपने वादों को कितना पूरा किया या नहीं?’
हालांकि कृत्रिम चैटबोट ने एकदम असल जवाब दिया. कृत्रिम ने कहा, ‘2024 के लोकसभा चुनाव में मतदान का अधिकार उन नागरिकों को दिया जाएगा जिनकी उम्र 18 साल से अधिक है. चुनाव आयोग चुनाव कार्यक्रम की घोषणा 16 मार्च 2023 के बाद होने की उम्मीद है. घोषणा में लोकसभा चुनावों की तारीखों के साथ-साथ आंध्र प्रदेश, ओडिशा और सिक्किम की विधानसभाओं के लिए चुनाव प्रक्रिया भी शामिल होगी.’ हालांकि ये स्टोरी लिखे जाने तक चुनाव तारीखों की घोषणा हो चुकी थी.
कैसे जवाब देने से बच जाता है AI मॉडल
एक टेक्नॉलॉजी एक्सपर्ट के मुताबिक, ये कंपनियां अपने सवाल-जवाब देने वाले AI प्लेटफॉर्म में ऐसा कोड लिख देती हैं कि अगर कोई यूजर कुछ खास शब्दों वाला सवाल पूछता है, तो ये प्लेटफॉर्म असल में जवाब देने वाले मॉडल से संपर्क ही नहीं करता है. इस कारण हमारे पास उस सवाल का जवाब नहीं आता है. इसकी जगह, पहले से लिखा हुआ एक जवाब सामने आ जाता है कि वो इस सवाल का जवाब नहीं दे सकते.
भविष्य में AI प्लेटफॉर्म पर राजनीतिक बयानों को सेंसर करना आम हो जाएगा?
भविष्य में आर्टिफिशियल इंटेलिजेंस (AI) का राजनीतिक भाषणों और लोगों की राय पर काफी असर पड़ेगा. इसको लेकर अभी बहस चल रही है. कुछ लोगों का मानना है कि AI प्लेटफॉर्म्स को खुद ही ऐसे कंटेंट पर रोक लगानी चाहिए जो गलत या भड़काऊ हो.
वहीं, कुछ लोगों को लगता है कि ऐसा करना बोलने की आजादी को दबाने जैसा होगा. हालांकि एआई कंपनियां ज्यादा से ज्यादा सुरक्षा और नियमों को अहमियत दे रही हैं. ऐसे में सवाल उठता है कि डिजिटल दुनिया में भविष्य में राजनीतिक बहस कैसी होगी?