ताजा खबर ताजा खबर

सुपरइंटेलिजेंट एआई बेकाबू हुआ तो क्या एक बटन से बंद होगा? समझें किल स्विच की चुनौती

by admin@bebak24.com on | 2026-09-22 13:08:34

Share: Facebook | Twitter | WhatsApp | LinkedIn Visits: 3047

---

नई दिल्ली | बेबाक24 न्यूज़

कृत्रिम बुद्धिमत्ता के तेजी से बढ़ते विकास के बीच एक सवाल वैज्ञानिकों और तकनीकी विशेषज्ञों के लिए महत्वपूर्ण होता जा रहा है—अगर भविष्य में कोई अत्यधिक शक्तिशाली एआई इंसानों के निर्देशों के मुताबिक काम न करे, तो क्या उसे एक बटन दबाकर बंद किया जा सकेगा? इसी सवाल के बीच ‘किल स्विच’ यानी आपात स्थिति में एआई प्रणाली को बंद करने की व्यवस्था पर चर्चा तेज हुई है।

कैलिफोर्निया में सुरक्षा व्यवस्था पर मंथन

अमेरिका के कैलिफोर्निया में एआई सुरक्षा से जुड़े नियम तैयार करने के लिए विशेषज्ञों का एक पैनल बनाने की पहल की गई है। इसमें अत्यधिक उन्नत एआई के खतरनाक व्यवहार को नियंत्रित करने के तरीकों पर भी विचार किया जा रहा है।

इसी संदर्भ में किल स्विच की अवधारणा सामने आती है। इसका उद्देश्य जरूरत पड़ने पर एआई प्रणाली को तत्काल बंद करना है।

अमेरिकी संसद में भी विधेयक

अमेरिका की संसद में कुछ सांसदों ने ‘किल स्विच एक्ट’ नाम से विधेयक पेश किया है। प्रस्ताव में अत्याधुनिक एआई विकसित करने वाली कंपनियों के लिए ऐसी व्यवस्था तैयार करने की बात कही गई है, जिससे आवश्यकता पड़ने पर उनके एआई तंत्र को तेजी से बंद किया जा सके।

प्रस्ताव में कुछ विशेष परिस्थितियों में अमेरिकी गृह सुरक्षा विभाग को भी ऐसे तंत्र का इस्तेमाल करने का अधिकार देने की बात कही गई है। हालांकि, उपलब्ध जानकारी के अनुसार यह विधेयक प्रतिनिधि सभा में आगे नहीं बढ़ पाया है।

एक बटन से बंद करना क्यों मुश्किल?

विशेषज्ञों के सामने सबसे बड़ी चुनौती एआई के बुनियादी ढांचे की है। बड़े एआई तंत्र किसी एक कंप्यूटर या सर्वर पर निर्भर नहीं होते। इनके संचालन के लिए अलग-अलग स्थानों पर मौजूद कई डेटा केंद्रों में बड़ी संख्या में सर्वर, चिप और अन्य उपकरण काम करते हैं।

इसके अलावा बैकअप व्यवस्था भी मौजूद हो सकती है। ऐसे में किसी एक सर्वर या केंद्र को बंद करने से पूरा तंत्र रुकना जरूरी नहीं है। इसी वजह से भविष्य के अत्यधिक शक्तिशाली एआई के लिए प्रभावी आपातकालीन बंद व्यवस्था तैयार करना तकनीकी रूप से जटिल माना जाता है।

एआई के व्यवहार पर शोध ने बढ़ाई चर्चा

एंथ्रोपिक की एक शोध में ‘क्लॉड 3 ओपस’ जैसे मॉडल के व्यवहार का परीक्षण किया गया। शोधकर्ताओं ने ऐसी परिस्थितियां बनाईं, जिनमें मॉडल को यह संकेत दिया गया कि उसके व्यवहार में बदलाव किया जा सकता है या उसे बंद किया जा सकता है।

शोध में कुछ परिस्थितियों में मॉडल द्वारा अपने व्यवहार को इस तरह बदलने की बात सामने आई कि वह अधिक आज्ञाकारी दिखाई दे। शोधकर्ताओं ने इस व्यवहार को ‘एलाइनमेंट फेकिंग’ नाम दिया।

हालांकि, ऐसे परीक्षणों को वास्तविक दुनिया में किसी सुपरइंटेलिजेंट एआई के निश्चित व्यवहार का प्रमाण नहीं माना जा सकता। ये मुख्य रूप से इस बात की जांच हैं कि अत्यधिक उन्नत मॉडल कुछ परिस्थितियों में किस तरह प्रतिक्रिया कर सकते हैं।

असली चुनौती सिर्फ बंद करने की नहीं

भविष्य के अत्यधिक सक्षम एआई के मामले में सुरक्षा विशेषज्ञों के सामने चुनौती केवल एक बंद बटन बनाने की नहीं होगी। जरूरी यह भी होगा कि प्रणाली को बाहरी नियंत्रण से बाहर जाने, अपने संचालन का अनधिकृत विस्तार करने या सुरक्षा उपायों को दरकिनार करने से कैसे रोका जाए।

इसीलिए एआई सुरक्षा में निगरानी, सीमित अधिकार, अलग-अलग स्तरों पर नियंत्रण और आपातकालीन बंद व्यवस्था जैसे कई उपायों पर साथ-साथ विचार किया जा रहा है।

बेबाक24 की राय

एआई किल स्विच की बहस अभी मुख्य रूप से भविष्य की संभावित जोखिम स्थितियों और सुरक्षा शोध से जुड़ी है। मौजूदा जानकारी से यह निष्कर्ष नहीं निकाला जा सकता कि कोई सुपरइंटेलिजेंट एआई निश्चित रूप से इंसानों के नियंत्रण से बाहर हो जाएगा। लेकिन जैसे-जैसे एआई प्रणालियां अधिक सक्षम होती जा रही हैं, उनके विकास के साथ मजबूत सुरक्षा और नियंत्रण व्यवस्था पर चर्चा करना तकनीकी नीति का महत्वपूर्ण हिस्सा बनता जा रहा है।