नई दिल्ली,12 अक्टूबर (युआईटीवी)- आर्टिफिशियल इंटेलिजेंस यानी कृत्रिम बुद्धिमत्ता का इस्तेमाल तेजी से बढ़ने के साथ इसकी सुरक्षा को लेकर भी चिंताएँ बढ़ रही हैं। इसी बीच माइक्रोसॉफ्ट के चेयरमैन और मुख्य कार्यकारी अधिकारी सत्य नडेला ने उन्नत एआई प्रणालियों का उपयोग करने वाली कंपनियों को महत्वपूर्ण चेतावनी दी है। उन्होंने कहा है कि कंपनियों को शक्तिशाली एआई मॉडलों को संभावित आंतरिक सुरक्षा खतरे की तरह देखना चाहिए। संगठनों को यह मानकर चलना चाहिए कि किसी भी एआई मॉडल की सुरक्षा से समझौता हो सकता है। इसलिए शुरुआत से ही ऐसे सुरक्षा उपाय तैयार किए जाने चाहिए, जिनसे जरूरत पड़ने पर एआई की गतिविधियों को नियंत्रित किया जा सके या उसे तुरंत बंद किया जा सके।
सत्य नडेला का यह बयान ऐसे समय आया है,जब एआई तकनीक सामान्य सवालों के जवाब देने और जानकारी उपलब्ध कराने से आगे बढ़कर जटिल कार्यों को अपने स्तर पर पूरा करने की दिशा में आगे बढ़ रही है। आधुनिक एआई प्रणालियाँ बाहरी डिजिटल सेवाओं से जुड़ सकती हैं,विभिन्न चरणों में काम कर सकती हैं और सीमित मानवीय हस्तक्षेप के साथ निर्णय लेने में सक्षम हो रही हैं। ऐसे में यदि कोई मॉडल गलत निर्णय लेता है, अनधिकृत गतिविधि करता है या उसकी सुरक्षा व्यवस्था प्रभावित होती है, तो उसका असर किसी एक जवाब तक सीमित नहीं रह सकता। यह किसी कंपनी के डेटा, डिजिटल संसाधनों और महत्वपूर्ण कामकाज को भी प्रभावित कर सकता है।
सत्य नडेला ने सोशल मीडिया मंच एक्स पर साझा किए गए अपने विचारों में कहा कि कंपनियों को केवल एआई विकसित करने वाली कंपनियों और उनके सुरक्षा दावों पर निर्भर नहीं रहना चाहिए। इसके बजाय उन्हें अपनी ऐसी व्यवस्थाएं तैयार करनी चाहिए, जिनके माध्यम से अधिकृत कर्मचारी जरूरत पड़ने पर एआई मॉडल के कामकाज को बीच में ही रोक सकें।
उन्होंने इस व्यवस्था की तुलना किसी वाहन में लगे आपातकालीन ब्रेक से की। जिस तरह वाहन को किसी खतरनाक स्थिति में रोकने के लिए इमरजेंसी ब्रेक का इस्तेमाल किया जाता है, उसी तरह एआई प्रणाली के लिए भी ऐसा नियंत्रण होना चाहिए,जो किसी गंभीर समस्या के सामने आने पर उसके संचालन को रोक सके।
नडेला के अनुसार,कंपनियों को पहले से यह मानकर चलना चाहिए कि किसी एआई मॉडल की सुरक्षा से समझौता हो सकता है। इसी सोच के आधार पर सुरक्षा व्यवस्था तैयार करने से संभावित नुकसान को सीमित करने में मदद मिल सकती है। उनका जोर इस बात पर है कि सुरक्षा उपाय किसी घटना के बाद जोड़े जाने के बजाय एआई प्रणाली के डिजाइन और तैनाती के शुरुआती चरण से ही उसका हिस्सा होने चाहिए।
यह दृष्टिकोण तकनीकी सुरक्षा के उस सिद्धांत से जुड़ा है,जिसमें किसी प्रणाली को पूरी तरह त्रुटिरहित मानने के बजाय संभावित विफलताओं को ध्यान में रखकर तैयार किया जाता है। एआई मॉडल कितना भी सक्षम क्यों न हो,उसके इस्तेमाल के दौरान निगरानी, नियंत्रण और जवाबदेही की व्यवस्था बनाए रखना आवश्यक है।
एआई तकनीक के क्षेत्र में इन दिनों एजेंटिक एआई प्रणालियों पर विशेष ध्यान दिया जा रहा है। ऐसी प्रणालियाँ केवल निर्देशों का जवाब देने तक सीमित नहीं रहतीं,बल्कि किसी निर्धारित लक्ष्य को पूरा करने के लिए कई चरणों में काम कर सकती हैं। जरूरत के अनुसार वे बाहरी टूल का उपयोग कर सकती हैं,डिजिटल सेवाओं से जुड़ सकती हैं और विभिन्न कार्यों को क्रमबद्ध तरीके से पूरा कर सकती हैं।
इस क्षमता से कंपनियों के कामकाज में तेजी आ सकती है। ग्राहक सेवा,सॉफ्टवेयर विकास,डेटा विश्लेषण और कार्यालयों के कई नियमित कार्यों में एआई एजेंट उपयोगी साबित हो सकते हैं,लेकिन जैसे-जैसे इन प्रणालियों को अधिक अधिकार दिए जाते हैं, वैसे-वैसे उनसे जुड़े जोखिम भी बढ़ सकते हैं।
उदाहरण के लिए,यदि किसी एआई एजेंट को संवेदनशील डेटा तक पहुँच,फाइलों में बदलाव करने या बाहरी सेवाओं पर कार्रवाई करने की अनुमति दी गई है,तो गलत निर्देश या सुरक्षा में सेंध लगने की स्थिति में गंभीर नुकसान हो सकता है। इसी तरह, यदि कोई प्रणाली अप्रत्याशित तरीके से काम करने लगे,तो केवल उसके अंतिम जवाब की जांच करना पर्याप्त नहीं होगा। यह जानना भी जरूरी होगा कि उसने किस आधार पर निर्णय लिया और काम पूरा करने के दौरान कौन-कौन से कदम उठाए।
इसी कारण नडेला ने एआई के विकास के साथ-साथ उस पर प्रभावी नियंत्रण बनाए रखने की जरूरत पर जोर दिया है। उनके विचार में कंपनियों को ऐसी तकनीक अपनानी चाहिए, जिसके व्यवहार का निरीक्षण किया जा सके और जरूरत पड़ने पर उसके कामकाज में हस्तक्षेप किया जा सके।
हाल के महीनों में एआई कंपनियों एंथ्रोपिक और ओपनएआई के मॉडलों से जुड़ी कुछ अनपेक्षित घटनाओं को लेकर चर्चा हुई है। इनमें गलत जानकारी देने और तृतीय-पक्ष वेबसाइटों से संबंधित सुरक्षा उल्लंघनों जैसे मामले शामिल बताए गए हैं। ऐसी घटनाओं ने यह सवाल उठाया है कि अधिक सक्षम एआई प्रणालियों को वास्तविक परिस्थितियों में किस तरह सुरक्षित रखा जाए और किसी समस्या के सामने आने पर उसे कितनी जल्दी नियंत्रित किया जा सकता है।
एआई मॉडल का गलत जवाब देना और किसी प्रणाली की सुरक्षा में सेंध लगना एक जैसे जोखिम नहीं हैं। गलत जानकारी से उपयोगकर्ता भ्रमित हो सकता है,जबकि किसी डिजिटल प्रणाली में अनधिकृत पहुँच या कार्रवाई से डेटा और दूसरे संसाधनों को नुकसान पहुँच सकता है। इसलिए दोनों स्थितियों से निपटने के लिए अलग-अलग सुरक्षा उपायों के साथ समग्र निगरानी व्यवस्था की जरूरत होती है।
नडेला की चेतावनी इसी व्यापक चिंता की ओर ध्यान दिलाती है कि शक्तिशाली एआई मॉडल को केवल उसकी क्षमताओं के आधार पर सुरक्षित नहीं माना जाना चाहिए। कंपनियों को यह भी सुनिश्चित करना होगा कि मॉडल के पास उपलब्ध अधिकार सीमित हों,उसकी गतिविधियों पर नजर रखी जा सके और किसी असामान्य स्थिति में उसे रोका जा सके।
हालाँकि,किसी एआई मॉडल को बंद करने की सुविधा अपने आप सभी जोखिम समाप्त नहीं करती। इसके साथ यह भी तय करना जरूरी है कि खतरे की पहचान कैसे होगी, नियंत्रण का अधिकार किसके पास होगा और किसी घटना के बाद उसकी जाँच किस तरह की जाएगी।
सत्य नडेला ने एआई से जुड़े जोखिमों को कम करने के लिए कई अन्य उपायों की भी वकालत की। उनका कहना है कि कंपनियों को महत्वपूर्ण निर्णयों के लिए किसी एक एआई मॉडल पर पूरी तरह निर्भर नहीं रहना चाहिए। अलग-अलग प्रणालियों से जाँच कराने और मानवीय समीक्षा बनाए रखने से गलतियों को पहचानने की संभावना बढ़ सकती है।
उन्होंने एआई एजेंटों की गतिविधियों का ऐसा रिकॉर्ड रखने पर भी जोर दिया,जिसके साथ बाद में छेड़छाड़ न की जा सके। इस तरह के रिकॉर्ड से यह पता लगाने में मदद मिल सकती है कि किसी मॉडल ने कब, किस निर्देश के आधार पर और कौन-सी कार्रवाई की। यदि कोई गलती या सुरक्षा उल्लंघन होता है,तो जाँच करने वाली टीम के पास घटना को समझने के लिए जरूरी जानकारी उपलब्ध रह सकती है।
इसके अलावा,एआई प्रणालियों का स्वतंत्र ऑडिट कराना भी महत्वपूर्ण बताया गया है। स्वतंत्र जाँच से मॉडल के व्यवहार,सुरक्षा संबंधी कमजोरियों और निर्धारित सीमाओं के पालन का मूल्यांकन किया जा सकता है। इससे उन कमियों की पहचान करने में मदद मिल सकती है,जो सामान्य इस्तेमाल के दौरान सामने नहीं आतीं।
नडेला ने बड़ी एआई विफलताओं और सुरक्षा संबंधी घटनाओं की जानकारी पारदर्शी तरीके से साझा करने की जरूरत पर भी जोर दिया। उनके अनुसार,यदि कंपनियाँ घटनाओं और उनसे मिली सीख को साझा करती हैं,तो दूसरे संगठन भी अपनी सुरक्षा व्यवस्थाओं में सुधार कर सकते हैं। इससे एक ही तरह की गलती को अलग-अलग कंपनियों में दोहराए जाने का जोखिम कम किया जा सकता है।
सत्य नडेला ने चेताया कि भविष्य में विकसित होने वाली अत्यधिक सक्षम एआई प्रणालियों को एक रहस्यमय ब्लैक बॉक्स की तरह स्वीकार नहीं किया जा सकता। केवल उनके जवाबों या सिफारिशों के आधार पर निर्णय लेना पर्याप्त नहीं होगा। कंपनियों को यह समझने की कोशिश करनी होगी कि मॉडल किस तरह व्यवहार करता है,उसकी सीमाएँ क्या हैं और वह किन परिस्थितियों में गलतियां कर सकता है।
उनका मानना है कि एआई प्रणालियों को इस तरह विकसित किया जाना चाहिए कि उनके व्यवहार का निरीक्षण किया जा सके,उनकी क्षमताओं का परीक्षण किया जा सके और जरूरत पड़ने पर उनके कार्यों पर नियंत्रण रखा जा सके। इसका उद्देश्य एआई की उपयोगिता को कम करना नहीं,बल्कि उसके सुरक्षित और जिम्मेदार इस्तेमाल को सुनिश्चित करना है।
नडेला ने बुद्धिमत्ता की उपलब्धता और उस पर नियंत्रण के बीच स्पष्ट अंतर रखने की बात कही। इसका आशय यह है कि किसी कंपनी के पास अत्याधुनिक एआई तकनीक उपलब्ध होना और उस तकनीक के इस्तेमाल पर प्रभावी अधिकार होना दो अलग-अलग बातें हैं। किसी मॉडल की क्षमताएँ जितनी बढ़ती हैं,उसके इस्तेमाल से जुड़े अधिकारों, निगरानी और जवाबदेही की व्यवस्था भी उतनी ही मजबूत होनी चाहिए।
कुल मिलाकर,सत्य नडेला का संदेश यह है कि एआई के विकास की दौड़ में सुरक्षा को पीछे नहीं छोड़ा जा सकता। कंपनियों को मजबूत नियंत्रण व्यवस्था,स्वतंत्र ऑडिट, गतिविधियों के सुरक्षित रिकॉर्ड और आपातकालीन रोक जैसे उपायों को प्राथमिकता देनी होगी। उन्नत एआई प्रणालियों का भविष्य केवल उनकी बुद्धिमत्ता से तय नहीं होगा,बल्कि इस बात से भी तय होगा कि उन्हें कितनी सुरक्षित,पारदर्शी और जवाबदेह व्यवस्था के भीतर इस्तेमाल किया जाता है।