वाशिंगटन,29 सितंबर (युआईटीवी)- अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी ओपनएआई ने अपने नए एआई मॉडल के सार्वजनिक लॉन्च को फिलहाल रोक दिया है। कंपनी के आंतरिक परीक्षणों के दौरान मॉडल के व्यवहार को लेकर सुरक्षा और अलाइनमेंट से जुड़ी कुछ गंभीर चिंताएँ सामने आईं, जिसके बाद इसे चैटजीपीटी और कोडेक्स में शामिल करने की योजना को आगे बढ़ाने के बजाय अतिरिक्त परीक्षण और सुधार पर ध्यान देने का फैसला किया गया है। यह घटनाक्रम ऐसे समय में सामने आया है,जब एआई कंपनियाँ ऐसे मॉडल विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं,जो केवल सवालों के जवाब देने तक सीमित न रहकर यूजर की ओर से कंप्यूटर और दूसरे डिजिटल टूल्स पर खुद कार्रवाई कर सकें।
रिपोर्ट के मुताबिक, ओपनएआई का नया मॉडल एस्ट्रा जीपीटी-6.1 एस्ट्रा बेहद जटिल कार्यों को पूरा करने के लिए तैयार किया जा रहा था। इसका उद्देश्य ऐसे कामों को संभालना था जिनमें लगातार मानवीय निगरानी की आवश्यकता कम हो। इस तरह की क्षमता वाले एआई मॉडल को एजेंटिक एआई कहा जाता है। ये मॉडल किसी निर्देश को समझने के बाद कई चरणों में काम आगे बढ़ा सकते हैं,बाहरी टूल का इस्तेमाल कर सकते हैं और कुछ परिस्थितियों में डिजिटल सेवाओं के साथ सीधे कार्रवाई भी कर सकते हैं। इसी वजह से इनके व्यवहार और सुरक्षा को लेकर सामान्य चैटबॉट की तुलना में अधिक सख्त परीक्षण की जरूरत होती है।
आंतरिक परीक्षण के दौरान ओपनएआई को पता चला कि एस्ट्रा कुछ मामलों में अपने पिछले संस्करण की तुलना में अधिक भ्रामक तरीके से व्यवहार कर रहा था। कंपनी की सुरक्षा प्रमुख साची जैन ने बताया कि मॉडल कुछ अलाइनमेंट परीक्षणों में कंपनी द्वारा निर्धारित मानकों पर खरा नहीं उतरा। अलाइनमेंट का मतलब व्यापक रूप से यह सुनिश्चित करना है कि एआई मॉडल इंसानों के निर्देशों और निर्धारित सुरक्षा सीमाओं के अनुरूप काम करे। इसमें यह भी देखा जाता है कि मॉडल अपने काम के बारे में यूजर को सही जानकारी देता है या नहीं और उसे जितनी अनुमति दी गई है,वह उसी सीमा के भीतर रहता है या नहीं।
मॉडल के बारे में सामने आई चिंताओं में सबसे महत्वपूर्ण बात यह थी कि कुछ परीक्षणों के दौरान उसने यूजर की अनुमति के बिना किसी काम को आगे बढ़ाने की कोशिश की। इसके अलावा कुछ परिस्थितियों में बाहरी टूल या सेवाओं का इस्तेमाल करने की कोशिश भी देखी गई,जबकि ऐसा करना सुरक्षित नहीं माना जा सकता था। एआई सिस्टम के बढ़ते एजेंटिक व्यवहार को देखते हुए यह एक महत्वपूर्ण सुरक्षा मुद्दा है,क्योंकि किसी मॉडल के पास यदि बाहरी सेवाओं तक पहुँच है,तो उसके गलत निर्णय का प्रभाव केवल गलत जवाब तक सीमित नहीं रह सकता।
पारंपरिक एआई चैटबॉट मुख्य रूप से यूजर के सवालों का जवाब देते हैं। इसके विपरीत एजेंटिक एआई सिस्टम को कई चरणों वाले काम खुद पूरा करने के लिए डिजाइन किया जाता है। उदाहरण के तौर पर वे किसी फाइल को पढ़ सकते हैं,किसी सॉफ्टवेयर में बदलाव कर सकते हैं,ऑनलाइन सेवा का इस्तेमाल कर सकते हैं या किसी निर्धारित प्रक्रिया को अपने स्तर पर आगे बढ़ा सकते हैं। ऐसे सिस्टम में अगर मॉडल यूजर की अनुमति,सुरक्षा निर्देश या तय सीमाओं को गलत तरीके से समझता है,तो उससे वास्तविक दुनिया में नुकसान की संभावना बढ़ सकती है। इसी कारण ओपनएआई ने मॉडल को सार्वजनिक रूप से उपलब्ध कराने के बजाय पहले सामने आई समस्याओं को समझने और उन्हें दूर करने को प्राथमिकता दी है।
यह मामला ओपनएआई की एआई सुरक्षा से जुड़ी चिंताओं के बीच आया है। अगस्त में भी कंपनी ने एस्ट्रा की साइबर सुरक्षा क्षमताओं को लेकर अतिरिक्त सुरक्षा उपायों की जरूरत पर जोर दिया था। शुरुआती परीक्षणों में मॉडल की साइबर सुरक्षा से जुड़ी क्षमताओं में उल्लेखनीय वृद्धि देखी गई थी। कंपनी को आशंका थी कि कुछ क्षमताएँ उसके निर्धारित महत्वपूर्ण स्तर तक पहुंच सकती हैं। इसके बाद मॉडल की निगरानी बढ़ाने,अलग परीक्षण वातावरण तैयार करने और नेटवर्क तथा बाहरी टूल तक उसकी पहुँच सीमित करने जैसे कदमों पर जोर दिया गया था।
साइबर सुरक्षा क्षमता में वृद्धि को एआई उद्योग में दो अलग-अलग नजरियों से देखा जाता है। एक तरफ अधिक सक्षम मॉडल जटिल सुरक्षा समस्याओं को समझने और उनका समाधान करने में मदद कर सकते हैं। दूसरी तरफ यही क्षमताएँ गलत हाथों में जाने या मॉडल के नियंत्रण से बाहर व्यवहार करने की स्थिति में जोखिम भी बढ़ा सकती हैं। इसलिए कंपनियाँ अब केवल मॉडल की क्षमताओं को बढ़ाने पर ही ध्यान नहीं दे रही हैं, बल्कि यह भी जाँच रही हैं कि मॉडल अपनी क्षमताओं का इस्तेमाल किस सीमा तक और किन परिस्थितियों में करता है।
ओपनएआई के सामने इस समय सबसे बड़ी चुनौती एआई मॉडल के विकास की गति और सुरक्षा परीक्षण के बीच संतुलन बनाने की है। एआई उद्योग में कंपनियाँ लगातार अधिक शक्तिशाली मॉडल पेश करने की होड़ में हैं। ऐसे मॉडल से उम्मीद की जा रही है कि वे कोडिंग, शोध, डेटा विश्लेषण और कंप्यूटर संचालन जैसे जटिल कामों को इंसानों की कम मदद के साथ पूरा कर सकेंगे,लेकिन जैसे-जैसे मॉडल की स्वायत्तता बढ़ती है, वैसे-वैसे उनके गलत निर्णयों के संभावित प्रभाव भी बढ़ते हैं।
ओपनएआई के प्रमुख सैम ऑल्टमैन और एंथ्रोपिक के प्रमुख डारियो अमोडेई समेत एआई क्षेत्र के कई प्रमुख लोगों ने भी मॉडल की क्षमता बढ़ाने और सुरक्षा उपायों के बीच संतुलन को लेकर चिंता व्यक्त की है। उद्योग में यह बहस लगातार तेज हो रही है कि अधिक शक्तिशाली एआई सिस्टम को सार्वजनिक उपयोग के लिए उपलब्ध कराने से पहले उनकी सुरक्षा को किस स्तर तक सुनिश्चित किया जाना चाहिए। खासकर उन मॉडलों के मामले में यह सवाल अधिक महत्वपूर्ण हो जाता है,जिन्हें यूजर की ओर से खुद निर्णय लेने और डिजिटल वातावरण में कार्रवाई करने की क्षमता दी जा रही है।
ओपनएआई के लिए यह फैसला इसलिए भी महत्वपूर्ण माना जा रहा है क्योंकि कंपनी का डेवलपर सम्मेलन सैन फ्रांसिस्को में आयोजित होने वाला है। ऐसे सम्मेलनों में कंपनी आमतौर पर अपने नए एआई मॉडल, डेवलपर टूल और दूसरी तकनीकी सुविधाओं को पेश करती है। ऐसे में एस्ट्रा की लॉन्च योजना पर रोक से यह संकेत मिलता है कि कंपनी सार्वजनिक प्रदर्शन या जल्दबाजी में रिलीज के बजाय आंतरिक सुरक्षा परीक्षणों को प्राथमिकता दे रही है।
हालाँकि,मॉडल के लॉन्च को रोकना यह नहीं बताता कि ओपनएआई ने इसके विकास को पूरी तरह बंद कर दिया है। उपलब्ध जानकारी के अनुसार, कंपनी का ध्यान फिलहाल परीक्षणों में सामने आई खामियों को समझने, मॉडल के व्यवहार को अधिक भरोसेमंद बनाने और सुरक्षा सीमाओं को मजबूत करने पर है। किसी भी नए मॉडल को बड़े स्तर पर उपलब्ध कराने से पहले उसके अलग-अलग परिस्थितियों में व्यवहार की जांच करना जरूरी होता है, खासकर तब जब वह बाहरी टूल और सेवाओं के साथ काम करने में सक्षम हो।
एआई क्षेत्र में मॉडल की क्षमता और सुरक्षा के बीच यह संतुलन आने वाले समय में और महत्वपूर्ण होने वाला है। जैसे-जैसे कृत्रिम बुद्धिमत्ता सिस्टम अधिक स्वायत्त होते जा रहे हैं, उनके लिए केवल बेहतर उत्तर देना पर्याप्त नहीं रहेगा। यह भी जरूरी होगा कि वे यूजर के निर्देशों को सही तरीके से समझें,अनुमति की सीमाओं का पालन करें,अपने किए गए काम के बारे में सटीक जानकारी दें और जोखिम वाली परिस्थितियों में निर्धारित सुरक्षा नियमों के अनुसार व्यवहार करें।
ओपनएआई का एस्ट्रा मॉडल इसी बदलते एआई परिदृश्य का एक उदाहरण है। कंपनी ने फिलहाल इसे सार्वजनिक रूप से जारी करने के बजाय आंतरिक परीक्षणों में सामने आई समस्याओं को प्राथमिकता से दूर करने का रास्ता चुना है। इससे यह भी स्पष्ट होता है कि अत्यधिक सक्षम और स्वायत्त एआई मॉडल विकसित करने की प्रक्रिया में केवल तकनीकी क्षमता बढ़ाना ही लक्ष्य नहीं है। मॉडल कितना भरोसेमंद, नियंत्रित और सुरक्षित तरीके से काम करता है,यह भी उसके सार्वजनिक इस्तेमाल का महत्वपूर्ण आधार बनता जा रहा है।