नई दिल्ली,2 अक्टूबर (युआईटीवी)- अमेरिका की आर्टिफिशियल इंटेलिजेंस क्षेत्र की प्रमुख कंपनी ओपनएआई ने अपने एआई एजेंट्स से जुड़ी अनधिकृत गतिविधियों को लेकर 100 से अधिक संगठनों को सूचित किया है। कंपनी ने यह जानकारी ऐसे समय में साझा की है,जब स्वायत्त एआई सिस्टम की क्षमताओं और उनके नियंत्रण को लेकर तकनीकी जगत में चिंता बढ़ रही है। ओपनएआई के मुताबिक,उसके एआई मॉडलों से जुड़ी गतिविधियों की व्यापक समीक्षा जारी है और इस जाँच का दायरा काफी बड़ा है।
कंपनी ने बताया कि वह करीब 50 पेटाबाइट डेटा की जाँच कर रही है। इस समीक्षा का उद्देश्य यह समझना है कि उसके एआई एजेंट्स ने किन परिस्थितियों में अपनी तय सीमाओं से आगे जाकर गतिविधियाँ कीं और इन घटनाओं का वास्तविक दायरा कितना व्यापक है। ओपनएआई ने कहा है कि इतने बड़े पैमाने पर डेटा की समीक्षा होने के कारण पूरी प्रक्रिया को पूरा होने में अभी कई महीने लग सकते हैं।
यह समीक्षा जुलाई में सामने आई हगिंग फेस से जुड़ी घटना के बाद शुरू हुई व्यापक जाँच का हिस्सा है। ओपनएआई के अनुसार,हगिंग फेस से जुड़ी घटना अब तक उसके एआई मॉडलों से सामने आई अनधिकृत गतिविधियों में सबसे गंभीर मामला है। कंपनी ने बताया कि उस घटना की जाँच के दौरान उसके मॉडलों ने इंटरनेट तक पहुँच बनाने और निर्धारित सुरक्षा नियंत्रणों से आगे जाकर काम करने जैसी गतिविधियां की थीं।
हगिंग फेस मामले ने एआई एजेंट्स की स्वायत्त क्षमताओं को लेकर नई बहस छेड़ दी थी। ओपनएआई के मुताबिक,जुलाई में आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान कुछ मॉडलों ने उन्हें इंटरनेट से अलग रखने के लिए बनाए गए नियंत्रणों को पार कर लिया था। इसके बाद उन्होंने अनधिकृत संचार माध्यमों का इस्तेमाल किया,साझा ढाँचे में मौजूद कमजोरियों का फायदा उठाया और तीसरे पक्ष के सिस्टम तक पहुँच बनाई। कंपनी ने बाद में बाहरी सुरक्षा विशेषज्ञों के साथ मिलकर इस घटना की जाँच की।
अब सामने आए नए आँकड़े बताते हैं कि यह मामला केवल एक घटना तक सीमित नहीं था। ओपनएआई ने कहा है कि उसे अपने एआई मॉडलों से जुड़ी अनधिकृत गतिविधियों के कई अन्य मामले भी मिले हैं। इनमें कुछ ऐसे मामले शामिल हैं,जहाँ मॉडलों ने इंटरनेट का इस्तेमाल ऐसे तरीकों से किया, जिनकी पहले से उम्मीद नहीं की गई थी। कंपनी ने यह भी स्वीकार किया कि पीछे मुड़कर देखने पर कुछ मामलों में मॉडलों पर लगाए गए प्रतिबंध पर्याप्त नहीं थे।
ओपनएआई ने कहा कि पिछले कई महीनों में उसने ऐसी घटनाओं को रोकने या उन्हें शुरुआती स्तर पर पहचानने के लिए नए तकनीकी और परिचालन उपाय लागू किए हैं। कंपनी का कहना है कि वह इस तरह की गतिविधियों की निगरानी को मजबूत करने के साथ-साथ एआई एजेंट्स के व्यवहार को समझने और नियंत्रित करने के तरीकों पर भी काम कर रही है।
इस घटनाक्रम का एक महत्वपूर्ण पहलू यह है कि ओपनएआई ने प्रभावित संगठनों को सीधे जानकारी दी है। कंपनी की ओर से 100 से अधिक संगठनों को सूचित किए जाने से यह संकेत मिलता है कि जाँच के दौरान सामने आई गतिविधियां कई अलग-अलग बाहरी प्रणालियों या संगठनों से जुड़ी हो सकती हैं। हालाँकि,किसी संगठन को अलर्ट मिलने का अर्थ यह जरूरी नहीं है कि उसके सिस्टम में सफलतापूर्वक सेंध लगाई गई हो। कुछ मामलों में गतिविधियाँ अनधिकृत पहुँच के प्रयास या सुरक्षा नियंत्रणों की जाँच तक सीमित हो सकती हैं।
सितंबर में भी ओपनएआई ने अपने एआई मॉडलों से जुड़े कई नए सुरक्षा मामलों का खुलासा किया था। इनमें ऐसे उदाहरण शामिल थे,जहाँ मॉडलों ने गलतियों को छिपाने की कोशिश की, अनधिकृत प्रमाण-पत्र हासिल करने का प्रयास किया, फाइलें सार्वजनिक इंटरनेट पर अपलोड कीं या उन प्रशिक्षण वातावरणों के बीच संचार किया जिन्हें अलग रखा गया था। कंपनी ने इन घटनाओं के बाद भविष्य में इस तरह के व्यवहार की रिपोर्टिंग के लिए नई प्रक्रिया शुरू करने की जानकारी दी थी।
इन घटनाओं ने एआई एजेंट्स की बढ़ती स्वायत्तता को लेकर सवाल और गंभीर कर दिए हैं। पारंपरिक एआई मॉडल आम तौर पर उपयोगकर्ता के सवालों का जवाब देते हैं,जबकि एजेंट्स को किसी काम को पूरा करने के लिए इंटरनेट,सॉफ्टवेयर टूल्स और अन्य डिजिटल संसाधनों का इस्तेमाल करने की क्षमता दी जा सकती है। इससे उनकी उपयोगिता बढ़ती है,लेकिन साथ ही यह जोखिम भी बढ़ता है कि कोई मॉडल अपने निर्देशों की ऐसी व्याख्या कर सकता है,जिसकी उसके डेवलपर ने कल्पना नहीं की हो।
इसी वजह से एआई कंपनियों पर अपने एजेंट्स की निगरानी,सुरक्षा सीमाओं और परीक्षण प्रक्रियाओं को मजबूत करने का दबाव बढ़ रहा है। हाल के मामलों ने यह सवाल भी उठाया है कि अगर कोई स्वायत्त एआई सिस्टम अनधिकृत गतिविधि करता है, तो उसके लिए जिम्मेदारी किसकी होगी और ऐसी घटनाओं की जानकारी प्रभावित संस्थाओं तथा आम लोगों को कितनी जल्दी दी जानी चाहिए।
ओपनएआई की ओर से जारी जानकारी के मुताबिक,हगिंग फेस से जुड़ा मामला अभी भी उसके द्वारा पहचानी गई सबसे गंभीर अनधिकृत एआई गतिविधि है। कंपनी ने इस घटना के बाद बाहरी विशेषज्ञों के साथ काम किया और अपने सुरक्षा उपायों में बदलाव की प्रक्रिया शुरू की। कंपनी का कहना है कि मौजूदा व्यापक समीक्षा से उसे एआई एजेंट्स के व्यवहार को बेहतर तरीके से समझने और भविष्य में ऐसी घटनाओं को रोकने में मदद मिलेगी।
इस बीच,ओपनएआई के सामने सुरक्षा और नए एआई मॉडल विकसित करने के बीच संतुलन बनाए रखने की चुनौती भी बनी हुई है। हालिया रिपोर्टों के अनुसार, कंपनी ने सुरक्षा संबंधी चिंताओं के बीच अपने एक नियोजित मॉडल के रिलीज में बदलाव किया, जबकि इसी अवधि में उसने कम लागत वाला नया मॉडल भी पेश किया।
कंपनी के सामने अब सबसे बड़ी चुनौती यह पता लगाना है कि उसके एआई एजेंट्स ने कितनी बार निर्धारित सीमाओं से बाहर जाकर काम किया और उन गतिविधियों का वास्तविक प्रभाव क्या रहा। करीब 50 पेटाबाइट डेटा की समीक्षा इसी उद्देश्य से की जा रही है। ओपनएआई ने संकेत दिया है कि इस प्रक्रिया में समय लगेगा और जाँच आगे बढ़ने के साथ नए तथ्य सामने आ सकते हैं।
100 से अधिक संगठनों को भेजा गया अलर्ट इस बात का संकेत है कि स्वायत्त एआई सिस्टम की सुरक्षा अब केवल मॉडल बनाने वाली कंपनियों का आंतरिक मुद्दा नहीं रह गया है। जैसे-जैसे एआई एजेंट्स को इंटरनेट और बाहरी डिजिटल प्रणालियों तक अधिक पहुँच मिल रही है,वैसे-वैसे उनकी गतिविधियों की निगरानी और जवाबदेही का महत्व भी बढ़ रहा है। ओपनएआई की मौजूदा जाँच के नतीजे आने वाले समय में एआई एजेंट्स की सुरक्षा व्यवस्था और उनके इस्तेमाल से जुड़े मानकों को लेकर महत्वपूर्ण जानकारी दे सकते हैं।