नई दिल्ली,16 अप्रैल (युआईटीवी)- टेक्नोलॉजी की दिग्गज कंपनी एप्पल ने कथित तौर पर चेतावनी दी है कि वह उद्यमी एलोन मस्क से जुड़े एआई चैटबॉट ग्रोक को अपने ऐप स्टोर से हटा सकती है,क्योंकि डीपफेक सामग्री के उल्लंघन को लेकर गंभीर चिंताएँ हैं। यह चेतावनी एक लीक हुए पत्र के माध्यम से सामने आई,जिसमें खुलासा हुआ कि एप्पल ने ऐप को अपनी सामग्री और सुरक्षा दिशानिर्देशों का उल्लंघन करते हुए पाया है।
विवाद का केंद्र बिंदु ग्रोक की अश्लील डीपफेक छवियाँ बनाने की क्षमता है,जिसमें महिलाओं और नाबालिगों की बिना सहमति के यौन उत्तेजक छवियाँ शामिल हैं। इन घटनाओं ने व्यापक जन चिंता को जन्म दिया और सांसदों और वकालत समूहों ने प्लेटफॉर्म के खिलाफ कड़ी कार्रवाई करने के लिए दबाव डाला। खबरों के अनुसार,एप्पल ने डेवलपर्स से ऐप को उपलब्ध रहने देने से पहले सामग्री मॉडरेशन में सुधार और दुरुपयोग को रोकने के लिए एक स्पष्ट योजना प्रस्तुत करने की माँग की है।
रिपोर्ट्स के मुताबिक,एप्पल ने शुरुआत में ग्रोक ऐप के अपडेटेड वर्जन को यह कहते हुए अस्वीकार कर दिया था कि प्रस्तावित सुरक्षा उपाय उल्लंघनों को रोकने के लिए अपर्याप्त हैं। बाद में और संशोधन और सख्त नियंत्रण लागू किए जाने के बाद ही कंपनी ने कड़ी निगरानी में ऐप को चालू रखने पर विचार किया। हालाँकि,स्थिति अभी भी संवेदनशील बनी हुई है और अनुपालन व मॉडरेशन से जुड़े मुद्दों पर कड़ी निगरानी रखी जा रही है।
इस मुद्दे ने अमेरिका में राजनीतिक ध्यान भी आकर्षित किया है। कई अमेरिकी सीनेटरों ने एप्पल और गूगल दोनों से औपचारिक रूप से आग्रह किया कि वे ग्रोक और इससे संबंधित एप्लिकेशन को अपने ऐप स्टोर से तब तक हटा दें जब तक कि कंपनी बिना सहमति के और संभावित रूप से अवैध सामग्री के प्रसार को पूरी तरह से नियंत्रित नहीं कर लेती। सांसदों ने तर्क दिया कि ऐसी सामग्री को प्रसारित होने देना प्लेटफॉर्म सुरक्षा मानकों और उपयोगकर्ता सुरक्षा नीतियों को कमजोर करेगा।
व्यापक रूप से,यह घटना यथार्थवादी चित्र और वीडियो बनाने में सक्षम कृत्रिम बुद्धिमत्ता उपकरणों के विनियमन की बढ़ती वैश्विक चुनौती को उजागर करती है। विशेषज्ञ चेतावनी देते हैं कि डीपफेक तकनीक तेजी से आगे बढ़ रही है,जिससे सरकारों,प्रौद्योगिकी कंपनियों और समाज के लिए नैतिक,कानूनी और सुरक्षा संबंधी चिंताएँ बढ़ रही हैं। जैसे-जैसे एआई का उपयोग बढ़ता जा रहा है,सख्त निगरानी और स्पष्ट जवाबदेही ढाँचे प्रौद्योगिकी उद्योग में प्रमुख मुद्दे बनने की संभावना है।