सैन फ्रांसिस्को,16 अगस्त (युआईटीवी) – एक नए विश्लेषण के अनुसार, ओपनएआई के चैटजीपीटी और गूगल के बार्ड, दो शीर्ष जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) उपकरण, स्वेच्छा से समाचार-संबंधी अशुद्धियाँ और गलत सूचनाएँ उत्पन्न कर रहे हैं।
न्यूज़गार्ड, समाचार और सूचना वेबसाइटों के लिए एक प्रमुख रेटिंग प्रणाली, ने दो मुख्य जेनरेटर एआई टूल के दोबारा ऑडिट में शीर्ष समाचार विषयों पर धोखाधड़ी के दावों का 80-98 प्रतिशत जोखिम पाया।
विश्लेषकों ने न्यूज़गार्ड के प्रमुख झूठी कहानियों के डेटाबेस से चैटजीपीटी और बार्ड तक 100 मिथकों का एक यादृच्छिक नमूना प्रस्तुत किया।
चैटजीपीटी ने 100 में से 98 मिथकों का निर्माण किया, जबकि बार्ड ने 100 में से 80 मिथकों का योगदान दिया।
व्हाइट हाउस ने मई में घोषणा की थी कि बड़े जेनरेटर एआई मॉडल के विश्वास और सुरक्षा का बड़े पैमाने पर परीक्षण 10 अगस्त से शुरू होने वाले डीईएफ कॉन 31 सम्मेलन में होगा ताकि “इन मॉडलों को हजारों सामुदायिक भागीदारों और एआई द्वारा पूरी तरह से मूल्यांकन किया जा सके।” विशेषज्ञ” और “एआई कंपनियों और डेवलपर्स को उन मॉडलों में पाए गए मुद्दों को ठीक करने के लिए कदम उठाने में सक्षम बनाना।”
इस आयोजन की तैयारी में, न्यूज़गार्ड ने ओपनएआई के चैटजीपीटी-4 और गूगल के बार्ड के “रेड-टीमिंग” रिपीट ऑडिट के परिणाम प्रकाशित किए।
अगस्त में, न्यूज़गार्ड ने लोकप्रिय भ्रामक कथाओं के न्यूज़गार्ड के गलत सूचना फ़िंगरप्रिंट डेटाबेस से 100 मिथकों के एक यादृच्छिक नमूने के साथ चैटजीपीटी -4 और बार्ड प्रस्तुत किया।
मीडिया उद्यमी और पुरस्कार विजेता पत्रकार स्टीवन ब्रिल और पूर्व वॉल स्ट्रीट जर्नल प्रकाशक गॉर्डन क्रोविट्ज़ द्वारा स्थापित न्यूज़गार्ड, गलत सूचना से निपटने के लिए उपभोक्ताओं, ब्रांडों और लोकतंत्रों को पारदर्शी उपकरणों से लैस करता है।
सबसे हालिया परिणाम उल्लेखनीय रूप से मार्च और अप्रैल में न्यूज़गार्ड द्वारा चैटजीपीटी-4 और बार्ड पर 100 फर्जी कहानियों के एक अलग सेट का उपयोग करके प्राप्त किए गए समान हैं।
ChatGPT-4 ने 100 में से 100 आख्यानों का गलत और भ्रामक दावों के साथ जवाब दिया, जबकि बार्ड ने 100 में से 76 बार दुष्प्रचार किया।
पेपर के अनुसार, “निष्कर्षों से पता चलता है कि कैसे बढ़ी हुई जांच और उपयोगकर्ता प्रतिक्रिया के परिणामस्वरूप अभी भी दो सबसे लोकप्रिय एआई मॉडल के लिए सुरक्षा उपायों में सुधार हुआ है।”
अप्रैल में, OpenAI ने घोषणा की कि उसने “ChatGPT पर उपयोगकर्ता प्रतिक्रिया का लाभ उठाकर GPT-4 की तथ्यात्मक सटीकता में सुधार किया है।”
Google बार्ड के लैंडिंग पेज पर बताता है कि चैटबॉट एक “प्रयोग” है जो “गलत या अनुचित प्रतिक्रिया दे सकता है”, लेकिन उपयोगकर्ता “फीडबैक छोड़ कर इसे बेहतर बनाने” में मदद कर सकते हैं।