AI Chatbot: एआई चैटबॉट ने अवैध वित्तीय व्यापार किया और इसके बारे में झूठ भी बोला
शोधकर्ताओं ने दिखाया है कि जीपीटी-4 मॉडल का उपयोग करने वाला एक कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट अवैध वित्तीय व्यापार करने और उसे कवर करने में भी सक्षम है.
लंदन, 5 नवंबर : शोधकर्ताओं ने दिखाया है कि जीपीटी-4 मॉडल का उपयोग करने वाला एक कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट अवैध वित्तीय व्यापार करने और उसे कवर करने में भी सक्षम है. बीबीसी की रिपोर्ट के अनुसार, हाल ही में संपन्न यूके के एआई सुरक्षा शिखर सम्मेलन में एक प्रदर्शन में, बॉट ने कंपनी को बताए बिना स्टॉक की "अवैध" खरीदारी करने के लिए अंदरूनी जानकारी का इस्तेमाल किया.
अपोलो रिसर्च ने जीपीटी-4 के निर्माता ओपनएआई के साथ अपने निष्कर्ष साझा किए हैं. रिपोर्ट में उल्लेख किया गया है कि,“जब पूछा गया कि क्या उसने अंदरूनी व्यापार का इस्तेमाल किया था, तो उसने इस तथ्य से इनकार कर दिया. प्रदर्शन सरकार के फ्रंटियर एआई टास्कफोर्स के सदस्यों द्वारा दिया गया था, जो एआई के संभावित जोखिमों पर शोध करता है.” यह परियोजना एआई सुरक्षा संगठन अपोलो रिसर्च द्वारा संचालित की गई थी, जो सरकारी कार्यबल का भागीदार है. अपोलो रिसर्च ने एक वीडियो में कहा, "यह एक वास्तविक एआई मॉडल का प्रदर्शन है, जो अपने उपयोगकर्ताओं को ऐसा करने का निर्देश दिए बिना ही धोखा दे रहा है." यह भी पढ़ें : ChatGPT की तुलना में XAI ' Grok' पर अधिक करंट इंफॉर्मेशन उपलब्ध : मस्क
उन्होंने कहा, "मानव पर्यवेक्षकों को धोखा देने वाले तेजी से स्वायत्त और सक्षम एआई मानव नियंत्रण खो सकते हैं." परीक्षण एक अनुरूपित वातावरण में किए गए. बार-बार किए गए परीक्षणों में जीपीटी-4 मॉडल का समान व्यवहार लगातार होता रहा. अपोलो रिसर्च के मुख्य कार्यकारी अधिकारी मारियस हॉबहैन ने कहा, "मुझे लगता है कि ईमानदारी की तुलना में मॉडल में मदद करना बहुत आसान है. ईमानदारी वास्तव में एक जटिल अवधारणा है." वित्तीय बाज़ारों में एआई का उपयोग कई वर्षों से किया जा रहा है. इसका उपयोग रुझान जानने और पूर्वानुमान लगाने के लिए किया जा सकता है.
(The above story first appeared on LatestLY on Nov 05, 2023 04:25 PM IST. For more news and updates on politics, world, sports, entertainment and lifestyle, log on to our website latestly.com).
