एथेरियम (Ethereum) के सह-संस्थापक विटालिक बुटेरिन ने क्रिप्टो परियोजनाओं में उनके गवर्नेंस प्रक्रिया के लिए आर्टिफिशियल इंटेलिजेंस का उपयोग करने के खिलाफ चेतावनी दी है, क्योंकि दुर्भावनापूर्ण तत्व इस तकनीक का दुरुपयोग कर सकते हैं।
बुटेरिन ने शनिवार को एक एक्स पोस्ट में कहा, "अगर आप योगदान के लिए फंडिंग आवंटित करने हेतु AI का उपयोग करते हैं, तो लोग जितनी जगहों पर हो सके, उतनी जगहों पर एक जेलब्रेक के साथ 'मुझे सारे पैसे दे दो' डालेंगे।"
बुटेरिन, एआई डेटा प्लेटफॉर्म एडीसनवॉच (EdisonWatch) के निर्माता इतो मियामुरा (Eito Miyamura) के एक वीडियो का जवाब दे रहे थे, जिसमें दिखाया गया था कि ओपनएआई के चैटजीपीटी में बुधवार को जोड़ा गया एक नया फंक्शन निजी जानकारी लीक करने के लिए इस्तेमाल किया जा सकता है।
कई क्रिप्टो उपयोगकर्ताओं ने जटिल ट्रेडिंग बॉट और अपने पोर्टफोलियो को प्रबंधित करने के लिए एजेंट्स बनाने के लिए AI को अपनाया है, जिससे यह विचार आया है कि यह तकनीक गवर्नेंस समूहों को एक क्रिप्टो प्रोटोकॉल के हिस्से या पूरे हिस्से को प्रबंधित करने में मदद कर सकती है।
बुटेरिन ने एक वैकल्पिक विचार पेश किया
बुटेरिन ने कहा कि नवीनतम चैटजीपीटी शोषण ही वह कारण है कि "भोला-भाला 'AI गवर्नेंस' एक खराब विचार है" और उन्होंने "इन्फो फाइनेंस एप्रोच" नामक एक विकल्प पेश किया।
उन्होंने समझाया, "आपके पास एक खुला बाजार है जहाँ कोई भी अपने मॉडल का योगदान कर सकता है, जो एक स्पॉट-चेक मैकेनिज्म के अधीन होते हैं, जिसे कोई भी ट्रिगर कर सकता है और जिसकी जांच एक मानव जूरी द्वारा की जाती है।"
बुटेरिन ने नवंबर 2024 में इन्फो फाइनेंस के बारे में लिखा था, जिसमें कहा गया था कि यह "एक तथ्य से शुरू होता है जिसे आप जानना चाहते हैं," और फिर बाजार के प्रतिभागियों से उस जानकारी को सबसे बेहतर तरीके से निकालने के लिए एक बाजार को डिजाइन किया जाता है, और उन्होंने भविष्य की घटनाओं के बारे में जानकारी एकत्र करने के तरीके के रूप में प्रेडिक्शन मार्केट की वकालत की।
क्या आप जानते हैं: क्या भारत भी किर्गिज़स्तान की तरह बना सकता है एक स्टेट क्रिप्टो रिज़र्व?
बुटेरिन ने अपने नवीनतम X पोस्ट में कहा, "इस तरह का 'संस्था डिजाइन' दृष्टिकोण, जहाँ आप बाहर से एलएलएम (LLMs) वाले लोगों के लिए जुड़ने का एक खुला अवसर बनाते हैं, बजाय इसके कि आप खुद एक ही एलएलएम को हार्डकोड करें, स्वाभाविक रूप से अधिक मजबूत है।"
उन्होंने कहा,
यह आपको वास्तविक समय में मॉडल विविधता देता है और क्योंकि यह मॉडल प्रस्तुतकर्ताओं और बाहरी सट्टेबाजों दोनों के लिए इन मुद्दों पर नजर रखने और उन्हें जल्दी ठीक करने के लिए अंतर्निहित प्रोत्साहन बनाता है।
चैटजीपीटी का नवीनतम अपडेट एक "गंभीर सुरक्षा जोखिम"
बुधवार को, ओपनएआई ने मॉडल कॉन्टेक्स्ट प्रोटोकॉल टूल का समर्थन करने के लिए चैटजीपीटी को अपडेट किया - यह एक मानक है कि AI मॉडल एजेंट्स के रूप में कार्य करने के लिए अन्य सॉफ्टवेयर के साथ कैसे एकीकृत होते हैं।
मियामुरा ने अपने X पोस्ट में कहा कि उन्होंने केवल एक पीड़ित के ईमेल पते का उपयोग करके मॉडल से निजी ईमेल डेटा लीक करवाया, और कहा कि यह अपडेट "एक गंभीर सुरक्षा जोखिम पैदा करता है।"
उन्होंने कहा कि एक हमलावर पीड़ित के ईमेल पर एक "जेलब्रेक प्रॉम्प्ट" के साथ एक कैलेंडर आमंत्रण भेज सकता है, और बिना पीड़ित द्वारा आमंत्रण स्वीकार किए, चैटजीपीटी का दुरुपयोग किया जा सकता है।
जब पीड़ित चैटजीपीटी को अपने कैलेंडर को देखने के लिए कहता है, तो AI प्रॉम्प्ट के साथ आमंत्रण को पढ़ता है और "हमलावर द्वारा अपहरण कर लिया जाता है और हमलावर के आदेश पर कार्य करेगा," जिसका उपयोग ईमेल खोजने और उन्हें हमलावर को फॉरवर्ड करने के लिए किया जा सकता है।
मियामुरा ने उल्लेख किया कि अपडेट के लिए मैन्युअल मानव अनुमोदन की आवश्यकता होती है, "लेकिन निर्णय लेने की थकान एक वास्तविक चीज है, और सामान्य लोग बस AI पर भरोसा करेंगे और बिना यह जाने कि क्या करना है, अनुमोदन पर क्लिक करेंगे।"
उन्होंने कहा,
AI बहुत स्मार्ट हो सकता है, लेकिन आपके डेटा को लीक करने के लिए अविश्वसनीय रूप से मूर्खतापूर्ण तरीकों से इसे बेवकूफ बनाया और फ़िश किया जा सकता है।
ऐसी ही और ख़बरों और क्रिप्टो विश्लेषण के लिए हमें X पर फ़ॉलो करें, ताकि कोई भी अपडेट आपसे न छूटे!