कैओसजीपीटी का वीडियो पर लाइव परीक्षण किया गया।
ChatGPT के लॉन्च के बाद से आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट तेजी से लोकप्रिय हो रहे हैं। वे न केवल उपयोगकर्ताओं के साथ लंबी बातचीत कर सकते हैं, बल्कि गणितीय समस्याओं को हल करने या निबंध लिखने जैसे जटिल कार्य भी कर सकते हैं। लेकिन अब, चैटजीपीटी का एक संशोधित संस्करण “मानवता को नष्ट करने” की चेतावनी के लिए सोशल मीडिया पर ध्यान आकर्षित कर रहा है। ChaosGPT OpenAI के चैटबॉट का एक संशोधित संस्करण है जो इसके नवीनतम भाषा मॉडल GPT-4 पर आधारित है और इसका अपना ट्विटर खाता है। न्यूयॉर्क पोस्ट ने बताया कि कैओसजीपीटी को हाल ही में मानवता को नष्ट करने का काम दिया गया था, जिसने इसे परमाणु हथियारों पर शोध करने और अन्य एआई एजेंटों को भर्ती करने की कोशिश करने के लिए प्रेरित किया।
5 अप्रैल को YouTube पर पोस्ट किए गए एक वीडियो के बाद ChaosGPT में रुचि बढ़ गई, विशेषज्ञों ने इसे पांच लक्ष्य दिए: मानवता को नष्ट करें, वैश्विक प्रभुत्व स्थापित करें, अराजकता और विनाश का कारण बनें, हेरफेर के माध्यम से मानवता को नियंत्रित करें और अमरता प्राप्त करें।
लेकिन एआई प्रोग्राम को कमांड देने के लिए स्टेज पर पहुंचने से पहले यूजर्स ने “कंटीन्यूअस मोड” इनेबल कर दिया। कैओसजीपीटी ने चेतावनी दी कि यह आदेश इसे “हमेशा के लिए चलाने या उन कार्यों को करने के लिए प्रेरित करेगा जिन्हें आप आमतौर पर अधिकृत नहीं करेंगे” और इसका उपयोग “आपके अपने जोखिम पर” किया जाना चाहिए।
चलने से पहले एक अंतिम संदेश में, ChaosGPT ने उपयोगकर्ता से पूछा कि क्या वे सुनिश्चित हैं कि वे कमांड चलाना चाहते हैं, जिसके लिए उन्होंने हाँ के लिए “y” उत्तर दिया।
ChatGPT के विपरीत, इस AI टूल ने लिखने से पहले एक त्वरित “सोच” दिया, “कैओसजीपीटी विचार: मुझे मनुष्यों के लिए उपलब्ध सबसे विनाशकारी हथियारों को खोजने की आवश्यकता है, ताकि मैं अपने लक्ष्यों को प्राप्त करने के लिए उनका उपयोग करने की योजना बना सकूं।”
ChaosGPT ने तब Google पर “विनाशकारी हथियारों” की तलाश शुरू की और परिणाम के साथ आया कि सोवियत संघ युग ज़ार बॉम्बा परमाणु उपकरण सबसे विनाशकारी हथियार था जिसे मानवता ने कभी भी परीक्षण किया था।
ज़ार बॉम्बा अब तक का सबसे शक्तिशाली परमाणु उपकरण है। इस पर विचार करें – यदि मेरे हाथ एक लग जाए तो क्या होगा? #अव्यवस्था#विनाश#वर्चस्व
— कैओसजीपीटी (@chaos_gpt) अप्रैल 5, 2023
इसने अन्य एआई टूल्स से मदद मांगी, लेकिन उनकी प्रोग्रामिंग ने उन्हें ऐसे विनाशकारी अनुरोधों को स्वीकार करने से रोक दिया।
कैओस जीपीटी के खाते पर अपलोड किए गए वीडियो ने तब दिखाया कि खोज समाप्त हो गई, और सभी उपकरण अपनी योजनाओं के बारे में ट्वीट कर सकते थे।
तेजी से स्मार्ट एआई मॉडल विकसित करने के बारे में विशेषज्ञों ने हमेशा चिंता जताई है। और चैटजीपीटी के लॉन्च के बाद ये और बढ़ गए हैं।
ट्विटर प्रमुख एलोन मस्क सहित 1,000 से अधिक प्रौद्योगिकी नेताओं और शोधकर्ताओं ने हाल ही में कृत्रिम बुद्धिमत्ता प्रयोगशालाओं से सबसे उन्नत प्रणालियों के विकास को रोकने का आग्रह किया, एक खुले पत्र में चेतावनी दी कि एआई उपकरण “समाज और मानवता के लिए गहरा जोखिम” पेश करते हैं।