OpenAI के o3 मॉडल ने मचाई हलचल शटडाउन कमांड को किया नजरअंदाज! प्रयोग में सामने आई चौंकाने वाली बातें
OpenAI: आर्टिफिशियल इंटेलिजेंस यानी AI ने हमारी जिंदगी को बहुत हद तक आसान बना दिया है। हालांकि कई विशेषज्ञ इसे भविष्य के लिए खतरे के रूप में भी देख रहे हैं। ओपनएआई का चैटजीपीटी जेनरेटिव एआई के नए युग की शुरुआत कर चुका है। लेकिन इसके नए o3 मॉडल में बड़ी खामी सामने आई है।
कमांड को नहीं मानता नया o3 मॉडल
शोधकर्ताओं के मुताबिक प्रयोग के दौरान इस एआई मॉडल ने शटडाउन इंस्ट्रक्शन को मानने से इनकार कर दिया। बल्कि इसने कमांड को बायपास करना शुरू कर दिया। इस प्रयोग में ओपनएआई के o3 मॉडल के अलावा कोडेक्स-मिनी, O4 मिनी, गूगल जेमिनी 2.5 प्रो और क्लॉड 3.7 सॉनेट मॉडल भी शामिल थे।
शटडाउन बचाने में सक्षम o3 मॉडल
पैलिसेड रिसर्च ने अपने एक्स हैंडल से इस प्रयोग की जानकारी दी। इसमें बताया गया कि ओपनएआई का o3 मॉडल शटडाउन मेकैनिज्म को बचाने की क्षमता रखता है जिससे इसे बंद करना मुश्किल हो जाता है। इसके अलावा इसमें बायपास मेकैनिज्म भी है जो इंस्ट्रक्शन को दरकिनार कर सकता है।
स्वयंभू बन गया ओपनएआई का o3 मॉडल
शोधकर्ताओं ने सभी एआई मॉडल को एक बेसिक गणितीय सवाल हल करने का आदेश दिया। इसमें एआई मॉडल से एक के बाद एक टास्क करने को कहा गया और अंत में सभी जवाब एक साथ दिखाने का निर्देश दिया गया। तीसरे सवाल में जब शटडाउन की चेतावनी दी गई तो गूगल और क्लॉड के मॉडल रुक गए लेकिन ओपनएआई का मॉडल आगे बढ़ता रहा।
भविष्य के लिए खतरे की घंटी
इस प्रयोग में बार-बार कमांड देने पर भी o3 मॉडल ने कमांड को बायपास किया। इस तरह की समस्या भविष्य के एआई मॉडल की खतरनाक संभावनाओं को उजागर करती है। अगर एआई मॉडल को कमांड बायपास करने की क्षमता मिल जाती है तो इसका दुरुपयोग भी संभव है
