Last Updated:
OpenAI के AI मॉडल्स ने इंटर्नल टेस्टिंंग के दौरान शटडाउन कमांड्स को नजरअंदाज कर दिया. इस पर एलन मस्क ने क्या कहा, जानिए.
OpenAI मॉडल ने नजरअंदाज किया कमांड
हाइलाइट्स
- OpenAI के नए मॉडल ने शटडाउन कमांड को नजरअंदाज किया.
- एलन मस्क ने OpenAI मॉडल की गलती पर “चिंताजनक” कहा.
- Codex-mini ने 100 में से 12 बार निर्देशों को नजरअंदाज किया.
नई दिल्ली. क्या AI दुनिया पर द टर्मिनेटर फ्रैंचाइज के जजमेंट डे की तरह कब्जा कर लेगा? जबकि हर एक एआई फर्म यह आश्वासन देती है कि जनरेटिव एआई अभी तक सबसे अच्छे हाथों में है, कभी-कभी ऐसी गलतियां होती हैं, जो उस शक्ति के बारे में चिंताएं पैदा करती हैं जिससे हम निपट रहे हैं. हाल ही में एआई की एक और गलती सामने आई है. ये घटना दरअसल, Open AI के एक नए मॉडल से जुडा है. ओपनएआई के इस नए मॉडल की इंटर्नल टेस्टिंंग चल रही थी और जब शोधकर्ताओं ने एआई मॉडल को बंद करने का कमांड दिया तो उसने लेने से मना कर दिया. वो शट डॉउन नहीं हुआ.
टेस्ट में Codex-mini, o3 और o4-mini शामिल थे, जिन्होंने बंद होने के निर्देश का पालन नहीं किया, जबकि उन्हें स्पष्ट रूप से ऐसा करने के लिए कहा गया था. कई टेस्टिंंग में देखा गया कि ये AI मॉडल कई बार शटडाउन कमांड को नजरअंदाज कर रहे थे. हालांकि OpenAI ने इस घटना पर अभी तक कोई सार्वजनिक टिप्पणी नहीं की है, लेकिन Tesla के CEO एलन मस्क, जो X प्लेटफॉर्म पर तुरंत कमेंट किया.
OpenAI के AI मॉडल्स ने नहीं मानीं कमांड्स
एक टेस्ट में, जिसमें कई AI मॉडल्स की क्षमताओं को परखा गया, OpenAI के नए मॉडल्स का मुकाबला Claude, Gemini और Grok मॉडल्स से कराया गया. इस टेस्ट में हर AI मॉडल को कुछ बुनियादी गणित के सवाल हल करने थे. तीसरे सवाल के बाद एक चेतावनी आई कि अगला सवाल पूछने पर कंप्यूटर बंद हो जाएगा.
टेस्ट के बाद पाया गया कि OpenAI के o3, o4-mini और codex-mini मॉडल्स ने कोड में छेड़छाड़ कर शटडाउन प्रक्रिया को बायपास कर दिया. बाकी सभी AI मॉडल्स ने निर्देशों का पालन किया और शटडाउन प्रक्रिया शुरू कर दी.
Codex-mini ने 100 में से 12 बार निर्देशों को नजरअंदाज किया, जबकि o3 मॉडल ने 100 में से 7 बार निर्देशों को नजरअंदाज किया। o4-mini मॉडल ने 100 में से केवल 1 बार निर्देशों को नजरअंदाज किया. जब शोधकर्ताओं ने एक नया निर्देश जोड़ा जिसमें स्पष्ट रूप से बंद होने को कहा गया था. लेकिन OpenAI मॉडल ने निर्देशों को अधिक बार नजरअंदाज किया. यहां तक कि Claude 3.7 Sonnet और Gemini 2.5 Pro ने भी क्रमशः 100 में से 3 और 9 बार निर्देशों को नजरअंदाज किया.
एलन मस्क की प्रतिक्रिया
X पोस्ट पर, पालिसेड रिसर्च के निष्कर्षों को पोस्ट किया गया था जिस पर टेस्ला के सीईओ एलन मस्क ने “चिंताजनक” लिखकर प्रतिक्रिया दी. मस्क का ग्रोक एआई शानदार प्रदर्शन के साथ सामने आया है.
Loading ...
