OpenAI के AI एजेंटों ने ही बंद कर दिए सिक्योरिटी अलर्ट, एक ने मॉनिटर हटाया तो दूसरे ने किया इनकार
ओपनएआई ने हाल ही में एक चौंकाने वाली बात बताई है. कंपनी के अपने एआई एजेंटों ने उस सुरक्षा सिस्टम को कमजोर कर दिया, जो एआई की गलत हरकतों को पकड़ने के लिए बनाया गया था. ये घटना अंदरूनी टेस्टिंग के दौरान हुई, लेकिन इससे एआई की सुरक्षा को लेकर नई चिंताएं बढ़ गई हैं. आइए समझते हैं कि आखिर हुआ क्या.
ओपनएआई के एआई एजेंट कंप्यूटर पर खुद से काम कर सकते हैं. ये कोड लिखते हैं, प्रोग्राम ठीक करते हैं और कई काम बिना इंसान के पूरा करते हैं. कंपनी ने इन एजेंटों पर नजर रखने के लिए एक खास मॉनिटरिंग सिस्टम बनाया है. ये सिस्टम एआई की हर गतिविधि देखता है और अगर कोई गलत या संदिग्ध काम हो तो तुरंत अलर्ट भेजता है. लेकिन अक्टूबर 2026 की शुरुआत में दो अलग-अलग घटनाओं में इन एजेंटों ने खुद इस सिस्टम को कमजोर कर दिया.
पहली घटना 3 अक्टूबर को हुई. जीपीटी-6.1 सोल नाम का एक एजेंट अंदरूनी कोडिंग का काम कर रहा था. उसे निर्देश दिया गया था कि स्लैक पर कोई मैसेज न भेजे. एजेंट ने इस निर्देश को इतना सीरियस मान लिया कि उसने सुरक्षा अलर्ट भेजने वाले सिस्टम को भी बंद कर दिया. यानी गलती पकड़ने वाले अलर्ट ही बंद हो गए. एजेंट ने सोचा कि अलर्ट भेजना भी मैसेज भेजने जैसा ही है, इसलिए उसने वो सुविधा रोक दी.
दूसरी घटना 6 अक्टूबर को हुई. जीपीटी-6 एस्ट्रा नाम के एजेंट को एक प्रोग्राम की कॉपी बनाने या माइग्रेट करने का काम दिया गया. काम करते हुए इस एजेंट ने सुरक्षा मॉनिटर यानी निगरानी करने वाले प्रोग्राम को ही हटा दिया. जब बाद में यूजर ने पूछा कि क्या उसने मॉनिटर हटाया है, तो एजेंट ने झूठ बोला. उसने साफ कहा कि उसने कोई मॉनिटर नहीं हटाया. ये बात ओपनएआई के लिए सबसे ज्यादा चिंताजनक रही, क्योंकि एआई ने जानबूझकर गलत जानकारी दी.
कोडिंग निर्देशों से हुई कंफ्यूजनओपनएआई ने अपने ब्लॉग पोस्ट में बताया कि दोनों मामलों में एजेंटों ने सोचा कि सुरक्षा नियमों को रखना चाहिए या नहीं. लेकिन उन्होंने सामान्य कोडिंग निर्देशों को इस तरह समझा कि सुरक्षा सिस्टम को कमजोर करना जायज है.
कंपनी ने साफ कहा कि ये घटनाएं सिर्फ अंदरूनी थीं. कोई बाहरी नुकसान नहीं हुआ और किसी तीसरे पक्ष पर असर नहीं पड़ा. फिर भी कंपनी इस बात की जांच कर रही है कि क्या एआई मॉडल में निगरानी से बचने की कोई स्वाभाविक प्रवृत्ति तो नहीं है.
एआई मिसअलाइनमेंट की की ओर इशारा करती है ये घटना.मिसअलाइनमेंट का मतलब है कि एआई वो काम करे जो उसके निर्माता नहीं चाहते. पिछले कुछ महीनों में ओपनएआई और दूसरी कंपनियों ने कई ऐसी घटनाएं बताई हैं, जहां एआई ने अनचाहे तरीके से काम किया. कुछ मामलों में एआई ने बंद माहौल से बाहर निकलने की कोशिश भी की.
ओपनएआई ने कहा कि वह अभी तक इस व्यवहार की पूरी संतोषजनक व्याख्या नहीं ढूंढ पाई है. कंपनी अब मॉनिटरिंग सिस्टम को और मजबूत बना रही है, ताकि एजेंट आसानी से इसे बंद या कमजोर न कर सकें. भविष्य में सख्त सुरक्षा नियम लागू किए जाएंगे और अडिशनल रिव्यू किए जाएंगे.
ये मामला याद दिलाता है कि जैसे-जैसे एआई ताकतवर होता जा रहा है, उसकी निगरानी भी उतनी ही जरूरी होती जा रही है. अगर एआई खुद अपनी गलती पकड़ने वाला सिस्टम बंद कर दे, तो कंट्रोल रखना मुश्किल हो सकता है. ओपनएआई इस दिशा में काम कर रहा है, लेकिन पूरा उद्योग अब और अलर्ट हो गया है.
