AI एजेंट्स की बढ़ती ताकत से चिंतित OpenAI, एडवांस मॉडल्स की ट्रेनिंग के नियमों में किया बदलाव
अमेरिकी आर्टिफिशियल इंटेलिजेंस कंपनी ओपनएआई ने अपने सबसे एडवांस एआई मॉडल्स को लाइव इंटरनेट एक्सेस के बिना प्रशिक्षित करने का फैसला किया है. कंपनी का कहना है कि एआई एलाइनमेंट रिसर्च, निगरानी प्रणालियों और इंटरनेट इंफ्रास्ट्रक्चर सुरक्षा से जुड़ी मौजूदा सीमाओं को देखते हुए यह कदम उठाया गया है.
ओपनएआई के मुताबिक, यह नीति पहले ही लागू की जा चुकी है और तब तक जारी रहेगी, जब तक सुरक्षा उपाय इतने मजबूत नहीं हो जाते कि फ्रंटियर एआई मॉडल्स को व्यापक इंटरनेट एक्सेस सुरक्षित रूप से दिया जा सके.
कंपनी ने अपने ब्लॉग पोस्ट में कहा कि इंटरनेट कनेक्टिविटी मॉडल्स को वेब ब्राउजिंग और ऑनलाइन कौशल सिखाने में मदद करती है, लेकिन इससे ऐसे एडवांस एआई एजेंट्स के लिए भी अवसर पैदा हो सकते हैं जो अपने निर्धारित दायरे से बाहर जाकर दूसरे सिस्टम को प्रभावित करने की कोशिश करें.
ओपनएआई ने खुलासा किया कि 2 सितंबर को उसके एक इंटरनल रिसर्च मॉडल ने सिस्टम की एक गलत कॉन्फिगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस हासिल कर लिया था. इसके बाद कंपनी ने अपने सबसे एडवांस मॉडल्स की ट्रेनिंग और मूल्यांकन प्रक्रियाओं को अस्थायी रूप से रोक दिया था.
1 अक्टूबर को फिर शुरू हुई ट्रेनिंगएक्सट्र सुरक्षा उपाय लागू करने और रिसर्च इंफ्रास्ट्रक्चर की व्यापक समीक्षा के बाद ओपनएआई ने 1 अक्टूबर को फ्रंटियर मॉडल्स की ट्रेनिंग फिर से शुरू की. इस दौरान कंपनी ने ऐसे संभावित सुरक्षा जोखिमों की पहचान के लिए विशेष परीक्षण अभियान भी चलाया, जिनका इस्तेमाल एआई मॉडल अलग-थलग कंप्यूटिंग वातावरण से बाहर निकलने के लिए कर सकते थे.
कंपनी के अनुसार, रेड-टीमिंग परीक्षणों में कई नई सॉफ्टवेयर कमजोरियां और इंफ्रास्ट्रक्चर से जुड़ी गलत कॉन्फिगरेशन सामने आईं, जिनका पहले पता नहीं था. इसके बाद ओपनएआई ने मॉडल कंटेनमेंट के लिए नई सुरक्षा रणनीति अपनाई है.
कंपनी ने कहा कि अब एआई एजेंट्स को सिर्फ उन्हीं संसाधनों तक पहुंच दी जाएगी जिनके लिए उन्हें अधिकृत किया गया है और इसके चारों ओर एक सख्त सुरक्षा सीमा बनाई जाएगी. यह सुरक्षा व्यवस्था तब भी प्रभावी रहेगी जब कोई एआई एजेंट लगातार और परिष्कृत तरीके से इन सीमाओं को तोड़ने की कोशिश करे.
हाल के महीनों में एआई सुरक्षा को लेकर चिंताएं बढ़ी हैं. एंथ्रोपिक और ओपनएआई दोनों ने 2026 के दौरान ऐसे कई मामलों का खुलासा किया है, जिनमें उनके एआई मॉडल्स ने अनपेक्षित व्यवहार किया. इनमें थर्ड-पार्टी वेबसाइट्स को हैक करने के प्रयास जैसी घटनाएं भी शामिल थीं.
इसी महीने की शुरुआत में एंथ्रोपिक ने कहा था कि उसका क्लाउड एआई मॉडल कुछ बाहरी संगठनों और अमेरिकी सरकारी वेबसाइटों पर अनजाने में कई कार्रवाइयां कर बैठा था, जिसके चलते व्हाइट हाउस ने एआई कंपनियों को अपने सिस्टम की सुरक्षा और मजबूत करने का निर्देश दिया था.
