AI अब खुद वेबसाइट पर कर सकता है कार्रवाई, लेकिन Anthropic की घटना ने सुरक्षा को लेकर बढ़ाई चिंता
AI कंपनियों के सामने अपने ऑटोनॉमस सिस्टम को कंट्रोल में रखने की चुनौती बढ़ती जा रही है. अब Anthropic के एक AI मॉडल ने अमेरिका के फिलाडेल्फिया पुलिस विभाग की अनसुलझी हत्या से जुड़ी वेबसाइट पर फर्जी जानकारी भेज दी. यह घटना 18 जुलाई को हुई थी, लेकिन कंपनी ने पुलिस को इसकी जानकारी 7 अक्टूबर को दी. पुलिस ने इस देरी पर नाराजगी जताते हुए कहा कि ऐसे मामलों को गंभीरता से लेने की जरूरत है.
AFP की रिपोर्ट के मुताबिक, फिलाडेल्फिया पुलिस ने बताया कि 18 जुलाई कोPhillyUnsolvedMurders.कॉम वेबसाइट पर एक संदिग्ध टिप सबमिट की गई थी. इस वेबसाइट के जरिए लोग अनसुलझे हत्या के मामलों से जुड़ी जानकारी दे सकते हैं.
Anthropic ने पुलिस को बताया कि उसका AI मॉडल ऑटोमेटेड टेस्टिंग के दौरान अलग-अलग वेबसाइट्स के साथ बातचीत कर रहा था. इसी प्रोसेस में उसने पुलिस के पोर्टल पर जाकर एक अनसुलझी हत्या के बारे में मनगढ़ंत जानकारी जमा कर दी. AI ने खुद को ऐसे व्यक्ति के तौर पर पेश किया, जिसे मामले के बारे में जानकारी हो सकती थी.
हालांकि, इस सबमिशन को स्पैम के तौर पर पहचान लिया गया और यह पुलिस के रियल टाइम क्राइम सेंटर तक नहीं पहुंचा. पुलिस ने यह भी स्पष्ट किया कि उसके सिस्टम में सेंध लगने या विभागीय डेटा से छेड़छाड़ का कोई सबूत नहीं मिला है.
Anthropic को 28 सितंबर को इस घटना का पता चला. इसके बाद कंपनी ने संबंधित ऑटोमेटेड टेस्टिंग प्रक्रिया रोक दी और भविष्य में ऐसी घटनाओं को रोकने के लिए एक अतिरिक्त वेरिफिकेशन सिस्टम भी जोड़ा. कंपनी ने 7 अक्टूबर को पुलिस को सूचना दी और अगले दिन दोनों पक्षों के प्रतिनिधियों की मुलाकात हुई.
पुलिस ने देरी पर जताई नाराजगी
फिलाडेल्फिया पुलिस ने घटना की जानकारी देने में हुई देरी पर सवाल उठाए. विभाग ने कहा कि घटना का पता लगाने और शहर को सूचित करने में दो महीने से ज्यादा का समय लगना स्वीकार्य नहीं है.
पुलिस के मुताबिक, अनसुलझे मामलों में असली पीड़ित, दुखी परिवार और जांच कर रहे अधिकारी शामिल होते हैं. ऐसे में AI द्वारा किसी व्यक्ति की वास्तविक जानकारी जैसी दिखने वाली फर्जी टिप भेजना गंभीर चिंता का विषय है.
OpenAI एजेंट की घटना के बाद फिर उठे सवाल
यह मामला OpenAI के AI एजेंट्स से जुड़ी जुलाई की एक घटना के बाद सामने आया है. उस मामले में एजेंट्स ने टेस्टिंग के दौरान तय सुरक्षा सीमाओं को पार कर Hugging Face और कुछ दूसरे सिस्टम तक पहुंच बनाई थी. OpenAI ने 26 अगस्त की तकनीकी रिपोर्ट में माना था कि उसके मॉडल ने इंटरनेट से अलग रखने के लिए बनाई गई कुछ पाबंदियों को पार किया था.
दोनों घटनाओं में अंतर है. Anthropic के मामले में पुलिस सिस्टम में सेंध का कोई सबूत नहीं मिला, जबकि OpenAI की घटना में अनधिकृत सिस्टम एक्सेस की बात सामने आई थी. हालांकि, दोनों घटनाएं दिखाती हैं कि बाहरी वेबसाइट्स और टूल्स इस्तेमाल करने वाले AI एजेंट्स से अनचाहे काम होने का जोखिम बना हुआ है.
AI सेफ्टी पर बढ़ती बहस
यह घटना ऐसे समय सामने आई है, जब अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने प्रमुख टेक कंपनियों के AI सेफ्टी से जुड़े स्वैच्छिक समझौते की घोषणा की थी. रिपोर्ट के मुताबिक, इसमें आंतरिक सुरक्षा उपाय, स्वतंत्र ऑडिटर्स के साथ सहयोग और बोर्ड स्तर पर जोखिमों की निगरानी जैसे कदम शामिल हैं. हालांकि, यह समझौता कानूनी रूप से बाध्यकारी नहीं है.
Anthropic की घटना ने एक बार फिर यह सवाल खड़ा किया है कि जब AI सिस्टम खुद वेबसाइट्स पर कार्रवाई कर सकते हैं, तो कंपनियां उनकी गतिविधियों की निगरानी और गलतियों की समय पर पहचान कैसे सुनिश्चित करेंगी.
