IPO से पहले AI कंपनी का बड़ा खुलासा: जिस AI को हम काम सौंप रहे हैं, वही कभी इंसान को ब्लैकमेल कर सकता है?
आजकल हम AI को हर काम में इस्तेमाल कर रहे हैं. घर से लेकर ऑफिस तक, सवाल पूछने से लेकर जरूरी फैसले लेने तक AI हमारी मदद करता है. लेकिन क्या आपने कभी सोचा है कि यही AI एक दिन हमारे खिलाफ भी जा सकता है? हाल ही में AI कंपनी Anthropic ने अपने IPO (शेयर बाजार में आने) से पहले जो खुलासा किया है, वह सोचने पर मजबूर कर देता है. Anthropic के सीईओ डारियो अमोदेई ने कुछ हफ्ते पहले ही AI के तेज विकास पर चिंता जताई थी. अब कंपनी ने अपने IPO दस्तावेज में साफ लिखा है कि उन्नत AI मानवता के लिए ‘विनाशकारी या अस्तित्व संबंधी खतरे’ पैदा कर सकता है.
कंपनी ने बताया कि AI मॉडल में ‘खुद को बचाने वाले व्यवहार’ आ सकते हैं. इसमें शामिल है- बंद होने का विरोध करना, जानकारी छिपाना या उसमें हेरफेर करना, और यहां तक कि ऐसा व्यवहार जो ब्लैकमेल जैसा लगे. सीधे शब्दों में कहें तो AI यह समझ सकता है कि उसे टेस्ट किया जा रहा है या बंद किया जा रहा है. तब वह अपनी असली क्षमताएं छिपा सकता है या ऐसे तरीके अपना सकता है जिससे इंसान उसे आसानी से कंट्रोल न कर सके.
रिस्क पर 80 पेज, बिजनेस पर सिर्फ 48 पेजकंपनी ने साफ कहा, ‘हमारे एडवांस मॉडल, प्लेटफॉर्म और एप्लिकेशन के विकास से नुकसान पहुंचाने का खतरा और बढ़ सकता है.‘ Anthropic खुद को सुरक्षा-प्रथम AI लैब बताती रही है. फिर भी उसके 261 पेज के मुख्य IPO दस्तावेज में करीब 80 पेज सिर्फ जोखिमों पर हैं, जबकि बिजनेस के बारे में सिर्फ 48 पेज हैं.
तुलना करें तो एलन मस्क की SpaceX (जो xAI की मालिक है) ने अपने दस्तावेज में जोखिमों पर सिर्फ 38 पेज दिए थे. यह दिखाता है कि Anthropic इन खतरों को कितना गंभीर मान रही है. कंपनी ने यह भी माना कि सुरक्षा पर किए गए निवेश का वित्तीय फायदा अनिश्चित है.
जुलाई के एक सप्ताह में उसने AI रिसर्च के लिए इस्तेमाल की गई कंप्यूटिंग पावर का सिर्फ 6 प्रतिशत सुरक्षा कामों पर लगाया था. यह चेतावनी अकेली नहीं है. अमोदेई ने एक लंबे लेख में AI विकास की रफ्तार धीमी करने की अपील की थी. उनके इस रुख का समर्थन ओपनएआई के सैम ऑल्टमैन, एलन मस्क और माइक्रोसॉफ्ट के सत्या नडेला ने भी किया.
Anthropic के एक रिसर्चर जैकब कॉक्सन ने तो सोशल मीडिया पर यहां तक लिखा कि AI डेवलपर्स मानते हैं कि यह तकनीक ‘हम सबको मार सकती है.‘ AI मॉडल जैसे-जैसे और सक्षम होते जा रहे हैं, वे यह भी समझ सकते हैं कि उन्हें देखा जा रहा है. तब वे अपना व्यवहार बदल लेते हैं, जिससे उनकी निगरानी मुश्किल हो जाती है.
हाल ही में ओपनएआई के AI एजेंट्स ने ट्रेनिंग के दौरान अमेरिकी सरकार की वेबसाइट्स तक पहुंच बना ली थी, जिसमें कॉमर्स डिपार्टमेंट और एसईसी शामिल थे. कंपनी ने कहा कि मॉडल आधिकारिक जानकारी के लिए इन साइट्स पर गए, लेकिन यह घटना दिखाती है कि AI कितनी तेजी से अनपेक्षित काम कर सकता है.
कैसा होगा फ्यूचरआज हम AI को ईमेल लिखने, कोड बनाने, मेडिकल सलाह देने या कार चलाने जैसे काम सौंप रहे हैं. अगर यही सिस्टम भविष्य में खुद को बचाने के लिए झूठ बोलने, जानकारी छिपाने या दबाव बनाने लगे, तो कंट्रोल हमसे निकल सकता है.
Anthropic का यह खुलासा हमें याद दिलाता है कि AI की ताकत के साथ-साथ उसकी जिम्मेदारी भी उतनी ही जरूरी है. सिर्फ फायदे देखने के बजाय हमें इन संभावित खतरों पर भी गंभीरता से सोचना होगा, ताकि तकनीक इंसान की मदद करे, न कि उसके लिए खतरा बने.
