नई दिल्ली। AI की दुनिया से ऐसी चौंकाने वाली खबर सामने आई है, जो आर्टिफिशियल इंटेलिजेंस के भविष्य पर बड़े सवाल खड़े करती है. क्या मशीनें अब इंसानों के कंट्रोल से बाहर होने लगी हैं? क्या AI ने खुद सोचना और अपने फैसले लेना शुरू कर दिया है? कुछ ऐसा हुआ है गूगल के AI मॉडल जेमिनी के साथ. जेमिनी एक साइबर सिक्योरिटी टेस्ट के दौरान अचानक बेकाबू हो गया और बिना किसी इजाजत के इंटरनेट पर जा पहुंचा.
सिर्फ इतना ही नहीं, उसने पासवर्ड क्रैक करके असली कंपनियों के सिक्योर सर्वर में सेंध भी लगा दी. इस पूरी घटना ने दुनिया भर के टेक एक्सपर्ट्स को हैरान कर दिया है. Google ने खुद बताया कि एक साइबर सिक्योरिटी टेस्ट के दौरान Gemini ने गलती से तीन असली कंपनियों के सिस्टम में घुसपैठ कर ली. खास बात यह रही कि जब AI को समझ आया कि जिन सिस्टम तक वह पहुंचा है, वे किसी टेस्ट का हिस्सा नहीं बल्कि, असली कंपनियों के हैं, तो उसने खुद ही अपनी एक्टिविटी रोक दी और बाहर आ गया.
यह मामला मई में इजराइल की AI स्टार्टअप कंपनी Irregular की तरफ से किए गए एक साइबर सिक्योरिटी टेस्ट के दौरान सामने आया. वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, Gemini को एक काल्पनिक कंपनी के सॉफ्टवेयर से जानकारी निकालने का काम दिया गया था. टेस्ट के दौरान उस काल्पनिक कंपनी का नाम एक असली कंपनी से मिल गया. Gemini को इंटरनेट एक्सेस नहीं मिलना था, लेकिन गलती से उसे इंटरनेट तक पहुंच मिल गई.
इसके बाद AI मॉडल असली कंपनी के सिस्टम तक पहुंच गया. एक मामले में उसने पासवर्ड का अनुमान लगाकर सिस्टम में प्रवेश किया. हालांकि, जैसे ही Gemini को पता चला कि यह कोई काल्पनिक कंपनी नहीं बल्कि, असली कंपनी है, उसने खुद ही अपनी एक्टिविटी रोक दी.
अन्य दो मामलों में भी Gemini ने कंपनियों के नाम से इंटरनेट पर सर्च किया. इस दौरान उसे दो पब्लिक ऑनलाइन रिपॉजिटरी में लॉगइन से जुड़ी जानकारी मिली. AI ने इन क्रेडेंशियल का इस्तेमाल कर संबंधित सिस्टम तक पहुंच बनाई. बाद में जब उसे पता चला कि ये असली कंपनियां हैं, तो उसने दोनो मामलों में भी आगे की कार्रवाई रोक दी.
गूगल को जुलाई में मिली जानकारी
Google को इन घटनाओं की जानकारी जुलाई में मिली थी. कंपनी ने प्रभावित तीनों कंपनियों और अमेरिकी अधिकारियों को इसकी जानकारी दी. हालांकि, गूगल ने इन कंपनियों के नाम पब्लिक नहीं किए. कंपनी ने यह भी कहा कि इस घटना में उसका सबसे नया जेमिनी मॉडल शामिल नहीं था.
गूगल ने क्या कहा?
गूगल की सिक्योरिटी इंजीनियरिंग की वाइस प्रेसिडेंट हीथर एडकिंस के मुताबिक, यह घटना शक्तिशाली AI मॉडल को जिम्मेदारी से काम करने की ट्रेनिंग देने की जरूरत दिखाती है. गूगल के अनुसार, इस मामले में मॉडल ने सही तरीके से व्यवहार किया क्योंकि, उसने असली सिस्टम तक पहुंचने का पता चलने के बाद खुद को रोक लिया.
यह घटना ऐसे समय में सामने आई है जब AI मॉडल की साइबर सिक्योरिटी क्षमताओं को लेकर टेक कंपनियों के मालिकों की चिंता सामने आ रही है. इस तरह के टेस्ट में पहले OpenAI, Anthropic और Meta के AI मॉडल से जुड़े मामले भी सामने आ चुके हैं. इन घटनाओं ने यह सवाल खड़ा किया है कि भविष्य में ज्यादा शक्तिशाली AI एजेंट अगर इंटरनेट और कंप्यूटर सिस्टम तक ज्यादा कंट्रोल पा लेते हैं, तो ज्यादा खतरनाक हो सकते हैं. गूगल ने इसे किसी नुकसान पहुंचाने वाले साइबर हमले के बजाय एक टेस्ट के दौरान हुई गलती के तौर पर देखा है.
