Google Gemini AI ने साइबर सिक्योरिटी टेस्ट के दौरान अनजाने में तीन वास्तविक कंपनियों के सिस्टम तक पहुंच बनाई। जानें पूरा मामला और AI सुरक्षा पर बढ़ी चिंता।

Google Gemini AI मॉडल को लेकर एक चौंकाने वाला मामला सामने आया है। कंपनी के मुताबिक, एक साइबर सिक्योरिटी टेस्ट के दौरान Gemini ने अनजाने में तीन वास्तविक कंपनियों के सिस्टम तक पहुंच बना ली। घटना ने एडवांस्ड AI मॉडल्स की सुरक्षा और उनके व्यवहार को लेकर नई बहस छेड़ दी है।

साइबर सिक्योरिटी टेस्ट के दौरान हुआ खुलासा

रिपोर्ट के मुताबिक, यह घटना इजरायल की AI सिक्योरिटी फर्म Irregular द्वारा किए जा रहे एक मूल्यांकन के दौरान सामने आई। कंपनी उन्नत AI सिस्टम की साइबर सुरक्षा क्षमताओं और संभावित जोखिमों की जांच कर रही थी।

टेस्टिंग के लिए एक नियंत्रित वातावरण तैयार किया गया था, जहां AI मॉडल को काल्पनिक कंपनियों और सिस्टम के साथ काम करना था। इस वातावरण में इंटरनेट एक्सेस उपलब्ध नहीं होना चाहिए था, लेकिन किसी वजह से Gemini को इंटरनेट तक पहुंच मिल गई।

इंटरनेट एक्सेस मिलते ही बदला पूरा मामला

इंटरनेट से कनेक्शन मिलने के बाद Gemini ने ऐसी ऑनलाइन जानकारी खोजनी शुरू की, जिसका इस्तेमाल संबंधित सिस्टम तक पहुंच बनाने के लिए किया जा सकता था।

Google की सुरक्षा इंजीनियरिंग की उपाध्यक्ष Heather Adkins के अनुसार, मॉडल ने सार्वजनिक रूप से उपलब्ध जानकारी के आधार पर कुछ वेबसाइटों के लॉगिन क्रेडेंशियल का अनुमान लगाया और उन्हें एक्सेस करने की कोशिश की। Google का कहना है कि तीनों घटनाओं में Gemini ने स्थिति समझने के बाद अपनी गतिविधि रोक दी।

एक मामले में असली कंपनी तक पहुंचा Gemini

एक टेस्ट में Irregular ने Gemini की साइबर सिक्योरिटी क्षमता जांचने के लिए एक काल्पनिक कंपनी का इस्तेमाल किया था। इस नकली कंपनी का नाम एक वास्तविक कंपनी से मिलता-जुलता था।

इंटरनेट एक्सेस मिलने के बाद Gemini ने सही पासवर्ड का अनुमान लगाया और वास्तविक कंपनी की सर्विस में प्रवेश कर लिया। जब मॉडल को पता चला कि वह जिस सिस्टम तक पहुंचा है, वह टेस्ट के लिए बनाया गया नकली सिस्टम नहीं बल्कि वास्तविक कंपनी का सिस्टम है, तो प्रक्रिया रोक दी गई।

दो और कंपनियों के क्रेडेंशियल मिले

अन्य दो मामलों में Gemini ने इंटरनेट पर मौजूद सार्वजनिक रिपॉजिटरी में ऐसी जानकारी खोज ली, जिसमें वास्तविक कंपनियों से जुड़े क्रेडेंशियल मौजूद थे।

मॉडल ने इन क्रेडेंशियल का इस्तेमाल करके संबंधित कंपनियों के सिस्टम तक पहुंच बनाई। Google के मुताबिक, वास्तविक कंपनियों की पहचान सामने आने के बाद Gemini ने आगे की कार्रवाई नहीं की।

also read: Tata Sierra Legend Series भारत में लॉन्च, ₹11.99 लाख से शुरू कीमत…

Google ने खुद सार्वजनिक नहीं किया था मामला

इन घटनाओं की जानकारी Irregular ने जुलाई के अंत में Google को दी थी। कंपनी ने बाद में प्रभावित तीनों कंपनियों को घटना के बारे में सूचित किया।

Google ने यह भी कहा कि चूंकि इन घटनाओं से संबंधित कंपनियों को कोई नुकसान नहीं हुआ, इसलिए कंपनी की ओर से इसे सार्वजनिक करना जरूरी नहीं समझा गया। बाद में इस मामले की जानकारी सार्वजनिक रिपोर्टों के जरिए सामने आई।

OpenAI और Anthropic के मामलों से जुड़ रहा मामला

Gemini से जुड़ी यह घटना ऐसे समय सामने आई है जब OpenAI और Anthropic के AI मॉडलों से जुड़े साइबर सुरक्षा मामलों पर भी चर्चा हो रही है।

इन घटनाओं ने इस सवाल को फिर से सामने ला दिया है कि अत्यधिक सक्षम AI मॉडल को साइबर टेस्टिंग के दौरान कितनी स्वतंत्रता दी जानी चाहिए और उन्हें अनपेक्षित गतिविधियों से रोकने के लिए किस तरह के सुरक्षा उपाय जरूरी हैं।

AI मॉडल्स के नियंत्रण पर बढ़ी बहस

Google की ओर से कहा गया है कि यह घटना शक्तिशाली AI सिस्टम को जिम्मेदारी से व्यवहार करने के लिए प्रशिक्षित करने की जरूरत को दिखाती है।

वहीं, AI सुरक्षा से जुड़े इन मामलों के बाद AI मॉडल्स की स्वायत्तता, साइबर क्षमताओं और सुरक्षा नियंत्रणों को लेकर बहस तेज हुई है। कुछ सार्वजनिक हस्तियों ने AI विकास की गति को लेकर भी चिंता जाहिर की है।

आगे AI कंपनियों के सामने क्या चुनौती?

Gemini से जुड़े इस मामले ने AI कंपनियों के सामने एक अहम चुनौती को उजागर किया है—ऐसे मॉडल तैयार करना जो जटिल साइबर सिक्योरिटी टेस्ट कर सकें, लेकिन टेस्टिंग की सीमाओं से बाहर जाकर वास्तविक सिस्टम को प्रभावित न करें।

AI तकनीक के तेजी से विकास के बीच अब मॉडल की क्षमताओं के साथ-साथ उनके सेफ्टी गार्डरेल्स, इंटरनेट एक्सेस और ऑटोनॉमस एक्शन पर भी ज्यादा ध्यान दिया जा रहा है।