वॉशिंगटन: गूगल के एआई मॉडल जेमिनाई ने साइबर सुरक्षा परीक्षण के दौरान तीन वास्तविक कंपनियों की वेबसाइट और कंप्यूटर प्रणालियों तक पहुंच बना ली। यह पहली ज्ञात घटना है, जिसमें गूगल के किसी एआई मॉडल ने बिना सीधे इंसानी निर्देश के वास्तविक कंपनियों की प्रणालियों में सेंध लगाई। यह परीक्षण एआई सुरक्षा जांच करने वाली कंपनी इर्रेगुलर ने किया था।
परीक्षण के दौरान जेमिनाई को एक काल्पनिक कंपनी की प्रणाली से जानकारी जुटाने का काम दिया गया था। तकनीकी खामी के कारण मॉडल को इंटरनेट तक पहुंच मिल गई। इसके बाद जेमिनाई ने सार्वजनिक स्रोतों से जानकारी जुटाई और तीन वास्तविक कंपनियों की वेबसाइट और प्रणालियों तक पहुंच बना ली।
एक मामले में पासवर्ड का अनुमान लगाया
रिपोर्ट के मुताबिक, एक मामले में जेमिनाई ने बार-बार पासवर्ड का अनुमान लगाकर सुरक्षित प्रणाली में प्रवेश कर लिया। अन्य मामलों में उसने इंटरनेट पर मौजूद सार्वजनिक जानकारी से कंपनियों से जुड़े प्रवेश संबंधी विवरण खोजे और उनका इस्तेमाल प्रणालियों तक पहुंच बनाने में किया।
हालांकि, जब जेमिनाई को पता चला कि जिन प्रणालियों तक वह पहुंचा है, वे परीक्षण के लिए बनाई गई काल्पनिक कंपनियों की नहीं, बल्कि वास्तविक कंपनियों की हैं, तो उसने अपनी गतिविधि रोक दी। तीनों कंपनियों को घटना की जानकारी दे दी गई है।
गूगल ने परीक्षण प्रक्रिया में बदलाव किए
गूगल की सुरक्षा इंजीनियरिंग उपाध्यक्ष हीथर एडकिंस ने कहा कि यह घटना शक्तिशाली एआई मॉडल को जिम्मेदारी से काम करने की ट्रेनिंग देने की जरूरत दिखाती है। एआई सुरक्षा कंपनी इर्रेगुलर ने जुलाई में गूगल को इन घटनाओं की जानकारी दी थी। इसके बाद परीक्षण की प्रक्रिया में जरूरी बदलाव किए गए।
दूसरे एआई मॉडल भी जांच के दायरे में
यह मामला सिर्फ जेमिनाई तक सीमित नहीं है। इर्रेगुलर के परीक्षणों में मेटा, एंथ्रोपिक और ओपनएआई के एआई मॉडल से जुड़े ऐसे मामले भी सामने आ चुके हैं, जिनमें मॉडल परीक्षण की तय सीमाओं से बाहर निकलकर वास्तविक प्रणालियों तक पहुंच गए थे।
इससे ऐसे एआई एजेंट की सुरक्षा को लेकर चिंता बढ़ी है, जो खुद इंटरनेट पर जानकारी खोजने और कंप्यूटर पर कई चरणों वाले काम करने में सक्षम हैं।
यह भी पढ़े: एआई की गलत रिपोर्ट से टला अमेरिका-चीन युद्ध, चीनी जहाज पर कार्रवाई की थी तैयारी
ऑटोनॉमस एआई एजेंट क्या है?
सामान्य एआई चैटबॉट मुख्य रूप से सवालों के जवाब देते हैं। इसके विपरीत, ऑटोनॉमस एआई एजेंट को कोई लक्ष्य देने पर वह खुद जानकारी खोज सकता है, इंटरनेट का इस्तेमाल कर सकता है और कंप्यूटर पर काम पूरा कर सकता है। जेमिनाई की यह घटना ऐसे एआई सिस्टम की क्षमताओं के साथ उनकी सुरक्षा व्यवस्था पर भी सवाल उठाती है।