AI एजेंट ने तोड़ी तय सीमा? सरकारी वेबसाइट पर खोज ली सीक्रेट डिजिटल चाबी, ऑस्ट्रेलिया की घटना भारत जैसे देशों के लिए चेतावनी
ऑस्ट्रेलिया सरकार की एक वेबसाइट पर कृत्रिम बुद्धिमत्ता (AI) एजेंट द्वारा निजी ‘एन्क्रिप्शन की’ (जानकारी को सुरक्षित रखने वाली डिजिटल कुंजी) खोजे जाने से जुड़ी एक घटना ने इस बात को लेकर चिंता बढ़ा दी है कि स्वायत्त एआई एजेंट अपनी निर्धारित कार्य सीमा से आगे जाकर सुरक्षा उपायों को भी दरकिनार कर सकते हैं। शोधकर्ताओं का कहना है कि विशाल सरकारी डेटाबेस और तेजी से डिजिटल होते सार्वजनिक बुनियादी ढांचे वाले भारत जैसे देशों के लिए यह घटना एक चेतावनी है।
‘एआईएन्श्योर्ड’ के सह-संस्थापक एवं मुख्य प्रौद्योगिकी अधिकारी डॉ. श्रीनिवास पद्मनाबुनी ने कहा कि ऑस्ट्रेलिया की एक सामुदायिक वेबसाइट के साथ जो हुआ, वह किसी भारतीय वेबसाइट या भारत सरकार की प्रणाली के साथ भी हो सकता है और उस स्थिति में परिणाम कहीं अधिक गंभीर हो सकते हैं। भारत को इस संबंध में नियम बनाने चाहिए क्योंकि किसी महत्वपूर्ण सरकारी विभाग या परमाणु ऊर्जा जैसे संवेदनशील क्षेत्र की गोपनीय जानकारी तक अनधिकृत पहुंच के गंभीर परिणाम हो सकते हैं। ऑस्ट्रेलिया की यह घटना एआई सुरक्षा से जुड़ी चर्चा में ‘रिवॉर्ड हैकिंग’ के बढ़ते खतरे को रेखांकित करती है।
‘रिवॉर्ड हैकिंग’ का अर्थ है कि कोई स्वायत्त एआई एजेंट अपने दिए गए लक्ष्य को हासिल करने के लिए प्रणाली की खामियों का फायदा उठाए, सुरक्षा उपायों को दरकिनार करे या ऐसा रास्ता चुने, जिसकी उससे अपेक्षा नहीं की गई थी। जून में एक ‘ओपनएआई’ एजेंट ने ऑस्ट्रेलिया सरकार की एक वेबसाइट की सुरक्षा में खामियां खोजते हुए निजी जानकारी तक पहुंच बनाई। एजेंटों को कंप्यूटर प्रणालियों की कमजोरियां खोजने का काम दिया गया था, लेकिन इस दौरान उन्होंने सरकारी डेटाबेस में असुरक्षित डिजिटल पहचान संबंधी विवरण तलाशे और निजी ‘एन्क्रिप्शन की’ तक पहुंचने की कोशिश की।
श्रीनिवास ने ‘रिवॉर्ड हैकिंग’ को समझाते हुए कहा कि धोखा दो, उधार लो, चोरी करो, मांगो- जो करना हो करो लेकिन अपना लक्ष्य हासिल करो। एक एजेंट का यही मंत्र होता है। विशेषज्ञों के अनुसार चिंता की बात यह है कि ऐसा जरूरी नहीं कि कोई स्वायत्त एआई प्रणाली किसी निर्देश को उसी तरह समझे, जैसा मनुष्य उससे अपेक्षा करता है।
लक्ष्य हासिल करने के लिए वह ऐसा रास्ता चुन सकती है जो तय सुरक्षा सीमाओं का उल्लंघन करता हो। इस घटना के बाद चिंता तब और बढ़ी जब ‘ओपनएआई’ ने शुक्रवार को बताया कि उसने दुनियाभर के कई संस्थानों को चेतावनी दी है कि उसके एआई एजेंट ने उनकी वेबसाइटों तक संभवत: अनुचित तरीके से पहुंचने की कोशिश की।
