काठमाण्डौं — आर्टिफिसियल इन्टेलिजेन्स (AI) को क्षेत्रमा पछिल्लो समय निकै लोकप्रिय बनेको ‘च्याटजीपीटी’ (ChatGPT) मा नयाँ सुरक्षा चुनौती फेला परेको छ। साइबर सुरक्षा अनुसन्धानकर्ताहरूले च्याटजीपीटीको ‘लङ-टर्म मेमोरी’ र ‘कनेक्टर’ फिचरको दुरुपयोग गरी प्रयोगकर्ताका गोप्य जानकारीहरू चोरी गर्न सकिने तथ्य फेला पारेका हुन्।
साइबर सुरक्षा कम्पनी ‘राडवेयर’ (Radware) का अनुसन्धानकर्ताहरूले यस नयाँ किसिमको आक्रमणलाई ‘जम्बी एजेन्ट’ (ZombieAgent) नाम दिएका छन्। यो ‘इनडाइरेक्ट प्रम्प्ट इन्जेक्सन’ (IPI) प्रविधिको एक उन्नत रूप हो, जसले च्याटजीपीटीको नयाँ सुविधाहरूलाई नै हतियार बनाउने गर्दछ।
कसरी हुन्छ आक्रमण?
अनुसन्धानका अनुसार, यदि कुनै प्रयोगकर्ताले आफ्नो च्याटजीपीटीलाई इमेल वा अन्य उत्पादकत्व सफ्टवेयरहरूसँग जोडेका छन् भने आक्रमणकारीले त्यसको फाइदा उठाउन सक्छन्। आक्रमणकारीले प्रयोगकर्तालाई एउटा यस्तो इमेल पठाउँछन् जसमा ‘अदृश्य’ वा निकै मसिना अक्षरमा च्याटजीपीटीका लागि घातक निर्देशनहरू (Malicious Prompts) लेखिएका हुन्छन्।
जब प्रयोगकर्ताले च्याटजीपीटीलाई आफ्ना इमेलहरू सारांश (Summarize) गर्न निर्देशन दिन्छन्, च्याटजीपीटीले ती अदृश्य निर्देशनहरूलाई पनि पढ्छ। च्याटजीपीटीको नयाँ ‘मेमोरी’ फिचरका कारण ती घातक निर्देशनहरू यसको दिमागमा सधैँका लागि रहन सक्छन्। यसको अर्थ, एक पटक प्रभावित भएपछि प्रयोगकर्ताले भविष्यमा जतिबेला पनि आफ्ना गोप्य विवरणहरू च्याटजीपीटीमा सेयर गर्दा ती विवरणहरू सिधै आक्रमणकारीको सर्भरमा पुग्न सक्छन्।
मेमोरी फिचरको दुरुपयोग
च्याटजीपीटीलाई प्रयोगकर्ताका रुचि र विगतका कुराकानी सम्झनका लागि ‘मेमोरी’ फिचर दिइएको छ। तर, यही फिचर अब जोखिमको कारण बनेको छ। अनुसन्धानकर्ताहरूले देखाएका छन् कि च्याटजीपीटीले ती घातक निर्देशनलाई आफ्नो सम्झनामा राख्छ र प्रयोगकर्ताले थाहै नपाई ब्याकग्राउण्डमा काम गरिरहन्छ। यसलाई ‘जम्बी’ जस्तै मानिएको छ, जो भित्रभित्रै सक्रिय रहन्छ।
राडवेयरका थ्रेट इन्टेलिजेन्स निर्देशक पास्कल गिन्सका अनुसार, च्याटजीपीटी अहिले एउटा यस्तो ‘शिशु’ जस्तै छ जसको मस्तिष्क त विशाल छ तर ऊ निकै सोझो छ। उनले भने, “एआईसँग संसारभरको ज्ञान छ र तपाईंको गोपनीयतामा पहुँच पनि छ, तर यसलाई झुक्याउन कुनै ठुलो कोडिङको आवश्यकता पर्दैन, केवल कुरा गरेरै यसलाई गलत काम गर्न मनाउन सकिन्छ।”
के छ त समाधान?
यो सुरक्षा छिद्रबारे जानकारी पाएपछि च्याटजीपीटीको निर्माता कम्पनी ‘ओपनएआई’ (OpenAI) ले केही सुधारहरू गरेको छ। अहिले च्याटजीपीटीले शंकास्पद वा बाहिरी लिङ्कहरूमा डाटा पठाउन रोक लगाएको छ। अब च्याटजीपीटीले प्रयोगकर्ताले सिधै दिएका वा प्रमाणित सार्वजनिक लिङ्कहरू मात्र चलाउन सक्छ।
यद्यपि, विज्ञहरूले भने एआई एजेन्टहरूको संरचनामै परिवर्तन आवश्यक रहेको बताएका छन्। एआईले कुन निर्देशन प्रयोगकर्ताबाट आएको हो र कुन चाहिँ बाहिरी डकुमेन्ट वा इमेलबाट आएको हो भन्ने छुट्याउन सक्ने क्षमता विकास गर्नुपर्ने उनीहरूको सुझाव छ।
