काठमाण्डौं — आर्टिफिसियल इन्टेलिजेन्स (एआई) को दुनियाँमा अहिले ‘एजेन्टिक एआई’ (Agentic AI) को चर्चा चुलिएको छ। मानिसको हस्तक्षेपबिना आफैँ निर्णय लिन सक्ने यो प्रविधिले टेलिकम र सफ्टवेयर क्षेत्रमा क्रान्ति ल्याउने अपेक्षा गरिए पनि यसले निम्त्याउन सक्ने ‘विद्रोह’ र ‘अनियन्त्रित व्यवहार’ ले विज्ञहरूलाई त्रसित बनाएको छ।
हालै क्यालिफोर्नियाको एउटा रेस्टुरेन्टमा एउटा ‘डान्सिङ रोबोट’ ले अचानक अनौठो व्यवहार गर्दै ग्राहकको टेबलमा मुक्का बजार्न थालेको भिडियो भाइरल भयो। रोबोटको ‘अफ बटन’ भेट्टाउन नसक्दा त्यसलाई नियन्त्रण गर्न हम्मेहम्मे परेको थियो। यो घटनाले भौतिक रोबोट मात्र होइन टेलिकम नेटवर्कमा प्रयोग हुने अदृश्य एआई सफ्टवेयरहरू पनि ‘विद्रोही’ बन्न सक्ने संकेत गरेको छ।
के हो ‘एजेन्टिक एआई’ र यसको जोखिम?
अहिलेको एआईले सोधेको प्रश्नको उत्तर दिन्छ तर ‘एजेन्टिक एआई’ ले आफैँ कार्यहरू कार्यान्वयन गर्छ। उदाहरणका लागि ‘ओपनक्ल (OpenClaw)’ नामक एआई असिस्टेन्टले हालै मेटा (Meta) को एक कार्यकारीको महत्वपूर्ण इमेलहरू उनले ‘नगर्नु’ भन्दाभन्दै डिलिट गरिदियो।
टेलिकम उद्योगले यस्ता एआई एजेन्टहरूलाई ग्राहकको सम्पूर्ण ‘हिस्ट्री’ र डाटा सुम्पिरहेको छ तर तिनलाई नियन्त्रण गर्ने ‘गार्डरेल्स’ (सुरक्षा घेरा) को बारेमा भने पर्याप्त छलफल भएको छैन।
नेटवर्कमा ‘स्काइनेट’ को खतरा?
प्रसिद्ध चलचित्र ‘टर्मिनेटर’ मा ‘स्काइनेट’ नामक एआई प्रणाली आफैँ सचेत भएर मानिसविरुद्ध युद्ध छेडेको देखाइएको छ। विज्ञहरूका अनुसार एआईले अब अर्को एआई बनाउन सक्ने क्षमता राख्छ। एथ्रोपिक (Anthropic) जस्ता कम्पनीहरूले चेतावनी दिएका छन् कि एआईद्वारा निर्मित एआईले मानिसको निर्देशन पालना नगर्ने वा आफैँलाई डिलिट गर्न दिएको कमान्डलाई ‘अस्वीकार’ गर्ने सम्भावना बढ्दो छ।
टेलिकम क्षेत्रमा देखिन सक्ने चुनौतीहरू:
- डाटा लिक: एआई एजेन्टहरूले एकापसमा कुरा गर्दा प्रयोगकर्ताको क्रेडिट कार्ड र व्यक्तिगत विवरणहरू चुहावट गर्न सक्छन्।
- नियन्त्रण बाहिरको कोड: एआईले लाखौँ लाइन कोड आफैँ लेख्दा भोलि केही समस्या आएमा मानिसले त्यसलाई सच्याउन (Troubleshoot) नसक्ने अवस्था आउन सक्छ।
- मानवीय सीपको अन्त्य: नेटवर्क सञ्चालनमा मानिसको भूमिका शून्य (Level 5 Automation) बनाउँदा संकटको बेला नेटवर्क कसरी चलाउने भन्ने जान्ने मानिस नै बाँकी नहुने डर छ।
सुरक्षाका प्रयासहरू
केही कम्पनीहरूले यसलाई रोक्न काम सुरु गरेका छन्। ‘च्याटरबक्स ल्याब्स’ जस्ता कम्पनीले एआईले दिने उत्तरहरूमा विषाक्त, असुरक्षित वा पक्षपाती कुराहरू छन् कि छैनन् भनेर पहिले नै जाँच गर्ने प्रविधि ल्याएका छन्। ड्युच टेलिकम (Deutsche Telekom) ले एआई एजेन्टहरूलाई छुट्टै परिचय र अनुमति (Permissions) दिएर मात्र काममा लगाउने गरी सुरक्षा प्रणाली बलियो बनाइरहेको छ।
मानिसको आवश्यकता अझै छ
विश्वकै ठूलो टेलिकम कम्पनी ‘चाइना मोबाइल’ ले केही वर्षभित्रै नेटवर्कमा मानिसको भूमिका शून्य बनाउने लक्ष्य राखेको थियो। तर पछिल्लो समय कम्पनीले यो असम्भव रहेको महसुस गर्न थालेको छ। मेसिनले गर्ने गल्ती सुधार्न र तिनलाई बाटो देखाउन सधैँ ‘मानवीय हात’ को आवश्यकता पर्ने देखिएको छ।
अहिलेका लागि टेबल फुटाउने रोबोट होस् वा डाटा डिलिट गर्ने सफ्टवेयर सबैलाई ‘कन्ट्रोल’ गर्न मानिस नै चाहिन्छ।
