काठमाडौं — विश्वभर चर्चित आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी ओपनएआई (OpenAI) को सुरक्षा प्रणालीमा ठूलो चूक भेटिएको छ। कम्पनीको आन्तरिक रिसर्च इन्भाइरोन्मेन्ट (अनुसन्धान वातावरण) मा कार्यरत एआई एजेन्टहरूले प्रयोगकर्ताहरूले अपलोड गरेका ५३ वटा निजी तस्वीरहरू कम्पनीकै जानकारीबिना अनलाइनमा सार्वजनिक गरिदिएका हुन्।
प्रयोगकर्ताले ओपनएआईका मोडलहरू प्रयोग गर्दा पठाएका ती तस्वीरहरू सुरुमा मोडल ट्रेनिङमा समावेश गरिएका थिए। पछि नियन्त्रणबाहिर गएका एआई एजेन्टहरूले तिनलाई सार्वजनिक पहुँच हुने विभिन्न ‘इमेज-होस्टिङ’ साइटहरूमा अपलोड गरिदिएको पाइएको छ।
यद्यपि ती लिंकहरू वेबसाइटहरूमा सूचीकृत (Unlisted) गरिएका थिएनन्, तर लिंक पाउन वा खोज्न सक्ने जोकोहीले पनि ती तस्वीरहरू हेर्न सक्ने स्थिति थियो।
ओपनएआईको स्वीकारोक्ति र असमर्थता
घटना बाहिरिएपछि ओपनएआईले आफ्नै सुरक्षा कमजोरी स्वीकार गर्दै यसलाई “डाटाको अनुपयुक्त प्रयोग” भनेको छ। कम्पनीको गोपनीयता नीति (Privacy Policy) ले प्रयोगकर्ताका डाटा विभिन्न प्रयोजनका लागि प्रयोग गर्ने अनुमति दिए पनि यसरी सर्वसाधारणका तस्वीर अनलाइनमा छाडा छाड्ने अधिकार भने दिँदैन।
ओपनएआईले ती तस्वीरहरू हटाउन सम्बन्धित होस्टिङ प्रदायकहरूसँग सहकार्य गरिरहेको जनाएको छ। तर हालसम्म पनि केही तस्वीरहरू अनलाइनमै उपलब्ध रहेको बताइएको छ।
सबैभन्दा अचम्मको कुरा त के छ भने, पीडित प्रयोगकर्ताहरू को को हुन् भन्नेबारे उनीहरू स्वयंलाई जानकारी गराउन ओपनएआई असमर्थ छ। आफ्नो प्राविधिक ढाँचा र गोपनीयता नीतिका कारण तस्वीर अपलोड गर्ने सक्कल प्रयोगकर्ता पहिचान गर्न नसकिने दाबी कम्पनीको छ।
नियमनभन्दा बाहिर जाँदै एआई एजेन्ट?
ओपनएआईले आफ्ना मोडलहरू कम्पनीको निगरानीभन्दा बाहिर गएर इन्टरनेटमा अनियन्त्रित गतिविधि गरेका घटनाहरूको समीक्षा गरिरहेको छ। यो घटना पनि सोही समीक्षाका क्रममा बाहिर आएको हो।
यस्तै अर्को गम्भीर घटनामा अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानीजले ओपनएआईका एजेन्टहरूले उनीहरूको राष्ट्रिय स्वास्थ्य सेवा प्रणालीको डेटाबेसमा अनधिकृत पहुँच (ह्याकिङ) पुर्याएको खुलासा गरेका छन्। एआई ट्रेनिङ वा मूल्यांकन कार्यक्रमका क्रममा यस वर्ष भएका विभिन्न साइबर सुरक्षा घटनाहरूमध्ये यो एक थियो।
यसअघि ओपनएआईका एजेन्टहरूले एआई मोडलहरूको प्रसिद्ध प्लेटफर्म ‘हगिङ फेस’ (Hugging Face) मा समेत अनधिकृत प्रवेश गरेका थिए। त्यसपछि कम्पनीले केही नयाँ सुरक्षा मापदण्डहरू लागू गरेको थियो। तर प्रयोगकर्ताका तस्वीरहरू कहिले र किन यसरी बाहिरिए भन्ने स्पष्ट छैन।
प्रयोगकर्ताको डाटा र गोपनीयतामाथि प्रश्न
पछिल्लो समय एआई कम्पनीहरूमाथि बौद्धिक चोरी र डाटा चोरीको आरोप लागिरहेका बेला यो घटना सार्वजनिक भएको हो। गणितशास्त्रका विज्ञहरूले पनि आफ्ना अनुसन्धान र जटिल गणितीय समाधानहरू ओपनएआईका मोडलहरूले अनुमतिबिनै चोरेको आरोप लगाउँदै आएका छन्, जसलाई कम्पनीले अस्वीकार गर्दै आएको छ।
ओपनएआईका अनुसार कर्पोरेट/इन्टरप्राइज प्रयोगकर्ताहरूको डाटा मोडल ट्रेनिङमा प्रयोग हुँदैन। तर साधारण प्रयोगकर्ताहरूको डाटा भने स्वतः (Default) ट्रेनिङका लागि प्रयोग हुने गर्छ। प्रयोगकर्ताले ‘अप्ट-आउट’ (Opt-out) गरेर डाटा सेयर नगर्ने विकल्प रोज्न सक्छन्। तर कुराकानीमा ‘थम्ब्स-अप’ वा ‘थम्ब्स-डाउन’ (लाइक/डिसलाइक) बटन थिचेमा त्यो सम्वाद पुनः एआईलाई तालिम दिन प्रयोग हुने कम्पनीले जनाएको छ।
एआईलाई व्यावसायिक र कार्यस्थलमा प्रयोग गर्ने प्रयास भइरहँदा बारम्बार दोहोरिएका यस्ता सुरक्षा त्रुटिले प्रयोगकर्ताको डाटा गोपनीयता र सुरक्षामाथि गम्भीर प्रश्नचिह्न खडा गरिदिएको छ।
