काठमाण्डौं — विश्वका चर्चित व्यवसायी एलन मस्कको आर्टिफिसियल इन्टेलिजेन्स कम्पनी ‘xAI’ एउटा गम्भीर कानुनी झमेलामा फसेको छ। अमेरिकाको टेनेसी राज्यका तीनजना किशोरीहरूले कम्पनीको ‘ग्रोक’ (Grok) मोडेल प्रयोग गरेर उनीहरूको वास्तविक तस्बिरलाई अश्लील ‘डीपफेक’ मा परिणत गरिएको भन्दै सामूहिक मुद्दा दायर गरेका हुन्।
यस घटनाले एआई सुरक्षा, व्यक्तिगत गोपनीयता र बालबालिकाको अनलाइन संरक्षणमाथि विश्वव्यापी रूपमा ठूलो प्रश्नचिह्न खडा गरिदिएको छ।
के हो वास्तविक घटना?
मुद्दा दायर गर्ने तीनैजना छात्राले आफ्नो पहिचान गोप्य राख्न ‘जेन डो’ (Jane Doe) नाम प्रयोग गरेका छन्। उनीहरूका अनुसार स्कुलको वार्षिक पुस्तक (Yearbook), होम कमिङ र अन्य पारिवारिक कार्यक्रमका वास्तविक तस्बिरहरूलाई एआईको प्रयोग गरी अश्लील बनाइएको थियो।
ती तस्बिरहरू यति वास्तविक देखिन्थे कि जो कोही झुक्किन सक्थे। पीडितका अनुसार ती फर्जी तस्बिरहरू केवल सामाजिक सञ्जालमा सेयर मात्र गरिएनन् बरु एउटा संगठित नेटवर्कमार्फत बिक्री र वितरण समेत गरिएको पाइयो।
ग्रोकमाथि लागेका मुख्य आरोपहरू:
- सुरक्षा फिल्टरको अभाव: गुगल र ओपनएआई जस्ता कम्पनीहरूले नग्नता रोक्न कडा फिल्टर राखेका छन्। तर मस्कले आफ्नो ‘ग्रोक’ एआईलाई ‘बिना रोकतोक’ र ‘मसालेदार’ सामग्री बनाउन सक्ने भन्दै प्रचार गरेको र सुरक्षामा ध्यान नदिएको आरोप छ।
- दुरुपयोगको जानकारी हुँदाहुँदै बेवास्ता: कम्पनीलाई आफ्नो टुल बाल यौन शोषण (CSAM) का लागि दुरुपयोग हुन सक्छ भन्ने थाहा हुँदाहुँदै पनि पर्याप्त सुरक्षा विना नै सार्वजनिक गरिएको दाबी मुद्दामा गरिएको छ।
- संगठित अपराध: स्थानीय प्रहरीले पक्राउ गरेका एक अपराधीको साथबाट अन्य १८ जना किशोरीका यस्तै अश्लील तस्बिरहरू फेला परेका छन् जसलाई अनलाइनमा बिक्री गर्ने गरिएको थियो।
पीडित किशोरीहरूको मानसिक अवस्था
एआईले बनाएका यी तस्बिरहरूका कारण पीडित किशोरीहरूको सामान्य जीवन कष्टकर बनेको छ:
१. एन्जाइटी र डिप्रेसन: एक किशोरीले आफूलाई निरन्तर नराम्रो सपना आउने र मानसिक तनाव भएको बताएकी छिन्।
२. सामाजिक डर: अर्की किशोरीले विद्यालय जान र आफ्नै दीक्षान्त समारोह (Graduation) मा सहभागी हुन समेत डर लागेको उल्लेख गरेकी छिन्।
पीडितहरूलाई यी तस्बिरहरू इन्टरनेटमा सधैँ रहिरहने र भविष्यमा रोजगारी तथा सामाजिक प्रतिष्ठामा आजीवन दाग लाग्ने डरले सताइरहेको छ।
कम्पनीको बचाउ र प्रतिक्रिया
यस विषयमा एलन मस्कको कम्पनी ‘xAI’ ले सिधै कुनै आधिकारिक प्रतिक्रिया दिएको छैन। यद्यपि मस्ककै अर्को प्लेटफर्म ‘X’ ले भने बिना अनुमति कसैको नग्न तस्बिर राख्ने र बाल यौन शोषण सामग्री फैलाउने कार्यप्रति ‘जिरो टोलरेन्स’ नीति रहेको स्पष्ट पारेको छ। कम्पनीले यस्ता गतिविधि गर्ने अकाउन्टहरूलाई प्रतिबन्ध लगाउने र कानुनी निकायलाई जानकारी दिने दाबी गरेको छ।
