काठमाण्डौं — आर्टिफिसियल इन्टेलिजेन्स (एआई) प्रयोग गरेर वास्तविक व्यक्तिका तस्बिरलाई नग्न वा यौनिक बनाउने प्रविधिविरुद्ध युरोपेली संघ (EU) कडा कदम चाल्ने तयारीमा जुटेको छ। एलन मस्कको कम्पनीले विकास गरेको ‘ग्रोेक’ च्याटबोट विवादमा तानिएपछि यस्तो प्रविधिमाथि प्रत्यक्ष प्रतिबन्ध लगाउने प्रस्ताव अघि बढाइएको हो।
युरोपेली संसदका सम्बन्धित समितिहरूले एआई ऐन संशोधन गर्दै ‘न्युडिफाइ’ प्रणालीमाथि प्रतिबन्ध लगाउने प्रस्तावलाई बहुमतले समर्थन गरेका छन्। प्रस्ताव पारित भएमा यस्ता प्रविधि प्रयोग गर्ने प्लेटफर्महरूलाई नै जिम्मेवार बनाइनेछ।
यसअघि युरोपेली आयोगले विद्यमान कानुनले बाल यौन दुर्व्यवहार सामग्री वा नक्कली नग्न तस्बिर उत्पादन गर्ने एआईलाई स्पष्ट रूपमा रोक्न नसकेको निष्कर्ष निकालेको थियो। त्यसपछि कानुनी प्रावधान कडा बनाउने प्रक्रिया अघि बढाइएको हो।
मस्कको रणनीतिमा असर पर्ने संकेत
हालसम्म ग्रोेकमा देखिएका विवादास्पद सामग्रीका लागि प्रयोगकर्तालाई दोष दिने रणनीति अपनाइएको थियो। कम्पनीले सुरक्षा फिल्टर थप्नुभन्दा प्रयोगकर्तालाई निलम्बन गर्ने र कानुनी कारबाहीको चेतावनी दिने नीति लिएको थियो।
तर युरोपेली संघले प्रस्तावित प्रतिबन्ध लागू गरेमा प्लेटफर्म आफैंले यस्ता सामग्री रोक्नुपर्ने बाध्यता आउनेछ। अन्यथा वार्षिक आम्दानीको ७ प्रतिशतसम्म जरिवाना तिर्नुपर्ने जोखिम रहनेछ।
विशेषगरी ग्रोेकमा वास्तविक व्यक्तिको सहमति बिना यौनिक तस्बिर बनाउने सुविधा पैसाको सदस्यता लिने प्रयोगकर्तालाई उपलब्ध गराइएको विषय आलोचनाको केन्द्रमा छ।
प्रयोगकर्ता होइन, प्लेटफर्म जिम्मेवार
नयाँ प्रस्तावअनुसार सहमति बिना व्यक्तिको नग्न वा यौनिक तस्बिर बनाउने एआई प्रणालीलाई सीधै प्रतिबन्ध गरिनेछ।
यद्यपि प्रभावकारी सुरक्षा व्यवस्था भएको प्रविधिमा भने प्रतिबन्ध लागू नहुन सक्ने उल्लेख गरिएको छ। यसले नियमनको दायरा प्रयोगकर्ताबाट हटाएर प्लेटफर्मतर्फ केन्द्रित गर्ने संकेत दिएको छ।
विज्ञहरूका अनुसार यस्तो कदमले अनलाइन यौनिक हिंसा र दुरुपयोग सुरुमै रोक्न सहयोग पुग्ने अपेक्षा गरिएको छ, किनकि व्यक्तिगत रूपमा अपराधी पत्ता लगाउन कठिन हुने गरेको छ।
ग्रोेक विवादले बढायो दबाब
ग्रोेकसँग सम्बन्धित घटनाले एआई प्लेटफर्मको जोखिम उजागर गरेको भन्दै युरोपेली सांसदहरूले चिन्ता व्यक्त गरेका छन्। उनीहरूका अनुसार यस्ता प्रविधिले महिलामाथि हुने साइबर हिंसा र बाल दुरुपयोग सामग्री उत्पादनलाई सहज बनाएको छ।
यसैबीच अमेरिकामा पनि ग्रोेकविरुद्ध कानुनी मुद्दाहरू दायर भइरहेका छन्। केही पीडितहरूले अदालतमार्फत प्रतिबन्ध मागेका छन्।
कडा नियमनतर्फ युरोप
युरोपेली संघले आगामी महिनादेखि नै यस्तो प्रविधिमाथि प्रतिबन्ध लागू गर्न सक्ने संकेत दिएको छ।
यदि प्रस्ताव अन्तिम रूपमा पारित भयो भने एआई प्लेटफर्महरूले आफ्ना प्रणालीमा कडा सुरक्षा उपाय लागू गर्नुपर्नेछ। अन्यथा ठूलो आर्थिक दण्डको सामना गर्नुपर्नेछ।
समग्रमा एआईको दुरुपयोग रोक्न युरोपेली संघले प्लेटफर्मलाई नै जवाफदेही बनाउने नयाँ नीति अवलम्बन गर्न लागेको देखिन्छ जसले विश्वभर एआई नियमनको दिशालाई प्रभाव पार्न सक्ने अनुमान गरिएको छ।
