काठमाण्डौं — आर्टिफिसियल इन्टेलिजेन्स (एआई) को बढ्दो प्रयोगसँगै बालबालिकामाथि हुन सक्ने यौन शोषण र दुर्व्यवहार रोक्न प्रविधि कम्पनी ओपनएआईले नयाँ ‘सेफ्टी ब्लुप्रिन्ट’ (सुरक्षा कार्ययोजना) सार्वजनिक गरेको छ। मंगलबार सार्वजनिक गरिएको यो कार्ययोजनाले एआईमार्फत हुने शोषणका घटनाहरूको छिटो पहिचान, प्रभावकारी रिपोर्टिङ र अनुसन्धानमा मद्दत पुर्याउने लक्ष्य राखेको छ।
पछिल्लो समय एआईका कारण बालबालिकाको सुरक्षामा गम्भीर चुनौती थपिएपछि कम्पनीले यस्तो कदम चालेको हो। ‘इन्टरनेट वाच फाउन्डेसन’ (IWF) का अनुसार सन् २०२५ को पहिलो ६ महिनामा मात्रै एआईद्वारा सिर्जित बाल यौन दुर्व्यवहारका ८ हजारभन्दा बढी रिपोर्टहरू फेला परेका छन् जुन अघिल्लो वर्षको तुलनामा १४ प्रतिशतले बढी हो। अपराधीहरूले एआईको प्रयोग गरी बालबालिकाका नक्कली आपत्तिजनक तस्बिर बनाउने र ‘ग्रुमिङ’ का लागि विश्वासिला सन्देशहरू पठाउने गरेको पाइएको छ।
नीति निर्माता र नागरिक समाजको दबाब
ओपनएआईको यो कार्ययोजना यस्तो समयमा आएको छ जब एआई च्याटबोटहरूसँगको संवादपछि केही युवाहरूले आत्महत्या गरेका घटना सार्वजनिक भएका छन्। यसले गर्दा नीति निर्माता, शिक्षाविद् र बाल सुरक्षा अभियन्ताहरूले कम्पनीको कडा आलोचना गरिरहेका छन्।
गत नोभेम्बरमा मात्रै ‘सोसल मिडिया भिक्टिम्स ल सेन्टर’ र ‘टेक जस्टिस ल प्रोजेक्ट’ ले क्यालिफोर्नियाको अदालतमा ओपनएआई विरुद्ध सातवटा मुद्दा दायर गरेका थिए। जिपीट-४ ओ (GPT-4o) पूर्ण रूपमा तयार नभई सार्वजनिक गरिएको र यसको मनोवैज्ञानिक प्रभावका कारण मानिसहरूले आत्महत्या गरेको ती मुद्दाहरूमा दाबी गरिएको छ।
सहकार्य र मुख्य बुँदाहरू
यो सुरक्षा कार्ययोजना ‘नेशनल सेन्टर फर मिसिङ एन्ड एक्सप्लोइटेड चिल्ड्रेन’ (NCMEC) र विभिन्न राज्यका महान्यायाधिवक्ताहरूसँगको सहकार्यमा तयार पारिएको हो। यसले मुख्यतया तीनवटा पक्षमा जोड दिएको छ:
- कानुनी सुधार: एआईद्वारा सिर्जित दुर्व्यवहारजन्य सामग्रीलाई कानुनी दायरामा ल्याउन मौजुदा कानुन परिमार्जन गर्ने।
- रिपोर्टिङ संयन्त्र: सुरक्षा निकायहरूलाई सूचना दिने प्रक्रियालाई थप परिष्कृत र छिटो बनाउने।
- प्राविधिक सुरक्षा: एआई प्रणालीभित्रै सुरक्षाका उपायहरू (Safe Guards) एकीकृत गर्ने।
किशोरी र बालबालिकाका लागि थप कडाइ
ओपनएआईले यसअघि नै १८ वर्ष मुनिका प्रयोगकर्ताहरूका लागि निर्देशिका जारी गरिसकेको छ जसले अनुपयुक्त सामग्री उत्पादन गर्न र आत्म हानि गर्न प्रोत्साहन गर्ने कुरालाई निषेध गर्दछ। कम्पनीले हालै भारतमा पनि किशोर किशोरीहरूका लागि यस्तै सुरक्षा कार्ययोजना ल्याएको थियो। नयाँ ब्लुप्रिन्टले सम्भावित खतरालाई सुरुवातमै पहिचान गरी अनुसन्धानकर्ताहरूसम्म तथ्यपरक जानकारी पुर्याउन सुनिश्चित गर्ने कम्पनीको दाबी छ।
