काठमाण्डौं — च्याटजीपीटी (ChatGPT) चलाउने क्रममा यदि कुनै प्रयोगकर्ताले आत्महत्या वा आफैंलाई हानि पुर्याउने कुरा गरेमा अब उनीहरूका आफन्त वा साथीभाइले तुरुन्तै जानकारी पाउने भएका छन्। प्रयोगकर्ताको सुरक्षालाई ध्यानमा राख्दै बिहीबार ओपनएआई (OpenAI) ले ‘ट्रस्टेड कन्ट्याक्ट’ (Trusted Contact) नामक नयाँ फिचर सार्वजनिक गरेको छ।
यस फिचरअन्तर्गत च्याटजीपीटीका वयस्क प्रयोगकर्ताले आफ्नो अकाउन्टमा परिवारको सदस्य वा मिल्ने साथीलाई ट्रस्टेड कन्ट्याक्टका रूपमा राख्न सक्नेछन्। कुराकानीका क्रममा प्रयोगकर्तामा आत्महत्याको सोच वा आफूलाई हानि गर्ने संकेत देखिएमा च्याटजीपीटीले सुरुमा प्रयोगकर्तालाई नै ती तोकिएका व्यक्तिसँग कुरा गर्न सुझाव दिनेछ । साथै सिस्टमले आफैं ती सम्पर्क व्यक्तिलाई एउटा स्वचालित अलर्ट पठाएर प्रयोगकर्ताको अवस्था बुझ्न आग्रह गर्नेछ।
किन ल्याइयो यस्तो फिचर?
पछिल्लो समय च्याटबटसँगको कुराकानीपछि केही प्रयोगकर्ताले आत्महत्या गरेको भन्दै मृतकका परिवारले ओपनएआईविरुद्ध उजुरीको चाङ नै लगाएका छन्। कतिपय घटनामा त च्याटजीपीटीले नै आत्महत्या गर्न उक्साएको वा योजना बनाउन सघाएको परिवारको आरोप छ। यही दबाब र आलोचनालाई मध्यनजर गर्दै कम्पनीले यो नयाँ सुरक्षा कदम चालेको हो।
यसरी हुन्छ निगरानी
सम्भावित जोखिमका घटनालाई व्यवस्थापन गर्न ओपनएआईले अटोमेसन र मानव रिभ्यु दुवैको प्रयोग गरिरहेको छ। च्याटमा आत्महत्यासम्बन्धी कुनै कुरा आउनेबित्तिकै सिस्टमले कम्पनीको सेफ्टी टिमलाई जानकारी गराउँछ। कम्पनीका अनुसार यस्ता हरेक नोटिफिकेसनलाई मानिसले नै रिभ्यु गर्छन्। “यस्ता सेफ्टी नोटिफिकेसनलाई हामी एक घण्टाभित्रै रिभ्यु गर्ने प्रयास गर्छौं,” कम्पनीले भनेको छ।
आन्तरिक टिमले साँच्चै नै गम्भीर जोखिम देखेमा सिस्टमले ‘ट्रस्टेड कन्ट्याक्ट’ लाई इमेल (Email), टेक्स्ट म्यासेज (Text message) वा इन-एप (In-app) नोटिफिकेसनमार्फत अलर्ट पठाउँछ। तर प्रयोगकर्ताको गोपनीयता सुरक्षित राख्न च्याटमा के कुरा भएको थियो भन्ने विस्तृत विवरण भने पठाइँदैन। केवल अवस्था बुझ्न र उनीहरूको ख्याल राख्न छोटो सन्देश मात्र जाने कम्पनीको भनाइ छ।
ऐच्छिक सुविधा भएकाले प्रभावकारितामा सीमितता
यसअघि गत सेप्टेम्बरमा पनि ओपनएआईले किशोरकिशोरीको अकाउन्टमाथि निगरानी राख्न अभिभावकलाई नियन्त्रण दिने फिचर ल्याएको थियो। त्यतिबेला पनि बालबालिका गम्भीर जोखिममा रहेको सिस्टमलाई लागेमा अभिभावकलाई सेफ्टी नोटिफिकेसन जाने व्यवस्था गरिएको थियो। यसबाहेक च्याटमा आत्महत्याको कुरा उठ्दा व्यावसायिक स्वास्थ्य सेवा लिन सुझाउने प्रणाली च्याटजीपीटीमा पहिलेदेखि नै उपलब्ध छ।
तर यी सुविधाहरूमा एउटा ठूलो सीमितता छ ट्रस्टेड कन्ट्याक्ट र प्यारेन्टल कन्ट्रोल दुवै ऐच्छिक (Optional) फिचर हुन्। प्रयोगकर्ताले आफैं नचाहेसम्म यो एक्टिभ हुँदैन। साथै कसैले एउटा अकाउन्टमा यो सुरक्षा अन गरे पनि अर्को नयाँ अकाउन्ट बनाएर चलाउन सक्ने छुट भएकाले यसले सबै जोखिम रोक्न सक्छ भन्ने ग्यारेन्टी छैन।
“कठिन परिस्थितिमा मानिसहरूलाई सहयोग गर्ने हाम्रो प्रयासअन्तर्गत यो फिचर ल्याइएको हो,” ओपनएआईले आफ्नो घोषणामा भनेको छ। आगामी दिनमा एआई (AI) सिस्टमले यस्ता संवेदनशील अवस्थामा कसरी प्रतिक्रिया दिने भन्ने विषयमा अनुसन्धानकर्ता, चिकित्सक र नीति निर्माताहरूसँग मिलेर काम गरिरहने कम्पनीले जनाएको छ।
