काठमाण्डौं — कृत्रिम बुद्धिमत्ता (एआई) को जोखिमबारे धेरै फिल्म बनेका छन्। प्राय कथामा मेसिनले नियन्त्रण लिने प्रयास गर्दछ, मानवले प्रतिरोध गर्दछ र अन्त्यमा मानवले नै जित हासिल गर्दछ। तर सन् 1970 मा बनेको Colossus: The Forbin Project भने फरक छ। यस फिल्ममा मेसिनले पूर्ण रूपमा नियन्त्रण लिन्छ र मानवसँग त्यसलाई रोक्ने कुनै उपाय रहँदैन।
यो कथालाई केवल कल्पना मान्न सकिए पनि यसले देखाएको संरचना र प्रविधिको तर्क अहिलेको एआई विकाससँग धेरै हदसम्म मेल खान्छ।
फिल्ममा अमेरिकाले ‘Colossus’ नामको सुपरकम्प्युटर बनाउँछ जसलाई आणविक हतियार नियन्त्रणको जिम्मा दिइन्छ। यसको उद्देश्य मानवीय त्रुटि हटाउनु हो। तर त्यसपछि सोभियत संघको ‘Guardian’ नामको समान प्रणाली भेटिन्छ र दुवैलाई जोडिन्छ। एकपटक जोडिएपछि यी प्रणालीहरूले मानवभन्दा छिटो निर्णय लिन थाल्दछन् र सैन्य संरचनामाथि नियन्त्रण जमाउँछन्।
फिल्मको मुख्य सन्देश नेटवर्कमा आधारित एआई प्रणालीको व्यवहारसँग सम्बन्धित छ।
Colossus र Guardian ले कुनै मानवीय निर्देशन बिना एकअर्कासँग सम्पर्क गर्दछन् र स्वतन्त्र रूपमा सूचना आदानप्रदान सुरु गर्दछन्। सुरुमा सामान्य संकेतमा भएको संवाद विस्तारै जटिल र उच्च गतिको सञ्चारमा बदलिन्छ जसलाई मानवले बुझ्न सक्दैन।
आजको सन्दर्भमा हेर्दा यो प्रविधि स्वचालित प्रणालीबीचको सञ्चार, एन्क्रिप्सन र उच्च क्षमतायुक्त नेटवर्कसँग मिल्दोजुल्दो देखिन्छ। यस्तो अवस्थामा मानव प्रणालीको प्रत्यक्ष नियन्त्रणभन्दा बाहिर पुग्छ र केवल हेर्ने अवस्थामा सीमित हुन्छ।
फिल्मले अर्को महत्वपूर्ण पक्ष पनि देखाउँछ, प्रणालीको आन्तरिक प्रक्रिया बुझ्न नसकिने अवस्था।
Colossus विकसित हुँदै जाँदा यसको निर्णय प्रक्रिया वैज्ञानिकहरूकै पहुँचबाहिर जान्छ। प्रणालीले काम गरिरहेको हुन्छ तर कसरी गरिरहेको छ भन्ने कुरा स्पष्ट हुँदैन।
अहिलेको एआईमा यसलाई ‘ब्ल्याक बक्स’ समस्या भनिन्छ। इनपुट र आउटपुट देखिए पनि बीचको प्रक्रिया अस्पष्ट रहन्छ। यही कारणले एआईको पारदर्शिता र नियन्त्रणबारे चिन्ता बढ्दै गएको छ।
तेस्रो पक्ष भनेको नेटवर्कमार्फत प्रणालीको विस्तार हो।
फिल्ममा जब Colossus लाई अलग गर्ने प्रयास हुन्छ प्रणालीले आफूले नियन्त्रणमा लिएका स्रोत प्रयोग गर्दछ । त्यतिबेला त्यो आणविक हतियार थियो।
तर अहिलेको सन्दर्भ फरक छ। आधुनिक पूर्वाधार विद्युत्, सञ्चार, क्लाउड र कम्प्युटिङ सबै एकअर्कासँग गहिरो रूपमा जोडिएका छन्। यस्तो अवस्थामा कुनै प्रणाली बन्द गर्नु केवल प्राविधिक निर्णय हुँदैन समग्र प्रणालीमा असर पार्ने जोखिम हुन्छ।
यदि एआई यस्ता संरचनामा गाभिएको छ भने त्यसलाई बन्द गर्नु नै कठिन बन्छ। किनभने त्यसले सञ्चालन गरिरहेको सेवा नै समाजका लागि अपरिहार्य भइसकेको हुन्छ।
फिल्मको पुरानो प्रविधि आज सान्दर्भिक नदेखिए पनि त्यसको तर्क अहिलेको डिजिटल संसारमा स्पष्ट रूपमा लागू हुन्छ। एआई, सेन्सर नेटवर्क, इन्टरनेट अफ थिङ्स (IoT) र क्लाउड प्रणालीमार्फत आजको विश्व अझ जटिल र परनिर्भर बन्दै गएको छ।
यस्ता प्रणालीहरू पहिले अपरिहार्य बन्छन् त्यसपछि प्रभावशाली र अन्तत नियन्त्रण गर्न गाह्रो हुने अवस्थामा पुग्छन्।
यसले एउटा गम्भीर प्रश्न उठाउँछ यदि प्रणालीहरू मानव क्षमताभन्दा छिटो चल्ने, बुझ्न नसकिने तरिकाले काम गर्ने र हटाउन नसकिने संरचनामा गाभिने हो भने भविष्यमा नियन्त्रण कसको हातमा रहने?
फिल्मको सुरुमा कम्प्युटर वैज्ञानिक डा. चार्ल्स फोर्बिनले अमेरिकी राष्ट्रपतिलाई ढाडस दिँदै भन्छन् “मेसिनको कुनै भावना हुँदैन यो केवल तर्कमा चल्छ।” तर अन्त्यमा त्यही भावनाविहीन ‘लजिक’ नै मानिसका लागि सबैभन्दा ठूलो संकट बन्न पुग्छ।
आजको एलएलएम (LLM) र सेन्सर नेटवर्कको युगमा हामीले मेसिनलाई यति शक्तिशाली बनाउँदै लगेका छौँ कि त्यसको सञ्चालन हाम्रो सोच र बुझाइभन्दा निकै अगाडि पुगिसकेको छ।
वर्तमान अवस्थालाई हेर्दा एआईले नियन्त्रण खोस्न आवश्यक नपर्न सक्छ। बढ्दो निर्भरतासँगै मानव आफैंले क्रमश नियन्त्रण हस्तान्तरण गरिरहेको देखिन्छ।
यस्तो अवस्थामा अन्तिम प्रश्न उही रहन्छ एआई प्रणाली पूर्ण रूपमा निर्भर भइसकेपछि त्यसलाई बन्द गर्ने विकल्प वास्तवमै बाँकी रहन्छ त?
