कति सुरक्षित छ एआईको भविष्य? मानव जीवनसँग जोडिँदै जोखिम

काठमाडौं । केही वर्षअघिसम्म कृत्रिम बुद्धिमत्ता अर्थात् आर्टिफिसियल इन्टेलिजेन्स (एआई) भविष्यको प्रविधि जस्तो लाग्थ्यो । अहिले भने यो हाम्रो दैनिक जीवनको हिस्सा बनिसकेको छ । लेख लेख्नेदेखि तस्बिर बनाउने, भिडियो तयार पार्ने, कोड लेख्ने, तथ्य विश्लेषण गर्ने र जटिल प्रश्नको उत्तर दिने कामसम्म एआईले गर्न थालेको छ ।

प्रविधिको यो तीव्र विकासले मानिसका लागि नयाँ सम्भावनाको ढोका खोलिरहेको छ । स्वास्थ्य, शिक्षा, विज्ञान, उद्योग, सञ्चार र व्यापारमा एआईले कामलाई छिटो र प्रभावकारी बनाउन सक्ने अपेक्षा गरिएको छ । तर यसको गति जति बढ्दै गएको छ, त्यति नै एउटा गम्भीर प्रश्न पनि उठिरहेको छ—एआईलाई विकास गर्ने क्रममा हामीले यसको जोखिमलाई पर्याप्त रूपमा नियन्त्रण गरिरहेका छौं त ?

यो प्रश्न अब केवल वैज्ञानिक वा प्रविधि विज्ञहरूको बहसमा सीमित छैन । विश्वभरका सरकार, अनुसन्धानकर्ता, प्रविधि कम्पनी र मानवअधिकार विज्ञहरू एआईको सुरक्षित विकास र प्रयोगबारे छलफल गरिरहेका छन् ।

सुविधा बढ्दै जाँदा जोखिम पनि बढ्दै

एआईको सबैभन्दा ठूलो आकर्षण यसको क्षमता हो । मानिसले घण्टौं लगाएर गर्ने काम केही सेकेन्डमै पूरा गर्न सक्ने प्रणाली विकास भइरहेका छन् । यसले उत्पादकत्व बढाउने र नयाँ आर्थिक अवसर सिर्जना गर्ने सम्भावना देखाएको छ ।

तर समस्या त्यतिबेला सुरु हुन्छ, जब मानिसले एआईको उत्तरलाई जाँच नगरी अन्तिम सत्यका रूपमा स्वीकार गर्न थाल्छ ।

एआईले गलत सूचना तयार गर्न सक्छ, अपूर्ण वा गलत निष्कर्ष दिन सक्छ र कहिलेकाहीँ विश्वसनीय देखिने तर वास्तविकतामा गलत सामग्री उत्पादन गर्न सक्छ । अझ संवेदनशील क्षेत्रमा यस्तो गल्तीले ठूलो असर पार्न सक्छ ।

त्यसैले एआईको क्षमता बढ्नु मात्र पर्याप्त हुँदैन । त्यससँगै विश्वसनीयता, पारदर्शिता, सुरक्षा र मानव निगरानी पनि बलियो हुन आवश्यक छ ।

रोजगारीको भविष्य कस्तो होला ?

एआईसँग जोडिएको अर्को ठूलो चिन्ता रोजगारी हो ।

पहिलेका औद्योगिक परिवर्तनले मुख्यतः शारीरिक श्रममा आधारित कामलाई प्रभावित गरेका थिए । अहिलेको एआई क्रान्तिले भने कार्यालयमा हुने बौद्धिक कामसम्मलाई प्रभावित गर्न थालेको छ ।

लेखन, डिजाइन, ग्राहक सेवा, डेटा विश्लेषण, सफ्टवेयर विकास, अनुवाद तथा अन्य धेरै क्षेत्रमा एआई सहायक बन्न थालेको छ । यसको अर्थ सबै मानिस बेरोजगार हुने भन्ने होइन । बरु धेरै कामको प्रकृति परिवर्तन हुन सक्छ ।

तर संक्रमणकालमा केही काम हराउन र नयाँ सीप भएका मानिसको माग बढ्न सक्छ । यसले शिक्षा प्रणाली, रोजगारी नीति र सीप विकासको पुरानो ढाँचालाई पुनर्विचार गर्नुपर्ने अवस्था सिर्जना गर्न सक्छ ।

अर्थशास्त्री जोसेफ स्टिग्लिट्जले पनि एआईबाट उत्पादकत्व र समृद्धि बढ्न सक्ने भए पनि त्यसको लाभ असमान रूपमा वितरण भए रोजगारी र आर्थिक असमानताको समस्या गहिरिन सक्ने चेतावनी दिएका छन्।

मानिसको निर्णय क्षमतामाथि एआईको प्रभाव

एआईको अर्को सम्भावित प्रभाव हाम्रो आफ्नै सोच्ने तरिकामा पर्न सक्छ ।

यदि मानिसले सामान्य लेखनदेखि निर्णय, अनुसन्धान, योजना र समस्या समाधानसम्मका काम लगातार एआईलाई जिम्मा दिन थाल्यो भने मानव सीप कमजोर हुने सम्भावना पनि छ ।

प्रविधि मानिसको सहयोगी हुनुपर्ने हो, मानिस स्वयं प्रविधिमाथि पूर्ण निर्भर हुने अवस्था आउनु हुँदैन ।

विशेषगरी चिकित्सा, न्याय, वित्त, शिक्षा, सुरक्षा वा सार्वजनिक नीतिजस्ता क्षेत्रमा एआईले दिएको सुझावलाई अन्तिम निर्णय बनाउनु जोखिमपूर्ण हुन सक्छ । यस्ता क्षेत्रमा मानवीय विवेक, अनुभव र जिम्मेवारी अझै महत्वपूर्ण रहन्छ ।

गलत हातमा पुग्दा एआई कति खतरनाक ?

एआईको जोखिम केवल प्रणाली आफैंले गर्ने गल्तीमा सीमित छैन । यसको दुरुपयोग पनि ठूलो चुनौती बनेको छ ।

अपराधीहरूले एआई प्रयोग गरेर अझ विश्वसनीय ठगी सामग्री, नक्कली आवाज, भिडियो, साइबर आक्रमण वा गलत सूचना तयार गर्न सक्छन् । ठूलो मात्रामा सिर्जना हुने यस्ता सामग्रीले वास्तविक र नक्कलीबीचको सीमा झन् कठिन बनाउन सक्छ ।

अन्तर्राष्ट्रिय एआई सुरक्षा सम्बन्धी अनुसन्धानले पनि एआईको दुरुपयोगबाट साइबर आक्रमण, ठूलो मात्राको ठगी, भ्रामक सूचना तथा अन्य गम्भीर जोखिम बढ्न सक्ने औंल्याएको छ ।

यसले एउटा महत्वपूर्ण प्रश्न जन्माउँछ—प्रविधि कसरी बनाउने भन्ने मात्र होइन, त्यसलाई कसले र कुन उद्देश्यका लागि प्रयोग गर्छ भन्ने विषयलाई पनि उत्तिकै महत्व दिनुपर्छ ।

नियन्त्रण गुम्ने डर

एआईबारे सबैभन्दा गम्भीर बहसमध्ये एउटा यसको भविष्यमा हुने सम्भावित स्वायत्तता हो ।

आजका अधिकांश एआई प्रणाली मानिसले दिएको निर्देशनअनुसार काम गर्छन् । तर भविष्यमा अझ शक्तिशाली प्रणालीले जटिल योजना आफैं बनाउन, विभिन्न डिजिटल प्रणालीसँग अन्तरक्रिया गर्न र लामो समयसम्म स्वतन्त्र रूपमा काम गर्न सक्ने अवस्था आउन सक्छ ।

यही कारणले एआई अनुसन्धानमा 'मानव नियन्त्रण' र 'एआई alignment' अर्थात् एआईको उद्देश्यलाई मानव मूल्य र हितसँग मिलाउने विषय महत्वपूर्ण बनेको छ ।

हालै केही एआई अनुसन्धानकर्ताले शक्तिशाली एआई प्रणालीको विकास अत्यधिक प्रतिस्पर्धाका कारण सुरक्षा अनुसन्धानभन्दा अगाडि बढिरहेको चिन्ता व्यक्त गरेका छन्।

तर यहाँ एउटा सन्तुलित दृष्टिकोण पनि आवश्यक छ । एआईबाट मानव सभ्यता नै समाप्त हुन्छ भन्ने सबैभन्दा खराब सम्भावनालाई निश्चित भविष्यवाणीका रूपमा लिन मिल्दैन । त्यस्ता जोखिमबारे विज्ञहरूबीच पनि मतभेद छन् । तर सम्भावित क्षति अत्यन्त ठूलो हुन सक्ने भएकाले जोखिमलाई पहिल्यै अध्ययन र नियन्त्रण गर्नु आवश्यक हुन्छ ।

विश्वभर नियमनको आवाज

एआईको विकाससँगै यसको नियमनको बहस पनि तीव्र भएको छ ।

अमेरिकामा समेत उन्नत एआई प्रणाली विकास गर्ने कम्पनीका लागि अनिवार्य सुरक्षा परीक्षण, स्वतन्त्र मूल्यांकन, साइबर सुरक्षा र गम्भीर घटनाको रिपोर्टिङजस्ता उपायबारे बहस भइरहेको छ।

संयुक्त राष्ट्रसंघका मानवअधिकार प्रमुखले पनि एआईबाट उत्पन्न हुन सक्ने गम्भीर जोखिम नियन्त्रण गर्न बलियो अन्तर्राष्ट्रिय सुरक्षा उपाय आवश्यक रहेको बताएका छन्।

यसबाट स्पष्ट हुन्छ—एआईको विकास रोक्ने कि नरोकिने भन्ने बहसभन्दा महत्वपूर्ण प्रश्न यसलाई कस्तो नियम र जिम्मेवारीका साथ विकास गर्ने भन्ने हो ।

एआई विकास रोक्नु समाधान हो ?

सम्भवतः होइन ।

एआईले विज्ञान, औषधि अनुसन्धान, शिक्षा, जलवायु अध्ययन, उद्योग र अन्य क्षेत्रमा महत्वपूर्ण योगदान दिन सक्ने सम्भावना छ । समस्या प्रविधिको अस्तित्वमा भन्दा यसको प्रयोग गर्ने तरिका र त्यसको नियन्त्रणमा बढी छ ।

एआईलाई पूर्ण रूपमा रोक्ने प्रयास व्यावहारिक नहुन सक्छ । तर सुरक्षा परीक्षण नगरी शक्तिशाली प्रणाली बजारमा ल्याउने प्रतिस्पर्धा पनि जोखिमपूर्ण हुन सक्छ ।

त्यसैले विकास र सुरक्षाबीच सन्तुलन आवश्यक छ ।

अब जिम्मेवारी कसको ?

यसको सम्पूर्ण जिम्मेवारी केवल प्रविधि कम्पनीको मात्र होइन ।

सरकारले स्पष्ट कानुन र नियमन बनाउनुपर्छ । प्रविधि कम्पनीहरूले आफ्ना प्रणालीको जोखिमबारे पारदर्शी हुनुपर्छ । अनुसन्धानकर्ताले सुरक्षा परीक्षणलाई विकास प्रक्रियाको अनिवार्य हिस्सा बनाउनुपर्छ । सञ्चारमाध्यम र प्रयोगकर्ताले पनि एआईबाट आएको सामग्रीलाई जाँच गर्ने बानी विकास गर्नुपर्छ ।

विद्यालय र विश्वविद्यालयमा पनि एआई प्रयोग गर्ने सीपसँगै त्यसको सीमितता र जोखिमबारे शिक्षा आवश्यक हुँदै गएको छ ।

सबैभन्दा महत्वपूर्ण कुरा, मानिसले एआईलाई आफ्नो निर्णयको विकल्प होइन, निर्णयलाई सहयोग गर्ने उपकरणका रूपमा प्रयोग गर्न सिक्नुपर्छ ।

भविष्यको प्रश्न

एआईले हाम्रो जीवन सजिलो बनाउनेछ कि कठिन ? यसको उत्तर अहिले नै निश्चित छैन ।

यो प्रविधिले मानिसको उत्पादकत्व र सिर्जनशीलता बढाउन सक्छ । तर गलत ढंगले विकास र प्रयोग भयो भने यसले रोजगारी, गोपनीयता, सूचना प्रणाली, सामाजिक विश्वास र मानव सुरक्षामा गम्भीर चुनौती पनि ल्याउन सक्छ ।

त्यसैले आजको वास्तविक प्रश्न 'एआई कति शक्तिशाली बन्न सक्छ ?' मात्र होइन ।

प्रश्न यो पनि हो—एआई जति शक्तिशाली बन्दै जान्छ, मानिसले त्यसलाई कति जिम्मेवार ढंगले नियन्त्रण गर्न सक्छ ?

प्रविधिको दौडमा अगाडि पुग्ने हतारमा यदि सुरक्षा, नैतिकता र मानवीय मूल्यलाई पछाडि छाडियो भने त्यो प्रगति मात्र नहुन सक्छ । त्यसैले एआईको विकासलाई रोक्नु होइन, सुरक्षित, जिम्मेवार र मानवकेन्द्रित बनाउनु आजको सबैभन्दा ठूलो चुनौती हो ।

अन्ततः एआई हाम्रो भविष्यको मालिक बन्ने कि हाम्रो भविष्य निर्माण गर्ने साधन बन्ने भन्ने निर्णय प्रविधिले होइन—मानिसले गर्नेछ ।