एआई सुरक्षाबारे OpenAI र Anthropic बीच चिन्ता बढ्दै

काठमाडौं — कृत्रिम बुद्धिमत्ता (AI) को तीव्र विकाससँगै यसको सुरक्षा र मानवसँगको alignment अर्थात् एआईलाई मानव हितअनुकूल राख्ने विषयमा गम्भीर चिन्ता बढेको छ।

Anthropic का केही कर्मचारीले सामाजिक सञ्जालमा कम्पनीहरू एआई विकासमा अत्यधिक तीव्र प्रतिस्पर्धा गरिरहेको र भविष्यमा self-improving superintelligence ले मानव समाजका लागि गम्भीर जोखिम निम्त्याउन सक्ने चेतावनी दिएका छन्।

Anthropic मा तीन वर्ष काम गरेका अनुसन्धानकर्ता ज्याकब कोक्सनले राजीनामा दिँदै OpenAI र Anthropic दुवै कम्पनी जिम्मेवार ढंगले अघि नबढिरहेको आरोप लगाएका छन्। उनका अनुसार आगामी एआई प्रणालीले साइबर आक्रमण, वैज्ञानिक अनुसन्धान र विभिन्न क्षेत्रमा मानिसभन्दा निकै शक्तिशाली क्षमता हासिल गर्न सक्नेछन्।

Anthropic का अर्का कर्मचारी इभान ह्युबिन्जरले पनि सुपरइन्टेलिजेन्सले मानव अस्तित्वमै खतरा पुर्‍याउन सक्ने जोखिमलाई गम्भीर रूपमा लिनुपर्ने बताएका छन्। उनले आगामी दशकभित्र यस्तो जोखिमको सम्भावना १० प्रतिशतभन्दा बढी हुन सक्ने व्यक्तिगत अनुमानसमेत सार्वजनिक गरेका छन्।

अर्का एआई सुरक्षा कर्मचारी ड्रेक थोमसले पनि मानवता सुरक्षित रहने सम्भावना बढाउन आफ्नो व्यक्तिगत आर्थिक लाभसमेत त्याग्न तयार रहेको बताएका छन्।

यी अभिव्यक्तिले विश्वका प्रमुख एआई कम्पनीहरूबीच एआई विकासको गति र सुरक्षा नियन्त्रणबीचको सन्तुलन माथि नयाँ बहस सिर्जना गरेको छ। विशेषज्ञहरूका लागि मुख्य प्रश्न अब एआई कति शक्तिशाली बन्न सक्छ भन्ने मात्र नभई, त्यस्तो शक्तिलाई मानव नियन्त्रण र हितभित्र कसरी राख्ने भन्ने बनेको छ।