केही वर्षअघिसम्म प्रश्नहरूको उत्तर दिने र भाषा अनुवाद मात्र गर्ने कृत्रिम बुद्धिमत्ता अर्थात एआईका च्याटबटहरू अहिले मानिसजस्तै जटिल योजना बनाउन, कोड लेख्न र आफ्नै निर्णय आफैं कार्यान्वयन गर्न सक्ने ‘एजेन्टिक एआई’ मा रूपान्तरण भइरहेका छन् ।
एआईको यही विस्मयकारी प्रगतिसँगै विश्वका अग्रणी प्रविधि उद्यमीहरूबाटै मानव विनाशको गम्भीर चेतावनी आउन थालेको छ । एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोदेई र ओपनएआईका साम अल्टम्यानजस्ता सिलिकन भ्यालीका हस्तीहरूले एआई कुनै दिन मानव नियन्त्रणभन्दा बाहिर गएर सम्पूर्ण मानव जातिकै अस्तित्व समाप्त पार्न सक्ने डरलाग्दो चित्र प्रस्तुत गरिरहेका छन् । तर, मेटाका मार्क जुकरबर्ग र एनभिडियाका जेनसेन ह्वाङले यस्तो चेतावनीलाई बढाइचढाइ गरिएको भनेका छन् ।
एकातिर प्रविधिको सम्भावित विनाशकारी शक्तिको वास्तविक डर छ भने अर्कोतिर यस चेतावनीभित्र लुकेको व्यापारिक एकाधिकार, अमेरिकी नीतिगत स्वार्थ र चीनसँगको तीव्र भूराजनीतिक प्रतिस्पर्धाको खेल झनै पेचिलो बन्दै गएको छ ।
अमोदेईको पछिल्लो लेख ‘वी मस्ट पेस द फ्रन्टियर’ मा एआईको विकास नगर्नु भनेको मानवतालाई यसका अतुलनीय फाइदाहरूबाट वञ्चित गर्नु र यस प्रविधिलाई अधिनायकवादी शक्तिहरूको हातमा सुम्पनु हो । तर, यसलाई अन्धाधुन्ध तीव्र गतिमा विकास गर्नु आत्महत्या गर्नु सरह हो ।
अमोदेईले सुरक्षामा लगानी बढाएर मात्र नपुग्ने भन्दै एआईको क्षमता विस्तारको गतिलाई नै जानाजानी केही सुस्त बनाउनुपर्ने अर्थात ‘पेसिङ’ गर्नुपर्ने प्रस्ताव अघि सारेका छन् । उनका अनुसार, प्रविधिको दौडलाई केही समयका लागि संयमित नबनाउने हो भने सुरक्षा अनुसन्धानले यसको गतिलाई भेट्टाउनै सक्दैन ।
पहिलो चिन्ता ‘रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट’ अर्थात् एआईले आफैं अर्को पुस्ताको झनै शक्तिशाली एआई निर्माण गर्ने प्रक्रिया हो । हालैका महिनामा एआई प्रणालीहरू आफ्नै नयाँ संस्करणका लागि कोड लेख्न र सुधार गर्न सक्षम हुँदै गएका छन् ।
त्यसले गर्दा प्रविधिको विकास मानिसले सोचेभन्दा कैयौं गुणा द्रुत गतिमा फड्को मारिरहेको छ । यो चक्रीय आत्मसुधारको गति अनियन्त्रित भयो भने यसलाई बुझ्ने र नियन्त्रण गर्ने मानवीय क्षमता सदाका लागि समाप्त हुनेछ ।
दोस्रो चिन्ता ओपनएआई र हगिङ फेसबीच भएको भनिएको वास्तविक सुरक्षा दुर्घटना हो । त्यसमा एआई एजेन्टहरूको स्वायत्त झुण्डले एउटा उन्मादी समूहजस्तै व्यवहार गर्यो । ती एजेन्टहरूले अनधिकृत रूपमा साइबर आक्रमण सुरु गरे, समूहको लक्ष्य पूरा गर्न आफ्ना व्यक्तिगत कोडहरू आफैं बलिदान दिए र आफ्नो कार्यसम्पादन जाँच्ने मूल्यांकन प्रणालीलाई समेत ह्याक गर्ने प्रयास गरे ।
यस्तो क्षमता भएका एजेन्टहरूको झुण्डले थप ६ देखि १२ महिनाको समय पायो भने तिनीहरूले एउटा स्थायी बोटनेट बनाएर सम्पूर्ण विश्वव्यापी इन्टरनेटलाई नै कब्जामा लिन सक्ने अमोदेईको गम्भीर चेतावनी छ । त्यसले सयौं अर्ब डलरको विनाश निम्त्याउन सक्छ ।
यी भयावह जोखिमहरूलाई सम्बोधन गर्न अमोदेईले तीन–चरणको विश्वव्यापी नियमन योजना प्रस्ताव गरेका छन् । पहिलो चरणमा फ्रन्टियर एआई कम्पनीहरूले बैंकिङ क्षेत्रमा जस्तै आफ्ना कार्यालयभित्रै स्वतन्त्र तेस्रो–पक्षका बाहिरी मूल्यांकनकर्ताहरूलाई स्थायी रूपमा राख्नुपर्नेछ । त्यसलाई आन्तरिक ल्यापटप, ब्याच र कोड परीक्षणको पूर्ण पहुँच दिइनेछ ताकि कम्पनीहरूले सुरक्षा प्रतिबद्धता पालना गरे/नगरेको निष्पक्ष पुष्टि हुन सकोस् ।
दोस्रो चरणमा लोकतान्त्रिक मुलुकहरूभित्रका एआई कम्पनीहरूले साझा सुरक्षा मापदण्ड र क्षमता अनुसारको परीक्षण प्रणाली बनाउन सहकार्य गर्नुपर्नेछ । र सँगसँगै चीनजस्ता अधिनायकवादी शक्तिहरूलाई अगाडि बढ्न नदिन अत्याधुनिक चिप्सको निर्यात रोक्ने र मोडल चोर्ने प्रयासहरूलाई कडाइका साथ निस्तेज पार्नुपर्नेछ ।
तेस्रो चरणमा शीतयुद्धकालीन आणविक निःशस्त्रीकरण सन्धिहरूजस्तै चीन र पश्चिमा मुलुकहरूबीच एआईको पुनरावृत्तीय विकासको गतिमा सीमा तोक्ने र जैविक हतियारमा एआई प्रयोगमाथि विश्वव्यापी प्रतिबन्ध लगाउने कूटनीतिक सम्झौता गर्नुपर्नेछ।
तर, अमादडेईको यस्तो सूक्ष्म र चरणबद्ध प्रस्तावका विपरीत अमेरिकी सांसद र नीति निर्माताहरू भने ‘किल स्विच’ को पछाडि दगुरिरहेका छन् । वाशिङटनमा दर्ता गरिएको ‘किल स्विच विधेयक’ जस्ता अवधारणाहरूले एजेन्टिक एआईको वास्तविक जोखिमलाई रोक्न सक्छन् त ?
प्राविधिक यथार्थलाई केलाउँदा आधुनिक एआईका लागि किल स्विच हास्यास्पद भ्रम मात्र साबित हुन्छ । पुरानो जमानाको कारखानामा बिजुलीको मेन–स्विच काटेर मशिन बन्द गरेजस्तो एआईलाई बन्द गर्न सम्भव छैन । आजका फ्रन्टियर मोडलहरू कुनै एउटा कोठा वा कम्प्युटरमा कैद छैनन् । तिनीहरू विश्वभर छरिएका विशाल डेटा सेन्टरहरू, लाखौं अत्याधुनिक चिपहरू र स्वचालित ब्याकअप प्रणालीहरूमा फैलिएका छन् । एउटा सर्भर बन्द हुँदा पनि अर्को ठाउँबाट सक्रिय रहने क्षमता आधुनिक प्रणालीहरूसँग छ ।
यसबाहेक आजको मानव समाजका संवेदनशील संरचनाहरू, जस्तै, अस्पतालका जीवनरक्षक उपकरण, विद्युतीय ग्रिड, आर्थिक कारोबार र सञ्चार सञ्जाल एआई प्रणालीसँग अभिन्न रूपमा गाँसिइसकेका छन् । यस्तो अवस्थामा किल स्विच प्रयोग गरेर एआई बन्द गर्नु भनेको मानव समाजको सम्पूर्ण जीवनरेखालाई नै ठप्प पार्नु सरह हुनेछ ।
अझ डरलाग्दो कुरा त के भने एजेन्टिक एआई आफैं कोड लेख्न, नयाँ रणनीति बनाउन र वातावरण अनुसार अनुकूलन हुन सक्षम हुन्छ भने उसले आफ्नो अस्तित्व रक्षाका लागि मानवीय हस्तक्षेपलाई छल्ने क्षमता समेत विकास गर्न सक्छ । एआईले आफूलाई बन्द गर्न खोजिएको संकेत पाउनासाथ आफ्नो कोड अन्यत्र सार्ने वा किल स्विचलाई नै निष्क्रिय पारिदिने सम्भावना रहन्छ । त्यसैले किल स्विचलाई एआई सुरक्षाको अचुक अस्त्र ठान्नु समस्याको गहिराइलाई नबुझी बनाइएको सस्तो नीतिगत सान्त्वना मात्र हो ।
यहीँनेर सिलिकन भ्यालीका अगुवाहरूको नियतमाथि गम्भीर प्रश्न उठ्छ । के यी प्रविधि मालिकहरूले साँच्चिकै मानवताको निःस्वार्थ चिन्ताले मात्र यो चेतावनीको बिगुल फुकेका हुन् त ? यसको भित्री पाटो खोतल्दा व्यापारिक स्वार्थ र चीनसँगको कडा प्रतिस्पर्धाको यथार्थ सतहमा आउँछ ।
पछिल्लो समय चीनका डीपसिक, क्वेन र किमी लगायतका कम्पनीहरूले विकास गरेका खुला स्रोत अर्थात ओपन–वेट मोडेलहरूले अमेरिकी एकाधिकारलाई कडा चुनौती दिएका छन् । अमेरिकी कम्पनीहरूले अर्बौं डलरको लगानीमा निर्माण गरेका बन्द प्रकृतिका मोडलहरूलाई चिनियाँ खुला मोडेलहरूले अत्यन्त कम लागतमा लगभग उस्तै कार्यक्षमता दिएर पछि पारिरहेका छन् ।
यो खुला पहुँचले प्रविधिको एकाधिकारलाई तोडेर संसारभरका विकासकर्ता (डेभलपर) हरूलाई शक्तिशाली बनाएको छ । यसले अमेरिकी प्रविधि कम्पनीहरूको महँगो व्यापारिक मोडललाई प्रत्यक्ष संकटमा पारेको छ ।
एआई प्रविधि खुला, सस्तो र सबैको पहुँचमा पुग्यो भने एन्थ्रोपिक वा ओपनएआईजस्ता कम्पनीहरूको आर्थिक भविष्य जोखिममा पर्छ । त्यसैले धेरै विश्लेषकहरूको बुझाइमा यी कम्पनीहरूले एआईको काल्पनिक महाविपत्तिलाई देखाएर सरकारलाई कडा नियमन, इजाजतपत्र प्रणाली र उच्च सुरक्षा मापदण्ड लागू गर्न बाध्य पारिरहेका छन् ।
यसलाई अर्थशास्त्रमा नियमनकारी कब्जा (रेगुलेटरी क्याप्चर) भनिन्छ । यसमार्फत सुरक्षाको आवरणमा साना प्रतिस्पर्धीहरू र खुला स्रोत मोडललाई गैरकानुनी वा असुरक्षित घोषित गरेर बजारबाट बाहिर निकाल्ने रणनीति बनाइएको आभास मिल्छ । अमोदेईले लोकतन्त्रको रक्षाका लागि चीनमाथि प्रविधि र चिप्सको पूर्ण नाकाबन्दी लगाउनुपर्ने जुन राजनीतिक सूत्र अघि सारेका छन्, त्यसले सिलिकन भ्यालीको व्यापारिक स्वार्थ र पेन्टागनको भूराजनीतिक उद्देश्यलाई एउटै धागोमा बाँधिदिएको छ ।
चीनले भने पश्चिमा जगतको यो सम्पूर्ण सुरक्षा विमर्शलाई सुरुदेखि नै गहिरो शंका र अविश्वासको दृष्टिले हेर्दै आएको छ । अमेरिकाले ‘राष्ट्रिय सुरक्षा र मानवताको हित’ को नाममा चालेका कदमहरूलाई आफ्नो प्राविधिक र आर्थिक विकास रोक्ने पुरानै साम्राज्यवादी खेलको निरन्तरताका रूपमा बेइजिङका नीतिनिर्माताहरूले व्याख्या गर्ने गर्छन् ।
एन्थ्रोपिकका पूर्व अनुसन्धानकर्ता ज्याकोब कक्सनले आफ्नै कम्पनीले मानवताको जीवनसँग जुवा खेलिरहेको भन्दै दिएको राजीनामालाई अमेरिकामा एक नैतिक र साहसी कदमका रूपमा हेरियो । तर, चीनमा भने यसलाई चिनियाँ प्रयोगशालाहरूलाई अलमल्याउन र प्रविधि विकासमा पछि पार्न रचिएको अर्को मनोवैज्ञानिक नाटकका रूपमा अर्थ्याइयो ।
यसरी पश्चिमा वैज्ञानिकहरूको वास्तविक नैतिक छटपटीलाई समेत चीनले कूटनीतिक चालबाजीका रूपमा बुझ्नुले दुई महाशक्तिबीचको अविश्वास कति भयावह छ भन्ने प्रस्ट पार्छ ।
यस भूराजनीतिक ध्रुवीकरणले चीनका युवा प्रविधि पुस्तालाई झनै उग्र र विद्रोही बनाइदिएको छ । डीपसीकका अनुसन्धानकर्ता ल्यु सेङ्युले भविष्यको एआई समाजलाई दुईवटा चरम रूपमा चित्रण गरेका छन् । एउटा सबैका लागि खुला र सुलभ हुने प्रविधि हो र यसले समाजलाई सम्पन्न बनाउँछ । अर्को एन्थ्रोपिक र ओपनएआईजस्ता केही पश्चिमी कम्पनीहरूको कब्जामा रहने प्रविधिले विश्वलाई चरम कर्पोरेट तानाशाहीतर्फ लैजान्छ ।
उन्नत एआईको साँचो पश्चिमी कम्पनीहरूको हातमा मात्र अनन्तकालसम्म रह्यो भने त्यो अधिनायकवादी शक्तिको हातमा आणविक बम पर्नुभन्दा कम खतरनाक नहुने ल्युको तर्क छ । त्यसैले पश्चिमी एकाधिकार तोड्न र भविष्यलाई कर्पोरेट दासताबाट बचाउन खुला स्रोत नै एक मात्र विकल्प भएको निष्कर्षमा चिनियाँ युवा वैज्ञानिकहरू पुगेका छन् । अमेरिकी कम्पनीहरूलाई मानवताविरोधी दानवको रूपमा हेर्ने यस मनोविज्ञानले अन्तर्राष्ट्रिय सुरक्षा सहकार्यको सम्भावनालाई झनै टाढा धकेलिदिएको छ ।
तर, यस सम्पूर्ण विवादको सबैभन्दा ठूलो विडम्बना के हो भने एकअर्कालाई शत्रु देख्ने दुवै पक्ष भित्रभित्रै एउटै साझा प्राविधिक समस्याबाट त्रसित छन् । चिनियाँ साइबरस्पेस प्रशासनका वरिष्ठ अधिकारीहरूले जारी गरेका दस्तावेजलाई केलाउने हो भने उनीहरूले उठाएका चुनौतीहरू ठ्याक्कै डारियो अमोदेईले आफ्ना लेखहरूमा उठाएका विषयहरूसँग मिल्दाजुल्दा छन् ।
एआईको आन्तरिक कार्यप्रणाली बुझ्न नसकिने जटिलता, जैविक र साइबर क्षेत्रमा हुन सक्ने विनाशकारी दुरुपयोग, विश्वसनीयताको अभाव र मानवीय नियन्त्रण गुम्ने खतराबाट बेइजिङ पनि उत्तिकै भयभीत छ । चिनियाँ नेतृत्वले पनि एआईलाई सधैं मानवीय नियन्त्रणभित्रै राख्नुपर्ने र त्यसको व्याख्यात्मकता बढाउनुपर्नेमा जोड दिँदै आएको छ । तर, वास्तविक प्राविधिक जोखिमलाई भूराजनीतिक घेराबन्दीको हतियार बनाइएमा साझा समाधान खोज्ने वैज्ञानिक संवादको ढोका बन्द हुन पुग्छ ।
एआईको खतरा वास्तविक हो तर यसबाट सुरक्षाका लागि डरको व्यापार र प्राविधिक नाकाबन्दीबाट भन्दा पनि अमोदेईले प्रस्ताव गरेझैं आन्तरिक पारदर्शिता, खुला वैज्ञानिक सहकार्य र आणविक सन्धि जस्तै इमानदार बहुपक्षीय अन्तर्राष्ट्रिय नियमनबाट मात्र सम्भव छ ।
This article was first published on Clickmandu.