काठमाडौँ — पछिल्लो समय विश्वभर आर्टिफिसियल इन्टेलिजेन्स (एआई) एजेन्ट र प्लाटफर्महरूको प्रयोग बढिरहँदा यिनमा आधारभूत सुरक्षा स्पष्टिकरण (डिस्क्लेमर) र जोखिम मूल्यांकन पद्दतीको अभाव रहेको अध्ययनले देखाएको छ ।

एआई प्रणाली तीव्र रूपमा सर्वसाधारणको दैनिकीमा समाहित भइरहेका बेला युनिभर्सिटी अफ क्याम्ब्रिजको नेतृत्वमा तयार पारिएको एआई एजेन्ट इन्डेक्सको पछिल्लो संस्करणमा सुरक्षा पारदर्शितामा लापरबाही भइरहेको निष्कर्ष निकालिएको छ ।

यस अध्ययनमा क्याम्ब्रिजसँगै एमआईटी, स्ट्यानफोर्ड र हिब्रु युनिभर्सिटी अफ जेरुसेलमका अनुसन्धानकर्ताहरू संलग्न छन् । अध्ययनले ३० वटा प्रमुख एआई एजेन्टहरूको मूल्यांकन गर्दै प्रायः सार्वजनिक रूपमा उपलब्ध च्याट सहयोगीदेखि स्वायत्त ब्राउजर एजेन्टसम्मले आफ्नो क्षमताबारे व्यापक प्रचार गरे पनि वास्तविक जोखिम मूल्यांकन र सुरक्षासम्बन्धी तथ्यांक सार्वजनिक गर्न असफल रहेको जनाएको छ । 

अध्ययनअनुसार ३० मध्ये चारवटा एजेन्टले मात्रै व्यवहार, अटोमेसन र जोखिम मूल्यांकनबारे विस्तृत सिस्टम कार्ड प्रकाशित गरेका छन् । ३० मध्ये २५ बटले आन्तरिक सुरक्षा परीक्षणको नतिजा सार्वजनिक गरेका छैनन् भने २३ ले तेस्रो पक्षबाट गरिएका परीक्षणसम्बन्धी कुनै विवरण दिएका छैनन् ।

एआई प्रयोग दैनिक डिजिटल जीवनको अभिन्न हिस्सा बन्दै जाँदा सबैभन्दा धेरै प्रयोग हुने प्लाटफर्महरू पनि पारदर्शिताको अभावमा सञ्चालन भइरहेका छन् । उदाहरणका लागि, ओपनएआईको च्याटजीपीटीका साप्ताहिक सक्रिय प्रयोगकर्ता ८० करोडभन्दा बढी रहेको अनुमान छ र यसले प्रतिदिन करिब २.५ अर्बभन्दा बढी प्रम्प्ट सम्बोधन गर्ने बताइन्छ ।

गुगलको जेमिनाइका मासिक प्रयोगकर्ता संख्या सयौं करोडको हाराहारीमा रहेको अनुमान गरिन्छ । यस्तै, एन्थ्रोपिकको क्लोडजस्ता प्लाटफर्महरू पनि करोडौं प्रयोगकर्तालाई सेवा दिइरहेका छन् । यी दैनिक र मासिक प्रयोगकर्ता तथ्यांकहरूले एआई प्रणालीहरू व्यक्तिगत, शैक्षिक र कार्यस्थलको सन्दर्भमा कति गहिरो रूपमा समाहित भइसकेका छन् भन्ने देखाउँछन् ।

यद्यपि, यति धेरै प्रयोगकर्ता हुँदाहुँदै पनि सुरक्षा सुशासनमा गम्भीर खाडल देखिएको अध्ययनले औंल्याएको छ । अटोमेटिक रूपमा लिंक क्लिक गर्ने, फाराम भर्ने वा कारोबार गर्न सक्ने एआईमा आधारित ब्राउजर एजेन्टहरूमा सुरक्षा विवरण सबैभन्दा कम सार्वजनिक गरिएको र यिनमा ६४ प्रतिशत सुरक्षासम्बन्धी जानकारी प्रकाशित नगरिएको अध्ययनमा भनिएको छ । लेखासम्बन्धी दस्तावेज बनाउने, प्रतिवेदन तयार गर्नेजस्ता काम गर्ने व्यावसायिक अटोमेसन एजेन्टहरूमध्ये ६३ प्रतिशतमा आधारभूत सुरक्षा विवरण उल्लेख नभएको रिपोर्टमा उल्लेख छ । सामान्य च्याट एजेन्टहरूमा पनि ४३ प्रतिशत सुरक्षासम्बन्धी सूचकहरू सार्वजनिक गरेका छैन ।

द एआई एजेन्ट इन्डेक्सका प्रमुख लेखक लिओन स्टाउफरले भनेका छन्, ‘धेरै एआई विकासकर्ताहरूले आधारभूत ल्यांग्वेज मोडेलमा ध्यान दिएर एआई सुरक्षाको औपचारिकता पूरा गरेको जस्तो देखिन्छ, तर त्यसका आधारमा निर्माण गरिएका एआई एजेन्टहरूको सुरक्षाबारे अत्यन्तै सिमित जानकारी सार्वजनिक गरेका छन् । विकासकर्ताहरूले आश्वस्त पार्ने गरी माथिल्लो तहका सुरक्षा विवरण प्रकाशित गर्छन्, तर वास्तविक जोखिम बुझ्न आवश्यक प्रयोगमै आधारित प्रमाण भने सिमित छन् ।’

इमेल लेख्ने, गृहकार्य तयार गर्ने, वित्तीय कारोबार गर्ने वा अनलाइन फाराम भरिदिनेजस्ता काममा एआई एजेन्ट प्रयोग गरिरहेका प्रयोगकर्ताहरूलाई ती प्रणालीले कसरी निर्णय लिन्छन्, के-कस्ता जोखिम हुन सक्छन् र त्रुटि वा दुरुपयोग भएमा के हुन्छ भन्ने स्पष्ट जानकारी नदिइएको अध्ययनमा उल्लेख छ । पर्याप्त सुरक्षा परीक्षण र पारदर्शिता अभावमा प्रयोगकर्ताले दिएको व्यक्तिगत वा संवेदनशील जानकारी कसरी व्यवस्थापन हुन्छ भन्ने विषयमा अनिश्चितता रहन सक्ने अध्ययनले संकेत गरेको छ । 

सुरक्षा र पारदर्शितासम्बन्धी बढ्दो चिन्ताबीच च्याटजीपीटी निर्माता ओपनएआईले भने आन्तरिक मूल्यांकन, सुरक्षा संयन्त्र र विज्ञ तथा नीतिनिर्मातासँग सहकार्यमार्फत जोखिम न्यूनीकरणमा आफू प्रतिबद्ध रहेको जनाएको छ । कम्पनीले सार्वजनिक सामग्रीमार्फत प्रयोगकर्तालाई हानिबाट जोगाउने लक्ष्यका साथ विकास प्रक्रियामै सुरक्षा एकीकृत गरिएको र निरन्तर अनुगमन तथा प्रतिरक्षा प्रणाली सुधार भइरहेको उल्लेख गरेको छ ।