काठमाडौँ — केही समयअघि डिपफेक प्रविधिमार्फत प्रधानमन्त्री केपी शर्मा ओलीसँग जोडेर एक अत्यन्तै आपत्तिजनक क्लिप भाइरल गराइएपछि नेकपा एकीकृत समाजवादीकी नेता तथा पूर्वमन्त्री रामकुमारी झाँक्री आक्रोशित बनिन् । सामाजिक सञ्जाल र सञ्चार माध्यममा सक्रिय रहने उनले फेसबुकमा लेखिन्, ‘मेरो एउटा साथीले भन्यो : यति धेरै साइबर अपराध भइरहेको छ तिमीमाथि, किन चुप लागेको ? कि सोसल मिडियामा आफूलाई प्रस्तुत नगर कि त यस्तालाई कानुनी दायरामा ल्याउने काम गर । लौ तपाईं पनि भन्नु त म के गरूम् ?’ 

उनको संकेत डिपफेक प्रयोग गरेर आफूमाथि खनिनेहरूमाथि मात्र थिएन, आफ्नाबारे सामाजिक सञ्जाल र आफ्ना पोस्टमा कमेन्ट गर्दा प्रयोग हुने अश्लील र जथाभावी शब्दहरूतिर समेत थियो । यो लेख तयार गर्दासम्म उनको सो पोस्टमा ८८३ वटा सुझाव आएका थिए । डिपफेक बनाउनेलाई कारबाही गर्न, अनलाइन दुर्व्यवहारलाई नसहन, कानुनी कदम चाल्न अधिकांशले सल्लाह दिएका छन् । झाँक्रीले भने अहिलेसम्म सहेरै बसेको र यसबारे के गर्न सकिन्छ भनेर सरसल्लाह लिइरहेको बताइन् । 

उनीजस्ता राजनीतिकर्मी हुन् वा अन्य सेलेब्रिटी र सार्वजनिक ओहोदाका व्यक्तिहरू, आर्टिफिसियल इन्टेलिजेन्स (एआई) र अझ डिपफेकको प्रयोगबाट आजित भएको यो एउटा प्रतिनिधि घटना मात्रै हो । काठमाडौं महानगरपालिकाकी उपमेयर सुनिता डंगोलले त मेयर बालेन्द्र शाहसँगको यस्तै किसिमको अभद्र डिपफेक क्लिप भाइरल बनाइएपछि नेपाल प्रहरीको साइबर ब्युरोमा उजुरी नै दिएकी थिइन् । उनको उजुरीपछि त्यस्तो कन्टेन्ट बनाएको आरोपमा बाजुरा घर भई सिन्धुपाल्चोकमा मेडिकल व्यवसाय गर्ने एक युवकलाई प्रहरीले पक्राउ गरेको थियो । ती युवकको डिभाइसमा अन्य राजनीतिक व्यक्तिका पनि त्यस्तै खाले डिपफेक भेटिएको प्रहरीको भनाइ छ । 

आफूले सामाजिक सञ्जालमा राखेको तस्बिर दुरुपयोग गरी आपत्तिजनक डिपफेक बनाएको भन्दै गायिका समीक्षा अधिकारीले पनि गत पुसमा साइबर ब्युरोमा उजुरी दिएकी थिइन् ।

‘दिपु कान्छो’ नामक फेसबुक पेजबाट आपत्तिजनक भिडियो पोस्ट गरिएको भन्दै उनले आफूलाई मानसिक तनाव भएको निवेदनमा उल्लेख गरेकी थिइन् । फेसबुकमा उनले लेखेकी थिइन्, ‘मेरो व्यक्तिगत र पारिवारिक जीवनमा असर पर्ने गरी राखिएका यस्तो सामग्रीले समाज र राष्ट्रमा पनि नकारात्मक प्रभाव पार्छ । साइबर ब्युरोले कम्प्युटर र एआईको दुरुपयोग गरी यस्तो कार्य गर्ने व्यक्तिहरूलाई छिट्टै खोजी गरी कारबाही गर्ने जानकारी दिएको छ । सस्तो लोकप्रियताको उद्देश्यले कुनै पनि छोरीचेलीको जीवनमा नकारात्मक असर पार्ने गैरकानुनी क्रियाकलाप नगर्न अनुरोध गर्दछु ।’

कानुनको दायरामा पुगेका यी प्रतिनिधि घटनाबाहेक भ्रामक सूचना फैलाउन, विज्ञापन गर्न, कसैलाई होच्याउन, हाँसीमजाक वा राजनीतिक एजेन्डा प्रचार गर्ने उद्देश्यले पनि ‍डिपफेक कन्टेन्ट बनाउने गरिएका छन् । यसमा ‘मीम पुस्ता’ भनिने अहिलेका कतिपय इन्टरनेट प्रयोगकर्ताहरूमाझ सकारात्मक र नकारात्मक दुवै प्रयोजनका ‍डिपफेक भिडियो, अडियो र इमेजहरू बनाउने प्रवृत्ति छ । सन् २०१७ मा सेलेब्रिटीहरूको तस्बिर तोडमोड गर्ने एक रेडिट प्रयोगकर्ताले डिपफेक चर्चित बनाएका थिए । तथापि, १९९० देखि नै तस्बिरहरूलाई बंग्याएर प्रस्तुत गर्ने विभिन्न कार्यमा डिपफेक शैलीको प्रयोग हुँदै आएको छ । 

सन् २०२० मा एआईको प्रयोग व्यापक बन्न थालेयता तस्बिर र भिडियोसँगै आवाज, गेमिङ, भर्चुअल रियालिटी, लेखन र शैक्षिक तथा तालिम प्रयोजनसम्म पनि डिपफेक फैलिएको छ । सिनेमालाई कलात्मक बनाउने, गेमिङको अनुभव सुधार गर्न, भर्चुअल रियालिटीलाई अझै जीवन्त बनाउने, तालिम वा हास्यव्यंग्यको क्षेत्रलाई अझै प्रभावकारी बनाउनेजस्ता सकारात्मक काममा पनि डिपफेकको प्रयोग बढेको छ । तर, यसको नकारात्मक प्रयोगले समाज र सूचना प्रवाहसँगै कतिपय अवस्थामा राजनीतिक परिणाममा समेत फरक पार्न थालेको देखिन्छ । 

एआईका कारण जुरुक्कै उठेर हिँड्ने भगवान्

डिपफेकको प्रयोग राजनीति र सेलेब्रिटीमा मात्रै सीमित छैन । शताब्दीयौंदेखि आरामले पानीमा पल्टिरहेका बुढानीलकण्ठ मन्दिर परिसरका भगवान् विष्णुसमेत अचेल एक्कासि आँखा खोल्छन्, उठ्छन् र टुँइटुँइ हिँड्न थाल्छन् । साँगाका विशाल कैलाशनाथ महादेव आफ्नो सिंहासन छोडेर भर्‍याङबाट तल झरिवरि आफ्ना भक्तजनहरूसँग भेटघाट गर्न थालेका छन् । हुँदाहुँदा बौद्ध स्तूपसमेत शान्त छैन Û स्तूपको माथिल्लो छत्र फनफनी घुम्दै स्तूपभित्र बुद्धको मूर्ति प्रकट भएको देखिन्छ ।

बाघ भैरव, बुद्ध, महादेव, परशुराम लगायत देवताहरू जुरुक्कै उठेर हिँड्न थालेका यस्ता भिडियोहरू अचेल टिकटक, फेसबुक, इन्स्टाग्रामलगायत सामाजिक सञ्जालमा बाक्लै देखिन थालेका छन् । के यो कुनै जादु हो ? वा, देवत्वको नयाँ रूप ? खासमा यो आधुनिक प्रविधिको ‘रिजल्ट’ हो । एआईका शक्तिशाली टुलहरूले भगवान्, मूर्ति, ऐतिहासिक व्यक्ति र पुराना तस्बिरहरूलाई यसरी ‘जीवित’ बनाइरहेका छन् । यस्तो प्रयोगले रमाइलो र हेर्नेहरूलाई इन्गेज मात्रै गरेको छैन, क्रिएटरहरूका लागि भ्युज र ‘अटेन्सन जेनेरेट’ गर्ने माध्यमसमेत बन्ने गरेका छन् ।

यसअघि टेलिभिजन वा युट्युबमा समेत झ्यारझ्यार गुणस्तरमा भेटिने राजा वीरेन्द्र र रानी ऐश्वर्यका पुराना भिडियोहरू अहिले सामाजिक सञ्जालमा एचडी क्वालिटीमा छ्याप्छ्याप्ती छन् । तिनमा उनीहरू मुस्कुराउँदै गफ गरिरहेको देखिन्छन् भने कतै शाही पोसाकमा हिँडिरहेका हुन्छन्, वीरेन्द्रका परिवार आपसमा अँगालो मारेका पनि देखिन्छन् । पृथ्वीनारायण शाह त झन् ‘बजाएर बाजा, लिन आयो राजा..’ जस्ता गीतमा छमछमी नाचिरहेका भेटिन्छन् । यस्ता भिडियोहरू डिपफेक एआई टुलहरूकै प्रयोगबाट निर्माण गरिएका हुन् ।

नेपाली रुपैयाँहरूका चौंरी, हात्ती, बाग, जरायो सबैलाई पैसाबाट निस्केर हिँडेको र त्यसमा ‘देश त खाली भइसक्यो अब पशुपन्छी पनि यहाँ नबस्ने भनेर हिँडे’, ‘२० रुपैयाँका जरायोहरू जंगलतिर भागे’, ‘नयाँ साल फापेन मलाई, हात्तीजति जंगल पसे, गोजी रित्तियो’ जस्ता रोचक क्याप्सन लेखिएका छन् । पाँच रुपैयाँ नोटका चौंरी आपसमा जुधेका देखिन्छन् । ‘भूकम्पको प्रभाव’ क्याप्सनमा धरहरा पनि रोबोटिक खुट्टा टेकेर ठमठम हिँडेको रमाइलो क्लिप टिकटकमा छाएकै छ । एआईमा आधारित डिपफेक प्रविधिले गलत सूचना फैलाउन सक्ने, गोपनीयता उल्लंघन गर्ने र विश्वसनीयता कमजोर पार्न सक्ने जोखिम छन् । यसरी भगवान्, मूर्ति र दिवंगत व्यक्तित्वहरूको ‘एनिमेसन’ देखेर कतिपय प्रयोगकर्ता भने चकितसमेत हुने गरेका छन् । 

कसरी बनाइन्छ डिपफेक ?

एआईको प्रयोग व्यापक बन्नुअघि प्राविधिक रूपमा डिपफेकको धारणालाई मूर्तरूप दिन जटिल थियो । तर, मसिन लर्निङ र विभिन्न अनलाइन प्लाटफर्म र एपहरूको सुलभताले यस्ता कन्टेन्ट सिर्जना गरिदिने अनेक टुल मानिसका हात–हातमा पुगेका छन् । निःशुल्क र सशुल्क दुवै रूपमा उपलब्ध यस्ता प्लाटफर्मले फेस स्वापिङ गर्ने, विभिन्न सम्बन्धित विषयलाई मिलाउने र मिल्दोजुल्दो बनाउने प्रक्रियाबाट डिपफेक निर्माण गरिदिन्छन् । दुरुस्तै सुनिने गरी आवाजको क्लोनिङ गर्ने र झन्डै–झन्डै मिल्ने हाउभाउ वा शैलीका भिडियो यस्ता टुलबाट बनाउन मिल्छ ।

सामाजिक सञ्जालका पोस्ट, म्यासेन्जर, ह्वाट्सएपका नक्कली स्क्रिनसट, अश्लील कन्टेन्ट, होच्याउने नियतका कार्टुन वा एनिमेसन, भाषण, नाचगानसमेत सजिलै बनाउन सकिने डिपफेकको प्रयोग व्यापक बन्दै गएको छ । प्रधानमन्त्री ओली, कांग्रेस सभापति शेरबहादुर देउवा, परराष्ट्रमन्त्री आरजु राणा, राष्ट्रिय स्वतन्त्र पार्टीका रवि लामिछाने लगायतको आवाजमा डिपफेक दोहोरी भिडियो सामाजिक सञ्जालभर छरपस्ट छन् । 

‘डिपफेसल्याब’ जस्ता एआई एपले माथि भनिएजस्तो ऐतिहासिक व्यक्ति, मूर्ति वा देवताहरूका पुराना तस्बिर, चित्र वा भिडियोका आधारमा तिनको वास्तविकझैं लाग्ने अनुहार र एनिमेसन बनाइदिन्छन् । डी–आईडी, ब्लेन्डर, रिफेस एआईजस्ता अनेकौं टुल प्रयोग गरी तस्बिर र चित्रहरूलाई बोल्ने, हिँड्ने, आँखा झिम्क्याउने बनाउन मिल्छ ।

पुराना र ऐतिहासिक तस्बिर एवं लो–क्वालिटीका भिडियोहरूलाई पनि उच्च गुणस्तरमा बदल्ने एआई ‘अपस्केलिङ टुल’ इन्टरनेटमा उपलब्ध छन् । यस्ता प्लाटफर्मले काठमाडौंको धरहरा मात्रै होइन, भारतमा बल्लभभाइ पटेलको मूर्ति, अमेरिकाको स्ट्याचु अफ लिबर्टीलाई समेत उठाएर हिँडाइसकेका छन् । महात्मा गान्धी त सिक्स प्याक एब्ससहित पार्टीहरूमा भारतीय र्‍यापर हनी सिंहको गीतमा कम्मर मर्काइरहेको भिडियो सजिलै भेट्न सकिन्छ ।

गत वर्ष दक्षिण भारतीय चर्चित अभिनेत्री रश्मिका मन्दनाको डिपफेक भिडियो भाइरल भएको थियो । उनीजस्तै देखिने अर्कै व्यक्तिको भिडियोमा फेस स्वाप गरेर बनाइएको उक्त घटनामा संलग्न भएकाहरू पक्राउ पनि परे । त्यो घटनाले भारतका सञ्चार माध्यमका बहसमा डिपफेकबारे राम्रै स्थान पाएको थियो । पछि भारत सरकारले रश्मिकालाई साइबर सुरक्षा प्रवर्द्धनसम्बन्धी विशेष दूतसमेत बनायो । यस्तै, इन्स्टाग्राम र टिकटकमा चल्तीमा रहेको ‘गेट रेडी विद मी’ अर्थात् कुनै इन्फ्लुएन्सरसँगै तयार हुने ट्रेन्डमा हुबहु मिल्ने गरी बनाएको डिपफेकको सिकार चर्चित भारतीय नायिका आलिया भट्ट बन्न पुगेकी थिइन् । 

सोही आसपास भारतीय चर्चित क्रिकेट खेलाडी सचिन तेन्दुल्करको डिपफेकलाई एउटा विवादास्पद अनलाइन गेमिङ एपको प्रवर्द्धनमा लगाइएको पाइएपछि कानुनी विवाद भएको थियो । महेन्द्र सिंह धोनी, शाहरूख खान, अमिताभ बच्चन, विराट कोहलीजस्ता सेलेब्रिटीहरूको डिपफेक तस्बिर, भिडियो र आवाज प्रयोग गरेर मान्छेहरूलाई झुक्याउने र हाँसीमजाकसँगै झमेला दिनु भारतमा नौलो विषय होइन । रणवीर सिंह र आमिर खानले कुनै एक राजनीतिक दललाई समर्थन गरेको डिपफेक बनेको थियो । रणवीरले त्यसबारे प्रहरीमा उजुरी दिए । 

यति मात्रै होइन, भारतमा नरेन्द्र मोदी, राहुल गान्धी, ममता बेनर्जी, अरविन्द केजरीवाल, अमित शाह, निर्मला सीतारमण, कंगना रनौतजस्ता नेताहरू पनि लगातार डिपफेक र ‘म्यानिपुलेटेड कन्टेन्ट’को सिकार बन्दै आएका छन् । भारतीय प्रधानमन्त्री मोदी र इटालीकी प्रधानमन्त्री जर्जिया मेलोनीको त सामाजिक सञ्जाल र डिपफेक प्रयोगकर्ताहरूले भेट, डेट, विवाहमात्रै नभएर अभद्र कन्टेन्ट पनि बनाएर भाइरल बनाउने गरेका छन् । यस्तै डिपफेकको अर्को तारो बन्छन्, आम आदमी पार्टीका प्रमुख अरविन्द केजरीवाल । दिल्लीकी नवनियुक्त मुख्यमन्त्री आतिसीसँग जोडेर केजरीवालको डिपफेक कन्टेन्ट भाइरल बनाइएको धेरै भएको छैन । भारतीय जनता पार्टीको साइबर ब्युरोले सधैं निसाना बनाउने कांग्रेस नेता राहुल गान्धीका पनि डिपफेक भाषण र तस्बिरहरू प्रसार हुने गरेका छन् । 

...

झन्डै ६० करोड ह्वाट्सएप प्रयोगकर्ता र करिब एक अर्बमा इन्टरनेटको पहुँच रहेको भारतमा कतिपय यस्ता डिपफेक जानाजान प्रसार गरिने गरेको र गत वर्ष भएका प्रमुख निर्वाचनहरूमा यसको व्यापक प्रयोग भएका रिपोर्ट सञ्चार माध्यमहरूमा सजिलै भेट्न सकिन्छ । नकारात्मक मात्र होइन, निर्वाचन प्रचारका क्रममा अघिल्लो दशकमै निधन भइसकेका डीएमके नेता एम करुनानिधिलाई कार्यकर्तामाझ उभ्याउन, दिल्लीमा भाजपा उम्मेदवार मनोज तिवारीलाई विभिन्न भाषामा सम्बोधन गर्न र केही वर्षअघि निधन भएका चर्चित भारतीय कलाकार सुशान्त सिंह राजपुतको सम्झनामा भिडियो बनाउन पनि डिपफेक प्रविधिको प्रयोग भएको थियो । यस्ता पहलको भने निकै प्रशंसासमेत हुने गरेको छ । 

अनुमति लिएर गरिएका डिपफेकको असल प्रयोगले पुराना संगीतलाई पुनः जीवन दिन, गेमिङ र भर्चुअल रियालिटीको अनुभव सुधार्न, अनलाइन कक्षा तथा सिकाइलाई चाखलाग्दो बनाउनुका साथै विभिन्न भाषाको प्रसारमा पनि सहयोगी र सुलभ साधन बनेको देखिन्छ । तर, यसको दुरुपयोगको परिणाम असाध्यै दुष्टकर हुने भएकाले डिपफेकप्रति धेरैले आशंका व्यक्त गर्ने गरेका छन् । झन्डै डेढ वर्षयता जारी इजरायल–हमास द्वन्द्वमा आ–आफ्ना प्रोपोगान्डा फैलाउन डिपफेकको व्यापक प्रयोग गरिँदै आएको छ । अमेरिकी राष्ट्रपतीय निर्वाचनका क्रममा दुवै उम्मेदवार डोनाल्ड ट्रम्प र कमला ह्यारिसले भन्दै नभनेका, बोल्दै नबोलेका र गर्दै नगरेका कामहरूलाई डिपफेक र ‘कन्टेन्ट म्यानिपुलेसन’मार्फत निर्वाचन प्रचार सामग्री बनाइयो । 

एकआपसमा युद्ध लडिरहेका रुसी तथा युक्रेनी राष्ट्रपतिहरू पुटिन र जेलेन्स्की, विश्वकै धनाढ्य इलन मस्क, अभिनेता टम क्रुज, गायिकाहरू टेलर स्विफ्ट र वियोन्से, फुटबल खेलाडी क्रिस्टियानो रोनाल्डोसँगै अमेरिकी राष्ट्रपति जो बाइडेन पनि निरन्तर डिपफेक अडियो, भिडियो र इमेजको तनाव झेल्न बाध्य भइसकेका छन् । यस्ता प्रविधिले मनोरञ्जन, शिक्षा र इतिहासको पुनः आविष्कारमा मद्दत गर्ने भए पनि यसको दुरुपयोगले समस्या निम्त्याएका प्रशस्तै उदाहरण छन् । 

गत वर्ष डिपफेक प्रयोगको निकृष्ट नमुना भने विभिन्न सेलेब्रिटी र विशेषगरी महिलाहरूलाई निर्वस्त्र वा आपत्तिजनक अवस्थामा चित्रण गर्न प्रयोग गरिने प्लाटफर्म र टेलिग्राम बटहरू बने । कसैको तस्बिर राखिदिनासाथ सजिलै र निःशुल्क उपलब्ध हुने यस्ता डिपफेक प्लाटफर्म र बटले चर्चित र सर्वसाधारण दुवैलाई तनाव दिए ।

नेपालमा पनि डिपफेकको प्रयोगबाट फेसबुक, मेसेन्जरलगायत एप प्रयोगकर्ताहरूको अश्लील भिडियो बनाएर त्यसलाई सार्वजनिक गरिदिने धम्कीसहित ब्ल्याकमेल गरिने कतिपय त्यस्ता घटनाहरूबारे प्रहरीमा उजुरी पुगेका थिए । प्रेमसम्बन्ध वा निकटता रहेका व्यक्तिहरूबीच समस्या आएपछि दुःख दिने नियतले अश्लील हल्लाखल्ला गर्न एआई र डिपफेकको प्रयोगमार्फत लिइने बदला अर्थात् ‘रिभेन्ज पोर्न’ का घटना र उजुरी दुवै बढेका थिए ।

डिजिटल साक्षरता र यस्तो कन्टेन्टको प्रयोग वा प्रसारबाट हुन सक्ने कानुनी अड्चनबारे इन्टरनेटको ठूलो जमात खासै जानकार छैनन् । यही कारण फेक कन्टेन्टलाई जानाजान वा भ्युज बटुल्नका लागि समेत प्रसार गर्ने गरिएको पाइन्छ । एआई ‘जेनेरेटेड र डिपफेक’ कन्टेन्टको नियमनमा उदासीन देखिने गरेका दलहरूसमेत पछिल्ला दिनमा यसको मारमा पर्न थालेका छन् ।

दलका नेताले नदिएका अभिव्यक्ति, नखिचेको तस्बिर, थाहै नभएको भिडियो, ननिकालेको विज्ञप्ति वा सूचना मात्रै नभएर नक्कली सामाजिक सञ्जाल स्क्रिनसट र मेसेजहरू आ–आफ्ना व्याख्यासहित प्रसार भएपछि मिथ्या र भ्रामक सूचना मलजल गर्ने अर्को कडीका रूपमा डिपफेक मौलाएको छ । नेता र राजनीतिका कुरा मात्रै नभएर साम्प्रदायिक रूपमा तनाव बढाउन, धार्मिक, जातीय, लैंगिक, क्षेत्रीय रूपमा होच्याउनसमेत यस्ता कन्टेन्ट सिर्जना गरिन्छन् । कसैको चरित्रहत्या गर्ने नियतले पनि डिपफेकको प्रयोग बढ्दै गर्दा यसलाई नियमन गर्नुपर्ने माग बलियो रूपमा बढ्न थालेको छ ।

डिपफेकलाई अपराध करार

बेलायतले सन् २०१७ यता एआई र डिपफेकमा आधारित रिभेन्ज पोर्न अर्थात् कसैको तोडमोड गरिएको अश्लील फोटो वा भिडियो बनाउने कार्य ७०० प्रतिशतले बढेको भन्दै त्यसलाई आपराधिक क्रियाकलापको सूचीमा राख्ने तयारी गरेको रोयटर्सले जनाएको छ । महिला र विशेषगरी कम उमेरका युवतीहरूलाई निसाना बनाएर गरिने यस्ता कार्यमा कन्टेन्ट बनाउने र त्यसको प्रसार गर्ने दुवैलाई सजायको दायरामा ल्याउने तयारी बेलायतको छ । 

चीन पहिलेदेखि नै डिपफेकसँग सम्बन्धित विषयमा कडा रूपले प्रस्तुत हुँदै आएको छ । चीनले सन् २०१९ मै डिपफेक वा एआईको प्रयोगबाट सिर्जित सामग्रीबारे स्पष्ट रूपमा खुलाउने, अनुमति लिनुपर्ने, वाटरमार्क राख्नुपर्ने र कसैले गैरकानुनी डिपफेक बनाएको भेटिए अनिवार्य रूपमा उजुरी दिनुपर्ने नियम लगाएको छ । अमेरिकाको डिपफेक नियमन भने निर्वाचन र मतदाता केन्द्रित बढी छ र यसै क्रममा अमेरिकी संसद् र क्यालिफोर्निया राज्यले डिपफेकको प्रयोग नियमन गर्ने प्रयास गर्दै आएका छन् । 

युरोपेली संघले पनि आफ्नो डिजिटल सर्भिसेज एक्ट र जेनेरल डेटा प्रोटेक्सन रेगुलेसनमा विभिन्न प्रावधान थप्दै प्लाटफर्महरूले व्यक्ति वा समुदायलाई हानि पुर्‍याउने किसिमका डिपफेक वा एआई ‘जेनेरेटेड कन्टेन्ट’ हटाउनुपर्ने नियम बनाएको छ । बिनाअनुमति बनाइने डिपफेक र व्यक्तिका डेटाको सुरक्षामा पनि बारम्बार सुधारको ईयूले प्रयास गर्ने गरेको छ । यस्तै, दक्षिण कोरियाले डिपफेकको प्रयोगबाट अनुमतिबेगर निर्माण र प्रसार गरिएका अश्लील कन्टेन्टलाई कानुनी कारबाहीको दायरामा ल्याएको छ । क्यानडाले डिपफेक र एआई ‘जेनेरेटेड कन्टेन्ट’बारे सचेतना जगाउने काम गर्दै आएको छ ।