प्रधानमंत्री नरेंद्र मोदी ने शुक्रवार को नए युग की डिजिटल मीडिया सामग्री में गहरे नकली के खतरों पर प्रकाश डाला और कहा कि यह समझना महत्वपूर्ण है कि आर्टिफिशियल इंटेलिजेंस कैसे काम करता है क्योंकि वे हो सकते हैं जानबूझकर गलत जानकारी फैलाने या उनके उपयोग के पीछे दुर्भावनापूर्ण इरादे का उपयोग किया जाता है।

शुक्रवार को बीजेपी मुख्यालय में दिवाली मिलन कार्यक्रम में सभा को संबोधित करते हुए प्रधानमंत्री मोदी ने पत्रकारों से डिजिटल मीडिया में डीप फेक के खतरों के बारे में बात की, मीडियाकर्मियों से लोगों को डीप फेक में व्यक्तियों की गलत प्रस्तुति जैसी हानिकारक सामग्री फैलाने के लिए कृत्रिम बुद्धिमत्ता के उपयोग के नकारात्मक प्रभावों के बारे में शिक्षित करने का आग्रह किया।

पीएम मोदी ने कहा, मैंने हाल ही में एक वीडियो देखा जिसमें मैं गरबा गीत गाते हुए नजर आ रहा था। ऐसे कई अन्य वीडियो ऑनलाइन मौजूद हैं। डीपफेक का उपयोग जानबूझकर गलत जानकारी फैलाने के लिए किया जाता है या उनके उपयोग के पीछे कोई दुर्भावनापूर्ण इरादा हो सकता है। उन्हें लोगों को परेशान करने, डराने, नीचा दिखाने और कमज़ोर करने के लिए डिज़ाइन किया जा सकता है। डीपफेक महत्वपूर्ण मुद्दों के बारे में गलत सूचना और भ्रम भी पैदा कर सकते हैं।

केंद्र ने कहा है कि डीपफेक के निर्माण और प्रसार पर कड़ा जुर्माना लगाया जाएगा - 1 लाख रुपये का जुर्माना और तीन साल की जेल।डीपफेक में व्यक्तियों की गलत प्रस्तुति के कारण लोगों को गलत तरीके से दोषी ठहराने के लिए ब्लैकमेल सामग्री तैयार की गई है। चूंकि इन वीडियो और ऑडियो रिकॉर्डिंग को सत्यापित करना मुश्किल हो सकता है, प्रतिष्ठा पर पड़ने वाले नकारात्मक प्रभाव से उबरना मुश्किल हो सकता है, भले ही डीपफेक के रूप में सत्यापित हो।