सोशल मीडिया जितके जास्त महत्त्वाचे आहे. तितकेच ते घातक असल्याचे चित्र अनेकदा समोर आले आहे. काही दिवसांपासून अनेक कलाकारांचे डीपफेक फोटो आणि व्हिडीओ व्हायरल झाले आहेत. हे खूप भीतीदायक असल्याचे अनेकांनी म्हंटले आहे. यावर आळा घालण्यासाठी केंद्र सरकारने पावलं उचलली आहेत. केंद्र सरकारने सोशल मीडिया प्लॅटफॉर्मसह ‘डीपफेक्‍स’ संदर्भात बैठक घेतली. या बैठकीत सोशल मीडिया प्लॅटफॉर्म आणि आर्टिफिशियल इंटेलिजेंस टूल्सवर काम करणाऱ्या कंपन्या सहभागी होत्या. यावेळी या बैठकीत महत्त्वपूर्ण निर्णय घेण्यात आला आहे.

सोशल मीडिया प्लॅटफॉर्मवरील बैठकीनंतर माहिती व तंत्रज्ञान मंत्री अश्विनी वैष्णव म्हणाले की, “डीपफेक हा आज लोकशाहीसाठी नवीन धोका आहे आणि त्यावर तातडीने कारवाई करण्याची गरज सरकारला वाटते. याबाबत केंद्र सरकार लवकरच नियम ठरवणार आहे. तसेच, याविरोधात लोकांमध्ये जागरूकता वाढवणे खूप गरजेचे आहे, असे आम्हाला वाटते. डीपफेकमुळे निर्माण होणाऱ्या आव्हानांना तोंड देण्यासाठी आम्ही नियम बनवू. आज घेतलेल्या निर्णयांची अंमलबजावणी करण्यासाठी आम्ही डिसेंबरच्या पहिल्या आठवड्यात सर्व सोशल मीडिया प्लॅटफॉर्मसह पुढील बैठकी घेऊ. यावरील काम त्वरित सुरू होईल आणि येत्या काही आठवड्यात नियमन मसुदा तयार करण्याचा प्रयत्न केला जाईल. डीपफेकचे निर्माते आणि त्यांना होस्ट करणारे प्लॅटफॉर्म या दोघांवरही जबाबदारी असेल. ”

या बैठकीत चार प्रमुख मुद्द्यांवर चर्चा झाल्याचे अश्विनी वैष्णव यांनी सांगितले. डीपफेक कसे शोधले जाऊ शकतात, लोकांना डीपफेक पोस्ट करण्यापासून काय आणि कसे रोखले जाऊ शकते आणि अशा सामग्रीला व्हायरल होण्यापासून रोखले जाऊ शकते. तसेच रिपोर्टिंग यंत्रणा कशी कार्यान्वित केली जाऊ शकते जेणेकरुन कोणत्याही ऍप किंवा वेबसाइटवरील वापरकर्ते प्लॅटफॉर्म आणि अधिकाऱ्यांना डीपफेकबद्दल अलर्ट करू शकतील. जेणेकरून याबाबत कार्यवाही करता येईल. याबाबत जनजागृती करण्यासाठी सरकार, उद्योग आणि प्रसारमाध्यमे यांना एकत्रितपणे काम करावे लागेल, अशी माहिती आश्विनी वैष्णव यांनी दिली.

रश्‍मिका मंदान्नाचा फेक व्हिडिओ व्हायरल

काही दिवसांपूर्वी अभिनेत्री रश्‍मिका मंदान्नाचा एक फेक व्हिडिओ समोर आला होता. जी AI च्या माध्यमातून तयार करण्यात आली होती. व्हिडिओमध्ये एक महिला लिफ्टमध्ये शिरल्याचे दिसले, तिचा चेहरा हुबेहुब रश्‍मिकासारखा आहे. एआयच्या डीपफेक तंत्रज्ञानाच्या मदतीने त्या महिलेचा चेहरा हुबेहुब रश्‍मिकासारखा बनवण्यात आला आहे. हा व्हिडिओ समोर आल्यानंतर रश्‍मिका मंदान्नाने देखील हे खूप भीतीदायक असल्याची प्रतिक्रिया दिली होती.