Sunday, August 3, 2025

फेक व्हिडीओंची जटिल समस्या

फेक व्हिडीओंची जटिल समस्या

डॉ. दीपक शिकारपूर


समाजमाध्यमांमार्फत ‘व्हायरल’ झालेल्या फोटो किंवा व्हिडीओवरून गैरसमज होऊन भांडणे, हिंसाचार, न्यायालयीन प्रकरणे किंवा दंगली उद्भवणे आता नवीन राहिलेले नाही. सध्या काय सांगितले आहे यापेक्षा कोणी सांगितले आहे याला महत्त्व आले आहे. ‘फेक’ घटनांची खात्री करण्याची सुविधा देणारी अनेक ॲप्स न वापरता लोक चुकीचे कृत्य करून मोकळे होतात. एक जटिल समस्या बनत असलेल्या या ‘फेक’ दुनियेचा वेध.


सोशल मीडियाचा वापर जगभर वाढू लागल्यावर त्यामध्ये काही समाजविघातक बाबी शिरणे अपरिहार्यच होते. सायबर गुन्हेगार इथेही सक्रिय झालेच. स्वतःचे खोटे प्रोफाइल ठेवून नोकरी, विवाह, प्रवास, व्यापार किंवा मैत्रीच्याही निमित्ताने लोकांना जाळ्यात ओढणे आणि पैशांना किंवा वैयक्तिक पातळीवरील इतर गोष्टींमध्ये ठकवणे हादेखील एक मोठा व्यवसाय बनला असे म्हणावे लागेल. याचीच पुढील आवृत्ती म्हणजे फेक न्यूज. याला होक्स असेही नाव आहे.


अशा बातम्या कोणत्याही प्रकारच्या असू शकतात. राजकारण आणि अर्थकारणापासून ‘आज पृथ्वीवर सूर्याकडून कॉस्मिक रेजचा मारा होणार आहे तरी सावध राहावे’पर्यंत यामध्ये काहीही असू शकते. अशा बातम्यांना मसाला व्हॅल्यू असल्याने सोशल मीडियावर त्या झपाट्याने पसरतात. याचीच पुढची पायरी म्हणजे फेक व्हिडीओ... समाजमाध्यमांमार्फत ‘व्हायरल’ झालेल्या फोटो किंवा व्हिडीओवरून गैरसमज होऊन भांडणे, हिंसाचार, कोर्ट केसेस आणि अगदी दंगली उद्भवणे आता नवीन राहिलेले नाही. आपण पाहिलेला फोटो किंवा व्हिडीओ अस्सल आहे की, मॉर्फिंग केलेला म्हणजे संगणकीय साधने वापरून सोयीस्कररीत्या कट-पेस्ट केलेला आहे, याची खात्री न करताच पाठिंबा किंवा विरोध करण्याच्या हालचाली सुरू केल्या जातात. पण सध्या काय सांगितले आहे यापेक्षा ते कोणी सांगितले, यालाच महत्त्व आलेय. हा बहुधा मानवी स्वभावच असावा, कारण ‘फेक’ की ‘रिअल’ याची खात्री करण्याची सुविधा फुकट देणारी अनेक ॲप हाताशी असतानाही आपण तसे न करता घातक आणि चुकीचे कृत्य करून मोकळे होतो.


वर्णनावरून चित्र काढण्याचे जे कौशल्य आपल्यातील काहींमध्ये असते; त्याचाच हा अधिक उच्च पातळीवरचा तांत्रिक आविष्कार आहे.
सोशल मीडिया, विविध ॲप्स, ओटीटी, टीव्हीवर दाखवली जाणारी दृश्ये किंवा प्रसंग त्यांच्या मूळ रूपात असतीलच याची कोणतीही खात्री प्रेक्षकांना मिळू शकणार नाही आणि हे घडायला पुढची पाच ते दहा वर्षे पुरेशी आहेत. पण येत्या काही दशकांमध्ये हा प्रकार वाढत जाण्याचीच शक्यता आहे, कारण असे व्हिडीओ बनवण्यातला आर्टिफिशिअल इंटेलिजन्सचा सहभाग वेगाने वाढत असल्याने दाखवली जाणारी बाब खरी की खोटी हे ओळखणे जवळजवळ अशक्य बनणार आहे. अमेरिकेचे माजी अध्यक्ष ट्रम्प यांना अटक होताना, फ्रान्सचे अध्यक्ष इमॅन्युअल मॅक्रॉ अश्रुधुरातून मार्ग काढताना दिसणारे प्रसंग पाहिल्याचे किंवा याबाबत वाचल्याचे आठवत नाही ना? नाहीच आठवणार, कारण असे काही घडलेलेच नाही. हे प्रसंग संगणकावर बनवलेले आहेत. कृत्रिम प्रज्ञेवर आधारित ‘मिडजर्नी’ नावाच्या सॉफ्टवेअरने. पुरवलेल्या मजकुरावरून हे सॉफ्टवेअर प्रतिमा तयार करू शकते आणि त्या प्रतिमा किती हुबेहूब आहेत असेच वाटत राहते.


कृत्रिम बुद्धिमत्ता हे तंत्रज्ञान पुढील वीस वर्षांमध्ये जगाचे चित्रच बदलून टाकणार आहे. वैद्यकीय, शिक्षण, दूरसंचार आदी अनेक क्षेत्रांमध्ये या तंत्रज्ञानाचा प्रवेश झाला आहे. फेक व्हिडीओ किंवा डीपफेक व्हिडीओ हे कृत्रिम बुद्धिमत्ता वापरून तयार केलेले व्हिडीओ असतात, ज्यात व्यक्तींचे चेहरे, आवाज किंवा हालचाली खोटेपणाने बदलल्या जातात. मनोरंजन, जाहिरात, शिक्षण आणि संशोधन क्षेत्रात या तंत्रज्ञानाचा वापर वाढत आहे, परंतु त्याचा गैरवापरदेखील होऊ शकतो.


जनरेटिव्ह एआय टूल्स वापरकर्त्याच्या प्रॉम्प्टनुसार माहितीचे पृथ:करण करून नवनिर्मिती करतात. त्यातून निर्माण होणारी बाब मानवनिर्मित नाही हे स्पष्ट करण्याचे बंधन नसल्याने त्याच्या सत्यतेवर सर्वांचा विश्वास बसू शकतो. एआय बनावट; परंतु वास्तविक दिसणाऱ्या प्रतिमा आणि व्हिडीओंची निर्मिती करून चुकीची माहिती सर्वत्र प्रसारित करू शकतात. यामागे प्रतिगामी, गुन्हेगारी, दहशतवादी अथवा व्यावसायिक स्पर्धक असू शकतात पण, ते पाठीमागे राहून शांतपणे अदृश्य राहू शकतात. त्यामुळे जनमताचा प्रभाव सहज शक्य आहे.


डीपफेक व्हिडीओ तयार करण्यासाठी वापरली जाणारी प्रमुख एआय टूल्स अलीकडे चर्चेत आहेत. यापैकी ‘डीपफेसलॅब’ हे एक ओपन-सोर्स टूल आहे. ते वापरकर्त्यांना व्हिडीओमधील चेहऱ्यांचे स्वॅप करण्याची सुविधा देते. हे टूल उच्च अचूकतेसाठी ओळखले जाते आणि व्यावसायिकांमध्ये लोकप्रिय आहे. यात रिअल-टाइम प्रिव्ह्यू आणि बॅच प्रोसेसिंगसारखी वैशिष्ट्ये आहेत. रिफेस हे असेच एक मोबाइल ॲप्लिकेशन आहे. ते वापरकर्त्यांना त्यांच्या चेहऱ्यांचे व्हिडीओ आणि जीआयएफमध्ये स्वॅप करण्याची सुविधा देते. यात रिअल-टाइम चेहरा स्वॅपिंगची क्षमता आहे आणि सोशल मीडियावर सहज शेअर करता येते.


डीप ब्रेन हे एक एआय व्हिडीओ जनरेटर आहे जे टेक्स्ट-टू-व्हिडीओ, टेक्स्ट-टू-ऑडिओ आणि एआय अवतार तयार करण्याची सुविधा देते. यात ८० पेक्षा जास्त भाषांमध्ये व्हॉइसओव्हर तयार करण्याची क्षमता आहे. यामुळे व्हिडीओ निर्मिती वेगवान आणि कार्यक्षम होते. याखेरीज मेकफिल्म हे एक व्यावसायिक डीपफेक व्हिडीओ मेकर आहे. ते एथिकल कंटेंट निर्मितीसाठी डिझाइन केले आहे. यात चेहरा स्वॅपिंग, व्हॉइस जनरेशन, व्हिडीओ डाऊनलोड आणि व्हिडीओ आउटपुट सारखी वैशिष्ट्ये आहेत.


ही ॲप्स वापरताना सुरक्षित आणि नैतिक वापरासाठी सूचना घेणे आवश्यक आहे. एखाद्याच्या चेहऱ्याचा किंवा आवाजाचा वापर करण्यापूर्वी त्यांची स्पष्ट परवानगी घेणे अपेक्षित असते. व्हिडीओंमध्ये वॉटरमार्क्स वापरून ते एआयनिर्मित असल्याचे स्पष्ट करणे अपेक्षित होते. केवळ मनोरंजन, शिक्षण किंवा संशोधनासाठीच या तंत्रज्ञानाचा वापर करावा. राजकीय, सामाजिक किंवा वैयक्तिक हानीसाठी या तंत्रज्ञानाचा वापर टाळावा. माहिती-तंत्रज्ञानातील अभूतपूर्व क्रांतीने सारे जग जोडण्याची किमया केली खरी; परंतु त्याबरोबरच विघातक, विध्वंसक वृत्तींनाही कमी जोखीम पत्करून जास्त दुष्परिणाम घडवण्याची क्षमता प्राप्त झाली.


या प्रकाराला, खरे तर गैरप्रकाराला वेळीच आळा न घातल्यास अराजक घडू शकते. परिणामी, सत्य लपवणे, ते वेगळ्या रूपात दाखवणे किंवा स्वतःला सोयीचा असेल तेवढाच भाग सांगणेही अगदी सहजशक्य होईल. यामध्ये प्रगत राष्ट्रांमध्ये ऊहापोह होऊन जागृती झाली आहे. १ ऑगस्ट २०२४ रोजी, युरोपियन कृत्रिम बुद्धिमत्ता कायदा अमलात आला. नवीन नियमांचा एक भाग म्हणून कायदा प्रतिबंधित अस्वीकार्य पद्धतींची यादी तयार करतो, ज्यामुळे धोका वाढतो. या प्रतिबंधाचा उद्देश लोकांच्या सुरक्षेसाठी अस्वीकार्ह्य पातळीचा धोका असलेल्या क्षेत्रावर किंवा अनाहूत भेदभाव करणाऱ्या प्रणालींवर आहे.
आपल्या देशातही या विषयावर मंथन सुरू आहे. कृत्रिम बुद्धिमत्तेच्या विकास आणि वापरासाठी स्पष्ट धोरण तयार करणे आवश्यक आहे. तसेच कृत्रिम बुद्धिमत्तेचे नियमन


करण्यासाठी एक स्वतंत्र नियामक संस्था स्थापन करणे आवश्यक आहे. अभिव्यक्ती स्वातंत्र्य म्हणजे काय याची कायदेशीर व्याख्या करण्याची वेळ आली आहे. यासाठी सरकार आणि स्वयंसेवी संस्थांनी खरेपणा तपासण्यासाठी काही वेबसाईट्स तयार करणे जरुरीचे आहे. तसेच सायबर कायदे बदलून त्यात फेक न्यूज, व्हिडीओचा प्रसार करणाऱ्या व्यक्ती आणि संस्थांना जबर शिक्षा व्हायला हवी. हे सर्व प्रकार फक्त राजकीय अथवा देशांमधील स्पर्धेपुरतेच नाहीत. उद्योग विश्व यापासून अलिप्त राहू शकत नाही. उद्योग आपले उत्पादन लोकप्रिय आणि अधिक लाभदायी करण्यासाठी स्पर्धक उद्योगांबद्दल गैरसमज, फेक माहिती सोशल मीडियावर पसरवू शकतो. व्यवसायाचा हेतू फक्त लाभ असाच असता कामा नये. हे बाळकडू शालेय शिक्षणपद्धतीत, व्यवस्थापन उच्च शिक्षणात अंतर्भूत केलेच पाहिजे. नीतिमत्तेवर आधारित तंत्रज्ञान ही बाब शालेय, महाविद्यालयीन शिक्षणात अंतर्भूत करायची हीच वेळ आहे.

Comments
Add Comment