હૈદરાબાદ,તા.૧૨: તાજેતરમાં ફિલ્‍મ અભિનેત્રી જ્‍હાન્‍વી કપૂરનો AI-જનરેટેડ અશ્‍લીલ (ડીપફેક) વીડિયો સામે આવ્‍યો છે. ભૂતકાળમાં અન્‍ય ઘણી અભિનેત્રીઓ પણ આવી ઘટનાઓનો સામનો કરી ચૂકી છે. એક તાજેતરના અભ્‍યાસ અહેવાલ મુજબ, વર્ષ ૨૦૨૩માં વાંધાજનક ડીપફેક વીડિયો અને ફોટાની સંખ્‍યા ૫,૦૦,૦૦૦ હતી, જે વધીને ૨૦૨૫ સુધીમાં ૮૦ લાખ સુધી પહોંચી ગઈ છે. એટલે કે માત્ર બે વર્ષમાં તેમાં લગભગ ૧,૫૦૦%નો વધારો થયો છે.

આંતરરાષ્ટ્રીય જર્નલ Journal of Online Trust and Safety (JOTS) એ તાજેતરમાં અશ્‍લીલ ડીપફેક વીડિયો અંગે એક અહેવાલ પ્રકાશિત કર્યો છે; આ જર્નલ ઇન્‍ટરનેટ અને સોશિયલ મીડિયા સંબંધિત ગુનાઓ, સલામતી અને સુરક્ષાના વિષયો પર સંશોધન કરે છે. ત્‍યારબાદ, ફોર્બ્‍સ મેગેઝિને પણ આ અહેવાલના તારણો પ્રકાશિત કર્યા હતા. અભ્‍યાસ અનુસાર, વિશ્વભરમાં ડીપફેક વીડિયોની સંખ્‍યામાં માત્ર બે વર્ષમાં સોળ ગણો વધારો થયો છે.

અહેવાલમાં જણાવાયું છે કે ડીપફેક સામગ્રી મુખ્‍યત્‍વે મહિલાઓ અને યુવતીઓને નિશાન બનાવે છે. પીડિતોમાં હોલીવુડ અને બોલીવુડના સ્‍ટાર્સ તેમજ વિશ્વભરની અન્‍ય ઘણી જાણીતી હસ્‍તીઓનો સમાવેશ થાય છે. લેન્‍કેસ્‍ટર યુનિવર્સિટીના સંશોધક સારાહ મોર્ગનના જણાવ્‍યા અનુસાર, જો કોઈ વ્‍યક્‍તિનો એક પણ ફોટોગ્રાફ ઇન્‍ટરનેટ, ફેસબુક, ઇન્‍સ્‍ટાગ્રામ કે વોટ્‍સએપ પર ઉપલબ્‍ધ હોય, તો તે વ્‍યક્‍તિ સંપૂર્ણપણે જોખમમાં મુકાઈ શકે છે.

ડીપફેક કન્‍ટેન્‍ટ એટલે AI (આર્ટિફિશિયલ ઈન્‍ટેલિજન્‍સ) નો ઉપયોગ કરીને તૈયાર કરવામાં આવેલાં ફેરફાર કરેલાં વીડિયો, ઓડિયો, છબીઓ અને લખાણ. ઈલેક્‍ટ્રોનિક્‍સ અને માહિતી ટેકનોલોજી મંત્રાલય તથા પ્રેસ ઈન્‍ફોર્મેશન બ્‍યુરો (PIB) ના જણાવ્‍યા અનુસાર, આ ટેકનોલોજીથી તૈયાર કરાયેલું કન્‍ટેન્‍ટ સત્‍ય અને અસત્‍ય વચ્‍ચેની ભેદરેખાને અસ્‍પષ્ટ કરી નાખે છે. તેનો દુરુપયોગ સુરક્ષા સંબંધિત ચિતાઓ સહિત વિવિધ જોખમોને જન્‍મ આપે છે.

એક સ્‍ટડી રિપોર્ટ દર્શાવે છે કે સંશોધકોએ અંદાજે ૮૮ એવી વેબસાઇટ્‍સની ઓળખ કરી છે જે ડીપફેક અશ્‍લીલ (પોર્નોગ્રાફિક) કન્‍ટેન્‍ટ ધરાવે છે. આ સાઇટ્‍સ પરના વીડિયો સરળ કીવર્ડ્‍સનો ઉપયોગ કરીને સરળતાથી જોઈ શકાય છે. આ વીડિયો અને છબીઓમાં વ્‍યક્‍તિઓની સંમતિ વિના તેમના ચહેરાનો ઉપયોગ કરીને અશ્‍લીલ સામગ્રી બનાવવામાં આવી હોય છે. આ ૮૮ વેબસાઇટ્‍સમાંથી ૩૮ વેબસાઇટ્‍સ ખાસ કરીને અશ્‍લીલ ડીપફેક વીડિયો અને છબીઓના પ્રસાર માટે જ બનાવવામાં આવી છે.

JOTS ના એક અહેવાલમાં દેશવાર ધોરણે આ ૮૮ વેબસાઇટ્‍સના યૂઝર્સ અંગેની માહિતી પણ આપવામાં આવી છે. તે દર્શાવે છે કે વૈશ્વિક સ્‍તરે ડીપફેક અશ્‍લીલ કન્‍ટેન્‍ટ જોનારાઓમાં યુનાઇટેડ સ્‍ટેટ્‍સ (અમેરિકા) પ્રથમ ક્રમે છે, જ્‍યાં આવા યૂઝર્સનું પ્રમાણ અંદાજે ૧૮% છે. ભારત બીજા ક્રમે છે, ત્‍યારબાદ જર્મની ત્રીજા, દક્ષિણ કોરિયા ચોથા, કેનેડા પાંચમા અને ફ્રાન્‍સ છઠ્ઠા ક્રમે આવે છે.

એક અહેવાલ મુજબ, અશ્‍લીલ ડીપફેક સામગ્રી ધરાવતી ૮૮ મુખ્‍ય સાઇટ્‍સમાંથી ૩૮ સાઇટ્‍સના સૌથી વધુ યૂઝર્સ અમેરિકામાં છે. આવા યૂઝર્સમાંથી લગભગ ૧૭% અમેરિકામાં સ્‍થિત છે, જે ત્‍યાં અશ્‍લીલ ડીપફેક સામગ્રીના વધુ વપરાશ તરફ નિર્દેશ કરે છે. દક્ષિણ કોરિયા બીજા ક્રમે છે, જ્‍યાં આવા કન્‍ટેન્‍ટના લગભગ ૧૨% દર્શકો છે, જ્‍યારે ભારત ૧૧% યૂઝર્સ સાથે ત્રીજા સ્‍થાને છે. જર્મની અને જાપાન અનુક્રમે ચોથા અને પાંચમા ક્રમે છે.

સંશોધકોને જાણવા મળ્‍યું કે ૮૮ ડીપફેક વેબસાઇટ્‍સ કોઈ ગુપ્ત નેટવર્ક પર કાર્યરત નહોતી; તેના બદલે, પાંચ જાણીતી કંપનીઓ તેમના સર્વર પર તેમને હોસ્‍ટ કરી રહી હતી. આ પાંચ કંપનીઓમાંથી માત્ર એક જ કંપનીએ અશ્‍લીલ ડીપફેક સામગ્રી ધરાવતી ૪૪થી વધુ સાઇટ્‍સ હોસ્‍ટ કરી હતી. જો આ પાંચ કંપનીઓ કડક પગલાં લે, તો આ ડીપફેક સાઇટ્‍સને તાત્‍કાલિક બંધ કરી શકાય છે.

સંશોધકોને એ પણ જાણવા મળ્‍યું કે ૮૮માંથી લગભગ ૯૩% વેબસાઇટ્‍સ ઓનલાઇન સરળતાથી સુલભ છે. આનો અર્થ એ છે કે સામાન્‍ય ઇન્‍ટરનેટ સર્ચ દ્વારા આ સાઇટ્‍સ પરની અશ્‍લીલ ડીપફેક સામગ્રી સુધી પહોંચી શકાય છે. નોંધપાત્ર વાત એ છે કે, સર્ચ એન્‍જિન કોઈપણ અવરોધ કે ચેતવણી વિના આ વેબસાઇટ્‍સની લિક્‍સ પ્રદાન કરે છે.

કાયદેસરના ડીપફેક માર્કેટનું વધતું મૂલ્‍યઃ'ફોર્ચ્‍યુન બિઝનેસ ઇનસાઇટ્‍સ' ના ડેટા અનુસાર, વિશ્વભરમાં ડીપફેકનો ઉપયોગ કાયદેસરના હેતુઓ માટે પણ કરવામાં આવે છે. તેમાં ફિલ્‍મો માટે AI-જનરેટેડ અભિનેતાઓની નકલો (ડુપ્‍લિકેટ્‍સ) બનાવવી અને કપડાંની જાહેરાતો માટે AI મોડલ્‍સ વિકસાવવા જેવી બાબતોનો સમાવેશ થાય છે. કાયદેસરના ડીપફેક માર્કેટનું મૂલ્‍ય સતત વધી રહ્યું છે. વૈશ્વિક સ્‍તરે, ૨૦૨૫માં આ બજારનું મૂલ્‍ય અંદાજે રૂ.૮૮૯ અબજ હતું.

જીવન બરબાદ થવાનું વધતું જોખમઃ JOTS ના અહેવાલને ટાંકીને, લેન્‍કેસ્‍ટર યુનિવર્સિટીના મુખ્‍ય સંશોધક સારાહ મોર્ગને ડીપફેકને કારણે જીવન બરબાદ થવાના જોખમ અંગે ચિતા વ્‍યક્‍ત કરી છે. તેઓ AI-આધારિત જાતીય શોષણના કિસ્‍સાઓમાં ઝડપી વધારો નોંધે છે. બીજી તરફ, ડો. સોફી નાઈટિગેલનું માનવું છે કે આ માટે માત્ર એવા લોકોને જ જવાબદાર ઠેરવવા જોઈએ જેઓ નકલી સામગ્રી બનાવે છે અને તેને ફેલાવવામાં મદદ કરે છે.

ભારતમાં મહિલાઓ વિરુદ્ધ સાયબર ગુનાઓમાં ૬૦%નો વધારો Pi-Labs ના ૨૦૨૬ના અહેવાલ મુજબ, ૨૦૨૪માં ભારતમાં મહિલાઓ વિરુદ્ધ સાયબર ગુનાઓની ૫૦,૦૦૦ ફરિયાદો નોંધાઈ હતી. ૨૦૨૬ સુધીમાં આ આંકડો વધીને અંદાજે ૮૦,૦૦૦ થઈ ગયો હતો. આ કિસ્‍સાઓમાં વાંધાજનક ડીપફેક સામગ્રીના બનાવોનો પણ સમાવેશ થતો હતો, જે બે વર્ષના સમયગાળામાં લગભગ ૬૦% નો ઉછાળો દર્શાવે છે.

ડીપફેક વીડિયો કેવી રીતે ઓળખવાઃ ફોર્બ્‍સ અનુસાર, આંખોની હિલચાલ અને આંખ પટપટાવવાની રીત જેવી ચોક્કસ વિગતો પર ધ્‍યાન આપીને ડીપફેક વીડિયો ઓળખી શકાય છે. સામાન્‍ય માણસો વારંવાર આંખ પટપટાવે છે, જ્‍યારે ડીપફેક પાત્રો ભાગ્‍યે જ આવું કરે છે. જોકે તેના નવા વર્ઝનમાં સુધારો થયો છે, તેમ છતાં આવા પાત્રોનું આંખ પટપટાવવું ઘણીવાર અકુદરતી લાગે છે. જો કોઈ વ્‍યક્‍તિના ચહેરા પર તેજસ્‍વી પ્રકાશ હોય પરંતુ પૃષ્ઠભૂમિમાં પડછાયા અસંગત રીતે પડતા હોય, તો તે વીડિયો નકલી હોઈ શકે છે. ચહેરાના લક્ષણો અને હોઠના હલનચલન (લિપ-સિકિગ) ઉપરાંત, માથાની કુદરતી હિલચાલનું અવલોકન કરવાથી પણ અસલી અને નકલી ફૂટેજ વચ્‍ચેનો તફાવત પારખી શકાય છે.

સુરક્ષિત કેવી રીતે રહેવું: નિષ્‍ણાતો સોશિયલ મીડિયા પર તમારી ગોપનીયતા બાબતે સતર્ક રહેવાની સલાહ આપે છે. ઉચ્‍ચ ગુણવત્તાવાળા ફોટા અને વીડિયો શેર કરવાનું ટાળો, કારણ કે છેતરપિડી કરનારાઓ આવા મટિરિયલનો ઉપયોગ ડીપફેક બનાવવા માટે કરે છે. તમારા ડિજિટલ એકાઉન્‍ટ્‍સ માટે મજબૂત પાસવર્ડ રાખો. જો તમારા ફોટા કે વીડિયોનો દુરુપયોગ થાય, તો તમે ભારત સરકારના 'નેશનલ સાયબર ક્રાઈમ રિપોર્ટિગ પોર્ટલ' (https://cybercrime.gov.in/) પર જઈને Register a Complaint (ફરિયાદ નોંધાવો) વિકલ્‍પ પસંદ કરીને ફરિયાદ કરી શકો છો. ફેબ્રુઆરી ૨૦૨૭થી, સરકાર એક નિયમ લાગુ કરી રહી છે જેના હેઠળ સોશિયલ મીડિયા પ્‍લેટફોર્મ્‍સે આવી ફરિયાદો પર વર્તમાન ૩૬ કલાકના સમયગાળાને બદલે ત્રણ કલાકની અંદર કાર્યવાહી કરવી પડશે.

ડીપફેક કન્‍ટેન્‍ટથી સેલિબ્રિટીઝ પરેશાનઃ તાજેતરમાં, ગુનેગારોએ ખ્‍ત્‍નો ઉપયોગ કરીને જાﾎવી કપૂરની ફિલ્‍મ 'દેવરાઃ પાર્ટ ૧'ના એક ગીતના વીડિયો ફૂટેજને અશ્‍લીલ કન્‍ટેન્‍ટમાં ફેરવી નાખ્‍યા હતા; અભિનેત્રીએ આ અંગે ભારે નારાજગી વ્‍યક્‍ત કરી હતી. 'અર્જુન રેડ્ડી' ફિલ્‍મ માટે જાણીતી શાલિની પાંડે પણ ઓગસ્‍ટમાં ડીપફેક વીડિયોનો શિકાર બની હતી. સામંથા રૂથ પ્રભુ, રશ્‍મિકા મંદાના, નોરા ફતેહી અને માધુરી દીક્ષિત જેવી સેલિબ્રિટીઝ પણ AI-જનરેટેડ કન્‍ટેન્‍ટનો ભોગ બની ચૂકી છે. આ વર્ષે સપ્‍ટેમ્‍બરમાં, વડાપ્રધાન મોદી અને એક મહિલાની ડીપફેક તસવીરો વાયરલ થઈ હતી.