డీప్ ఫేక్ అనేది ఒక చిత్రం లేదా దృశ్య లేదా శ్రవణ రికార్డింగ్, ఇది అసలైన వ్యక్తిని మరొకరితో (ముఖ From Wikipedia, the free encyclopedia
'డీప్ ఫేక్'అంటే డీప్ లెర్నింగ్-ఫేక్ ఒక సింథటిక్ మీడియా. ఇవి ఒక వ్యక్తి, పోలికను మరొక వ్యక్తి పోలికలతో నమ్మదగిన విధంగా భర్తీ చేయడానికి డిజిటల్ విధానం ద్వారా తారుమారు చేస్తాయి. అంటే, ముఖరూపాన్ని తారుమారు చేస్తాయి. 'డీప్ ఫేక్' యంత్ర అభ్యాసం, కృత్రిమ మేధస్సు నుండి శక్తివంతమైన పద్ధతులను ప్రభావితం చేసి, దృశ్య, శ్రవణ విషయాలు, విషయాన్ని (కంటెంట్) సులభంగా తారుమారు చేయగలవు. ఈ విధంగా రూపొందించడానికి ఉపయోగించే ప్రధాన మెషిన్ లెర్నింగ్ (యంత్ర అభ్యాస) పద్ధతులు లోతైన అభ్యాసం (డీప్ లెర్నింగ్) పై ఆధారపడి ఉంటాయి. ఆటోఎన్కొడర్స్ లేదా జనరేటివ్ అడ్వర్సేరియల్ నెట్వర్క్లు వంటి జనరేటివ్ న్యూరల్ నెట్వర్క్ ఆర్కిటెక్చర్లకు శిక్షణ ఇస్తాయి. ఇమేజ్ ఫోరెన్సిక్ రంగం తారుమారు చేసిన చిత్రాలను గుర్తించే పద్ధతులను అభివృద్ధి చేస్తుంది.
డీప్ ఫేక్ అనేది ఒక చిత్రం లేదా దృశ్య లేదా శ్రవణ రికార్డింగ్. ఇది అసలైన వ్యక్తిని మరొకరితో (ముఖ్యంగా పబ్లిక్ ఫిగర్) భర్తీ చేయడానికి అల్గారిథమ్ని ఉపయోగించి సవరించబడింది, తద్వారా అది ప్రామాణికమైనదిగా, నిజంగా కనిపిస్తుంది. డీప్ఫేక్లో నకిలీ పారదర్శకంగా ఉంటుంది: డీప్ఫేక్లు నిజమైనవి కావు. డీప్ అన్న ఈ సగం పదం స్వీయ-వివరణ, లోతైనది. ప్రత్యేకంగా మెషిన్ లెర్నింగ్ (లోతైన అభ్యాసం) ద్వారా అంటే, అల్గారిథమ్ల బహుళ పొరలతో కృత్రిమ న్యూరల్ నెట్వర్క్లను ఉపయోగించి ప్రభావితమవుతుంది.[1]
వినోదం నుండి గేమింగ్ వరకు డీప్ ఫేక్ సాంకేతిక మరింతగా అభివృద్ధి చెందింది[2], అయితే వినోదం, మీడియా పరిశ్రమలకు ఇదే సాంకేతికత అంతరాయం కలిగిస్తోంది.[3] మోసాలు, లైంగిక వేధింపుల విషయాలను సృష్టించడంలో డీప్ఫేక్లు విస్తృతంగా దృష్టిని ఆకర్షించాయి - ప్రముఖుల అశ్లీల వీడియోలు - ప్రతీకార నకిలీ వార్తలు, నకిలీ బెదిరింపులు, ఆర్థిక మోసం, ద్వారా తప్పుడు సమాచారం, ద్వేషపూరిత ప్రసంగం వ్యాప్తి చెందడం, ప్రజాస్వామ్య వ్యవస్థల ప్రధాన విధులు, నిబంధనలను అణగదొక్కగలగడం వంటి అభిప్రాయాలను కలగచేస్తోంది.[4][5][6]. నిర్ణయాలను ప్రభావితం చేసే తప్పుడు సమాచారం అంద చేయడం, [7] సమాచార దుర్వినియోగం వలన పరిశ్రమ, ప్రభుత్వం రెండింటి నుండి ప్రతిస్పందనలను పొందింది.[8][9]
ఫోటో మానిప్యులేషన్ 19వ శతాబ్దంలో అభివృద్ధి చేయబడింది. 20వ శతాబ్దంలో సాంకేతికత క్రమంగా మెరుగుపడింది, డిజిటల్ వీడియో రాకతో మరింత వేగంగా అభివృద్ధి చెందింది. డీప్ఫేక్ సాంకేతికతను 1990లలో ప్రారంభించిన విద్యాసంస్థల పరిశోధకులు, తర్వాత ఆన్లైన్ కమ్యూనిటీలలోని ఔత్సాహికులు అభివృద్ధి చేశారు.[10][11] ఇటీవల పరిశ్రమలు ఈ పద్ధతులను అవలంబిస్తున్నాయి.[12] డీప్ఫేక్లకు సంబంధించిన విద్యా పరిశోధన కంప్యూటర్ విజన్, కంప్యూటర్ సైన్స్ కి ఉప-రంగం, డీప్ఫేక్లను సృష్టించడం, గుర్తించడం కోసం సాంకేతికతలను అభివృద్ధి చేస్తుంది[10]. మానవీయ, సాంఘిక శాస్ట్రాలు సామాజిక, నైతిక, సౌందర్యపరమైన ప్రభావాలను అధ్యయనం చేస్తాయి.
డీప్ఫేక్స్ అనే పదం 2017 చివరిలో "డీప్ఫేక్స్" అనే రెడ్డిట్ (ఒక అమెరికన్ సోషల్ న్యూస్ అగ్రిగేషన్, కంటెంట్ రేటింగ్, చర్చా వెబ్సైట్) వినియోగదారు నుండి ఉద్భవించింది.[13] ఆ కమ్మూనిటీలో వారు సృష్టించిన డీప్ఫేక్లను పంచుకున్నారు; అనేక వీడియోలలో నటీమణుల శరీరాలపైకి సెలబ్రిటీల ముఖాలను మార్చారు, [13] అయితే నటుడు నికోలస్ కేజ్ ముఖాన్ని వివిధ సినిమాల్లోకి మార్చుకున్న అనేక వీడియోలు ఉన్నాయి[14].
వీడియోలలో పేరున్న రాజకీయ నాయకులను తప్పుగా చూపించడానికి, నటీమణులను అపఖ్యాతి పాలు చేయడానికి డీప్ఫేక్ సాంకేతిక ఉపయోగించిన ఉదంతాలు ఎన్నో ఉన్నాయి. కొన్ని ఉదాహరణకి -
మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీ, స్కూల్ ఆఫ్ ఆర్కిటెక్చర్ + ప్లానింగ్ సంస్థ వారు ఈ డీప్ ఫేక్ ను ఎదుర్కునే విషయం గురించి పరిశోధనలు నిర్వహిస్తున్నారు. కృత్రిమమేధతో రూపొందించిన డీప్ ఫేక్ వీడియోలు, సాధారణ వీడియోల వ్యత్యాసాన్ని వివరించేందుకు 'డిటెక్ట్ ఫేక్స్ (Detect Fakes) ' అను అంతర్జాల వేదిక (వెబ్ సైట్) ను ఏర్పాటు చేసారు. ఇది AI- రూపొందించిన తప్పుడు సమాచారాన్ని ఎదుర్కోవడానికి సాంకేతికతలను గుర్తించడానికి రూపొందించబడిన పరిశోధన ప్రాజెక్ట్. వీడియో అల్గారిథమిక్గా తారుమారు చేయబడిందని తెలియచేసే అనేక సూక్ష్మ సంకేతాలు ఉన్నాయని తేలింది. కాగ్లే డీప్ఫేక్ డిటెక్షన్ ఛాలెంజ్ (DFDC) నకిలీలను గుర్తించే అల్గారిథమ్ రూపకల్పన చేస్తోంది. కొంత తేడాలను గమనించారు.[27]
దేశంలో అలజడి సృష్టిస్తున్న డీప్ ఫేక్ వీడియోలపై రాష్ట్రపతి ద్రౌపది ముర్ము ఆందోళన వ్యక్తం చేసారు. నేరస్థులు కృత్రిమ మేధ (ఆర్టిఫిషియల్ ఇంటెలిజన్స్) ను, డీప్ఫేక్ వీడియోలు, ఫోటోల సమస్యని రాష్ట్రపతి ద్రౌపది మూర్ము ప్రస్తావిస్తూ, పోలీసు అధికారులు నిరంతరం టెక్నాలజీ రంగంలో అప్డేట్గా ఉండాలని సూచించారు. రాష్ట్రపతి భవన్లో శనివారం తనను కలిసిన 2022 బ్యాచ్ ఐపిఎస్ ప్రొబేషనర్లనుద్దేశించి ఆమె మాట్లాడుతూ పోలీసు బలగాలకు సైబర్ నేరాలు, డ్రగ్స్ ముఠాలు, వామపక్ష తీవ్రవాదం, ఉగ్రవాదం లాంటి అనేక సవాళ్లు ఉన్నాయన్నారు.‘ కొత్త టెక్నాలజీ, సోషల్ మీడియా ప్రవేశంతో పరిస్థితులు శరవేగంగా మారిపోతున్నాయి. ప్రత్యుత్పత్తి చేయగల కృత్రిమ మేధను క్రిమినల్స్ ఉపయోగించడం, డీప్ ఫేక్ లాంటి సమస్యలు వెలుగు చూస్తున్నాయి’ అని రాష్ట్రపతి అన్నారు.[28] మహారాష్ట్రలో జరిగిన రాష్ట్రసంత్ తుకడోజీ మహారాజ్ నాగపూర్ విశ్వవిద్యాలయం 111వ స్నాతకోత్సవ సభలో కృత్రిమ మేధ మన జీవనాన్ని సులభతరం చేస్తోంది, కానీ డీప్ ఫేక్ వీడియోలు సమాజానికి ముప్పుగా మారాయి, నైతిక విలువలతో కూడిన విద్యయే దీనికి పరిష్కారము" అని అన్నారు.[29]
ఇటీవలే ప్రధాని మోదీ, డీప్ ఫేక్ వీడియోల గురించి ప్రస్తావిస్తూ అందులో తాను పాట పాడుతున్నట్టుగా ఉందన్నారు. డీప్ ఫేక్ వీడియోలు భారత వ్యవస్థకు పెనుముప్పుగా మారాయన్నారు. అటువంటి పోకడలు సమాజంలో గందరగోళానికి దారి తీస్తున్నాయని ఆందోళన వ్యక్తం చేశారు[26].
ఇదిలా ఉంటే రష్మిక మందన్న డీప్ ఫేక్ వీడియో పైన బీఆర్ఎస్ ఎమ్మెల్సీ కల్వకుంట్ల కవిత స్పందించారు. ఆన్లైన్లో అత్యంత సులువుగా వ్యాప్తి చెందుతున్న మానిప్యులేషన్ కు ఇది ఒక హెచ్చరిక వంటిదని పేర్కొన్న ఎమ్మెల్సీ కవిత దీనిపై తీవ్ర ఆందోళన వ్యక్తం చేశారు.[30]
డీప్ఫేక్లను “ప్రజాస్వామ్యానికి కొత్త ముప్పు” అని పేర్కొంటూ, డీప్ఫేక్లు తప్పుడు సమాచారాన్ని పరిష్కరించడానికి ప్రభుత్వం “స్పష్టమైన, కార్యాచరణ ప్రణాళిక”తో ముందుకు వస్తుందని కేంద్ర సమాచార సాంకేతిక మంత్రి అశ్విని వైష్ణవ్ అన్నారు. "ఈ ప్రణాళికలో నాలుగు కీలక స్తంభాలు ఉంటాయి: డీప్ఫేక్లను గుర్తించడం, వాటి వైరల్లను తొలగించడం లేదా తగ్గించడం ద్వారా వాటి నివారణ, రిపోర్టింగ్ మెకానిజమ్లను బలోపేతం చేయడం ఇంకా సాంకేతికతపై అవగాహన కల్పించడం. అయితే, ఈ సాంకేతికతను సరైన పద్ధతిలో ఉపయోగించినప్పుడు, ఇది ప్రయోజనకరంగా ఉంటుంది, లేకపోతే ఇది సమాజంపై పెద్ద ప్రతికూల ప్రభావాలను చూపుతుంది. డీప్ఫేక్లు వ్యక్తి లేదా సంస్థాగత స్థాయిలో హానికరమైన, మోసపూరిత, విధ్వంసక సామర్థ్యాన్ని కలిగి ఉంటాయి. ఈ సాంకేతికతను దుర్వినియోగం చేయడం వల్ల పెద్ద సంఖ్యలో మానసిక, ఆర్థిక, సామాజిక ప్రమాదాలు తలెత్తుతాయి."[21]
డీప్ఫేక్లను నియంత్రించేందుకు చాలా దేశాలు ప్రయత్నాలు చేస్తున్నాయి. చైనా సైబర్స్పేస్ అడ్మినిస్ట్రేషన్ చట్టం డీప్ఫేక్ టెక్నాలజీల నియంత్రణను మొదలు పెట్టింది. కెనడియన్ ప్రభుత్వం, ఎన్నికల చట్టం డీప్ఫేక్లను నిషేధిస్తోంది. ఇటీవల AIని నియంత్రించే ఆన్లైన్ భద్రతా చట్టాన్ని ఆమోదించి, యూరోపియన్ యూనియన్ బలమైన చట్టాలను చేస్తోంది. డీప్ఫేక్ల నియంత్రణకు సంబంధించి యునైటెడ్ స్టేట్స్ ఇంకా ఫెడరల్ చట్టాన్ని ఆమోదించనప్పటికీ, USలోని అనేక రాష్ట్రాలు ఈ విషయంలో ఇప్పటికే చట్టాన్ని ఆమోదించాయి. దక్షిణ కొరియా 2020లో ఒక చట్టాన్ని ఆమోదించింది, ఇది ప్రజా ప్రయోజనాలకు హాని కలిగించే డీప్ఫేక్లను పంపిణీ చేయడాన్ని చట్టవిరుద్ధంగా గుర్తించింది. నేరస్థులకు భారీ జరిమానా, బందీ చేయడం వంటివి అమలు చేస్తున్నారు. ఈ సంవత్సరం నవంబరులో, ప్రపంచంలోని అనేక దేశాలు బ్లెచ్లీ (Bletchley) డిక్లరేషన్ను ఆమోదించాయి. ఈ ప్రకటన ప్రభుత్వాలు, ప్రైవేట్ రంగం, గ్లోబల్ కమ్యూనిటీల భాగస్వామ్య బాధ్యతలను నొక్కిచెప్పింది. భారతదేశంలో కూడా ఎన్నికల నియమాలను సవరించాలి, అంతరాయం కలిగించే AI, డీప్ఫేక్ల వినియోగాన్ని నేరంగా పరిగణించాలి. త్వరలో పార్లమెంట్లో ప్రవేశపెట్టనున్న డిజిటల్ సేవల చట్టం నియంత్రణ ఇంకా డీప్ఫేక్ల వ్యాప్తికి సంబంధించి కఠినమైన నిబంధనలను కలిగి ఉంటుందని భావిస్తున్నారు. నియంత్రణ బాధ్యత ప్రభుత్వాలు, సంస్థలు, మనలో ప్రతి ఒక్కరితో సమానంగా ఉంటుందని, అప్పుడే మనకు శక్తివంతమైన ప్రజాస్వామ్యం సిద్ధిస్తుందని అభిప్రాయంవ్యక్తమవుతోంది.[21]
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.