അന്വേഷണം വാർത്തകൾ ലഭിക്കാന്‍ വാട്സാപ്പ് ഗ്രൂപ്പില്‍ ചേരൂ.ഇസ്രയേലിനെതിരെ സംസാരിക്കുന്ന പ്രശസ്തരായ ആരെയും ലക്ഷ്യമിട്ട് ഡീപ്ഫേക്കുകൾ ഉപയോഗിച്ച് സോഷ്യൽ മീഡിയ ഉള്ളടക്ക മോഡറേഷൻ നയങ്ങളുടെ അതിരുകൾ പരീക്ഷിക്കുന്നു. ഈ വർഷം ഒക്ടോബറിൽ, സെലിബ്രിറ്റി മോഡൽ ബെല്ല ഹഡിഡ് ഇസ്രായേലിനെക്കുറിച്ചുള്ള തന്റെ മുൻ പരാമർശങ്ങൾക്ക് ക്ഷമാപണം നടത്തുന്ന വീഡിയോ വസ്തുത പരിശോധിക്കുന്നവരുടെ ശ്രദ്ധ പിടിച്ചുപറ്റി.
പകുതി ഫലസ്തീൻ വംശജയായ ഹദീദ്, 61 ദശലക്ഷത്തോളം ഫോളോവേഴ്‌സുള്ള തന്റെ ഇൻസ്റ്റാഗ്രാം അക്കൗണ്ടിൽ പലസ്തീൻ അനുകൂല നിലപാടിൽ അചഞ്ചലമായതിനാൽ ക്ലിപ്പ് വിചിത്രമായി തോന്നി. ഹദീദിന്റെ പഴയ പ്രസംഗങ്ങളിലൊന്നിന്റെ വീഡിയോയും AI ഉപയോഗിച്ച് നിർമ്മിച്ച ഒരു വോയ്‌സ് ക്ലോണും ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച ഒരു ഡീപ്ഫേക്ക് വീഡിയോ ആണെന്ന് തെളിഞ്ഞു .
ഇൻസ്റ്റാഗ്രാമിൽ 19,000-ത്തിലധികം ഫോളോവേഴ്‌സുള്ള ഇസ്രായേലി സൗണ്ട് ഡിസൈനറും വോയ്‌സ് ഓവർ ആർട്ടിസ്റ്റുമായ യിഷെയ് റാസിയൽ, ഇസ്രായേലിനെതിരെ സംസാരിക്കുന്ന പ്രശസ്തരായ ആരെയും ലക്ഷ്യമിട്ടുള്ള ഡീപ്ഫേക്ക് വീഡിയോയുടെ സ്രഷ്ടാവാണ്. ചിത്രങ്ങളും വീഡിയോകളും ഓഡിയോയും ഉൾപ്പെടുന്ന സിന്തറ്റിക് മീഡിയയാണ് ഡീപ്ഫേക്കുകൾ. ‘ആഴമുള്ള’ ഭാഗം ആഴത്തിലുള്ള പഠനത്തെ സൂചിപ്പിക്കുന്നു – മനുഷ്യ മസ്തിഷ്കം എങ്ങനെ പഠിക്കുന്നു എന്ന് അനുകരിക്കുന്ന ഒരു തരം നൂതന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് രീതി.
ജോർദാനിലെ റാനിയ രാജ്ഞി , മുൻ മുതിർന്ന ചലച്ചിത്ര നടി മിയ ഖലീഫ, സംഗീതജ്ഞൻ റോജർ വാട്ടേഴ്‌സ്, നടി ആഞ്ജലീന ജോളി, ബ്യൂട്ടി ബ്ലോഗർ ഹുദ കട്ടൻ തുടങ്ങിയവരുടെയും ഡീപ്ഫേക്കുകൾ റസീൽ ചെയ്തിട്ടുണ്ട് .“എന്റെ പ്രക്രിയയിൽ വോയ്‌സ് ക്ലോണിംഗിനായി ആർവിസിയും ലിപ് സമന്വയത്തിനായി വീഡിയോ റിട്ടാർജിംഗും ഉപയോഗിക്കുന്നത് ഉൾപ്പെടുന്നു. ഞാൻ സ്വയം ഒരു വോയ്‌സ് ഓവർ ആർട്ടിസ്റ്റാണ്, അതിനാൽ ഞാൻ തന്നെ നിരവധി വോയ്‌സ് ട്രാക്കുകൾ അവതരിപ്പിക്കുകയും എന്റെ ശബ്‌ദം മാറ്റി വോയ്‌സ് മോഡലുകൾ നൽകുകയും ചെയ്യുന്നു, ”റസീൽ ഇമെയിൽ വഴി ഡീകോഡിനോട് പറഞ്ഞു.
വീണ്ടെടുക്കൽ അധിഷ്‌ഠിത-വോയ്‌സ്-കൺവേർഷൻ അല്ലെങ്കിൽ ആർവിസി എന്നത് വോയ്‌സ് ക്ലോണിംഗിൽ ഉപയോഗിക്കുന്ന ഒരു നൂതന സ്പീച്ച്-ടു-സ്പീച്ച് എഐ സാങ്കേതികവിദ്യയാണ്.
“ഓഡിയോ ശേഖരിക്കൽ, വോയ്‌സ് മോഡലിംഗ്, ചുണ്ടുകൾ സമന്വയിപ്പിക്കൽ എന്നിവ ഉൾപ്പെടുന്ന ഒരു വീഡിയോയ്‌ക്ക് ഏകദേശം 5 മണിക്കൂർ എടുക്കും,” അദ്ദേഹം കൂട്ടിച്ചേർത്തു. ന്യൂയോർക്കിലെ സ്റ്റേറ്റ് യൂണിവേഴ്സിറ്റിയിലെ ബഫല്ലോയിലെ യൂണിവേഴ്സിറ്റിയിലെ കമ്പ്യൂട്ടർ സയൻസ് ആൻഡ് എഞ്ചിനീയറിംഗ് വിഭാഗത്തിലെ സുനി എംപയർ ഇന്നൊവേഷൻ പ്രൊഫസറായ ഡോ. സിവേ ലിയു, റസീലിന്റെ ഇൻസ്റ്റാഗ്രാം അക്കൗണ്ടിലെ വീഡിയോകൾ AI- ജനറേറ്റ് ചെയ്തതാണെന്ന് ഡീകോഡ് ചെയ്യാൻ സ്ഥിരീകരിച്ചു.
“ഇൻസ്റ്റാഗ്രാം അക്കൗണ്ടുകളിലെ എല്ലാ വീഡിയോകളും അത്യാധുനിക ഡിറ്റക്ഷൻ അൽഗോരിതം ഉപയോഗിച്ച് AI- ജനറേറ്റഡ് ആയി ഉയർന്ന ആത്മവിശ്വാസത്തോടെ തിരിച്ചറിഞ്ഞിട്ടുണ്ട്,” പ്രൊഫസർ ല്യൂ, ഒരു ആഴത്തിലുള്ള വ്യാജ വിദഗ്ദ്ധൻ ഇമെയിൽ വഴി സ്ഥിരീകരിച്ചു.
“ആൽഗരിതങ്ങൾ പുരാവസ്തുക്കളെ തിരിച്ചറിഞ്ഞു
(1) ശ്വാസോച്ഛ്വാസം, ശരിയായ ഇടവേളകൾ എന്നിങ്ങനെയുള്ള പൊതുവായ പാരലിംഗ്വിസ്റ്റിക് ആട്രിബ്യൂട്ടുകൾ ഇല്ലാത്ത AI- ജനറേറ്റഡ് ഓഡിയോകൾ;
(2) ഓഡിയോയും വീഡിയോയും തമ്മിലുള്ള സമന്വയത്തിന്റെ അഭാവം
(3) ചുണ്ടുകൾക്ക് ചുറ്റുമുള്ള വിഷ്വൽ ആർട്ടിഫാക്‌റ്റുകൾ — ഇൻപുട്ട് വോയ്‌സുകൾക്ക് അനുയോജ്യമായ ലിപ് ആകൃതികൾ സൃഷ്ടിക്കുന്ന AI- അടിസ്ഥാനമാക്കിയുള്ള ലിപ്-സിൻസിംഗ് മോഡലുകളുടെ ഉപയോഗത്തിന്റെ അടയാളങ്ങളാണിവ. ഏറ്റവും ശ്രദ്ധേയമായി, പല്ലുകൾ അടുത്ത ഫ്രെയിമുകളിൽ പ്രത്യക്ഷപ്പെടുകയും അപ്രത്യക്ഷമാവുകയും ചെയ്യുന്നു, ഏകദേശം 1/30 സെക്കൻഡ് വ്യത്യാസത്തിൽ, ഇത് ശാരീരികമായി സാധ്യമല്ല, ”പ്രൊഫസർ ല്യൂ ഡീകോഡിനോട് പറഞ്ഞു.
ഡീപ്ഫേക്കുകൾക്ക് തെറ്റായ സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകൾ ഉണ്ട്
ഇസ്രായേൽ-ഹമാസ് സംഘർഷം ആഗോളതലത്തിൽ തെറ്റായ വിവരങ്ങളുടെ തോത് കൊണ്ട് വസ്തുതാ പരിശോധകരെ കീഴടക്കുന്ന തെറ്റായ വിവരത്തിനെതിരായ പോരാട്ടത്തിലെ ഒരു ജലസ്രോതസ്സാണ് അതിന്റെ ട്രസ്റ്റ്, സേഫ്റ്റി ടീമുകളെ ഒഴിവാക്കുന്ന വേരിഫിക്കേഷൻ സിസ്റ്റം.
വൈരുദ്ധ്യത്തെക്കുറിച്ചുള്ള തെറ്റായ വിവരങ്ങളിൽ ഭൂരിഭാഗവും പരിശോധിച്ച X അക്കൗണ്ടുകളിൽ നിന്നോ അവ വർദ്ധിപ്പിച്ചവയോ ആണ്.തെറ്റായ വിവരങ്ങളും തെറ്റായ വിവരങ്ങളും സൃഷ്ടിക്കുന്നതിൽ ജനറേറ്റീവ് AI ഉപയോഗിക്കുന്നത് ഈ പ്രശ്നം കൂടുതൽ വഷളാക്കുകയേയുള്ളൂ.
ഓൺലൈൻ അശ്ലീലസാഹിത്യത്തിന്റെ വൃത്തികെട്ട ലോകത്തിലേക്ക് അവരുടെ ഉത്ഭവം കണ്ടെത്തുന്ന ഡീപ്ഫേക്കുകൾ, ജനാധിപത്യത്തിന് അസ്തിത്വപരമായ ഭീഷണി ഉയർത്തുന്നു. വലിയ ഹോളിവുഡ് സ്റ്റുഡിയോകൾ അഭിനേതാക്കളുടെ പ്രായം കുറയ്ക്കാനും മരിച്ച അഭിനേതാക്കളെ സ്ക്രീനിൽ കാണിക്കാനും അവരെ ഉപയോഗിച്ചു. എന്നിരുന്നാലും, സാങ്കേതികവിദ്യയുടെ ജനാധിപത്യവൽക്കരണം അതിനെ ദുരുപയോഗത്തിന് വിധേയമാക്കുകയും ചെയ്തു. തെറ്റായ വിവരങ്ങൾ സൃഷ്ടിക്കുന്നതിനും വഞ്ചന നടത്തുന്നതിനും കുട്ടികളെ ദുരുപയോഗം ചെയ്യുന്ന പോൺ ഉൾപ്പെടെയുള്ള അശ്ലീലസാഹിത്യങ്ങൾ സൃഷ്ടിക്കുന്നതിനും രാഷ്ട്രീയക്കാർ, പത്രപ്രവർത്തകർ, ആക്ടിവിസ്റ്റുകൾ എന്നിവരെ ടാർഗെറ്റുചെയ്യുന്നതിനും സാങ്കേതികവിദ്യ ദുരുപയോഗം ചെയ്യപ്പെടുന്നു.
“സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകൾ നിയുക്തമാക്കിയ ‘മാനിപ്പുലേറ്റഡ് മീഡിയ’ ലേബലുകളെ സംബന്ധിച്ച്, അവർ അഭിമുഖീകരിക്കുന്ന ഉള്ളടക്കത്തെക്കുറിച്ച്, പ്രത്യേകിച്ച് ആഴത്തിലുള്ള വ്യാജ സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് കാഴ്ചക്കാരെ അറിയിക്കാൻ ഉദ്ദേശിച്ചുള്ള അവരുടെ നയങ്ങൾ ഞാൻ പൂർണ്ണമായി മനസ്സിലാക്കുകയും ബഹുമാനിക്കുകയും ചെയ്യുന്നു,” റസീൽ ഡീകോഡിനോട് പറഞ്ഞു.
Bella Hadid stands with Israel.
Sinwar didn’t expect to get this surprise for his 61 birthday 🎈🎂#WeFixedItForBella pic.twitter.com/ZcXy42hP04— Danel Ben Namer (@DanelBenNamer) October 28, 2023
സുതാര്യത പരമപ്രധാനം
“ റാനിയ രാജ്ഞിയുടെ വീഡിയോയെക്കുറിച്ചുള്ള യൂട്യൂബിൽ നിന്നുള്ള അറിയിപ്പിന് മറുപടിയായി , ചിലർക്ക് അസ്വാസ്ഥ്യമുണ്ടെങ്കിൽപ്പോലും, ചിന്തയെ പ്രകോപിപ്പിക്കാനും അടിസ്ഥാന സത്യങ്ങൾ ഉയർത്തിക്കാട്ടാനും എന്റെ ജോലി ലക്ഷ്യമിടുന്നു. ജോർദാൻ ഗവൺമെന്റിന്റെ പ്രതികരണം ഉൾപ്പെടെയുള്ള അസ്വാരസ്യങ്ങൾ, കാര്യമായ സ്വാധീനത്തിന്റെയും സംഭവിക്കേണ്ട സംഭാഷണങ്ങളുടെയും സൂചകമാണ്, ”റസീൽ പറഞ്ഞു.
സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകൾ തങ്ങളുടെ പ്ലാറ്റ്‌ഫോമുകളിൽ ഏതൊക്കെ ഡീപ്ഫേക്ക് വീഡിയോകൾ അനുവദിക്കണം അല്ലെങ്കിൽ അനുവദിക്കരുത് എന്ന് തീരുമാനിക്കുന്നത് എങ്ങനെയെന്ന് മനസിലാക്കാൻ Meta, X, YouTube എന്നിവയ്ക്ക് ഡീകോഡ് കത്തെഴുതി.
പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്നുള്ള പുഷ്‌ബാക്ക്, ഉള്ളടക്ക മോഡറേഷൻ മിക്കവാറും നിലവിലില്ലാത്ത ടെലിഗ്രാമിൽ തന്നെ പിന്തുടരാൻ തന്റെ അനുയായികളെ പ്രേരിപ്പിക്കാൻ റസീലിനെ പ്രേരിപ്പിച്ചു.
നിരാകരണ ധർമ്മസങ്കടം
തർക്കത്തെ ചുറ്റിപ്പറ്റിയുള്ള ആഴത്തിലുള്ള വ്യാജങ്ങൾ സൃഷ്ടിക്കാൻ തുടങ്ങിയതുമുതൽ, റസീൽ തന്റെ സോഷ്യൽ മീഡിയ പോസ്റ്റുകളുടെ അടിക്കുറിപ്പിൽ AI ഉപയോഗിച്ചാണ് വീഡിയോകൾ സൃഷ്ടിച്ചതെന്ന് പരാമർശിക്കുന്നതിനുപുറമെ, തന്റെ വീഡിയോകളിൽ ‘Made with AI’ എന്ന വാട്ടർമാർക്ക് നിരാകരണവും ഉൾപ്പെടുത്താൻ തുടങ്ങി.
എന്നിരുന്നാലും, റസീലിന്റെ ടൈംലൈനിലെ ഡീപ്ഫേക്ക് വീഡിയോകളിലൊന്ന് ഹമാസ് നേതാവ് യഹ്യ സിൻവാറിന്റെ മുഖവുമായി ഒരു പുരുഷന്റെ മുഖം മാറ്റി, ഒരു സ്വവർഗ്ഗ ദമ്പതികൾ തങ്ങൾ കണ്ടുമുട്ടിയതിനെക്കുറിച്ച് സംസാരിക്കുന്ന വീഡിയോയിൽ അത്തരം നിരാകരണമില്ല.
מלכת ירדן במסר חשוב pic.twitter.com/EC9RxyRken
— אלי (@elipoli10) October 30, 2023
“നിരാകരണം സഹായിക്കുന്നു, പക്ഷേ പര്യാപ്തമല്ല,” പ്രൊഫസർ ല്യൂ പറഞ്ഞു.
“AI- ജനറേറ്റ് ചെയ്ത ഉള്ളടക്കം നിരുപദ്രവകരമായ ആവശ്യങ്ങൾക്കായി നിർമ്മിക്കാൻ കഴിയുമെന്നതിനാൽ, അവ സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകളിൽ ഉണ്ടായിരിക്കുന്നത് ശരിയാണെന്ന് ഞാൻ കരുതുന്നു. എന്നിരുന്നാലും, കാഴ്ചക്കാർക്ക് സന്ദർഭം നൽകുന്നതിന് കൂടുതൽ ഫലപ്രദമായ ഉള്ളടക്ക മോഡറേഷൻ സമീപനങ്ങൾ ഉപയോഗിക്കണം. (1) ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിൽ/എഡിറ്റുചെയ്യുന്നതിലെ AI മോഡലുകളുടെ ഉപയോഗം വെളിപ്പെടുത്താൻ രചയിതാക്കളോട് അഭ്യർത്ഥിക്കുന്നത് പോലുള്ള നടപടികൾ അവർക്ക് സ്വീകരിക്കാം; (2) ഉള്ളടക്കം AI- സൃഷ്ടിച്ചതാണോ എന്ന് പരിശോധിക്കാൻ സ്ക്രീനിംഗ് അൽഗോരിതങ്ങൾ ഉപയോഗിക്കുക; (3) കാണുന്നതിന് മുമ്പ് കാഴ്ചക്കാരൻ ഇതിനെക്കുറിച്ച് ബോധവാന്മാരാണെന്ന് ഉറപ്പാക്കാൻ, കാഴ്ചക്കാരന് ഉള്ളടക്കം കാണുന്നതിന് മുമ്പ് AI സൃഷ്ടിച്ചേക്കാവുന്ന ഉള്ളടക്കത്തിന്റെ നിരാകരണം ഇടുക. പ്രൊഫസർ ലിയു കൂട്ടിച്ചേർത്തു.
അതേസമയം, മറ്റൊരു സ്ഥിരീകരിക്കപ്പെട്ട ഫേസ്ബുക്ക് ഉപയോക്താവ് റസീലിനെ സൗണ്ട് മോഡലിംഗ് പഠിപ്പിക്കുന്നതിനും തന്റെ ആദ്യത്തെ അടിസ്ഥാന ഡീപ്ഫേക്ക് “പ്രൊജക്റ്റ്” സൃഷ്ടിച്ചതിനും ക്രെഡിറ്റ് നൽകി, വസ്തുതാ പരിശോധകർ എതിർക്കുന്ന യുദ്ധത്തിന്റെ അടയാളമായി.
