അന്വേഷണം വാർത്തകൾ ലഭിക്കാന്‍ വാട്സാപ്പ് ഗ്രൂപ്പില്‍ ചേരൂ.സോന അഗർവാൾ എന്ന് പറയപ്പെടുന്ന ഒരു സ്ത്രീയുടെ നിക്ഷേപ അവസരത്തെ ഇതിഹാസ വ്യവസായി രത്തൻ ടാറ്റ അംഗീകരിക്കുന്നതായി കാണിക്കുന്ന ഫേസ്ബുക്കിലെ വ്യാജ പരസ്യം. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) വോയ്‌സ് ക്ലോണിംഗ് സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ഒരു ഡീപ്‌ഫേക്ക് വീഡിയോ. ഇത് ഡീപ്ഫേക്കുകളുടെ ഭീഷണിയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകുന്ന ഇന്ത്യയിലെ ഏറ്റവും പുതിയ വിവരമായി.
സോന അഗർവാൾ ഒരു സാങ്കൽപ്പിക വ്യക്തിയാണ്. ലൈലാ റാവുവിനെ ടാറ്റ അംഗീകരിക്കുന്നതായി കാണുന്ന അതേ MO ഉപയോഗിച്ച് ഫേസ്ബുക്കിൽ വ്യാജ പരസ്യങ്ങളും കണ്ടെത്തി.ജനപ്രിയ ഇന്ത്യൻ സെലിബ്രിറ്റികളുടെ ശബ്ദങ്ങൾ ആൾമാറാട്ടം നടത്തുന്ന AI വോയ്‌സ് ക്ലോണിംഗ് ടൂളുകൾ ഉപയോഗിച്ച് മെറ്റാ ഉടമസ്ഥതയിലുള്ള Facebook എങ്ങനെയാണ് തട്ടിപ്പ് പരസ്യങ്ങൾ കൊണ്ട് നിറഞ്ഞിരിക്കുന്നതെന്ന് കാണിക്കുന്ന നിരവധി ലേഖനങ്ങൾ കണ്ടെത്തിയിട്ടുണ്ട്. ലൈലാ റാവു , സൂരജ് ശർമ്മ തുടങ്ങിയ വ്യാജ ഐഡന്റിറ്റികൾ സൃഷ്ടിച്ചാണ് ഈ തട്ടിപ്പുകൾ . ഈ പട്ടികയിലെ ഏറ്റവും പുതിയ വ്യാജ അപരനാമമാണ് സോന അഗർവാൾ. ഈ വ്യാജ ഐഡന്റിറ്റികൾ നിർമ്മിക്കാൻ ഉപയോഗിച്ച സ്ത്രീകളുടെയും പുരുഷന്മാരുടെയും ദൃശ്യങ്ങൾ അവരുടെ സോഷ്യൽ മീഡിയ അക്കൗണ്ടുകളിൽ നിന്ന് അവരുടെ അറിവില്ലാതെ ഫോട്ടോകൾ മോഷ്ടിക്കപ്പെട്ട യഥാർത്ഥ ആളുകളുടേതാണ്.
ടാറ്റ ഗ്രൂപ്പിന്റെ മുൻ ചെയർമാനായിരുന്ന ടാറ്റ തന്റെ മാനേജർ സോന അഗർവാളാണ് പദ്ധതി കൈകാര്യം ചെയ്യുന്നതെന്ന് പറഞ്ഞുകൊണ്ട് പദ്ധതിയെ പ്രോത്സാഹിപ്പിക്കുന്നത് ആദ്യ വീഡിയോ കാണിക്കുന്നു.
“എന്റെ സഹായം അഭ്യർത്ഥിച്ചുകൊണ്ട് എനിക്ക് ദിവസവും ദശലക്ഷക്കണക്കിന് സന്ദേശങ്ങൾ ലഭിക്കുന്നു. പക്ഷേ എനിക്ക് നിസ്സംഗത പാലിക്കാൻ കഴിയില്ല. ഇന്ത്യയിലെ ദാരിദ്ര്യം പരിഹരിക്കാൻ, ഞാനും എന്റെ മാനേജർ സോനയും ഒരു പദ്ധതി ആരംഭിച്ചു. സോനയുടെ നിർദ്ദേശങ്ങൾ പാലിച്ച് നിങ്ങൾക്ക് 10,000 രൂപ വർദ്ധിപ്പിക്കാം. , ഇന്ത്യയിലെ ഗുരുതരമായ ദാരിദ്ര്യ സാഹചര്യത്തിന് ഒരു പരിഹാരം ഉറപ്പാക്കുന്നു…”
രണ്ടാമത്തെ വീഡിയോ സമാനമായ സന്ദേശം പങ്കിടുന്നു, എന്നാൽ ഇത്തവണ, മറ്റൊരു വ്യക്തിയായ ലൈലാ റാവു നിക്ഷേപ പദ്ധതിയെ ടാറ്റ അംഗീകരിക്കുന്നത് കേൾക്കാം. “ശ്രദ്ധിക്കുക: ഇന്ത്യയിലെ എല്ലാ താമസക്കാർക്കുമായി ഒരു പുതിയ നിക്ഷേപ പദ്ധതി ആരംഭിക്കുന്നതായി ഞാൻ പ്രഖ്യാപിക്കുന്നു. ഇന്ത്യയിലെ ഏതൊരു താമസക്കാരനും അവരുടെ പണം അപകടസാധ്യതകളില്ലാതെ വർദ്ധിപ്പിക്കാൻ കഴിയുമെന്ന് ഉറപ്പുനൽകുന്ന ഈ പദ്ധതിയെ ഞാൻ വ്യക്തിപരമായി പിന്തുണയ്ക്കുന്നു. ഈ പദ്ധതിയുടെ തലവനായി ഞാൻ ലൈലാ റാവുവിനെ നിയമിക്കുന്നു. .”
രണ്ട് വീഡിയോകളും സോന അഗർവാളിന്റെയും ലൈലാ റാവുവിന്റെയും അക്കൗണ്ടുകൾ പങ്കിട്ടു, അവ ഫേസ്ബുക്കിൽ സ്പോൺസർ ചെയ്ത പോസ്റ്റുകളോ പരസ്യങ്ങളോ ആയി പ്രചരിക്കുന്നുണ്ട്. പരസ്യങ്ങളുടെ സ്ക്രീൻഷോട്ടുകൾ ചുവടെ:
വസ്തുത പരിശോധിക്കുക
വീഡിയോകൾ വ്യാജമാണെന്നും AI വോയ്‌സ് ക്ലോണിംഗ് ടൂളുകൾ ഉപയോഗിച്ച് സൃഷ്‌ടിച്ചതാണെന്നും BOOM കണ്ടെത്തി. രണ്ട് വീഡിയോകളും രത്തൻ ടാറ്റയുടെ വ്യാജ വോയ്‌സ്‌ഓവർ ഉപയോഗിച്ച് മറച്ചിരിക്കുന്നു.
സോന അഗർവാളിന്റെ വൈറൽ വീഡിയോയിൽ നിന്നുള്ള ചില പ്രധാന ഫ്രെയിമുകളുടെ റിവേഴ്സ് ഇമേജ് തിരച്ചിൽ, പാരീസിലെ ഒരു ബിസിനസ് സ്കൂളായ HEC യുടെ ഔദ്യോഗിക അക്കൗണ്ട് പങ്കിട്ട 2015 ജൂൺ 4 മുതലുള്ള ഒരു വീഡിയോയിലേക്ക് ഞങ്ങളെ നയിച്ചു. ‘രത്തൻ എൻ. ടാറ്റ എച്ച്ഇസി പാരീസിൽ ഹോണറിസ് കോസ ബിരുദം സ്വീകരിക്കുന്നു’ എന്ന തലക്കെട്ടിലുള്ള വീഡിയോ വൈറലായ വീഡിയോയ്ക്ക് സമാനമായ ദൃശ്യങ്ങൾ ഉൾക്കൊള്ളിച്ചു. എച്ച്‌ഇസിയിൽ ടാറ്റ ഹോണറിസ് കോസ ബിരുദം സ്വീകരിക്കുന്നതും നേതൃത്വത്തെയും മാനേജ്‌മെന്റിനെയും കുറിച്ച് സംസാരിക്കുന്നതും ചോദ്യോത്തര സെഷനിൽ പ്രേക്ഷകരുമായി സംവദിക്കുന്നതും ക്ലിപ്പ് കാണിച്ചു.
ഞങ്ങൾ മുഴുവൻ ക്ലിപ്പും കണ്ടു, ആളുകളെ വേഗത്തിൽ സമ്പന്നരാക്കാൻ സഹായിക്കുന്ന സോന അഗർവാളിന്റെ ഏതെങ്കിലും നിക്ഷേപ പദ്ധതിയെക്കുറിച്ച് ടാറ്റ സംസാരിക്കുന്നതായി കണ്ടില്ല.
വൈറലായ വീഡിയോയും യഥാർത്ഥ വീഡിയോയും തമ്മിലുള്ള താരതമ്യം ചുവടെ.
സോന അഗർവാൾ വീഡിയോയെ കുറിച്ച് രത്തൻ ടാറ്റ തന്റെ സ്ഥിരീകരിച്ച ഇൻസ്റ്റാഗ്രാം അക്കൗണ്ടിൽ ഒരു വിശദീകരണം നൽകിയതായും ഞങ്ങൾ കണ്ടെത്തി, അവിടെ അദ്ദേഹം ഈ പരസ്യത്തെ വ്യാജമെന്ന് വിളിച്ചു.
സോനാ അഗർവാൾ വീഡിയോയിലെ ശബ്ദം 83% AI- ജനറേറ്റഡ് ആണെന്നും ലൈലാ റാവു വീഡിയോയിൽ 61% AI- ജനറേറ്റഡ് ആണെന്നും കണക്കാക്കിയ AI വോയ്‌സ് ഡിറ്റക്ടർ എന്ന ടൂൾ വഴി ഞങ്ങൾ പരസ്യങ്ങളുടെ രണ്ട് ഓഡിയോ സാമ്പിളുകളും റൺ ചെയ്തു .
സ്ത്രീകളെ വ്യാജ നിക്ഷേപ പദ്ധതികളിലേക്ക് ആകർഷിക്കാനും അവരിൽ നിന്ന് ആയിരക്കണക്കിന് രൂപ തട്ടിയെടുക്കാനും നടി സ്മൃതി ഖന്നയുടെ മുഖം ഉപയോഗിച്ച ലൈലാ റാവു അഴിമതിയെക്കുറിച്ച് ഞങ്ങൾ മുമ്പ് റിപ്പോർട്ട് ചെയ്തിരുന്നു . AI വോയ്‌സ് ക്ലോണിംഗ് ടൂളുകളുടെ സഹായത്തോടെ ഉണ്ടാക്കിയേക്കാവുന്ന വ്യാജ വോയ്‌സ്‌ഓവറുകൾ ഉപയോഗിച്ച് സൃഷ്ടിച്ച മധ്യപ്രദേശ് മുഖ്യമന്ത്രി സ്ഥാനാർത്ഥികളായ ശിവരാജ് സിംഗ് ചൗഹാനെയും കമൽനാഥിനെയും കാണിക്കുന്ന മറ്റ് വീഡിയോകളും നിരാകരിച്ചിട്ടുണ്ട് . അതേസമയം, ജനപ്രിയ ഗെയിം ഷോയായ കൗൺ ബനേഗ ക്രോർപതിയിൽ നിന്ന് AI ഉപയോഗിച്ച് സൃഷ്ടിച്ച അമിതാഭ് ബച്ചന്റെ വ്യാജ വോയ്‌സ്‌ഓവർ ഉൾപ്പെടുന്ന മറ്റ് വീഡിയോകൾ കണ്ടെത്തി.
