近日一段“莫迪跳傳統舞蹈”的視頻在網上瘋傳，視頻中，“莫迪”和其他舞者圍成一個小圈歡快地旋轉著。然而，莫迪上周末在印度人民黨總部出席排燈節特別活動時親自辟謠，稱網上流傳的跳舞視頻是AI合成的，並就此發出警告。
據印度《加爾各答每日電訊報》網站報道，莫迪說:“我看到一段我在跳加爾巴（起源於印度古吉拉特邦的舞蹈）的視頻，‘多虧’深度偽造。AI時代深度偽造內容的傳播是一場大危機，值得註意的是，這很快引發社會的不滿。”“深度偽造”最常見的形式是AI換臉、語音模擬等。莫迪表示，深度偽造視頻是通過社交媒體傳播的，而社交媒體又有大公司的背書，因此許多人信以為真。他警告說:“人們會誤以為自己看見的是真實的，這會引發巨大危機。”他還表示，現在印度缺乏識別這種“深度偽造”的技術。
“莫迪已經成為深度偽造的受害者，這是令人擔憂的發展趨勢。”《印度時報》19日評論道。近期，深度偽造技術生成的虛假視頻在印度網絡上興風作浪，中招的不乏演藝圈名人，特別是女性藝人。這引發民眾憤怒，一些演藝界人士要求政府介入打假。
印度《鑄幣報》網站18日稱，印度電子和信息技術部部長阿什維尼·瓦希諾當天表示，政府已向所有大型社交媒體發出通知，要求他們采取措施識別深度偽造內容並刪除。“社交媒體平臺已經作出回應，並有所行動。”瓦希諾說，如果社交媒體平臺未能采取適當措施打擊深度偽造，之前保護社交媒體平臺的條款可能不再適用。另據印度“Times Now”網站報道，瓦希諾說，政府可能在未來三四天召集各大社交媒體平臺開會報告打擊深度偽造內容的進展，包括Meta和谷歌。
在這一事件中，莫迪成為深度偽造的受害者，這引發人們對這一技術發展趨勢的擔憂。深度偽造技術在印度網絡上造成虛假視頻的泛濫，尤其是演藝圈名人中的女性藝人成為中招對象。憤怒的民眾要求政府介入打假行動。
為應對這一問題，印度電子和信息技術部已向大型社交媒體發出通知，要求其采取措施來識別並刪除深度偽造內容。政府對社交媒體平臺采取行動，並警告稱，如果平臺未能打擊深度偽造，之前保護社交媒體平臺的條款可能不再適用。政府計劃召集各大社交媒體平臺開會，匯報打擊深度偽造的進展情況。
在這個信息時代，AI合成技術的濫用引發重大危機，深度偽造的視頻讓人們誤以為自己看到的是真實的。印度目前缺乏識別深度偽造的技術，因此這一問題迫切需要得到解決。政府、社交媒體平臺和技術公司需要共同努力，加強打擊深度偽造的措施，保護社會免受虛假信息的影響。