网传“莫迪跳舞”视频 /X网站截图
莫迪17日在印度人民党排灯节活动上发表讲话时引用了一段深度伪造的视频，视频中显示他和其他舞者围成一个小圈跳加尔巴舞（一种起源于印度古吉拉特邦的舞蹈）。莫迪表示对该视频的制作印象深刻，“他们做得相当好，但我从学校毕业以后就再也没有跳过加尔巴舞了”，“感谢AI让我又可以跳加尔巴舞，我自己的许多粉丝都在转发这段视频”。
莫迪随后对此类深度伪造技术表达了担忧，他表示在印度这样一个多元化的社会中，深度伪造可能会引发一场“大危机”，并可能在人们中传播不满情绪。莫迪表示，深度伪造视频是通过社交媒体传播的，而社交媒体又有大公司的背书，因此许多人信以为真，但印度的相关部门缺乏足够的技术来验证它们的真实性。
莫迪警告称，在人工智能时代，负责任地使用技术非常重要，媒体应对此类虚假视频开展相关教育。
据报道，印度多名公众人物最近成为了深度伪造技术的受害者。社交媒体上深度伪造视频的泛滥引起了民众的广泛担忧，促使印度政府向社交媒体公司发布全面的指导方针，以促进相关平台识别和删除具有误导性的视频和图片。
印度电子和信息技术部上周向大型社交媒体平台发布了一份声明，强调了涉及此类深度伪造内容的法律规定，以及制作和传播相关内容可能招致的处罚。
该部部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 表示，防止错误信息传播是在线平台的“法律义务”。他在声明中要求社交媒体平台，“在举报后36小时内删除任何此类内容，并确保在规定的时间内迅速采取行动，禁止访问这些内容或信息”。
他补充道，深度伪造品的制作和流通将受到罚款 10 万卢比和监禁 3 年的严厉处罚。
印度电子和信息技术部18日还警告社交媒体平台，如果不采取措施打击深度伪造内容，此前印度法律中的保护社交媒体平台的豁免条款可能将不再适用。