新德里(路透社)-一段人工智能视频显示，欣喜若狂的纳伦德拉·莫迪穿着时髦的夹克和裤子，在人群的欢呼声中随着宝莱坞歌曲在舞台上起舞。印度总理在X上转发了这段视频，称“在投票高峰期这样的创意真的很令人高兴。”

　　另一个视频，同样的舞台设置，显示莫迪的竞争对手玛玛塔·班纳吉穿着纱丽一样的服装跳舞，但背景音乐是她批评那些退出她的政党加入莫迪的人的部分演讲。该州警方已经展开调查，称该视频可能“影响法律和秩序”。

　　人们对使用人工智能(AI)工具制作的视频的不同反应突显出，在这个世界上人口最多的国家举行大规模大选之际，这项技术的使用和滥用正在增加，并引发了监管机构和安全官员的担忧。

　　人工智能视频很容易制作，其中包含近乎完美的阴影和手部动作，有时甚至会误导懂数字的人。但是，在一个14亿人口中有许多人受到科技挑战的国家，风险更高，在这个国家，被操纵的内容很容易引发宗派紧张关系，尤其是在选举期间。

　　根据世界经济论坛1月份发表的一项调查，在未来两年内，错误信息给印度带来的风险高于传染病或非法经济活动带来的风险。

　　新德里顾问Sagar Vishnoi说:“印度已经面临着巨大的错误信息风险，有了人工智能，它可以以100倍的速度传播。”他正在为一些政党提供有关人工智能在印度选举中的应用的建议。

　　“老年人往往不懂技术，他们越来越多地相信人工智能视频帮助下的虚假叙事。这可能会产生严重的后果，比如引发对社区、种姓或宗教的仇恨。”

　　2024年的全国大选将持续六周，于6月1日结束，这是人工智能首次被部署。最初的例子是无辜的，仅限于一些政客使用该技术制作视频和音频来个性化他们的竞选活动。

　　但今年4月，一些重大的滥用案件登上了头条，其中包括宝莱坞演员批评莫迪的深度造假，以及涉及莫迪两名高级助手的虚假视频，这些视频导致9人被捕。

　　难以抗拒

　　印度选举委员会(Election Commission)上周警告各政党不要利用人工智能传播错误信息，并分享了信息技术和其他法律的7项条款，这些条款可能会对包括伪造、散布谣言和仇恨在内的罪行判处最高3年的监禁。

　　新德里的一名高级国家安全官员表示，当局担心假新闻可能导致骚乱。这位官员表示，人工智能工具的容易获得使得制造这种假新闻成为可能，特别是在选举期间，而且很难反击。

　　“我们没有(足够的)监测能力……不断发展的人工智能环境很难跟踪，”这位官员表示。

　　一位高级选举官员表示:“我们无法完全监控社交媒体，更别提控制内容了。”

　　他们拒绝透露身份，因为他们没有被授权接受媒体采访。

　　人工智能和深度造假在世界其他地方的选举中越来越多地被使用，包括美国、巴基斯坦和印度尼西亚。最近在印度传播的视频显示了当局面临的挑战。

　　多年来，印度信息技术部的一个专门小组一直在自行决定，或在收到投诉后，下令屏蔽它认为可能损害公共秩序的内容。在这次选举期间，全国各地的选举监督机构和警方部署了数百名官员，以发现并寻求删除有问题的内容。

　　虽然莫迪对他的人工智能跳舞视频的反应——“我也很喜欢看自己跳舞”——很轻松，但西孟加拉邦加尔各答市警方对X用户SoldierSaffron7进行了调查，因为他分享了班纳吉的视频。

　　加尔各答网络犯罪官员杜拉尔·萨哈·罗伊(Dulal Saha Roy)在X上分享了一份打印的通知，要求该用户删除视频，否则“将承担严厉的刑事诉讼责任”。

　　“无论发生什么，我都不会删除它，”该用户通过X直接消息告诉路透社，由于担心警方采取行动，他拒绝透露自己的号码和真实姓名。“他们找不到(我)。”

　　选举官员告诉路透社，当局只能告诉社交媒体平台删除内容，如果平台说这些帖子没有违反他们的内部政策，他们就会陷入混乱。

　　VIGGLE视频

　　莫迪和班纳吉的舞蹈视频分别在X上有3000万和110万的观看量，它们是用免费网站Viggle制作的。该网站允许一张照片和一些基本提示(教程中有详细说明)在几分钟内生成视频，展示照片中的人跳舞或做其他现实生活中的动作。

　　Viggle的联合创始人Hang Chu和Banerjee的办公室没有回应路透社的询问。

　　除了这两个跳舞的人工智能视频，网上流传的另一个25秒的Viggle视频显示，班纳吉出现在一家正在燃烧的医院前，并用遥控器将其炸毁。这是2008年电影《黑暗骑士》中一个人工智能剪辑的场景，展示了蝙蝠侠的敌人小丑肆虐的场景。

　　该视频有42万的浏览量。

　　西孟加拉邦警方认为这违反了印度信息技术法律，但X没有采取任何行动，因为它“坚信捍卫和尊重用户的声音”，根据X发给用户的电子邮件通知，路透社看到了这一点。

　　“他们对我无能为力。我没把那个(通知)当回事，”该用户通过X直接消息告诉路透社。

　　(Aditya Kalra、Munsif Vengattil和Shivangi Acharya报道;krisn Kaushik, Subrata Nag Choudhury, Hardik Vyas, Carmel jeslin B和Sudipto Ganguly补充报道;编辑:Raju Gopalakrishnan)

　　×