本文来自微信公众号:科创板日报(ID:chinastarmarket),作者:宋子乔,原文标题:《孙燕姿后轮到“卷福”?AI合成声音技术遭滥用,电信诈骗险些得手》,头图来自:《神探夏洛克》


AI为各行各业装上效率加速器的同时,也可能被不法之人用作诈骗工具。


据英国媒体《每日邮报》报道,一家西班牙小型电影制作公司(Peabody Films)称收到英国著名男演员“卷福”本尼迪克特·康伯巴奇(Benedict Cumberbatch)的电话,对方表示对该公司即将拍摄的电影感兴趣,想寻求合作。


这部电影的导演称,他们最初收到了自称是好莱坞明星经纪人发来的电子邮件,谨慎起见,他建议打个电话,而来电声音与康伯巴奇的相似度有100%,“是那个声音,毫无疑问。”该公司后又与“康伯巴奇”进行了几次通话。


这导致这位导演一开始完全相信对方正是康伯巴奇本人,“当我们接到电话时,简直不敢相信自己的运气,康伯巴奇是当下最有才华的演员之一,他居然会主动联系我们并对我们的项目表现出兴趣。”


随后,该电影公司几次邀约见面,“康伯巴奇”都拒绝了,甚至还提出要该公司先打款20万英镑(约合人民币170万元)。这时公司意识到了可能遇到了骗子,向“康伯巴奇”的经纪公司确认后才发现,这是一场AI骗局


“当发现自己是AI诈骗受害者时,我们感到非常震惊和失望。”该导演表示。目前,该电影公司正考虑是否报警。


被中国观众称为“卷福”的本尼迪克特·康伯巴奇可以说是英国国宝级演员,他被英国女王授予大英帝国司令勋章,也被《时代周刊》评为全球最具影响力人物之一。不论在热门英剧《神探夏洛克》里,还是在好莱坞大片《奇幻博士》中,康伯巴奇都是自己配音。由于声音很有辨识度,“卷福”还被力邀为《霍比特人》里的恶龙等虚拟形象配音。


这仅仅是AI合成声音用于诈骗的一例。


据报道,近日,国外一名网友用美国知名歌手弗兰克·奥申(Frank Ocean)的歌曲片段用以训练AI,之后用AI生成了大约9首仿冒其风格的歌曲,随后该网友于4月初在论坛上发布了这些曲目,并将其伪造成唱片录制时的泄露片段,通过出售这些音乐骗取了约970美元(约合人民币6700元)


当下的AI技术不仅可以克隆真实的人声,还可以通过声音进行“二次创作”。近段时间,通过模型训练和后期处理,模拟真人歌手孙燕姿声音进行翻唱的“AI孙燕姿”走红网络。


另一方面,越来越多的开源模型让相关工具的使用门槛进一步降低,非编程人员便可利用AI工具快速“调教”出想要的声音。


AI歌手的翻唱歌曲,正是由多位创作者通过开源项目“so-vits-svc”自制后并上传。今年早些时候,微软研究人员展示了一种文本转语音AI模型“VALL-E”,该模型只需3秒钟音频,就可以合成任何人的声音,保留说话者的情绪基调,并可以说出任何内容。


这些都便利了骗子制造假信息。网络安全公司迈克菲发现,在美国、英国、法国、德国、日本、澳大利亚和印度,有10%的人曾被人工智能语音诈骗。


除了声音诈骗,AI在图像、视频上的创造能力同样不得不让人提高警惕。AI专家阿列克谢·希特罗夫曾向媒体表示,AI生成的虚假图像和声音已经被广泛用于商业欺诈。


本文来自微信公众号:科创板日报(ID:chinastarmarket),作者:宋子乔