本文来自微信公众号:启阳路4号(ID:qyl4hao),作者:不语,编辑:文骅,头图来自:视觉中国

自从“假靳东”骗姐姐钱的生意走红后,收割中老年群体,几乎成了社交平台上的赚钱之道。尽管平台一直试图取缔虚假账号,但无奈新兴玩法层出不穷。

这不,AI技术的流行,还意外带火了“电商博主”,去年开始,网上涌现了一批冒充俄罗斯女孩的账号,虽然仿似低配版的“靳东恋爱人设”,没有甜言蜜语,而且只会迎合中老年大叔的喜好,说些中俄友谊、喜欢中国男人的话,但是短短一个月,依然能积攒数十万粉丝。

这些账号背后,从卖软件、养号,到卖货甚至诈骗,早已衍生出一条灰色产业链。基于目标群体的定位,它们大多兜售的是20~100元的单价生意。

一、“我脸被盗了”

“那里不是一个人,而是一群克隆我的人,每个人都得到了数千个点赞和评论”, 今年春节后,乌克兰网红Olga Loiek以“有人在中国把我克隆”为题发布了一则控诉视频,她站在镜头前,双手紧握,语气中带着愤怒与无奈。

据Olga Loiek讲述,她的面孔和声音在中文网络上被非法盗用,被肆意操控用于创建多达数十个的短视频账号。这些账号名称各异,内容五花八门,但核心点却出奇一致——将Olga Loiek塑造为一个热爱中国的俄罗斯姑娘形象,进而推销各类俄罗斯特色商品。

凤凰网“风暴眼”了解到,春节前,国内短视频平台上涌现出不少这样的“俄罗斯美女”博主,它们敏锐地捕捉到了短视频平台的流量红利以及消费者对异国风情美女的浓厚兴趣与追求,将其作为谋求财富的捷径。

这些博主有着精致的面容,用流利的中文讲述着“中俄友好”、“中国好”的话题。但如同Olga Loiek所讲,短视频里的人都是AI技术的产物,是盗用她的面孔批量化生成的虚假形象。

虽然仔细分辨不难看出是假的,譬如人的表情显得僵硬,口型不对,也没有什么动作,视频偶尔还会出现掉帧的情况,但很多粉丝似乎并没有产生丝毫怀疑,不仅积极点赞,而且还在评论区留言,“你很漂亮”“我很想见到你”“请回复我消息”等,有的甚至会和对方私信。

王军从2023年起,便踏入了自媒体创业的大潮, AI俄罗斯美女带货,正是他近期研究的一门新生意。他向凤凰网“风暴眼”介绍,打造这样一个博主非常简单。第一步便是从外网找美女素材,即盗脸,“最好是选择丰满型或者可爱型”。有了美女素材后,再通过HeyGen等AI肖像克隆软件进行面部替换和表情调整,一个“俄罗斯美女”博主就诞生了。

不光俄罗斯美女,任何国家的美女形象,都可以借助技术生成,但是这两年俄罗斯美女的人设更流行。

这类账号的粉丝受众以三四线城市,40岁以上的中年男人为主。新榜编辑云飞扬称,这些视频的形式和抖音上一些情感博主很像,采用非常浓烈的滤镜和特效,就会被他们误以为是真的。

一旦积累了足够的粉丝,它们便开始利用短视频平台的橱窗功能进行商品销售,主要销售的是价格亲民、单价低于100元的俄罗斯特色商品,以降低消费者的决策门槛。 

虽然目前尚未出现带货成绩特别亮眼的此类博主,但由于制作成本低、难度小,一个人可以同时运营数十甚至上百个账号。当账号数量成倍增加时,销售数据也将变得非常可观。

二、培训机构赚疯了

技术革新的洪流中,总是潜藏着无数的新机遇。当“AI俄罗斯美女”这一概念火起来后,无数的逐风者涌入这片蓝海。

在二手平台上,搜索“AI俄罗斯美女”,共出现上百条结果。其中,既有出售HeyGen积分的,也有出售HeyGen平替软件的,更有甚者,直接出售制作和运营的相关教程。其中一家商家颇具诱惑地宣传道:“赶快做个俄罗斯AI美女账号吧,20多天就能涨粉50万。”

一些“AI俄罗斯美女博主”甚至也下场做起了教程培训的生意,“我们主要教视频制作,并提供变现思路,价格是998元,做得好一个视频就回本了”,他向凤凰网“风暴眼”透露,有学员30天就积累了16万粉丝。

王军是最早吃到红利的的一批人。春节期间,当大多数人都在享受假期时,王军却忙得不可开交。在推出俄罗斯美女制作的相关教程后,今年1月份,就有一百多人主动联系他,“感觉大家都想从风口上分一杯羹”。

这些学员背景各异,有对短视频平台充满好奇的新手,也有希望借此机会增加额外收入的职场人士,还有专门做短视频的机构。他们毫不掩饰的赚钱欲望,让王军赚得盆满钵满,按照每人798元的价格来算,王军1月份就有将近20万的收入。

王琳是众多在此领域寻求机会的一员。她是一家广告公司的设计师,每天都被繁重的工作和无尽的加班所困扰,这样的生活让她感到窒息,急切地想要寻找一个出口。她把目光投向了短视频平台,希望将其作为自己职业生涯的突破口,将来逃离那份令人压抑的工作。

从2023年下半年,她开始尝试发布一些记录生活的Vlog,但结果却令人失望,视频的流量大多停留在500左右,点赞的也几乎都是亲朋好友,她一度怀疑自己是否适合从事短视频。

春节期间,她在网络上浏览到一些关于AI俄罗斯美女的文章,“2个月涨粉63W,带货佣金10W+”“用AI制作俄罗斯美女来带货,橱窗都卖疯了”,似乎在这个风口上,触手可及,这让她心动不已。



AI俄罗斯美女博主用交朋友、嫁中国人等话题吸引粉丝

她花899元报名参加一家培训机构,对方主要提供了视频的制作流程和一些要用到的软件。经过一个星期的摸索,她发布了自己的第一条视频。这条视频的文案借鉴了“要嫁中国男人的思路”,并在此基础上进行了一些微调和修改。

令她惊喜的是,视频一经发布,便迅速获得了两三万的流量。随着后续三条视频的陆续推出,她的粉丝数量也迅速攀升,很快就突破了5000大关。

但王琳入局还是太晚了。

Olga的视频发布后,迅速在网络上发酵,各大平台加强了对此类AI账号的监管,Olga Loiek在视频中提到的“娜塔莎”等博主账号悄无声息地被封禁,而一些合成俄罗斯美女的账号要么停止更新,要么清空账号,以避免受到处罚。

以一位名为“俄罗斯小妹”的博主为例,她宣称自己是在中国生活了14年的俄罗斯人,并爱上了中国,成功吸引到2.8万的粉丝。但如今她的视频已经全部清空,唯一留下的痕迹是橱窗里展示的9件商品。

风暴席卷之下,无一能幸免。王琳的账号,尚未来得及展示橱窗的商品,便惨遭封禁。这背后是源于盗脸本身就是一种违法行为。

上海正策律师事务所董毅智律师向凤凰网“风暴眼”表示,用AI技术为他人换脸换声并发布视频,可能涉嫌侵权,根据《中华人民共和国民法典》,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

然而,盗脸的恶劣影响并不仅限于此。

三、危险的机器

一扇新的技术大门缓缓打开,后面的世界充满了未知,光点缀的夜空、蜿蜒曲折的小径、巍峨的山峰以及清澈的小溪,这一切美景或许都存在,但同样可能只是表象。

在别有用心的人手上,它似乎变成了一台危险的机器,一个诽谤他人、欺诈他人的灰色武器。

据“2024人工智能安全报告”显示,2023年基于AI的深度伪造欺诈案件呈现出惊人的增长趋势,增长率高达3000%。

凤凰网“风暴眼”注意到,已经有多名博主公开曝光了自己被AI盗脸和制造黄色谣言的经历。2023年7月3日,拥有数百万粉丝的网红“@小野”就曾揭露自己的面部图像被AI技术用于制作换脸私密视频,甚至有人散布关于她的不实色情谣言。

值得注意的是,被AI盗脸所伤害的不仅仅是女性群体。近年来,利用AI合成技术进行的诈骗案件屡屡发生,引起了广泛关注。

2023年5月有媒体报道称,福州一家公司老板在短短10分钟内被骗走了430万元。诈骗团伙利用AI盗脸和拟声技术冒充熟人进行视频通话实施诈骗。警方介绍称,这类AI诈骗手段还包括声音合成、AI换脸以及转发语音等,其成功率几乎接近100%。

最近,香港警方成功侦破了一起大规模的AI“深度伪造”诈骗案。诈骗者通过YouTube等社交软件收集公司高管的音视频资料,并利用深度合成技术进行换脸处理提前生成视频。他们在Zoom在线会议上使用这些伪造的视频成功欺骗了公司职员,涉案金额高达2亿港元。

这起案件中的被骗职员所看到的每一个人物和听到的每一个声音都是诈骗者通过精心伪造的“AI换脸、换声”技术制作的,这种高度逼真的伪造技术让人防不胜防。

当技术背后的动机变得含糊不清时,它就随时可能释放出无法预测的风险和后果。如何保护生活边界不被人工智能技术侵犯,已经演变成了一个紧迫而重要的现实问题。

(文中王军、王琳为化名)