| 金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。 “我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。 今年2月，国外网红奥尔佳（olga Loiek）发布视频称自己被“AI换脸”并在平台带货，时隔3个月，新京报贝壳财经记者在小红书和抖音上搜索发现，通过AI换脸技术合成的美女视频仍然存在，尽管部分被标注“内容疑似AI生成”，但评论区仍引来不少中老年人议论。这些视频显眼处，往往都挂上了带货的商品。 新京报贝壳财经记者调查发现，充满宣传噱头的“俄罗斯美女”视频背后，暗藏了一条完整的产业链——零基础“AI变现课”宣称教授制作换脸视频，再通过迎合当下社会痛点的话术吸引流量，最终以带货赚钱。如今，被包装成数字人制作视频的课程以几元至几百元不等的价格出售，吸引着亟需流量的买家，也成了AI时代一个灰色地带。  奥尔佳本人和她发现自己被“换脸卖货”的账户（现已注销）。截图 AI美女视频“打游击” “咱们俄罗斯是一个很开放的国度，我们的法定结婚年龄只有14岁，所以一个女孩有可能在人群中多看了你一眼就喜欢你了，而且我们不要彩礼、不要车房。”即便视频里标注着“内容疑似AI生成，请谨慎甄别。”截至5月18日，抖音UP主“安丽娜爱中国”的这条视频依然收获了101个赞和5条评论。 评论区中，有人问“你几岁了”，也有人赞叹“俄罗斯姑娘真漂亮”。 另一条视频里，“安丽娜爱中国”颇为老到地的点评起时事，看病难、房贷高和育儿卷均有涉及，而切中普通人生活痛点的视频也收获了703个赞和72个评论。 截至5月18日，“安丽娜爱中国”页面上一共5条视频，却已有1103个粉丝，6063个赞，商品橱窗则有121件货物，大多是便宜的食品，如售价3.9元的“俄罗斯列巴”。 小红书上，这样的“AI美女”并不少见，也都有着一个外国名字。如“安娜”发视频称“我早晚会有中国身份，将来我是中国儿媳妇”。“娜雅在中国”自我介绍称：“在中国已经8年，能说一口流利中文的俄罗斯人”。 贝壳财经记者搜索注意到，这类视频大多是“新鲜出炉”且很快就下架，其中“安娜”在5月18日还有四条视频，5月19日只剩下两条。  “安娜”的视频弹幕 “现在已经过了最疯狂的时候。”曾经入局“AI俄罗斯美女带货”的小博告诉贝壳财经记者，今年春节期间自己曾摸索了一些AI换脸的视频制作方法，最终视频一经发布就收获了几万的流量，3条视频粉丝就突破了5000。但随着奥尔佳自曝被AI换脸后，许多视频都被清空，“现在再做这个有风险。” 一名最早通过AI美女视频赚取流量的视频作者在接受采访时表示，婚姻以及赞美中国事物的话题很容易出爆款，账号粉丝大多是50岁以上的中老年群体，90%是男性，虽然消费能力不强，但涨粉快，所以带货价钱越低越好。 随着AI美女视频被滥用，国内短视频平台开始出手，其中，小红书称深度学习、虚拟现实等新技术制作和发布的内容容易引起用户混淆，任何利用AI虚拟人设、进行低成本创作的行为，都为平台所禁止。3月底，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，称将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容，包括生成境外虚假人设，消费爱国心理、博取关注；生成俊男美女虚假形象，骗取互动，交友导流。 贝壳财经记者搜索看到，奥尔佳视频中提到的国内账号已经注销，大量宣称“AI俄罗斯美女”的视频也偃旗息鼓，但由于这类话题天然具有吸引力，仍有希望短期提高粉丝数的人通过这一套路涨粉。 在小博看来，这也是为什么现在许多“AI俄罗斯美女”账号往往发一条视频就清空，然后择机再发。 “换脸”火了卖课生意：2元教制作数字人 美女成了引流利器，自然带火了AI“换脸”。 贝壳财经记者搜索发现，如今，仍有不少卖家打着“俄罗斯美女数字人”“零基础上手俄罗斯女孩AI直播”等幌子售卖“变现课程”，其中，奥尔佳的换脸视频甚至成为“成功案例”，被卖家挂在了封面。 这些“AI变现课”的价格差异较大，从两元的“本地部署换脸软件教程”到近千元的“数字人带货一对一指导”均有。  电商平台上的“AI俄罗斯美女”课程，其中奥尔佳成为卖家宣传噱头。截图 贝壳财经记者体验了2元的“数字人部署”教程看到，其中赠送了两个金发碧眼的外国人绿幕视频素材，并详细解释了如何安装合成软件、剪辑视频。而另一个花费18元购买的“定制保姆级教程”中，一位自称林浩的老师展示了最新的学员数据：15个“矩阵账号”在抖音上一个月销售了12.18万元，获得佣金10.43万元。 贝壳财经记者体验多份教程发现，制作AI数字人的流程大致相同。包括从国外平台寻找美女帅哥的“原始素材”，再使用大语言模型如ChatGPT、文心一言、Kimi等生成“爆款文案”，或者干脆抄袭同类账号文案。此后，使用声音克隆工具把文案导出成音频，再通过AI工具“换脸”生成视频，并发布到视频平台上“吸粉”。 贝壳财经记者注意到，由于不少教程赠送第一步所需的“原始素材”，也就难以规避版权问题，因此网上出现不少同一张脸，拥有多个账号的现象。也就是说，奥尔佳可能就被作为“换脸模板”，成了一批批期望赚钱的视频制作者吸引流量的工具。 自称老师的林浩表示，数字人变现分很多种，美女带货是其中之一，比较火爆而已，“但是树大招风，现在做的人也多，平台管理也严起来了。除了美女带货，也可以与其他带货结合，比如好物推荐。” 贝壳财经记者发现，通过AI数字人赚钱没有想象中简单，上述制作流程中，实际上每一步都需要投入成本，如目前市面上的声音克隆工具、AI换脸工具大多收费。如若想要快速上手，还可以直接购买短视频的“代制作”服务，收费6元左右。 人们扎堆打起AI数字人的主意，卖课自然成了赚钱之道。小博告诉贝壳财经记者，今年春节期间看到了收费998元的“培训课程”，不少人趋之若鹜。 林浩口中，自己开办了“数字带货训练营”，号称“原价699限时特价199”。他举例称，“房产个人IP客户，利用数字人短视频内容运营，在抖音做IP。人家不卖房子，教房产经纪人怎么做新媒体。收费2499元/人，成交数据还很不错。怎么样，格局有没有打开一点？” “AI换脸变现课程”大行其道另外一个原因在于它难言违法。“销售换脸教程应该属于灰色地带，因为这是从技术的角度去教你如何使用一个技术，而技术本身会产生什么样的后果，是不好决定的，所以我认为销售换脸课程本身暂时还难说存在法律问题。”上海正策律师事务所董毅智律师告诉贝壳财经记者。 董毅智律师称，用AI技术为他人换脸换声并发布视频，可能涉嫌侵权。根据《中华人民共和国民法典》，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，法律另有规定的除外。作为生态圈的重要一环，平台对此也有一定的监管责任。 AI换脸“以假乱真”，检测博弈“就像杀毒与造毒一样” 事实上，近年来换脸视频一直存在，B站上存在各类以贴图方式进行换脸的视频，但这些视频多以搞笑为主。而随着AI技术发展，特别是去年年底AI网站heygen推出了能够换口型的视频功能后，AI换脸逐渐可以“以假乱真”。尽管其距离真人仍然有差距，但已经可以蒙骗一些对技术不敏感的中老年人。 AI技术容易让别有用心的人利用，当人们不能分辨深度伪造视频的时候，机器能帮忙分辨吗？这一问题逐渐引发不少人思考。 贝壳财经记者浏览抖音和小红书发现，平台打击之下，目前依然可以搜索到明显基于AI生成的“俄罗斯美女”视频，并且部分账号依靠反复删除视频并更新视频的方式躲避监管。 5月19日，贝壳财经记者在抖音上看到，“安丽娜爱中国”三条被平台标注为“疑似AI生成”视频隐身后，又上传了两条新视频，这两条视频并没有再被平台打上“疑似AI”的标签，并且一条视频刚发布就收获了10个评论。  “安丽娜爱中国”的账号。 中国信通院人工智能研究中心安全与元宇宙部的主任石霖告诉贝壳财经记者，目前深度伪造技术与检测技术正在相互博弈，“它们就像杀毒与造毒一样，是长期攻防对抗的过程。现在来看，伪造的技术也确实越来越真实有效，我们从调研中发现，检测技术在一定程度上可能有一定滞后性，对于新的算法需要样本积累和过滤。比如，传统检测技术可能主要基于脸部特征边缘或者是眼睛等对特殊部件光线的一些反馈，包括基于时序特征等不符合逻辑的一些特征进行检测鉴别，但随着Sora和Diffusion这种模型的出现，也在一定程度上增加了检测难度。” 据了解，目前在识别换脸视频方面，金融机构刷脸支付场景累积的经验更多。深度伪造综合防控产品ZOLOZ对拦截用户刷脸过程中的“换脸风险”有着多年经验。该公司产品总监陶冶对贝壳财经记者表示，AIGC深度防伪的模式叫活化，它是基于一个人脸的一张照片或者一段视频、一段声音，就可以模拟更多种的动作，“该技术的发展非常快，为此我们搭建了AIGC自动化生成和测试平台天玑实验室，通过模拟人和机械的方式开展大量攻防，主动发现更多安全问题，同时，我们也呼吁群众自己能够有一个安全保护意识，因为光靠技术不能做到尽善尽美。” 不过，相比关系用户切身利害的金融场景，视频平台要引入更多技术识别AI内容或许还要好好算算“经济账”，“从我的角度来说，即便未来我们提供面向视频流的深度防伪，可能也是给B端公司提供安全能力，再让它去保护C端用户。”陶冶说。 |
手机版
官方微信
