金发碧眼美女,一口流利的中文谈婚姻和中国话题,仿佛成了流量密码。
“我国生产的许多产品都是中国制造的。中国有5000年的历史。我非常喜欢这个国家。”在屏幕上,一位所谓的“俄罗斯美女”在侃侃谈论,这只是新京报贝壳金融记者以6元的价格购买的“换脸视频”。
今年2月,奥尔佳,外国网红(olga Loiek)发布视频说他是“人工智能脸”,在平台上,三个月后,北京新闻贝壳金融记者在小红皮书和其他平台搜索发现通过人工智能脸技术合成美容视频仍然存在,虽然部分标记“内容疑似人工智能生成”,但评论区仍吸引了许多中老年人的讨论。这些视频经常挂着商品。
《北京新闻》贝壳金融记者发现,在充满宣传噱头的“俄罗斯美女”视频背后,隐藏了一个完整的产业链——零基本的“人工智能实现课程”声称教授制作面部视频,然后通过迎合当前社会痛点来吸引流量,最终用商品赚钱。如今,包装成数字人制作视频的课程以几元到几百元的价格出售,吸引了急需流量的买家,成为人工智能时代的灰色地带。
奥尔佳本人和她发现自己被“换脸卖货”的账户(现已注销)。截图
AI美女视频“打游击”
“我们俄罗斯是一个非常开放的国家。我们的法定结婚年龄只有14岁,所以一个女孩可能会喜欢你在人群中看到更多,我们不想要彩礼或车库。”即使视频中标有“内容涉嫌人工智能生成,请仔细筛选。”截至5月18日,tiktok主持人“安丽娜爱中国”的视频仍获得101条赞扬和5条评论。
在评论区,有人问“你多大了”,也有人称赞“俄罗斯姑娘真漂亮”。
在另一段视频中,“安丽娜爱中国”对时事进行了相当老的评论,包括看病难、房贷高、育儿卷等。,而切中普通人生活痛点的视频也获得了703个赞和72个评论。
截至5月18日,“安丽娜爱中国”页面共有5段视频,但粉丝1103人,赞6063人,商品窗口有121件商品,多为价格3.9元的“俄罗斯列巴”等便宜食品。
在小红书中,这样的“人工智能美女”并不少见,他们都有一个外国名字。例如,“安娜”发布了一段视频,说“我迟早会有中国身份,将来我会成为中国的儿媳”。“娜雅在中国”自我介绍说:“在中国已经八年了,俄罗斯人可以说一口流利的中文。”
贝壳金融记者搜索注意到,这些视频大多是“新发布”的,很快就下架了,其中5月18日“安娜”有四个视频,5月19日只剩下两个。
视频弹幕“安娜”
“现在是最疯狂的时候了。”曾经进入“人工智能俄罗斯美容商品”的小波告诉贝壳金融记者,在今年春节期间,他探索了一些人工智能面部变化的视频制作方法。最后,视频一发布,就获得了数万的流量,三个视频粉丝就超过了5000人。但随着奥尔佳被人工智能取代,许多视频被清空,“现在有风险再做一次。”
一位首先通过AI美女视频赚取流量的视频作者在接受采访时表示,婚姻和赞美中国事物的话题很容易爆炸。大多数账户粉丝都是50岁以上的中老年人,90%是男性。虽然他们的消费能力不强,但他们上升得很快,所以价格越低越好。
随着人工智能美容视频的滥用,国内短视频平台开始销售。其中,小红声称,深度学习、虚拟现实等新技术的制作和发布容易引起用户的混淆。平台禁止任何使用人工智能虚拟人工设计和低成本创建的行为。3月底,抖音安全中心发布了不当使用人工智能生成虚拟人物的治理公告,称重点利用人工智能生成虚假外国人、虚假精英和人工智能生成形象欺骗互动,包括生成海外虚假人物、消费爱国主义和关注;生成英俊男女的虚假形象,欺骗互动,交朋友和分流。
贝壳金融记者搜索发现,奥尔佳视频中提到的国内账户已被取消,大量声称“人工智能俄罗斯美女”的视频已经停止。然而,由于这些话题自然具有吸引力,仍有人希望在短期内增加粉丝数量。
在小博看来,这就是为什么很多“AI俄罗斯美女”账号经常发视频清空,然后选择机会再发。
“换脸”火了卖课的生意:2元教数字制作人
美女成了引流利器,自然带火了AI“换脸”。
贝壳金融记者搜索发现,仍有许多卖家打着“俄罗斯美容数字人”和“零基础俄罗斯女孩人工智能直播”的幌子销售“现金课程”,其中奥尔佳面部视频甚至成为“成功案例”,被卖家挂在封面上。
这些“人工智能实现课程”的价格差异很大,从2元的“本地部署变脸软件教程”到近1000元的“数字人带货一对一指导”。
电子商务平台上的“人工智能俄罗斯美女”课程,其中奥尔佳成为卖家的宣传噱头。截图
贝壳金融记者体验了2元的“数字人部署”教程,看到两个金发外国人绿色屏幕视频材料,详细解释了如何安装合成软件和编辑视频。在另一个18元的“定制保姆教程”中,一位自称林浩的老师展示了最新的学生数据:15个“矩阵账户”每月销售12.18万元,佣金10.43万元。
贝壳金融记者体验了许多教程,发现制作人工智能数字人的过程大致相同。包括从国外平台上寻找美女和帅哥的“原始材料”,然后使用ChatGPT等大语言模型、文心一言,Kimi等。生成“爆款文案”,或者简单抄袭类似账号的文案。之后用声克隆工具将文案导出成音频,然后通过AI工具“换脸”生成视频,发布到视频平台上“吸粉”。
贝壳金融记者注意到,由于许多教程提供了第一步所需的“原始材料”,很难避免版权问题,所以网上有许多相同的面孔,有多个账户现象。换句话说,奥尔佳可能被用作“面部变化模板”,成为许多期望赚钱的视频制作人吸引流量的工具。
自称是老师的林浩说,数字人有很多种实现方式,美女带货就是其中之一,比较受欢迎。“但是树大招风,现在做的人多,平台管理严格。除了美女带货,还可以和其他带货结合,比如推荐好东西。”
贝壳金融记者发现,通过人工智能数字人赚钱并不像预期的那么简单。事实上,在上述生产过程中,每一步都需要投资成本。例如,市场上的声音克隆工具和人工智能面部更换工具大多收费。如果你想快速开始,你也可以直接购买短视频的“代理制作”服务,费用约为6元。
人们聚在一起建立人工智能数字人的想法,销售课程自然成为赚钱的一种方式。小波告诉贝壳金融记者,今年春节期间,他看到了998元的“培训课程”,许多人蜂拥而至。
在林浩口中,他开设了“数字带货训练营”,号称“原价699限时特价199”。例如,他说:“房地产个人IP客户使用数字人短视频内容在抖音上运营IP。人们不卖房子,教房地产经纪人如何成为新媒体。收费2499元/人,交易数据仍然很好。怎么样?模式有点开放吗?”
另一个流行的原因是很难说它是非法的。”销售面部更换教程应该属于灰色地带,因为这是从技术的角度教你如何使用技术,技术本身会产生什么后果,很难决定,所以我认为销售面部更换课程本身暂时很难说有法律问题。”上海正策律师事务所董一志律师告诉贝壳金融记者。
董毅志律师表示,使用人工智能技术为他人改变面部和声音,并发布视频可能涉嫌侵权。根据《中华人民共和国民法典》,除法律另有规定外,任何组织或个人不得以丑化、污染、伪造信息技术手段侵犯他人肖像权。平台作为生态系统的重要组成部分,也有一定的监督责任。
AI换脸“以假乱真”,检测游戏“就像杀毒造毒”
事实上,近年来,变脸视频一直存在。哔哩哔哩有各种以贴图形式变脸的视频,但这些视频大多很搞笑。随着人工智能技术的发展,尤其是去年年底,人工智能网站heygen推出了可以换口型的视频功能后,人工智能的变脸逐渐可以“以假乱真”。虽然离真人还有差距,但已经可以欺骗一些对技术不敏感的中老年人了。
人工智能技术很容易被别有用心的人使用。当人们无法区分深度伪造视频时,机器能帮助区分吗?这个问题逐渐引起了很多人的思考。
贝壳金融记者浏览小红皮书等平台发现,在平台的打击下,仍然可以搜索基于人工智能生成的“俄罗斯美女”视频,一些账户通过反复删除视频和更新视频来避免监管。
5月19日,《壳牌财经》记者看到,在平台上标注“安丽娜爱中国”三段视频“疑似人工智能生成”后,上传了两段新视频。这两段视频没有被平台贴上“疑似人工智能”的标签,一段视频一发布就收获了10条评论。
“安丽娜爱中国”的账号。
中国信通研究所人工智能研究中心安全与元宇宙部主任石林告诉贝壳金融记者,目前,深度伪造技术和检测技术正在相互竞争。”它们就像杀毒一样,是一个长期的攻防对抗过程。现在,伪造技术变得越来越真实和有效。我们从调查中发现,检测技术可能在一定程度上滞后,需要样本积累和过滤新算法。例如,传统的检测技术可能主要基于面部特征边缘或眼睛对特殊部件光线的一些反馈,包括检测和识别一些不合逻辑的特征,如时间顺序特征。然而,随着Sora和Diffusion模型的出现,检测难度也在一定程度上增加。”
据了解,目前金融机构在识别换脸视频方面积累了更多刷脸支付场景的经验。ZOLOZ在拦截用户刷脸过程中有多年的“换脸风险”经验。公司产品总监陶冶告诉贝壳金融记者,AIGC深度防伪模式称为活化。它可以基于一张人脸的照片、视频和声音来模拟更多的动作。”该技术发展迅速。因此,我们建立了AIGC自动化生成和测试平台天鸡实验室,通过模拟人和机械进行大量攻防,积极发现更多的安全问题。同时,我们还呼吁群众有安全保护意识,因为光靠技术是做不到完美的。”
然而,与关系到用户切身利益的金融场景相比,为了引入更多的技术来识别人工智能内容,视频平台可能需要计算“经济账户”。“从我的角度来看,即使我们在未来为视频流提供深度防伪,我们也可能为B端公司提供安全能力,然后让它保护C端用户。”陶冶说。
记者联系邮箱:luoyidan@xjbnews.com
新京报贝壳财经记者 罗亦丹 编辑 王进雨 校对 付春愔
网友评论