AI诈骗太猖狂，抖音下狠手，这些账号要凉了

张一鸣开了个好头。

一、抖音严厉打击AI骗取老年人互动行为

在今天这个时代，人工智能（AI）技术已经变成一个似乎无所不能的魔术师，大家想看什么自己剪，想听什么自己生成。

但有的时候，这位魔术师并不是那么“遵纪守法”——恶意抹黑信手拈来、骗人钱财也不在话下。

很多名人和大型企业对这玩意儿都十分头疼，更别说辨识能力有所下降的老年人了。

大面积、大尺度的造假自然有人来管，那这些普通人日常受骗又该找谁呢？

因此，作为ai视频充斥的自媒体平台，抖音不得不站了出来。

近期，抖音官方发布了一则公告，宣布将严厉打击利用AI技术骗取老年人互动的行为。

具体来说，抖音发现，有些账号利用AI技术生成了各种虚拟形象，比如小和尚、军人、女性等，却不在内容中标明这是AI的“杰作”。

这些账号还用上了一套套的话术，比如让小和尚说“你身边有块绊脚石，我帮你搬走”、“如果觉得小和尚说得对，送给小和尚一朵小红花吧”；

视频源：抖音

让军人形象说“娘，别滑走，孩子想和您谈谈心”、“亲爱的母亲，我正在执行任务，给我一点鼓励”；

视频源：抖音

甚至还有直接生成的AI美女，说“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”。

视频源：抖音

以此来骗取老年人的点赞、关注和评论，甚至导流获利。

这些行为，抖音表示，严重违反了平台规则，违规视频一律下架，对违规账号采取取消其投稿和营利权限、封禁账号等处置。

另外，抖音宣布会持续利用模型、技术识别等手段，提高系统识别能力，进行进行长期系统的识别发现和及时处置。

要知道，去年5月抖音就有先见的发布了《抖音关于人工智能生成内容的平台规范暨行业倡议》，规定AI创作内容必须要有显著标识。

只不过当时只是规定，并没有严格控制，声不声明AI创作完全由作者自己决定，以至于被一些恶人找到了空子。

无独有偶，就在上周，新华社也发布了一篇文章抨击当下的“AI污染”乱象。

在这篇文章中，新华社指出，现在的社交平台上充斥着大量AI生成的虚假账号，有些小说平台的账号依靠AI“创作”，一天能更新50部小说，不过这些小说的内容常常逻辑不通、辞藻空洞。

更离谱的是，AI内容创作甚至混进了学术界，有顶尖高校学者在SCI发表的论文因插图为AI生成且错误百出，仅发表3天就被撤稿，成了学界的笑柄。

对于这种现象，新华社直接一针见血地指出“‘AI污染’会反噬AI产业的发展”。

所以，新华社也给出了一些建议，其中的一些想法与抖音不谋而合：

① 加大对AI学习和生成机制的源头治理。具体点，要求作者强制对AI生成内容打上显著标识。

② 加强对AI生成内容的筛查监管。

③ 提高用户对AI生成内容的辨别能力。这一点最难，毕竟AI技术越来越猛，年轻人可能还好，老年人很容易信以为真。

不过，AI技术的发展应该受到监管，不能让它成为制造“信息垃圾”的工具。

AI技术越强大，越需要在一定的规则和监管下使用。

毕竟，要是看个魔术就被魔术师把包里的钱给全变没了，搁谁身上谁都接受不了。

二、AI 造假骗到股神巴菲特头上

要是AI造假的视频只有上面视频中的那种程度倒也还好，不至于大多数人都看不出来。

但如果他们变成你崇拜的明星、企业家，你还能保持“火眼金睛”吗？

著名香港演员“开心鬼”黄百鸣最近就遇到了这样的烦恼。

有人在社交媒体上发布了一段经过AI技术处理的视频，视频中的声音被替换成了黄百鸣的声音，用来为一个不知名的药膏品牌代言。

黄百鸣立刻发表声明，明确表示这是欺诈行为，目的是误导公众并从中获利。

只能说这群人脑洞真大，没钱请明星代言，就只好AI一个。

这还只是代言，前几年“ai靳东”火遍全网，让靳东“被迫”成为不少中年女性的梦中情人，对靳东本人的形象同样带来了极大的困扰。

更狠的是，最近就连股神巴菲特也不得不站出来发声。

巴菲特旗下的伯克希尔·哈撒韦公司在官网上发表了一份罕见的声明，强调巴菲特不会在社交媒体上推荐任何投资产品和政治候选人。

图源：Berkshire Hathaway

声明中强调，现在人们越来越多地使用社交媒体，关于巴菲特代言投资产品以及他支持政治候选人的欺诈性声明层出不穷。

也不难怪今年5月，巴菲特把AI叫做“原子弹”。

而在国外，像巴菲特和亚马逊创始人杰夫·贝索斯等商界大佬，是AI诈骗分子最钟爱的复制对象。

这些诈骗分子利用AI技术，制造出以假乱真的视频和音频，以此来欺骗投资者和公众。

并且这种事很早就有人做了，只是没想到今年以来他们越来越猖狂。

但要说最近国内“AI造假”最火的事件，还得是“AI雷军”。

伴随着一张雷军的定妆照，各种视频里都传来了雷军的声音，一时间“雷军语录”火爆全网。

而且最关键的是这其中大部分的话还都不是他本人说的。

抖音平台上的“AI雷军”视频最多，国庆放假7天无论你在关注哪个娱乐领域，大概率都能听到“大家好，我是雷军”。

由于雷军的公开录像很多，这些AI合成的声音足以以假乱真，让很多人信以为真。

这里面有的是鬼畜恶搞，但也有很多作者借着雷军的声音，在视频中大骂特骂，“畜生”、“遥控小米su7撞死你”成了视频里最高频的词语。

一些视频甚至恶劣到引起了雷军粉丝的不满，他们转发给小米高管，希望小米法务部能出手制裁。

但截至目前，小米法务部和雷军本人对于这类事还没有过完整的表态。

好在，不知道是平台发力还是某种原因，最近这段时间“AI雷军”总算是消停下来了。

三、AI 视频泛滥成“灾”

AI视频技术的普及，让我们进入了一个人人都能成为导演的时代。

没错，是“人人”都能成为。

打开现在的抖音，搜索“AI视频教程”，出来的结果没有10000条也有1000。

这些教程的泛滥，让制作一条AI视频的门槛大大降低，甚至可以说没有。

如果要说有的话，就是这些视频也是在给自家的AI工具引流，普通人的门槛就是找到一款免费且好用的AI工具，重点是免费。

据了解，如今只需平均20秒就能生成一条AI音频。

这么短的生成时间，再加上这么低的使用门槛，AI视频变得泛滥好像也并不奇怪了。

有媒体采访了这些制作AI视频的博主，问他们，“你们难道不害怕侵权，不害怕被告吗？”

有博主淡定地回答：“大家都在做，如果提示违规，删了就行了。”

好一个“大家都在做”，好一个“删了就行了”。

如此轻描淡写，如此“法不责众”。

另一方面，专家们有着同样的担忧。

清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。

大量的AI虚假信息不仅会侵害个人信息安全，还可能扰乱网络空间生态秩序。

北京盈善律师事务所律师张清鑫也提到，自然人的声音具有唯一性、独特性，是自然人人格的重要组成部分，声音权益是人格权的一种。

制作并上传他人AI音频的行为，无论出于何种目的，都已构成对其人格权的侵犯。

如今，各大平台也在不断完善自己的社区规则，加强对AI内容的审核和管理。

对此，很多人表示绝对支持。

这种事，的确不能只靠自觉，还得是官方出手。