“世界最著名油管主”Mr.Beast遭遇AI换脸，TikTok被质疑对Deepfake内容检测能力不足

埃律西昂

来源： TechCrunch
原英文标题： How an AI deepfake ad of MrBeast ended up on TikTok

---

MrBeast最新一期油管视频封面

        人工智能深度伪造（即Deepfake）的效果越来越好，以至于一则欺诈性的MrBeast广告通过了 TikTok 的广告审核技术，最终出现在该平台上。

        在这则广告中，这位极具影响力的创作者似乎在向 10,000 名观众以2美元出售 iPhone 15 Pro。在大多数情况下，这显然是一个明显骗局；但假设出自MrBeast之手，这实际上可能是真实的。

        MrBeast今年25 岁，真名为吉米-唐纳森（Jimmy Donaldson），在 YouTube 上拥有比其他任何人都多的订阅者，通过制作越来越荒诞的特技视频而成名。在这些视频中，他给人们提供免费的房子和汽车，而且不附带任何条件（只要他们同意出现在他的视频中）。最近，他还邀请来自 "地球上每一个国家 "的人在一系列类似奥运会的迷你游戏中角逐 25 万美元的奖金。

        因此，如果你不是特别善于识破骗局，而且在深夜不经意间浏览 TikTok，那么MrBeast购买 1 万部 iPhone 通过 TikTok 广告赠送出去的可能性是存在的。毕竟，他已经向毫无戒心的 "不给糖就捣蛋 "者免费赠送了 iPhone。

        从善意的角度来看，这也可以解释这则深度伪造广告是如何在 TikTok 上获得批准的。TikTok 采用人工审核和人工智能辅助技术（具有讽刺意味）相结合的方式，在广告发布前对其进行审核。因此，从本质上讲，TikTok 的人工智能与这则深度伪造的MrBeast广告背后的人工智能进行了较量，最终败下阵来。而这，也是MrBeast自己在X平台上发布澄清动态时的忧虑：“社交媒体平台是否已准备好应对人工智能深度伪造的兴起？这是一个严重的问题。”。

        TikTok 告诉 TechCrunch，由于该广告违反了 TikTok 的广告政策，它在发布后几小时内就删除了该广告。TikTok 并不完全禁止广告商使用合成或操纵媒体，但该平台要求广告商明确披露是否使用了此类技术。

        TikTok 并非唯一使用人工智能来控制广告的平台。Meta 称其 "主要依靠自动化技术"，但与 TikTok 类似，它也使用人工审核员来训练其人工智能，有时也会人工审核广告。

        欺骗性的深度伪造并不新鲜，但随着人工智能在投资者和消费者中变得尤为流行，这种技术也变得比以往任何时候都更容易获取。虽然像MrBeast这样的网络名人对年轻一代很有吸引力，但年长的消费者也会上当受骗。仅在本周，演员汤姆-汉克斯（Tom Hanks）和哥伦比亚广播公司（CBS）主播盖尔-金（Gayle King）都警告他们的追随者，他们的形象被使用深度伪造的欺诈性广告利用。

        "当心！！"汤姆-汉克斯在Instagram 上写道。"有一个视频在宣传某个牙科计划，里面有一个AI换脸的我。真实的我与此无关。"。

        美国联邦贸易委员会已经对深度伪造营销发出了发出了警告，但事实证明很难对这种做法进行大规模监管。随着全球大选的临近，这种欺骗性广告的后果可能会变得更加严重。

wd89

给你提供一个翻译稍微自然一点的版本
---

AI深度伪造技术如今高超到了一个新的境界：一个冒充MrBeast的广告竟然轻易骗过了TikTok的广告审核系统，并成功登上了这个平台。

广告中，这位巨星级创作者似乎正在向10,000名观众推销只要2美元的iPhone 15 Pro。通常情况下，人们会立刻认为这是骗局。但如果这是MrBeast的主意，那么听起来反而觉得有可能。

MrBeast，真名Jimmy Donaldson，25岁，他在YouTube的粉丝数超过了其他任何个体。他因频频创作出位数的特技视频而成名，例如给陌生人免费的房子和车，只要他们愿意上镜。最近，他甚至邀请了来自全球各地的人，参加一系列奥运会式的小游戏，争夺25万美元的大奖。

因此，当你深夜在TikTok上滑动时，脑袋可能并不那么清醒，你或许真的会认为MrBeast会通过广告送出10,000部iPhone。毕竟，他之前确实在万圣节给过路过的孩子免费的iPhone。

纵观整个事件，或许这就是这则深度伪造广告能够在TikTok上获得批准的原因。TikTok结合了人工审核和AI技术来评审广告。这次事件中，TikTok的AI与制造MrBeast伪造视频的AI进行了一场对决，结果是败北了。

TikTok后来向TechCrunch表示，由于这则广告违反了他们的政策，发布几小时后就已被撤下。虽然TikTok并不完全禁止合成或操纵的媒体内容，但确实要求广告商明确告知观众。

事实上，TikTok并不是唯一使用AI进行广告审核的平台。Meta也表示，他们主要依赖机器自动化技术，但也有人工参与审核。

欺骗性的深度伪造并不是新事，但随着AI在投资者和普通消费者中越来越火热，这项技术的应用也变得更为广泛。而网红如MrBeast吸引了年轻人，老年消费者同样也受到了影响。就在这周，演员Tom Hanks和CBS新闻主播Gayle King都警告说，他们被用来制作欺诈广告的伪造视频。

Tom Hanks在Instagram上发文：“小心！有个关于某种牙科方案的视频里，伪造了我的形象。那跟我一点儿关系都没有。”

尽管联邦贸易委员会已经对深度伪造营销发出警告，但要大规模地对其进行监管仍然困难重重。而且随着全球各地的选举日益临近，这种欺诈广告的潜在风险可能会进一步加剧。

Adm1n

油管是啥？不是一个不存在的网站吗？

见龙卸甲

2美元的手机
谁信啊
信了傻了吧

flyzhuan

见龙卸甲 发表于 2023-10-9 08:52
2美元的手机
谁信啊
信了傻了吧

主要是这个被伪造的人经常干类似的事儿。

就比如某富佬经常全国街头随机拉人请客吃饭。然后你刷到一个视频说富佬在你家附近请客，你去不去？

冰烨林枫

国内抖音不都点左下角免费领吗，国外还要收2美元？

1787

见龙卸甲 发表于 2023-10-9 08:52
2美元的手机
谁信啊
信了傻了吧

类似吃一顿饭400万吧.
谁信那?  但是换成巴菲特你是不是也信了

谎言之神Cyric

见龙卸甲 发表于 2023-10-9 08:52
2美元的手机
谁信啊
信了傻了吧

呃，和国内那么多不实诚的不大一样，国外很多噱头说出口就要做得到的，而且很多人就是撒钱来换关注度和影响力

米国那地方天上掉馅饼和天上掉子弹同样多，什么都可以发生

赫敏

见龙卸甲 发表于 2023-10-8 19:52
2美元的手机
谁信啊
信了傻了吧

2美元的手机算什么，这个博主经常几千几千的给路人，或者完成挑战赢得100万美元