澳大利亚矿业巨头兼商人Andrew“Twiggy”Forrest在脸书上的一段篡改片段是一系列deepfakes劫持欺骗性广告中人物形象的最新片段，削弱了人们对媒体的信任。

网络安全公司Cybertrace标记了视频Forrest，该视频似乎在推广一个虚假的加密货币交易平台。

Deepfake骗局

这段视频出现在脸书上，鼓励观众加入一个声称每天为“普通人”赚取数千美元的欺诈平台。目标指向一个名为“量子人工智能”的网站，据Cybertrace报道，该网站因其诈骗和金融欺诈中心而臭名昭著。

这段视频改变了福雷斯特在2023年10月由罗兹信托基金会主持的“炉边聊天”中的行为和举止。1月27日，Cybertrace在脸书上发现了deepfake，脸书上描绘了这位亿万富翁的人工智能改造版本，为一个欺诈的加密货币交易平台背书。

脸书和Instagram的母公司“Meta”在2020年初实施了对deepfakes的禁令，然而，篡改后的片段继续在社交媒体平台上对谦逊的用户造成严重破坏。然而，福雷斯特猛烈抨击这家社交媒体巨头在防止诈骗方面做得不够。

这位亿万富翁因涉嫌利用其形象的另一个加密广告骗局而对脸书提出刑事指控。福雷斯特表示沮丧，

“脸书什么都不做——这就是我希望我开始的法律行动将要解决的问题，让社交媒体公司对他们疏忽运营广告平台的方式负责。大约两年前，出于对无辜的澳大利亚人在脸书上被骗的担忧，我开始了法律诉讼。”

Deepfake骗子崛起

MicroStrategy创始人Michael Saylor最近透露，他的团队每天都在努力删除大约80个假冒视频，其中许多是为了支持不同的比特币骗局。此外，各种社交媒体上也出现了以特斯拉和太空探索技术公司创始人、亿万富翁埃隆·马斯克等知名人物为主角的修改视频。

其中一些视频包含投资计划、未经授权的产品或几天后消失的无关电子商务网站的链接。

人工智能（AI）生成的深度伪造视频正慢慢成为世界上最大的安全威胁之一。Sumsub的数据显示，从2022年到2023年第一季度，北美deepfakes的比例显著增加。

在美国，这一比例从0.2%飙升至2.6%，而在加拿大，这一比率从0.1%上升至4.6%。与此同时，2022年印刷伪造品占所有欺诈的4%-5%，在上一季度暴跌至0%。

“不不断更新deepfake检测技术的反欺诈和验证提供商落后了，使企业和用户都面临风险。升级deepfakes检测技术是现代有效验证和反欺诈系统的重要组成部分。”