马斯克,掌管 AI 诈骗的神

AIGC动态2个月前发布 geekpark
364 0 0
马斯克,掌管 AI 诈骗的神

 

文章摘要


【关 键 词】 深度伪造网络诈骗马斯克AI技术投资骗局

近年来,人工智能深度伪造技术(Deepfake)在网络诈骗中得到广泛应用,特别是伪造的埃隆·马斯克(Elon Musk)视频进行诈骗的案例显著增加。这些视频通过模拟马斯克的声音和动作误导投资者,成本低廉且传播迅速,使诈骗者能轻易扩大欺诈活动影响范围,导致许多受害者因虚假投资机会损失巨额资金。预计深度伪造技术每年可能导致的欺诈损失达数十亿美元。

82岁的退休老人史蒂夫·比彻姆(Steve Beauchamp)是受害者之一。他看到一段视频中马斯克推荐一个激进投资方案后,投资了69万美元,但最终资金消失。诈骗者篡改了马斯克的真实采访,利用AI技术替换声音和微调口型,使视频对观众难以察觉真伪。

互联网上充斥着大量由AI驱动的深度伪造视频,尤其是伪造的马斯克形象误导潜在投资者。这些视频制作成本低,几分钟内完成,通过社交媒体推广,影响范围广。监测和检测深度伪造视频的公司Sensity警告,这可能是史上最大规模的深度造假骗局。马斯克是这些视频中最常见的发言人,在近2000个样本中,他出现在近四分之一的诈骗中,尤其在加密货币主题视频中占比高达90%。

深度伪造广告还常使用沃伦·巴菲特、杰夫·贝索斯等名人形象。尽管难以统计网络上的深度伪造视频数量,但通过搜索Facebook广告库中与诈骗相关语言,发现数十万条广告包含深度伪造视频。Facebook已删除许多违规内容,但其他视频仍在网络上流传。YouTube也充斥着伪造内容,常带有“直播”标签,实为预先录制的深度伪造视频。

老年人成为这类骗局的完美目标,常以高回报的AI投资软件为幌子,初期诱使受害者投入小额资金,随后夸大投资增值效果,诱导增加投资。马斯克拥有一群独特的全球粉丝群体,多为保守派、反体制人士和加密货币爱好者,他们常寻找非传统途径赚取财富,成为骗局理想目标。诈骗者尤爱针对年长互联网用户,虽对加密货币、AI或马斯克有所了解,但不熟悉安全投资方式。

尽管AI生成的视频不完美,但对一些诈骗目标已足够令人信服,且技术正不断改进。这些视频制作成本低,约10美元,大多数诈骗者使用免费或便宜工具在10分钟内拼凑出假视频。他们主要位于印度、俄罗斯和东欧。网络安全研究实验室CTM Insights创始人卢·斯坦伯格预计,我们将看到越来越多这种假冒企图,目的就是骗钱。

监管机构已发出警告。香港证券及期货事务监察委员会在5月警告涉及马斯克的诈骗活动。美国联邦贸易委员会和联邦调查局也警告AI驱动的网络犯罪和深度伪造诈骗日益增多。FBI强调,犯罪分子利用AI放大网络攻击和其他犯罪活动效果。随着复杂AI工具向公众开放,新一波深度伪造浪潮应运而生,吸引色情行业、表情包制作者和诈骗团伙注意。专家警告,这些视频对一些目标已足够令人信服,且技术不断改进。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 3305字 | 14分钟 ]
【原文作者】 极客公园
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...