联邦调查局（FBI）已经发出公开警告，关于犯罪分子日益使用生成式人工智能（AI）来增强他们的欺诈计划。这种能够创建高度逼真和令人信服的文本、图像、音频和视频的技术，正在被用来以前所未有的规模欺骗受害者。

“生成式AI减少了犯罪分子欺骗目标所需的时间和精力，”FBI的警报指出，强调了这些工具为恶意行为者提供的效率和范围。通过自动化合成内容的创建，犯罪分子可以执行更大规模的行动，个性化他们的攻击，并绕过传统的欺诈检测机制。

FBI警告了由生成式AI促成的广泛欺诈活动，包括：

社会工程和钓鱼攻击：AI生成的文本可以为钓鱼电子邮件和社交媒体帖子创建高度可信的消息，诱使受害者点击恶意链接或泄露敏感信息。FBI指出，犯罪分子正在使用AI“克服欺诈计划的常见指标。”

恋爱和投资诈骗：犯罪分子正在利用AI在约会网站和社交媒体平台上生成令人信服的个人资料，与受害者建立信任关系，然后在经济上利用他们。AI生成的图像和视频通过创建现实中不存在的人物的逼真描绘，进一步增强了这些计划。

伪装和身份盗窃：AI生成的图像可以制作假的身份证明文件，而AI生成的音频，也称为声音克隆，可以模仿受信任个人的声音。FBI警告说，“犯罪分子生成包含亲人声音的短音频剪辑，以在紧急情况下伪装成亲密的亲戚，要求立即提供财务援助或索要赎金。”

市场操纵和虚假信息：AI生成的图像和视频可用于为投资诈骗创建误导性的宣传材料或捏造事件以操纵市场趋势。

FBI敦促公众保持警惕，并提供了一些提示来保护自己免受AI驱动的欺诈：

与家庭成员建立一个“秘密词语”，以验证在线或电话通信中的他们的身份。
仔细检查图像和视频中的微妙瑕疵，这些可能表明是AI生成的。
限制个人图像和声音记录在线上的可用性。
通过独立联系相关组织来验证来电者的身份。

随着生成式AI技术的不断发展，犯罪分子使用的方法也会如此。通过提高意识和促进警惕，FBI旨在赋予个人识别和避免这些日益复杂的欺诈计划的能力。

文章原文链接:https://www.anquanke.com/post/id/302499