近期，不法分子利用AI深度合成技术进行钓鱼诈骗的案件频发，专家提醒由于深度合成技术具有高度逼真的伪造能力，目前已被不法分子广泛应用于各类诈骗活动，加强识别和防范利用深度合成技术的钓鱼欺诈变得尤为重要。
深度合成技术是指基于深度学习（Deep Learning）和生成式人工智能（Generative AI）的算法，对图像、视频、音频、文本等数字内容进行生成、编辑或操纵，使其具备高度逼真性或创造性的一种技术。深度合成技术近年来快速发展，其技术门槛快速降低，已出现一键生成等明显社区化的趋势，如视频应用“一键换脸”“克隆音色”已成为危害网民财产的重灾区。
一、深度合成技术在钓鱼欺诈中的典型现象
（一）伪造身份欺诈
不法分子通过数据爬取、信息拼接等手段伪造社交账号，精心构建虚假身份。借助AI生成的虚假视频或语音信息构建“信任锚点”，以“商务合作”等高频场景为诱饵，完成欺诈链路的搭建，诱导受害者触发恶意链接或下载潜藏病毒的文件，致使商业机密信息泄露。典型案例为2022年某科技公司员工，因轻信“假CEO”社交账号发起的联络，并点击钓鱼链接，最终致使公司核心数据泄露，造成重大损失。
（二）AI语音克隆诈骗
不法分子通过公开渠道获取目标对象（如CEO、亲友等）的语音原声样本，运用声纹建模等技术，对原声进行全方位复刻，模拟语气韵律、情感特质以及日常背景噪音等细节特征。受害人掉入不法分子的信任陷阱后，在错误认知下进行转账操作或泄露关键敏感信息。2023年香港某公司遭遇的诈骗案件堪称此类犯罪的典型，犯罪分子借助AI精准模仿英国母公司CFO的声音，成功骗取香港分公司巨额资金。
（三）视频会议诈骗
不法分子通过多种渠道获取高管或亲友的人脸图像数据，结合Deepfake等换脸技术，将伪造人脸深度嵌入实时视频会议或在线聊天场景。以紧急事务为由，指令财务人员进行转账或诱使亲友签署虚假合同。2024年某欧洲企业的案例中，诈骗者利用Deepfake技术伪造CEO视频影像，向会计下达向“供应商”支付货款的指令，导致企业资金被骗取。
二、多维度加强防范利用深度合成技术钓鱼
深度合成技术的滥用对信息安全与财产安全构成系统性威胁，需从监管治理、企业防护、个人意识三个层面构建立体化防控体系。
（一）完善制度供给与行动治理
立法层面：国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合出台《人工智能生成合成内容标识办法》，从立法层面明确要求服务提供者及网络传播服务提供者对用户合成内容进行显示/隐式标识，建立“技术生成-标识嵌入-传播监控”全链条管理机制。此举增强信息透明度，减少虚假传播、提升公众防范意识。
专项行动治理：中央网信办定期发布专项行动，如中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦深度合成技术的非法应用场景，加强AI生成合成技术和内容标识管理，重点打击假冒他人身份等违法犯罪行为，维护网络空间秩序与安全，增强社会信任与伦理意识，促进AI行业健康有序发展。
（二）企业强化技术防护与管理机制
构建多层级审批验证体系，针对大额转账、核心数据调取等业务指令，实施多方式认证与规范化流程审批，并在视频会议场景中引入活体检测、人脸关键点比对等技术模块，确保交互信息的真实性与可靠性。
加强智能检测系统部署，运用人工智能算法与机器学习模型，对异常语音模式与视频特征进行实时监测与智能识别，及时发现潜在风险。
权限分级分类管理，对财务、人力资源等关键部门的通讯录权限及业务核心数据进行精细化管理，采用最小权限原则，严格限制高管联系方式的知悉范围及接触核心数据的人员，防止信息泄露引发的安全风险。
加强常态化安全意识培训，定期组织内部培训活动，将深度合成技术诈骗防范知识纳入员工培训体系，通过案例分析、模拟演练等形式，提升员工的风险防范意识与应急处置能力。
（三）个人提升防范意识
交互行为安全准则：坚决不点击来源不明的陌生链接，建议通过手动输入官方网址或使用官方认证App进行操作。在涉及转账等关键业务时，务必进行多渠道、多方式的确认核实，确保交易对象的真实性。
生物特征数据隐私保护：审慎对待个人生物特征数据的公开与共享，及时关闭社交平台中涉及生物特征信息的公开权限，采用加密技术与访问控制手段，限制陌生人对个人信息的获取，从源头保障个人生物信息安全。
密码策略与安全管理：定期更换个人账号密码，密码设置大小写字母、数字与特殊字符，长度不少于12位，提升密码复杂度，降低密码泄露风险，使用密码管理工具生成并存储唯一密码，避免多平台共用同一密码凭证。
加强自我防范学习：深度合成技术虽发展迅猛，但仍存在固有技术缺陷。个人应了解并掌握相关识别技巧，如视频中人脸面部细节不自然、背景噪音与语音失配、语调机械呆板、情感表达缺失、人物动作与语音节奏不一致等异常特征，通过自我学习与经验积累，提升对深度合成欺诈内容的识别能力。
深度合成技术催生的新型钓鱼欺诈，本质上是技术进步与安全风险的伴生问题。为应对这一挑战，个人及企业均需充分认识到这一问题的本质，积极主动地学习相应的防范策略，有效多维联动，才能有效抵御来自不法分子的钓鱼攻击，在技术创新与安全保障之间切实维护自身的财产安全与信息安全。
文/李雪妮（公共互联网反网络钓鱼工作组专家）
编辑 杨娟娟
校对 穆祥桐
