6月9日至10日,在上证指数一度站上3400点的当口,多位财经博主的自媒体账号遭遇“狸猫换太子”。


有账号被盗后发布疑似为股市“杀猪盘”引流的广告,有账号被盗后开始冒充号主本人和粉丝“一对一”私聊,将粉丝引向诈骗陷阱。


据被盗号者自述,其账号所属的企业被伪造的“人脸识别”授权更换了法人,之后再通过法人权限取得了账号控制权,才有了之后的一系列疑似诈骗举动。


对此,新京报贝壳财经记者调查发现“代过人脸识别”已经成为一条隐秘的黑灰产产业链。多名黑灰产从业者都向记者表示可以代过人脸验证,价格在560元到1400元不等。


蚂蚁集团AI核身安全高级专家崔征两告诉贝壳财经记者,目前人脸识别被攻破一般有两种情况,一种是人脸呈现突破风险,也就是通过假脸(3D头模,面具、高清屏等)恶意攻击刷脸并成功完成人脸验证,尤其是3D头模、高清屏类高端手法;另一种是人脸注入突破风险,通过技术注入手法攻击刷脸并成功完成人脸验证,“AIGC发展迅猛,AI换脸改变了攻击内容的生成方式,被黑灰产利用,为各行业带来了非常大的挑战。”


浙江垦丁律师事务所主任律师张延来对贝壳财经记者表示,盗号并群发诈骗信息涉及非法侵入计算机信息系统罪、诈骗罪、侵犯公民个人信息罪。而要堵住这一诈骗“漏洞”,建议引入多重认证机制,以及为企业关键信息变更设置“高风险提醒”机制。


560元“包过”人脸识别


通过更换法人更改自媒体账号控制权成新型诈骗方式


“早上8点左右,我名下的小号突然开始大量群发诈骗信息。”“临近半夜12点多的时候发现被盗号了,盗号的人发了类似给股市杀猪盘引流的广告。”


6月10日晚间,“远方青木”“表舅是养基大户”等自媒体发文揭露其名下账号突然遭遇盗号。其中“远方青木”在文中详述了其名下小号(粉丝约60万)被盗始末,表示盗号者通过人脸识别的方式在6月3日让账号所在企业的原法人“授权”更换了新法人,最终在6月10日凌晨1点左右重置了账号密码,并在8点左右群发了诈骗信息。


在这一流程中,最关键的更换法人信息的系统如此容易“被攻破”吗?


6月13日至15日,贝壳财经记者在多个黑灰产平台以相关关键词进行搜索,发现了若干兜售人脸识别破解技术,以及“代过人脸”的黑灰产售卖商。


一名黑灰产从业者表示“可以通过工商人脸验证,收费560元,先款后做。”对于记者的疑问“如果过不了怎么办?”对方表示“包过!”另一名黑灰产从业者则表示可以采用担保交易通过工商人脸识别系统,其采用担保交易,收费200USDT(一种挂钩美元的虚拟币)。还有人报价5000元兜售“可以通过工商人脸识别的技术”。


记者与黑灰产从业者的对话截图。


记者在调查中发现,一些黑灰产从业者甚至在宣传中明确指出了具体的地方政务系统,包括浙里办、豫事办、海易办等,并表示“基本(攻破)政务都没问题”。


而在其展示的一个通过人脸验证的演示视频中,贝壳财经记者注意到生成出的人脸在极短的时间内可以做出诸如“摇头”“张嘴”“眨眼”等动作。而在重复两次人脸识别后,该虚拟人脸恰好“对上”了人脸识别系统要求的“摇头”指令,成功通过人脸测试。


黑灰产平台发布的广告以及“过人脸”测试视频。


有熟悉财税行业的人士告诉贝壳财经记者,上述黑灰产已经形成一个成熟的产业链,“你甚至能在一些财税所里找到写有‘解决工商变更法人股东失联处理’的广告。”


但记者注意到,之前此类变更的目的更多表现在不知情者“被法人”,以及代领营业执照等行为上,而在本次的案例中,通过更换法人更改自媒体账号控制权成了一个新颖的诈骗方式。有网友在6月11日表示,“我关注的很多财经号都发了类似信息,主要是引导下载新的App。”


崔征两告诉贝壳财经记者,黑灰产通过不法手段获得包括人脸和证件等用户信息,进一步地,通过AIGC算法生成一段符合验证要求的真人活体脸的图片和视频,视频里包含简单的认证动作,比如张嘴摇头等。生成符合验证的视频后,攻击者通过攻破手机系统,劫持摄像头或者控制人脸链路的方式,直接注入人脸系统中突破人脸验证。身份类证件,如身份证以及营业执照等,都可以通过类似的方式进行突破。      


可见,此类诈骗手法涉及公众号账号主体公司股东、法人的身份信息泄露,攻破人脸识别系统,以及找到法人顶替者三块“灰色地带”,而且已经有了成熟的产业链。


“绕过或破解了政务系统的人脸识别验证流程,本质上属于非法侵入或操控国家机关计算机系统,触及非法侵入计算机信息系统罪;向公众群发诈骗信息,诱骗他人转账或支付,涉嫌构成诈骗罪;非法收集、使用、买卖企业法人的人脸信息、身份证信息、联系方式等个人信息,则也可能触犯《中华人民共和国刑法》第二百五十三条侵犯公民个人信息罪。”张延来告诉记者。


深度伪造算法与安全防御算法相互博弈


专家:人脸识别验证机制过于单一 建议引入多重认证机制


网络安全研究专家、北京汉华飞天信安科技有限公司总经理彭根告诉新京报贝壳财经记者,这类事件的发生主要是由于AI技术使得虚拟“人脸”越来越真实,“现在我们的人脸识别技术在和AI做对抗,识别真伪越来越难,堵住这样的漏洞只能依靠技术升级。”


国家网信办此前发布的《人脸识别技术应用安全管理规定(试行)(征求意见稿)》明确,人脸识别技术使用者应当每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估,并根据检测评估情况改进安全策略,调整置信度阈值,采取有效措施保护图像采集设备、个人身份识别设备免受攻击、侵入、干扰和破坏。


蚂蚁数科安全总监王磊就此事接受贝壳财经记者采访时表示,黑产团伙往往通过非法渠道购买公民隐私信息(如身份证号、人脸照片),用AI生成虚假人脸活体视频、劫持摄像头篡改采集内容,来达到欺骗平台(如进行账户盗用)的目的,“蚂蚁数科在服务外部机构身份安全的实战中发现,某些机构遭遇Deepfake(深度伪造)攻击浓度超千分之3,且黑产团伙持续保持活跃。”


在王磊看来,深度伪造算法与安全防御算法,是一个相互博弈的过程,“我们建议网络平台建立具备实时安全对抗能力的人脸识别系统,及时采集新型攻击手段,人脸识别的模型需要高效更新反制手段。此外,网络平台需要有完善的业务风控策略,从注册、登录、业务开通或支付等环节多层次监控,警惕异地登录、设备更换等异常行为。”


6月13日,有平台方告诉贝壳财经记者,下一步也在考虑升级相关的技术验证手段,以遏制黑灰产。


记者采访多名专家发现,除了技术升级外,增加除了人脸识别外的多重防控系统以及在政务平台设置“高风险提醒机制”也是可供选择的解决手段。


崔征两表示,应对人脸识别风险,一般的防护措施是建立多重防控体系。其中包括:首先,对手机和链路的加固与防控,防止或者检测到攻击者对设备和链路的攻击;其次,研发应对deepfake的能力,应对deepfake攻击;同时,进行多因子的校验,人脸之外,可以增加短信、当时网络环境、是否为本人常用设备等手段多重验证;最后,人脸识别的安全防控不是单一的算法,而是一套严谨周密、持续演进的防御系统,因此需要建立基于人的行为偏好等数据的多维风控体系。


奇安信集团行业安全研究中心主任裴智勇此前接受记者采访时表示,人脸和指纹都属于生物识别的范畴,它们都具有可以复制的特点,但在网络验证中,它们并不是一个特别安全的密钥,“我们在实验中发现,虽然使用电脑生成的3D图像,跟真人对比有很大失真,但这种图像是专门针对某个人脸识别系统做的,识别系统需要什么数值,图像反馈出相应的数值,就能骗过人脸识别的系统。”他建议,使用人脸识别技术应加入其他的验证手段进行辅助,比如常见的短信验证、电话验证或大数据验证,这样相对更安全。


张延来也表示,人脸识别验证机制过于单一,建议引入多重认证机制,如结合动态短信验证码+人脸识别+历史设备登录行为等。


他还建议,企业关键信息变更可设置“高风险提醒”机制,“所有与账号绑定的企业主体在工商层面如有重大变更(法人、股东、对公电话等),应通过短信、App弹窗等渠道提醒现有企业成员及平台方;网络平台在系统检测到‘企业主体发生重大变更’且存在异常可能时,可以启动人工审核机制。”


记者联系邮箱:luoyidan@xjbnews.com


新京报贝壳财经记者 罗亦丹 编辑 陈莉 校对 柳宝庆