据央视新闻消息,近日,湖南省长沙市雨花区人民法院审理了一起“不法者利用AI技术生成的人脸伪造视频盗刷银行卡”案件。一名大学生在非法网站购买了“AI人脸伪造视频”技术,在不到四个月的时间里,盗刷银行卡5万余元。
不久前,临近毕业的大学生吴某没选正规渠道去就业,而是盯上了网络黑灰产业。他通过第三方非法网站购买了一项“能将静态人脸照片转化为可通过某银行支付平台人脸识别验证的AI动态视频”的技术。自以为获得了“法宝”的吴某随后立即在各聊天平台发布广告,吸引诈骗团伙“下单”。
长沙市雨花区人民法院刑事审判庭副庭长 兰毅:被告人通过境外某聊天软件寻找并加入黑灰产业聊天群后,在群内发布接单信息,之后会有上线将获取到的被害人姓名、身份证号码、手机号码、照片、支付平台验证码等个人隐私信息发送给被告人,被告人再通过获取的手机号查看被害人是否在第三方平台做注册,如有注册,则把获取的被害人照片上传到第三方网站,通过该网站转换成AI动态人脸视频。
在该犯罪链条中,诈骗团伙通常冒充短视频平台客服或者游戏主播,以关闭自动扣费、赠送游戏装备为诱饵,诱导受害人下载控制软件,从而获取其个人隐私信息。吴某在接收到这一些信息后,再通过第三方网站利用AI技术制作被害人的人脸动态视频。
兰毅:利用转换的AI动态人脸视频及验证码信息,重置被害人的支付密码。之后,再将被害人的某第三方支付平台付款码发送给“洗钱车队”,由“洗钱车队”通过扫码的方式将被害人在第三方支付平台所绑定的银行账户资金予以转移。转移成功后,“洗钱车队”将盗取的资金按照一定的比例通过虚拟货币的形式返还给被告人。
据法官介绍,吴某所在的犯罪团伙分工极其明确,为避免上中下游任何一个环节的人员在获取到有利信息后退群独享,他们还制定了一套保障机制。
兰毅:被告人在进入黑灰产聊天群之前需先缴纳一定数额的虚拟货币作为担保,然后才能在群里接单。
就这样,在不到四个月的时间内,三名被害人的银行账户先后被盗刷共计5万余元。经过审理,湖南省长沙市雨花区人民法院考虑吴某具有自首情节,认罪悔罪表现及对被害人的经济赔偿等情况,最终判处吴某有期徒刑一年十个月,并处罚金3000元。目前,该案件判决已生效。
通过AI技术,将照片处理生成一段动态的视频,是如何通过银行支付系统人脸识别验证的?眨眼、张嘴、转头等这些指令的随机组合,难道就恰好都和视频中人脸的表情动作对得上吗?来看记者调查。
记者来到一家网络技术探讨研究机构,技术人员将一张普通人脸照片导入某软件系统后,仅需几分钟时间,便生成了一段人脸动态视频。在视频中,记者看到,人脸能够准确的通过技术人员事先输入的指令进行转头、眨眼等各种动作。
网络安全技术人员 李洋:比如夜间休息时,不法分子就可以远程控制他的手机,拿到他的相册权限和其中的生活照片。拿到这些照片之后,不法分子就通过伪造视频工具,生成一段一段的视频。比如平台认证时需要的眨眼、点头等各种动作视频它都可以生成。
技术人员介绍,这还仅仅是最基础的第一个步骤,如果想让视频中的人脸根据随机指令组合做出实时反应,则需要一种叫“虚拟相机”的配套软件。为避免版权问题,技术人员将一张卡通人脸照片导入系统中,记者看到,经过后台技术处理,这张照片通过AI生成了动态视频,视频中的卡通人脸可以随技术人员控制上、下、左、右以及眨眼、张嘴等不同的按钮操作,实时做出相应的表情动作。
李洋:只要开启相机,它就默认不开启系统自带的相机,直接调用虚拟相机,然后把悬浮窗调出来,支付系统要什么动作时,你就去点对应的动作就可以了。
李洋:他们会提前录制好眨眼、摇头等动作。在系统认证时,他们根据系统提示,选择对应动作的按钮。比如系统认证时让你摇头,就点击相机悬浮框上的摇头按钮,对应的视频也会进行摇头动作,是这样的工作原理。
技术人员介绍,随着目前系统技术的一直在升级改造,许多政府以及金融类的应用平台除了要验证人脸面部特征以及五官等信息之外,还会验证微表情以及环境光线等,尽量确保是本人在真实的环境下进行的人脸识别验证,而非AI技术合成。但同时,专家也提示警醒我们,在遇到一些不明来历的应用软件采集人脸信息时,还是要提高警惕。
李洋:这些App(应用软件)也会进行人脸认证的伪操作界面,误导个人进行视频录制,将点头、眨眼等动作录制下来,达到活体视频的视频原件。因此它比AI生成的视频逼真度要高得多。
记者调查发现,目前在某些网站上,“一键换脸”“AI克隆”已形成一条从低价公开教程到网盘隐蔽交易的产业链条。但专家这样认为,大家也无需因此过于恐慌,目前政府以及金融等应用平台一般会用的是“人脸识别+手机验证+身份信息”等多重验证方式,只要确保自己手机不交给不明人员操作或不被非法远程控制,这些措施是能确保基本的安全性的。
常有人说“技术本身无所谓好坏,关键看用这项技术的人是出于什么目的”。在AI合成技术发展如此迅速的今天,我们在享受技术成果的同时,更需要相关配套法律来保驾护航。
相关法律专家这样认为,“AI人脸伪造视频”诈骗相比传统电诈,最大的特点是技术伪装更强,链条更隐蔽,证据灭失更快。在真实的操作中,很多诈骗视频或语音由境外服务器生成,使用虚拟号码、境外社交软件、动态IP,很难快速锁定幕后真实身份。
中国政法大学网络法学研究所所长 李怀胜:就要求相关企业,包括银行,不断采取风控应对措施,采取交叉识别等多元化认证手段,不能迷恋某一种特定的风控手段,这样的话非常容易被犯罪分子攻破。另外一方面也提示我们,在日常的网络活动中,要格外珍视个人隐私信息,包括人脸识别信息在内的相关个人隐私信息。
据了解,目前我国已出台《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《人工智能生成合成内容标识办法》等,有关规定法律法规与监管制度体系正持续健全。
李怀胜:按照《中华人民共和国个人隐私信息保护法》规定,包括人脸识别信息在内的其他个人隐私信息,信息使用遵循最重要的个人知情同意原则。也就是说,在利用他人有关信息,为他人提供服务的过程中,一定要让被采集个人隐私信息的相关主体获得知情同意。比如单位门禁系统、商场人脸识别系统,如果滥用个人生物识别信息,可能会承担对应的法律责任。
同时专家提示警醒我们,需逐步的提升个人隐私信息保护的安全意识,提升防范能力。对于非核心业务如进小区、取快递等,如果提供手机号也能完成验证的情况下,尽可能的避免“刷脸”。如果在涉及类似资金交易等场景下,尽量开启“人脸+密码”或“人脸+短信”的多重验证,增加安全屏障。
美媒:美军驱逐舰曾因工程故障在海上失去电力达4天,厕所、空调均没办法使用
来源:环球网 【环球网报道 记者 闫珮云】据美国海军学会新闻网(USNI)当地时间15日援引美军方消息报道,美军“阿利·伯克”级导弹驱逐舰“本福尔德”号7月曾因工程故障在海上失去电力长达4天,舰上厕所、空调无法使用,饮用水供应也受影响。
经济不烧脑|每3辆新车2辆是新能源,海南2030年全面禁油,中国到底在下什么棋
湖北日报全媒记者 李朝霞 鲁翩翩8月11日,中国汽车流通协会汽车市场研究分会发布了一组数据。7月,全国乘用车市场零售146.1万辆,同比下降20.9%。市场在萎缩,但新能源却在猛涨,新能源乘用车零售渗透率达到65.1%,较去年同期增长11.6个百分点,创历史新高。
一熟食店老板为了口感“劲道”,在肉丸、腐竹肉卷中加入有毒硼砂,累计卖出27160元的“毒肉制品”,已被移送公安机关
来源:杭州网 近日,广东清远连州市市场监管局联合公安,突查某熟食店。结果让人头皮发麻,老板为了口感“劲道”,竟把化工原料当佐料,店里正在卖的肉丸、腐竹肉卷,全部检出有毒硼砂!累计卖了27160元的“毒肉制品”。目前,老板已被移送公安机关。
传销头目出狱后变“国学大师”开办书院,浙江新昌最新通报:“如是书院”违法经营已被关停,赖某明等3人虐待学员被刑拘
8月16日,浙江新昌县联合调查组发布情况通报:8月5日,有新闻媒体报道浙江新昌县“如是书院”有关问题。当日当地成立联合调查组,开展线索核查、调查取证、溯源摸排等工作。
自特朗普重返白宫后,华盛顿特区悄然掀起了一轮财富与精英的定向流动,权力中心的资本虹吸效应持续凸显。大批内阁高官、科技巨头与金融高管正扎堆涌入,抢购豪宅,直接将当地高端住宅市场推向历史新高。
齐鲁网·闪电新闻8月16日讯 老人因怀疑儿子非亲生,离婚后父子40年无往来,由其兄弟姐妹照料至去世。其宅基地房屋拆迁获补偿近200万元,失联多年的儿子钟某现身要求继承,经DNA鉴定确为亲生。法院判决:钟某继承180余万元(约94.7%),兄弟姐妹共得11万元。为什么这么判?
给大山里的朋友看看,这里没有绵延的山川,方圆百里只有一望无际的田野风光,家家有别墅,户户有良田,习惯了山峦起伏的你,会不会也爱这一马平川? #南通#田园风光 #和美乡村 #被皖南的山水惊艳到了
076应该是全世界最强的两栖攻击舰(断代领先) 唯一带电磁弹射的两栖攻击舰可搭载歼35、空警600、攻击11、直20、气垫登陆艇、 两栖战车...这一套丝滑小连招,简直就为了登陆战量身定做的
#短剧# #热门短剧# #热门短剧推荐.# #因为一个片段看了整部剧#



