小心“AI换脸”,已有515人落网!

2023-08-15 16:05   发布于湖北 阅读数: 8558

一公司法人代表被骗子利用人工智能“换脸”技术诈骗430万元,某单位一工作人员被“假领导”诈骗近98万元……近期,多起电信网络诈骗案件引发关注。

冒充身份类、虚假网络投资理财类、刷单返利类等诈骗高发前段时间,南方某地一市民接到自称是某公安局“王警官”的电话,称其涉嫌一起洗钱案件。为博取信任,对方还以视频通话方式向其展示“自己”身着警服以及“公安局”内部环境的画面。就在这位市民准备转账至所谓“安全账户”时,警方接到预警信息及时进行阻止。

“电信网络诈骗呈现出一些新特点、新情况。需要引起高度警惕的是,当前一些犯罪分子利用最新技术,通过恶意剪辑、换脸变声、搭建虚假‘镜头环境’等手段,伪造视频内容,混淆视听,诱骗受害人上当。”奇安信集团行业安全研究中心主任裴智勇说。

根据公安部发布的消息,当前,冒充电商物流客服、冒充公检法、冒充领导熟人以及刷单返利、虚假网络投资理财、虚假网络贷款等10种类型电信网络诈骗高发,占发案的近80%。

——冒充身份类诈骗突出。

犯罪分子常常使用受害人领导、熟人的照片和姓名等信息包装社交账号,以假冒身份添加受害人为好友,随后模仿领导、熟人的语气骗取受害人信任。之后以有事不方便出面、时间紧迫等理由要求受害人尽快向指定账户转账。此外,客服、公检法工作人员等也是诈骗分子常常假冒的身份。

——虚假网络投资理财类诈骗造成损失金额最大,占造成损失金额的三分之一左右。

例如,受害人于某反映,被诈骗分子拉入“投资”群,看到其他人在某款APP投资获利,便下载了该APP。看到小额投资都成功盈利并顺利提现,于某继续投资了数百万元,不久后发现余额无法提现并被对方拉黑,才知被骗。

——刷单返利类诈骗发案率最高,占发案的三分之一左右。

此类诈骗通常以网络兼职刷单为名,诱导受害人预先垫资,并以事后结算款项为由,最终骗取更多笔垫资款。中国人民公安大学侦查学院教授刘为军说,刷单返利类诈骗已演化成变种最多、变化最快的一种主要诈骗类型,成为虚假投资理财、贷款等其他复合型诈骗以及网络赌博等违法犯罪的主要引流方式。

诈骗为何屡屡得逞?

针对电信网络诈骗犯罪高发态势,有关部门深入摸排、重拳出击。记者从公安部了解到,2022年,全国公安机关破获电信网络诈骗犯罪案件46.4万起,缉捕电信网络诈骗犯罪集团头目和骨干351名。2022年以来,公安部组织开展多次打击电信网络诈骗犯罪区域会战,共打掉犯罪窝点5100余个。

高压之下,电信网络诈骗犯罪为何屡禁不绝?

首先是犯罪分子作案手法智能化程度不断提高,对受害群体分析更加精准。记者进入一个所谓“机器人群”,在相关界面中输入自己的电话号码后,弹出QQ号、微博账号地址等个人信息。获取完整信息,仅需支付价格约等于1元至10元不等的虚拟币。

办案人员表示,个人信息泄露是诈骗的根源。网络黑客会把非法获取的金融、旅游、求职平台的个人信息进行整合,形成专门的数据库并不断更新。诈骗人员得到这些信息后,通过数据对诈骗对象进行人物画像,实施精准诈骗。

同时,电信网络诈骗分工日益精细化,“黑灰产”推波助澜。记者调查发现,在电信网络诈骗链条上,每一环节都寄生着一批提供“专业服务”的“商家”,通过辅助犯罪获利。

“一些组织和个人专门为诈骗集团提供买卖电话卡和物联网卡、推广引流、技术开发、转账洗钱等服务,增加了骗局的迷惑性和防范打击难度。”厦门市打击治理电信网络新型违法犯罪中心民警洪恒亮说。此外,诈骗人员跨境作案,手法日趋高科技化。“

随着国内打击力度不断加大,一些诈骗人员把窝点转移至境外,使用成本更低、隐蔽性更强、操作更简单的新型‘简易组网GOIP’设备,操控境内手机拨打诈骗电话,具有很强的伪装性,老百姓很难分辨。同时,也给执法取证等带来巨大挑战。”一名办案人员表示。

公安部通报:“AI换脸”,515人落网!

公安部8月10日通报,针对“AI换脸”导致群众被欺诈的问题,公安机关发起专项会战,侦破相关案件79起,抓获犯罪嫌疑人515名。

公安部网络安全保卫局副局长李彤在公安部举行的新闻发布会上介绍,随着人脸识别技术的广泛应用和人工智能技术的进步,人脸识别验证类犯罪伴随产生。犯罪分子用于实施“AI换脸”的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。为防范和打击此类新型犯罪,公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法。李彤表示,公安机关还依托“净网”专项行动,组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获“AI换脸”案件79起,抓获犯罪嫌疑人515名,有效遏制了该类犯罪势头。

相关阅读