“陌生来电需谨慎,账上金钱莫乱转”这句话,或已是我们对电信诈骗的广泛认知了。
然而,你知道吗?
在当今科技、智能化快速发展的时代,电信诈骗也呈高科技趋势——
“AI诈骗”
利用智能AI技术实施的诈骗手段

2019年8月,《国际金融报》在报道中提到,犯罪分子利用人工智能技术开发的“聊天机器人”,又被用于群聊群控场景,常用于骗子将被害人引入迷局,从而实施诈骗。

2020年4月,
最高检:电信网络诈骗已演化成产业链,人工智能技术被普遍应用。犯罪分子利用人工智能技术非法获取公民个人信息,对被害人精准画像,实施量体式、订单式诈骗。

2023年5月24日,中国互联网协会公众号发文提示“AI换脸”新骗局
第一种:声音合成
骗子通过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过对方。

第二种:AI换脸
人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人,再通过视频方式进行信息确认。
骗子首先分析公众发布在网上的各类信息,根据所要实施的骗术,通过AI技术筛选目标人群。在视频通话中利用AI换脸,骗取信任。

第三种:转发微信语音
骗子在盗取微信号后,便向其好友“借钱”,为取得对方的信任,他们会转发之前的语音,进而骗取钱款。
尽管微信没有语音转发功能,但他们通过提取语音文件或安装非官方版本(插件),实现语音转发。

第四种:AI程序筛选受害人
骗子利用AI来分析公众发布在网上的各类信息,根据所要实施的骗术对人群进行筛选,在短时间内便可生产出定制化的诈骗脚本,从而实施精准诈骗。
2020年,上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔,并要该高管转账,致使该高管被诈骗150万元。
 
2021年,拱宸桥派出所接到报警,受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查,对方利用AI换脸技术,将小陈视频中的面部合成到不雅视频中,借此对其实施勒索。
 
2022年,有位陈先生到温州市某公安分局报案称,自己被“好友”诈骗了近5万元。经警方核实,诈骗分子利用陈先生好友在社交平台发布的视频,截取其面部视频画面后再利用“AI换脸”技术合成,制造陈先生与“好友”视频聊天的假象,从而实施诈骗。
 
2023年,内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。
通过AI换脸和拟声技术,10分钟骗430万元;AI虚拟人在聊天中筛选出受害者,人工接力实施诈骗……
近期,多起宣称利用AI技术实施诈骗的案件引发关注。
“AI诈骗潮”真的要来了?
公安机关研判,“AI诈骗全国爆发”的消息不实
AI进入快速迭代期,涉诈犯罪风险正在积聚

新闻报道

“AI诈骗”,怎么防?
AI技术存在滥用风险,务必保持防范意识

保护信息,提高警惕

不要轻易透露自己的身份证、银行卡、验证码等信息,不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;

多重验证,确认身份

如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款;

拒绝诱惑,不占便宜

要学会拒绝诱惑,提高警惕。避免占便宜心理,警惕陌生人无端“献殷勤”。要学会拒绝诱惑,提高警惕。避免占便宜心理,警惕陌生人无端“献殷勤”。

相互提示,共同预防

要多多提醒、告诚身边的亲人、朋友提高安全意识和应对高科技诈骗的能力,共同预防受骗。提醒老年人在接到电话、短信时,要放下电话,再次拨打家人电话确认,不要贸然转账。
全国人大常委会于2022年9月2日审议通过了反电信网络诈骗法,对电信网络诈骗的定义、手段、部门职责、企业责任和行业治理、新业务涉诈风险评估等作了规定。

2022年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到,深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。

2023年4月11日,国家网信办起草了《生成式人工智能服务管理办法》(征求意见稿),提出AI内容必须真实准确,其中也明确提到,禁止非法获取、披露、利用个人信息和隐私、商业秘密。 

2023年6月25日,全国人大常委会法工委强调指出,通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统的诈骗行为在本质上没有区别。“对于构成诈骗罪的,要依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用‘AI换脸’实施诈骗行为提供技术支持、帮助的,要根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任”。

反诈科普