AI变脸助长电信诈骗激增，亟需多方防范对策

在科技飞速发展的当下，AI(人工智能)给咱们的生活带来了诸多便利，但一系列利用AI的新型犯罪，也给社会安全与稳定带来了严峻挑战。

　　本人在浙江省办理的一起涉嫌诈骗案中，犯罪嫌疑人就是通过各种途径收集大量个人信息，运用 AI 算法进行深度分析，把受害人的兴趣爱好到消费习惯，及社交关系到财务状况，都摸得一清二楚;再通过采集受害人多角度照片或短视频之后，利用AI 变脸技术已从静态图像伪造发展为实时动态视频合成实施诈骗。更严重的是，犯罪团伙甚至能实时替换视频通话中的人脸，在对话过程中动态调整表情和动作，而现有技术对动态伪造视频的识别率不足 80%，部分检测工具在低分辨率或复杂光线环境下准确率骤降至 50% 以下，普通用户难以察觉异常。

　　据公安部数据显示，2025 年一季度全国 AI 换脸诈骗案环比再增 45%，老年群体受骗占比达 38%，成为主要目标，单笔最高损失达 620 万元(上海某企业高管被骗案例)。香港荃湾 2025 年 4 月破获的诈骗中心，通过 AI 换脸假扮 "美女" 诱导受害人开设虚假电商平台，每周骗款高达百万元，涉及跨境犯罪网络。当前，犯罪团伙通过爬取社交媒体、外卖地址等信息构建 "受害人画像"，使诈骗成功率提升 2.3 倍，而尽管《人脸识别技术应用安全管理办法》于 2025 年 6 月 1 日施行，但对 AI 生成内容的 "显著标识" 标准尚未明确，平台审核责任缺乏操作指引，技术提供者追责机制也不完善，防范形势严峻。

　　为有效遏制 AI 变脸电信诈骗的蔓延，切实保障人民群众财产安全，提出以下建议：

　　一、完善法律体系，压实主体责任。参照欧盟《人工智能法》，在《反电信网络诈骗法》中增设专门条款，明确 "为诈骗提供 AI 换脸工具者，除依法追究刑事责任外，可处违法所得 5-10 倍罚款，最高不超过 5000 万元";规定技术平台未履行 AI 生成内容审核义务的，由网信部门责令暂停相关业务直至整改达标。2025 年底前，由国家网信办牵头出台《AI 生成内容标识管理细则》，强制要求对深度伪造的音视频添加不可去除的水印标识，如在视频角落标注 "合成内容" 电子标签，从法律层面明确内容生产者的标识义务。

　　二、强化技术反制，筑牢安全防线。推动金融、政务、支付等重点领域强制部署高精度检测技术，2025 年 12月底前实现 100% 覆盖。推广成熟检测系统(准确率超 96%)，支持其与国家反诈中心数据互通，实时共享新型伪造特征库。在数据安全管理方面，由国家发改委、工信部牵头，2025 年底前在金融、医疗行业试点人脸数据 "区块链存证 + 国密算法加密" 技术，确保数据采集、存储、使用全流程可追溯、不可篡改。企业采集人脸信息时，须采用隐私计算技术，通过多方安全计算实现 "数据可用不可见"，违规泄露人脸数据的企业，除承担民事赔偿外，相关责任人依法追究刑事责任。

　　三、构建多维反诈宣传体系，提升反诈能力。要通过宣传提升群众防范意识，提醒群众保护个人生物信息，谨慎对待不明链接、邮件。针对老年人，在社区、老年大学开展“AI 反诈工作坊”;针对企业财务人员，联合行业协会开展 “反诈模拟演练”，识别伪造高管指令的常见话术。利用短视频平台制作 “AI 诈骗拆解” 系列动画，还原诈骗分子如何通过外卖信息、社交动态定制剧本，提示公众避免在网络暴露人脸、声纹等敏感信息。推广“国家反诈中心 APP”的“AI 预警”功能，实时拦截可疑视频通话。构建起“全民参与、全域覆盖”的防御网络，让AI犯罪无处遁形。

　　四、深化源头治理，强化跨境打击。外交部会同公安部与“一带一路”国家建立 AI 犯罪情报共享平台，建立 "48 小时跨境协查机制"，共享犯罪团伙的技术特征、资金流向和人员信息，联合开展系列专项行动，实现对跨境诈骗团伙 "资金链 + 技术链 + 人员链" 的同步打击，2025 年内力争联合侦破至少 20 起重大跨境 AI 诈骗案件。(文/湖南君杰律师事务所许小军)

来源： 说法面对面