关注我们
中国消费者
公众号
中国消费者
微博
中国消费者
抖音号
315评测
抖音号
山西省消协消费警示:谨防“AI换脸”和“AI配音”诈骗陷阱
来源:中国消费者网
2025-12-18 14:21:18
分享文章让更多人看到
分享
分享到
新浪微博
微信好友

微信扫一扫分享

2025年被称为人工智能技术的“爆发临界点”,从大模型的普惠化到量子计算的应用,从伦理治理到行业深度融合,AI(人工智能)正在重塑社会与经济的方方面面。作为普通消费者,我们必须清醒地认识到其背后的财产风险和巨大的隐私安全风险。“AI换脸”和“AI配音”技术(统称“深度伪造”技术)在给生活带来新意的同时,也成了诈骗分子的新工具。此类诈骗利用亲友或权威人士的相貌、声音来获取消费者信任,迷惑性极强,普通人极易上当。

一、诈骗常见手法及场景

诈骗分子通常会通过以下几步完成诈骗。

1.信息搜集。他们在社交媒体(如抖音、微信视频号、微博)上搜集消费者或其亲友公开发布的视频、语音,用于AI模型训练;

2.制造假象。利用“AI换脸”和“AI配音”技术,合成一段足以以假乱真的视频或语音;

3.情境设计。编造一个紧急、需要立刻转账的理由,降低消费者的警惕性,让消费者没有时间思考或核实;

4.实施诈骗。通过视频通话或发送语音、视频片段的方式联系消费者,要求转账。

典型诈骗场景:1.合成子女、父母或好友的视频,在视频通话中声称“遇到急事(如车祸、被抓)、需要钱周转、交学费”等,要求消费者向指定账户转账。视频里的“亲人”面容焦急,声音逼真,极具欺骗性;2.针对公司财务人员或普通员工,骗子冒充领导通过视频会议或发送指令视频,要求紧急支付合同款、保证金等;3.合成执法人员视频,声称涉嫌违法犯罪,要求消费者将资金转移到“安全账户”进行核查。

二、核心防范要点,谨记“三不二要”原则

消费者面对此类新型诈骗,关键在于建立“多重验证”意识,不单纯相信眼睛和耳朵。

“三不”

不轻信。凡是通过视频、电话、短信等非见面方式要求转账汇款的,都要高度警惕。即使看到真人视频、听到熟悉的声音,也要保持怀疑。骗子会利用“紧急情况”制造恐慌,让消费者来不及思考。

不转账。在未通过其他途径100%核实对方身份前,坚决不进行任何转账操作。这是守住钱袋子的最后一道,也是最关键的一道防线。

不泄露。保护好个人及亲友的身份信息。谨慎在社交媒体上分享清晰的正面视频、含有声音的片段,特别是涉及身份证、银行卡等敏感信息的视频。设置好友权限,避免信息完全公开。

“二要”

要核实。如果“亲友”通过视频借钱,请务必挂断电话后,使用您手机通讯录里存储的号码(而不是对方打来的号码或提供的号码)回拨过去,或通过其他共同认识的人进行核实;可以和家人、挚友约定一个只有你们知道的暗语或问题,在涉及大额资金往来时进行验证。

要警惕。AI技术并非天衣无缝,仔细观察视频中的人物可能出现表情僵硬、眨眼不自然、口型对不上、声音有轻微电子音或断句不合理等现象。真正的公检法等执法机关绝不会通过视频或电话要求转账到“安全账户”,所有要求您保密、不能告诉任何人的行为都是诈骗的典型特征。

消费者一旦发现不幸被骗,一定要第一时间拨打110或前往就近派出所报案,向警方提供对方的账号、联系方式、聊天记录、转账凭证等证据。同时要致电银行客服或通过手机App尝试冻结对方账户,争取止付,及时止损。

您好,有什么可以帮助您?