随着深度合成技术快速发展，“AI换脸直播”“AI复刻声音带货”在网络平台屡见不鲜。一些不法团队利用高仿真技术制作“假冒明星直播”，诱导消费者下单，甚至借此实施诈骗。表面上看是技术噱头，实质上已经对社会造成了严重危害。

今天，小甪邀请了

苏州市吴中区检察院

普通重大犯罪检察部的检察官苏恺琦

为大家拆解AI深度合成技术的法律红线

揭秘骗局套路与维权技巧

让我们一起看清技术滥用的真面目

守住自己的钱袋子！

案情再现

某电商平台推送消息称“知名演员A今日空降直播间带货”，吸引数十万用户围观。直播画面的面部表情、唇形、气质都与演员高度相似，主播使用的语气、动作甚至口头禅都与演员公开视频别无二致。粉丝在“限时折扣”的催促下纷纷下单。

然而演员本人已发声明，并未在此类直播间带货，警方现已介入调查。

Q：AI换脸直播带货有哪些法律风险？

A：《广告法》第四条规定，广告不得含有虚假或者引人误解的内容，不得欺骗、误导消费者。该案例中，直播间通过AI换脸假冒明星，营造明星本人推荐的虚假表象，使消费者因信任明星作出购买决策，属于虚假宣传。如果直播间为带货同时存在虚构事实骗取消费者财物的情况，根据《刑法》第二百六十六条的规定，该行为即涉嫌诈骗罪。如果带货商品存在以假充真，以次充好等情况，根据《刑法》第一百四十条的规定，该行为即涉嫌生产，销售伪劣产品罪。如果AI换脸冒充民警等国家机关工作人员，以此实施误导行为，骗取财物，根据《刑法》第二百七十九条的规定，该行为即涉嫌招摇撞骗罪。

此外，即使直播间行为未造成财产损失，也可能承担法律责任。如果行为人仅是使用AI换脸模仿明星或公众人物但未骗取财物，即使不构成诈骗罪，但仍需承担其他法律后果。如未经许可使用他人肖像用于商业目的，违反《民法典》相关规定，侵犯肖像权；以虚假身份进行商业活动可能损害明星声誉，侵犯名誉权。

Q对此我们应该注意什么呢？

A：对消费者的建议

1．提高辨别能力。遇到“明星空降直播”“名人亲自喊你购物”，应警惕是否存在技术伪造。

2．接到要求转账的“视频电话”务必核实。已有案例证明AI模仿声音或视频已被用于企业诈骗。

3．保全证据并及时报警。录屏、保存链接、保留订单信息，可为警方调查提供重要线索。

对企业与商家的建议

1．绝不能使用未经授权的AI合成明星形象进行营销，这不仅是侵权，更可能构成犯罪。

2．对涉及用户资金流转的场景，必须加强身份核验机制。

3．建立内容审核制度，加强伪造内容识别与标注机制。

检察官提醒

AI换脸不是法律的真空地带。只要借助技术手段虚构身份，骗取财物，就会直接触犯刑法。技术越先进，越不能成为掩饰违法的工具。公众需要提升识别能力，企业与商家必须承担社会责任，合力建立安全可信的网络环境。