AI造假乱象频发，多方合力筑牢监管防线

“现在我家里人都分不清哪个是真的我了。”最近，演员王劲松因为自己的形象被擅自用在广告里，亲自下场打假。其实随着人工智能（AI）的快速发展，这种“被AI冒充”的事儿早就不新鲜了，之前周星驰工作室也公开说过，周星驰的人脸有被滥用的风险。



从简单的假冒图片，到能以假乱真的AI换脸、换口型，AI“修改”内容的逼真度越来越高。大家在惊叹视频生成AI带来的视觉惊喜时，也不得不面对一个问题：AI篡改图片、视频到底合不合法？这些AI假图该怎么系统治理，从根上规范起来？为此，我们邀请了三位代表委员，一起聊聊这个话题。

【代表委员圆桌】

钟铮 全国人大代表、美的集团副总裁
高洁 全国政协委员、陕西省人民检察院副检察长
齐向东 全国政协委员、奇安信集团董事长

AI造假，本质是技术红利撞上了版权规则

钟铮：除了咱们常见的视频传播，2025年以来，用数字人直播的场景越来越多，这种形式更难分辨真假。随着数字人制作和运营的门槛越来越低，它在直播领域的滥用和违规情况也越来越突出，比如身份造假、内容不合规、权益纠纷不断，还有监管跟不上的问题。这些问题要是不及时解决，不仅会搅乱市场秩序、损害用户利益，还会影响大家对人工智能技术的信任，阻碍技术的发展。

高洁：AI技术发展快、用得广，尤其是在电商行业，AI生成图片已经很普遍了，确实提高了商品展示的效率，也让行业运营更省心。但与此同时，AI生成虚假图片的乱象也越来越严重，既搅乱了市场，也侵犯了消费者的合法权益。

具体来说，有些不良商家用AI做虚假宣传图，把商品效果吹得天花乱坠，导致“图片好看、实物拉胯”的消费纠纷；还有少数不法分子，用AI伪造商品有瑕疵的图片，以此恶意退款、实施诈骗，让正规商家蒙受经济损失。

齐向东：AI“乱改”视频的现象，说到底就是技术带来的便利和现有版权规则之间的冲突。一方面，AI技术更新太快，普通人也能轻松用它创作内容、修改原有内容；另一方面，有些人借着AI的便利，随意篡改、盗用别人的原创内容，甚至恶意恶搞，严重侵犯了原创者的合法权益。长此以往，没人愿意再做原创，最终伤害的是整个行业的活力。

法律界定模糊，电商平台要扛起“打假”责任

高洁：目前，针对电商领域的AI假图，现有规定在认定标准、处理规则、处罚力度上都不够明确，法律责任也说不清楚，导致执法的时候没有统一的依据。而且监管技术和手段也跟不上，AI假图制作简单、成本低，却很难分辨，就算有《人工智能生成合成内容标识办法》，还是有很多人不按规定标识，甚至擅自改掉标识。另外，监管部门、电商平台、AI技术服务商之间，数据不互通、责任不明确，没法形成合力，实现全链条治理。

其实电商平台应该承担起相应的责任：一是要完善AI假图的审核机制，对食品、美妆、农产品这些重点品类的商品图片，要加强审核，对接权威的检测工具，提高识别的准确性，减少误判；二是要健全平台信用惩戒体系，把发布虚假AI图片、恶意退款索赔的商家和个人拉进黑名单，实行跨平台联合约束和惩戒；三是要畅通维权渠道，让消费者和正规商家能方便维权，优化投诉处理流程，提高维权效率；四是要给消费者普及AI图片的辨别知识，提醒大家注意风险，引导大家理性消费。

钟铮：数字人乱象的根源，一方面是法律法规不够完善，另一方面还涉及肖像权、知识产权、著作权等多个方面，比如怎么定义人工智能合成的内容，这些都需要明确。

要加强数字人直播管理，就得明确各方责任，加强跨部门协作和公众监督。督促商家、平台、AI工具提供方履行好自己的责任，明确大家在内容审核、标识合规、权益保护等方面的义务；畅通用户举报渠道，鼓励大家参与监督；建立网信、广电、市场监管等部门的常态化协作机制，统一规则、共享数据、联合执法，形成监管合力。

“眼见为实”已成过去，AI生成内容要戴“紧箍”

高洁：建议由工信部门牵头，加大技术研发的支持力度，鼓励科研机构和企业一起攻关，研发出有自主知识产权的AI生成内容标识、检测、溯源技术，建立一个统一的AI生成内容标识核验公共平台。

同时，由网信、工信、市场监管等部门联合制定电商领域AI生成内容的细化管理规定，明确AI图像的标识要求，不管是明显标识还是隐性标识，都要规范；对重点品类，强制使用不能篡改的标识；明确AI假图的违法违规情形，建立阶梯式处罚机制，加大法律的约束力度。

钟铮：要加快推进人工智能法等相关立法，专门增加数字人直播的管理条款；实行数字人注册备案制度，强制公示它是技术生成的，以及背后的运营主体，做到“数字形象能识别、责任主体能找到”。另外，修订《消费者权益保护法》《广告法》，明确把数字人直播纳入监管范围，严厉打击虚假宣传、冒充名人等欺诈行为。同时，完善知识产权和人格权相关的法律法规，明确数字人制作中，真人肖像、声音、个人信息等的授权使用边界，加大对未经授权使用行为的处罚，保护权利人的合法权益。

齐向东：在深度伪造技术面前，“眼见为实”已经不成立了，普通人可以记住“一看二查三防四维权”，简单好操作，能有效防范风险。

一看细节，找破绽：看视频时，多留意平台提示，也可以自己仔细观察，比如光影是不是自然，人物口型和声音对不对得上，眼神有没有僵硬感，背景是不是清晰合理。

二查源头，信权威：提高信息辨别能力，别轻易相信非官方、没有可靠来源的“爆料”“内幕”“名人喊话”，尤其是那些诱导投资、转账的内容，一定要提高警惕，通过官方渠道核实，别被牵着走。

三防泄露，护隐私：不随便公开自己的高清正面照、原声视频，关掉不必要的人脸、声音采集权限，减少个人信息被用于AI训练和伪造的风险，避免卷入诈骗。

四会维权，快处置：如果发现自己被AI伪造、侵权，第一时间截图录屏保存证据，向平台投诉要求下架，同时向网信、公安部门举报；要是遭受了名誉损害、诈骗、敲诈勒索，一定要果断报警，并且提起法律诉讼。