你的“偶像”正在直播间卖货？小心，那可能是AI

赵姝婵庞宇

2026-07-01 22:32:45

来源: 时代财经

要根治AI仿冒、AI造假的乱象，仅靠平台的技术升级远远不够，更需要法律法规的持续完善、监管部门的严格执法、权利人的积极维权以及消费者的警惕辨识。

图片来源：视觉中国

“助力两岸好物互通，推荐优质好货！”当直播间里的“知名公众人物”声情并茂地推销着商品，不少不明真相的观众纷纷下单。然而，这看似充满情怀的直播间，实则是一场精心策划的骗局。

公安部网安局近期通报了一起典型案例：山西大同网民邢某，为蹭取中国国民党主席郑丽文访问大陆的热度，在未经授权的情况下，利用AI工具生成了“郑丽文”的仿真数字人形象，编撰带货文案开播牟利。最终，邢某因构成盗用、冒用他人身份名义招摇撞骗，被属地公安局依法处以行政拘留。

这起案件揭开了当下部分AI直播带货主播流量至上、底线失守的乱象。随着生成式AI技术的爆发，侵权手段已从传统的“盗图、搬运”升级为更隐蔽、更具欺骗性的“AI换脸、AI合成声音、AI魔改素材”。这些“数字李鬼”不仅窃取了公众人物的肖像权和商业价值，更严重误导消费者，破坏电商生态的信任基石。

除了上述案件，已有多起AI假冒案例被曝光和查处。早在2025年6月，北京市海淀区市场监管局就对滥用AI假冒知名人士、发布虚假广告的行为首度“亮剑”。全国人大代表霍启刚，主持人白岩松，演员温峥嵘，奥运冠军全红婵、孙颖莎、王楚钦等公众人物，也都曾遭遇声音或形象被AI“克隆”并用于带货的侵权风波。AI侵权治理已经成为电商、短视频及微短剧平台必须直面的问题。

尽管各大平台已相继推出专项治理行动、强制AI内容标识及流量管控等多项应对措施，但受访法律及技术人士普遍认为，当前AI侵权治理仍面临诸多现实困境。一方面，AI造假门槛极低且手段日益隐蔽，违规账号常利用“时间差”换壳重生，导致平台面临“发现难、取证难、查处难”的技术瓶颈；另一方面，现行法律法规在责任界定与追责机制上尚处探索阶段，加之消费者维权成本高，客观上纵容了不法行为。

重拳打击“数字李鬼”，多平台及监管推出AI治理措施

6月30日，抖音电商正式上线“肖像保护功能”。据抖音官方介绍，该功能允许平台的达人主动提交姓名、肖像等核心信息进行“备案”。一旦备案，平台的AI模型就会像安装了“雷达”一样，实时扫描全网内容。当发现有账号未经授权，利用AI合成或模仿达人的肖像、声音进行带货时，系统会直接进行拦截、阻断。

据抖音电商数据，自2025年8月至今年6月，平台已累计处置侵权仿冒达人账号超1.2万个，处置仿冒带货商品超4.8万个，处置仿冒带货内容超26.1万条；“肖像保护功能”已累计保护180余位头部达人，主动拦截侵权账号9.2万个，拦截规模接近过往全年处置总量的8倍。

除抖音外，淘宝、快手等平台也相继发布了针对AI仿冒、侵权内容的治理公告。2025年3月淘宝率先启动‌AI假图治理‌行动，通过技术升级与规则修订，累计拦截近‌10万张‌显著失真的AI合成商品图；2026年1月1日起，快手宣布针对“AI魔改”类违规视频开展为期一个月的专项治理，专项治理期间，平台共处置违规内容5576条。

中国城市发展研究院投资部副主任袁帅指出，涉及人物肖像的AI视频，即便生成内容明确标注了“AI生成”字样，只要制作及发布方未获得当事人知情授权，仍属于违法违规行为。尽管目前各大电商平台已陆续出台AI假冒内容治理方案，持续加大治理力度，但“AI换脸”不法商用仍存在溯源困难的问题：现行法律法规难以全面覆盖AI技术催生的全新应用场景，跨地域、跨平台的监管协调机制也尚未完善。

不仅是电商直播领域，AI滥用现象在图文、短剧等内容创作赛道同样引发了行业警惕。

2026年3月27日，微信公众平台新增“非真人自动化创作行为”的规定，要求公众号和服务号不得利用AI、脚本、接口或其他自动化方式，替代真人完成内容创作、发布等流程，其中包括：脱离真实创作者表达，利用人工智能等方式生成、改写、拼接或者搬运内容的行为；通过脚本、程序托管等自动化方式批量、连续发布内容的行为；传播非真人自动化创作的教程、方法或服务的行为。对于违反上述规范的，平台将根据违规程度对相关内容采取流量限制、删除等处罚措施；对账号采取能力限制、封禁等措施。

同时，在AI技术应用泛滥的短剧领域，同样存在AI视频素材违规使用的乱象。4月6日，红果短剧发布《关于持续治理AI短剧素材违规使用行为的公告》，宣布开展专项集中治理。数据显示，今年一季度平台已累计下架违反治理规范的漫剧1718部，在完成1.5万部作品的全面核查后，依规处置违规作品670部，并曝光了四类典型案例。红果短剧明确表态，内容合规是一贯要求，平台将坚决打击AI短剧素材违规使用、无授权盗用等行为，持续开展全维度内容治理，以规范创作秩序并保护原创与合法权益。

AI滥用乱象，也引来了监管部门的“重拳”。2026年2月，国家网信办通报，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条。当月，《网络交易平台规则监督管理办法》和《直播电商监督管理办法》两大新规正式施行，被业内视为行业从“野蛮生长”向“规范提质”转型的关键节点。

需多方共治，根治 AI 造假不能只靠平台技术

面对层出不穷的AI侵权乱象，中国政法大学副教授朱巍指出，未经授权使用AI合成他人声音或形象进行营销，本质上就是一种侵权行为。他指出，尽管抖音电商平台推出“肖像保护功能”，但长线解决AI侵权问题，不能只靠平台单方治理，权利人也需积极拿起法律武器，捍卫自身权益。

北京中银律师事务所合伙人董天园律师指出，商家通过AI技术伪造名人形象，导致消费者基于“名人代言”的错误认识而购买商品，这属于典型的欺诈行为，侵害了消费者的知情权。消费者有权依据《中华人民共和国消费者权益保护法》第五十五条的规定，主张“退一赔三”的惩罚性赔偿。董天园律师建议，消费者维权时应注意保存相关证据，包括：与商家的沟通记录、订单详情、虚假宣传的图文视频、支付记录以及商品收发记录等。

为应对AI技术滥用带来的新问题，我国的法律法规体系正在加速完善。2026年2月起，《直播电商监督管理办法》正式施行，将数字人主播等人工智能生成内容全面纳入监管视野。同时，国家网信办联合多部门发布的《人工智能生成合成内容标识办法》明确要求，所有AI生成的肖像、视频等内容，都必须进行显著标识，告知用户其为AI生成。对于未按规定标识的服务提供者，最高可处以10万元罚款。

从“事后诸葛亮”到“事前防火墙”，以抖音“肖像保护功能”为代表的AI治理新举措，让大家看到了电商直播对“打假”的决心。然而，要根治AI仿冒、AI造假的乱象，仅靠平台的技术升级远远不够，更需要法律法规的持续完善、监管部门的严格执法、权利人的积极维权以及消费者的警惕辨识。只有形成多方协同共治的格局，才能让AI技术真正服务于人，共同维护一个清朗、可信的网络环境。