为整治“AI魔改”视频传播乱象,国家广播电视总局自2026年1月1日起,在全国范围内开展为期一个月的专项治理。
百度积极响应专项治理工作,认真落实平台主体责任,强化内容审核把关,完善技术识别与人工审核协同机制,强化源头识别、前置拦截和及时处置,坚决清理违规内容,处置乱象突出的账号。一是精准打击重点领域违规AI内容,围绕AI“魔改”经典内容风险,构建图像视频与文本协同识别能力,重点识别军警制服、敏感人物及经典IP形象等核心要素,结合画面生成特征检测与要素比对,高效拦截显性违规内容。二是专项建设涉政防控大模型,聚焦内容生产与输入环节,持续优化语义识别、意图预判等能力,强化对恶意“魔改”权威叙事、经典作品及敏感题材的前置识别与拦截,从源头抑制违规涉政及不当“魔改”内容生成。三是强化AI内容源头识别与标识,落实生成式人工智能相关管理要求,重点识别AI生成及恶意“魔改”内容特征,精准标记AI生成内容,提升内容可追溯、可监管能力。
1月8日至1月15日,平台围绕AI“魔改”经典IP及涉政涉军等重点风险场景,累计巡查清理违规视频81条,关闭账号1个,取得阶段性成效。
部分典型问题如:
1、用户“俅妊郧质莱腥”发布题为《宋江为了做上公务员竟惹上了杀身之祸》的视频内容,利用AI技术对经典文学人物形象进行不当改编,内容存在明显违背原著精神、误导公众认知等问题。平台发现后已第一时间下架违规视频,并对该账号予以关闭处理。
2、用户“影评漫游者”发布题为《李云龙用炮打天庭》的视频内容,通过AI生成方式,将严肃的革命题材人物形象与神话、宗教场景进行混搭和夸张化演绎,存在对经典影视角色形象的戏谑化、娱乐化改编问题。平台发现后已第一时间下架相关视频。
3、用户“非酋小辣椒”发布题为《林黛玉倒拔唐三藏》的视频内容,通过AI生成方式,将不同经典文学作品中的人物形象进行混搭、夸张化改编,对原有角色性格与作品内涵进行戏谑、歪曲;同时以荒诞设定制造噱头博取关注,易对公众尤其是青少年形成误导。平台发现后已第一时间下架相关视频。
百度将持续做好“AI魔改”视频的治理工作,为青少年健康成长营造良好网络空间。
百度内容安全中心
2026年1月15日