• 看厦门APP

  • 厦门广电公众号

  • 厦门广电抖音

  • 厦门广电微博

  • 厦门广电央视频

新闻观察:整治“AI魔改” 守住技术向善的大门
2026/01/05 来源: 厦视直播室
分享:

如果您经常刷短视频,很可能刷到过这样的画面:唐僧不取经了,开始和女儿国国王讨论保险理赔;关羽不再过五关斩六将,而是因为买到假皮鞋找刘备维权。

“AI魔改”何时休?

一段时间以来,经典影视剧被“AI魔改”的荒诞剧情,快速在网络蔓延,让许多经典文化作品面目全非。您知道,这些魔改视频是如何生产出来的吗?来看报道。

林黛玉倒拔垂杨柳、华妃骑摩托车、孙悟空变身飞船飞走,这些不少熟悉又魔幻的场景,近年来频频“攻占”网友的短视频平台。《甄嬛传》被改成了“枪战片”,《红楼梦》成了“武打片”,而《西游记》则变得异常的赛博朋克,《三国演义》更是“AI魔改”重灾区。

在这段关于《三国演义》的“魔改”视频里,桃园结义的兄弟情谊,变成了消费者维权的闹剧。书中“贩履织席为业”的刘备,变成了火车站旁卖假皮鞋的奸商。对此,大家是怎么看的呢?

受访者:我感觉非常搞笑啊,就让人非常的开心,就满足了大家的一些好奇心。平时像比较累的时候,看一下就很放松。

受访者:它这已经完全打乱了我们原有的对一些事情的认知,不是难以接受,根本就没法接受这个东西。这个东西如果说只当个小型的娱乐项目,生活中占的篇幅不是很大的话,还是可以当娱乐的,但是现在铺天盖地的全是这个东西了,原著是什么样的,有可能下一代人都不知道了。

“AI魔改”视频批量生产 教程随意买卖

从2024年开始,多模态大模型的发展不断推动着文生视频、换脸换声技术的普及,用户只要花上几十元或数百元成为会员,就可以根据文字描述生成视频,这导致“AI魔改”视频批量涌现。在短视频平台,所谓的“二创”、“魔改”教程也层出不穷。还有商家将这些教程和电视剧的无字幕高清素材,打包挂在电商平台销售。商家号称,花几毛钱,买了教程,两个小时就能学会“AI魔改”;还有商家说,一条视频能轻松收获上千元收益。

商家:这就是一个制作视频的教程,很简单,可能两个小时就学会了,网盘里的教材你跟着学就可以了,视频和提示词都有,别人挣钱的方法有很多。

“魔改”视频对影视作品创作生态造成伤害

公开资料显示,魔改视频主要是以“颠覆经典”制造强反差来获取高播放量,以此赚取分成。业内人士表示,此类魔改视频不仅涉嫌侵犯著作权、肖像权,同时还挤压优质原创空间,对影视作品的艺术价值及创作生态产生着巨大伤害。

青年剧作家 导演 向凯:除了侵权之外,它改变了原创作者的思想和内涵,本来原创作者很严谨地表现一个故事的内容或者是某一个情节,但是通过AI魔改进行娱乐化,是对原创内容的巨大伤害,尤其是给后面再观看这些影视作品的人,让他们产生一个巨大的内容差异。

容易造成未成年人认知混乱

还有专家表示,这种视觉上的冲击,对于心智尚未成熟的未成年人来说,极易造成文化认知混乱和价值观的错位。

中国社会科学院大学互联网法治研究中心主任 刘晓春:经过魔改之后,跟原来相比是面目全非了。像革命题材、英模人物这一块,其实是少年儿童对于历史的了解,如果是基于这些魔改的动画的话,一方面,可能造成他们对于历史文化基本的歪曲性的理解,不利于少年儿童正确向上的价值观建立;另一方面,魔改会呈现出一些设计比较恐怖的甚至是血腥的,或者不符合常理的一些内容,对于未成年的身心健康也会产生不利影响。

针对这一情况,本月,国家广播电视总局在全国范围内启动了“AI魔改”视频专项治理行动。此次治理的重点非常明确,就是重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的有害视频,并划出了多条红线。

“AI魔改”何时休?:国家广电总局开展“AI魔改”视频专项治理

我们接着来看。

根据国家广播电视总局发布的内容,此次为期一个月的专项治理重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的下列视频:一是严重违背原作精神内核和角色形象,颠覆基本认知,解构普遍共识;二是内容渲染血腥暴力、猎奇低俗,宣扬错误价值观,违背公序良俗;三是存在对中华文化挪用、篡改的突出问题,导致对真实历史时空、中华文明标识产生明显错位认知,冲击文化认同。专项治理同步清理将少年儿童所熟知、所喜爱的动画形象进行改编生成的各类邪典动画。

法律专家指出,这意味着此次治理将更多围绕文化精神层面的内容展开。

中国政法大学副教授 朱巍:这次重点清理的主要是AI魔改四大名著、革命历史题材、英雄模范人物这样的作品。这些人、这些作品本身具有公序良俗的价值体现,现在的魔改是以电视剧外表作为一个壳子,里面装了包括但不限于涉及到低俗、恶搞、戏谑这些内容,它就与我们的价值观,包括文化、共同的历史观、意识形态等可能相冲突了。

此次专项治理中,平台仍是主要抓手。国家广电总局要求网络视听平台落实主体责任,强化内容审核把关,坚决清理违规内容,处置乱象突出的账号,扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间。有平台工作人员表示,共同制定具体可行的治理标准,将是接下来的工作重点。专家认为,这也将为治理的常态化、长效化提供经验。

新闻观察:整治“AI魔改” 守住技术向善的大门

今天来到演播室的观察员是熊伟。你认为AI魔改视频的本质是什么?你怎么看待这件事?

首先要明确一点的是,在AI魔改视频这样的事件中AI技术没有错,错在使用技术的人。深层次分析AI魔改视频你会发现,它是低成本生产加高收益变现的商业逻辑催生出的畸形产物。新闻中我们看到了只需要花几毛钱就可以买到所谓教程,这些AI生成出来的魔改视频,在短视频平台上又能够获得不小的流量,当下流量就是收益。在这种底层逻辑下,就会放大了一部分人逐利的冲动,AI魔改视频也就越来越多。

AI魔改视频还存在 “认知茧房” 与 “信息失真”的双重困境,平台的算法推荐机制会不断向用户推送符合兴趣的魔改视频,让用户陷入越看越荒诞的认知困境中。而对于未成年人来说,由于心智和认知尚未成熟,很容易将魔改内容中扭曲的价值观和虚假信息当作真实,这种危害极大。

随着AI技术逐渐进入我们的生活,大家已经达成了一种共识:AI是为人类社会赋能的。在技术基础上我们可以创造出更多应用场景,解决更多人类社会遇到的问题。然而AI赋能的这个“能”,必须得是正能量,这个正能量需要人类为其划出红线。

这条红线怎么划?此次国家广电总局的整治只是起点,我们还需要构建起一个健康的生态体系,从法律、监管、行业、技术等层面打一套组合拳。法律层面应该尽快构建起AI生成内容详细的认定标准、责任划分等条款。监管部门加强监管是必须的,而且是要有强有力的监管手段。行业也需要形成自律的标准,通过平台去约束乱象。另外,我认为技术也很重要,既然AI能够生成出这些魔改视频,是不是我们也可以通过技术给AI划一条红线,从源头有上避免乱象产生?AI技术并无善恶,利用好技术会更好地传承文化,文化传承需要AI助力,但不能让滥用AI成为文化传承的阻力。

看厦门 APP下载