AI“魔改”短视频盯上未成年人:AI拼接怪诞形象成流量密码
今年以来,AI生成的短视频在各大平台迅速走红,其中一些被称为“外国山海经、AI山海经”的AI魔改视频在未成年人中掀起热潮,这些AI魔改短视频里,有“长着腿、穿球鞋”的鲨鱼、还有“长着脸到处拿木棒在敲”的“木棍人”,与此同时,魔改形象相关的周边玩具销量也很火爆,这引起了一些家长的担忧。
AI拼接怪诞形象成流量密码
在这些视频中,孩子们反复念叨着拗口又毫无意义的音节。实际上,这些并不是胡言乱语,而是几个网络动画角色的名字。细看这些“动画角色”:有木棍人;有仙人掌身躯、脚踩拖鞋的大象;有身体是轮胎的青蛙;有鳄鱼和军用飞机的融合体;还有香蕉上顶着猩猩脑袋、鱼身配猫头等违背常理的奇怪形象。这些形象并非出自传统动画或经典IP,而是由AI拼接生成的。在媒体的采访中,不少孩子都表示看过这类视频。
受访儿童:这“外国山海经”的,你看过吗?看过。我也看过。感觉怎么样啊?还行,特拉辣累喽,特拉辣。就是奇怪得很,猫虾,对,猫虾。轮胎青蛙,还有什么魔咒是吗?有很多的,通通通通撒库拉、木棍人。
北京市互联网信息办公室网络数据与技术处工作人员 王煜凯:其实最大的一个受众就是在未成年人圈层,尤其是中小学生,还有一些低龄儿童。他们在这种视频内容中,容易被一些夸张叙事的怪物形象和元素所吸引。
渲染暴力弱化危害感 家长忧心误导模仿扭曲审美
在这些视频中,AI生成的动画形象频频上演暴力场景:木棍人挥舞木棒砸毁汽车;体形庞大的怪兽在城市街头疯狂追杀人类;还有动画形象手持刀具,切割其他的动画形象……这些充满攻击性、破坏性的画面,不仅渲染暴力,更因角色卡通化而弱化了危害感,极易被未成年人误认为“好玩”或“酷”,从而引发模仿行为。同样令人担忧还有,在部分以这些形象开发的小游戏中,还夹杂着软色情内容,危害未成年人的身心健康,不少家长对此忧心忡忡。
家长 李女士:我觉得可能会对他们会造成一种审美的扭曲吧,因为三观还没有形成,尽量选择一些就说有意义的,一些有正确引导的东西给他看。
家长 黄女士 :(“外国山海经”)跟原著的是有点偏离了,这种做出来的话肯定是有误导性的,要给小孩了解一下原著是怎么样的。
不过一些孩子表示,虽然看过这一类《山海经》,但他们也有自己的见解。
受访儿童:那你看过中国的《山海经》吗?老师讲过吗?看过。你觉得跟中国《山海经》(相比),这个更奇怪一点?我喜欢中国《山海经》 。为什么?因为中国《山海经》是讲特色, 这个只是用AI电脑自己做的而已,因为我也自己做过一个,你觉得它做得好不好?一般。
直面AI新型风险:算法推送快过人工审核 平台治理迎战“时间差”
其实刚刚片子里提到的“外国山海经”不是个例,如今随着人工智能发展,内容与形态的变化比以往更快,部分别有用心者借AI技术“魔改”、炮制“虚假、低俗擦边”内容,甚至涉未成年人的不良内容卷土重来。这类乱象隐蔽性强、传播速度更快,成为未成年人网络保护领域的新考题,该如何进行治理?我们接着来看。
算法推送快过人工审核 平台治理迎战“时间差”
人工智能研究人员指出,“外国山海经”这类视频利用夸张、猎奇、高冲击力的画面来抓取未成年人的注意力。孩子只要出于好奇点开看了几秒,算法就会立刻标记兴趣,源源不断地推送类似内容,形成“越看越推、越推越看”的恶性循环。一些家长已经注意到这类内容对孩子的不良影响,主动进行举报或屏蔽。但人工智能研究人员指出,即便如此,算法仍可能基于用户行为或相似内容特征,继续推送此类视频。
北京智源人工智能研究院高级行业研究员 靳虹博:平台处理举报行为的话,它是一个人工审核的过程,人工判断的过程需要分钟级小时级,甚至是天级的这样一个滞后的时间窗。但是对于算法推送来说,它是一个毫秒级的实时推送,所以说 我们的人工审核速度,或者人工干预速度,和算法的分发速度之间,是有一个巨大的时间差的。
抖音清理超20万违规内容 重点打击AI涉未成年人不良信息
法学专家认为,治理这类乱象,除了算法技术的升级,也要压实平台主体责任。平台作为内容分发的核心枢纽,应主动履行审核、过滤和处置义务,将推荐权重向健康、有益、优质的内容倾斜。
近期,抖音发布治理公告,重拳整治相关内容。公告显示,公告发布前近一个月内,平台针对涉未成年人的各类违规场景,累计清理相关违规内容20.2万条,对超8000个违规账号作出清理违规粉丝、限制商业变现、禁言、封禁等梯度处罚。(抖音表示,近期尤其是针对利用AI技术升级违规手段,侵害未成年人合法权益的行为做了重点打击,包括:AI生成未成年人低俗擦边形象“养号涨粉”;AI生成虚假的未成年人“卖惨”内容,博取同情不当牟利;AI恶意“魔改”经典动画、动漫和文学形象,炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容,危害未成年人身心健康。近一个月已经对610个相关违规账号全面禁言。)
中国政法大学网络法学研究所所长 李怀胜:就需要平台坚持主流的社会导向,要进行积极有效的并且是及时的人工干预措施,我们要警惕一切有害于未成年人身心健康,或者说不能达到去促进未成年人身心全面发展的。这些所谓的网络作品、网络现象,对于这类现象 我们要拿出一体化的整体性的治理举措。
新闻观察:警惕AI“怪视频”侵蚀未成年人的精神世界
对于AI技术“魔改”内容、炮制虚假,低俗擦边,甚至涉未成年人的不良内容,你有哪些观察?
这些利用AI技术“魔改”的内容危害不容小觑:部分视频渲染暴力、破坏场景,甚至夹杂软色情,以卡通化形式弱化危害感,极易诱导模仿,甚至产生认知混淆,可谓劣币驱逐良币。
在我看来,技术门槛降低与算法推荐是这类内容泛滥的主因。AI能快速生成猎奇画面,平台算法则基于点击率不断强化推送,形成“越看越推”的沉迷循环。治理的关键在于压实平台主体责任,要求其优化推荐算法,主动向有益内容倾斜,并加强人工审核与违规内容清理。同时,需加强跨部门协同,对线上违规内容及线下衍生商品进行一体化治理。家长与社会也都应该积极举报不良内容,共同构筑清朗网络空间。
当然,治理不能止于下架视频、清理商品,更要从源头遏制AI生成内容的野蛮生长,推动算法向善、内容向美。别让算法制造的怪异幻想,挤占了真正有益于心灵发展的空间。
相关推荐
-
2025/12/27
-
2025/12/27
-
2025/12/27
-
2025/12/27
-
2025/12/27



