AI造假起号乱象调查:AI造假起号成新套路 运营者采取各种手段规避审查
来看头条,“外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学”,经常刷短视频的您不知道有没有刷到过这样的视频,其实这些画面并非真人演绎,而是AI生成,不过“细节满满”让很多网友信以为真,有媒体调查发现,不少社交账号利用“AI技术”造假、博眼球快速“吸粉”起号,进而变现,一起来了解。
AI造假起号成新套路 运营者采取各种手段规避审查
广西市民王夏经常刷到这样的视频:“帅哥”“美女”高频率更新日常生活,并在评论区与网友频繁互动。由于熟悉AI软件,王夏很快发现这些视频的主角是AI数字人。不过普通网友可能难以辨认,在一些AI生成的视频下,有很多网友以为是真人还在评论区进行互动。有博主透露,她借助AI软件生成的“氛围感美女”视频在多个平台“吸粉”过万,接到不少推广商单,月收入在1万元左右。虽然当前主流网络平台普遍升级AI内容识别系统,要求对AI生成作品添加标注,但仍有一些人采用各种手段绕过审核。
重庆理工大学计算机科学与工程学院教授 李彦:平台甄别AI内容主要依靠特征性技术痕迹,一些起号者通过多种手段削弱特征痕迹,逃避平台标注。比如AI生产图像与真实拍摄图像的随机噪声模式是不同的,这就是AI图像的一种特征性痕迹,但是也有一些简单方法可以去削弱这些特征痕迹。比如压缩图像,就能一定程度上掩盖AI图像中的高频噪声分布异常。
商家称3到15天能速成万粉号 多手段可变现
当前,社交平台上有不少AI造假起号的教程,情感、养生、颜值等类别是“重灾区”,相关帖子常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等为噱头。有专营平台起号的商家告诉记者,只需缴纳1680元,3到15天即可运营出一个万粉AI账号。当账号积累一定流量后,就可以通过电商带货、账号转卖等方式变现。有商家称,手上有未标注AI生成的“美女”账号,粉丝量均在一万以上,且为无实名、无账号违规、无作品违规的“三无账号”。该商家说,这些账号销售十分火爆,买家经常催着加急起号,有个合作商“一周就要几十个万粉号”,在其提供的交易截图中,9个账号的成交价从700元至4000元不等,而百万粉丝的号要十几万元。此类情况并非个例,记者调查发现,在社交平台上有众多网友求购和出售AI账号,一名卖家称,2.5万粉丝的AI养生号售价6000元,11万粉丝的AI宠物号售价1.6万元,11.7万粉丝的AI母婴号售价1.35万,这些账号同样为“三无账号”。
AI造假起号乱象调查:AI造假起号灰色产业链是技术异化的结果
根据《反电信网络诈骗法》,任何单位和个人不得“非法买卖、出租、出借”互联网账号。多个网络平台规定,账号仅限本人使用,禁止以任何形式“出租、转让、售卖”或“以其他方式许可他人使用账号”,当前,“AI造假起号”的灰色产业链不仅误导公众,造成虚假信息泛滥,甚至还滋生违法犯罪,给社会治理带来挑战,那么监管部门和平台该采取哪些措施来治理这些乱象呢,我们接着来看。
AI造假起号灰色产业链是技术异化的结果
重庆公孝律师事务所执行主任徐斌表示,AI造假起号灰色产业链是技术异化的结果,可能造成低俗猎奇信息泛滥,加速虚假新闻、谣言传播,扰乱网络空间秩序,亟待加强清理整治。
重庆公孝律师事务所执行主任 徐斌:第一身份造假有可能涉嫌虚假宣传,第二AI换脸还可能侵犯肖像权,第三文案和图片内容有可能涉嫌侵犯著作权,具体内容可能还涉嫌侵犯个人隐私和商业秘密等等。第五广告方式不当还可能涉嫌违反广告法,因AI起号过程中会收集大量的公民个人信息,若进行账号转卖,则可能触犯《中华人民共和国网络安全法》以及《中华人民共和国个人信息保护法》。
受访专家表示,这些“三无账号”的买卖以及AI造假起号,涉及技术提供者、传播平台、内容发布者等多个参与方,技术、数据等关键信息存在壁垒,需加强协同治理。
重庆公孝律师事务所执行主任 徐斌:从账号的创建,内容生产到转卖,涉及多方主体,现有法律规定并没有明确各环节的责任边界,取证难度大。一方面平台,依靠AI预判以及人工赋能的模式,审核能力滞后,技术标准与检测能力不足,另一方面当前的惩罚措施,比如禁言限号威慑力不足,相关处罚机制不健全。
阻断AI造假起号产业链需切断其获利渠道
阻断违规账号的流量变现,是从根源上打击黑灰产业链的关键。受访专家建议,监管部门应督促平台履行治理责任,建立违规账号“黑名单”,对高频、反复触犯平台规则的账号主体加大处罚力度,禁止违规账号进行带货、卖课等商业活动,持续开展AI造假起号整治,切断其获利渠道。
苏州大学传媒学院教授 王国燕:AI正在形成快速的信息污染产业链,使得原创作者的优秀空间得到挤压,AI已经颠覆了我们常言所说的“眼见为实 耳听为实”这样的真实性判断依据。当这个真实性都不存在的时候,我们整个数字环境的信任体系正在面临崩塌,我们呼吁技术工具能够生成可溯源的AI水印,使得视频上有标记,可以被大众识别,同时我们也呼吁平台之间形成一个黑名单共享机制,以防止不法分子在不同平台之间流窜作案。
新闻观察:流量“当道”滋生乱象 AI起号影响网络生态健康
今天来到演播室的观察员是徐佳妮。流量经济浪潮来袭,一些人把AI技术当作了制造虚假、骗取流量的工具,这背后藏着什么样的隐患?乱象又该如何遏制?你怎么看。
流量“当道”滋生乱象 AI起号影响网络生态健康
一边是流量经济来袭,一边是AI技术日新月异,本应该是一场机遇与创新邂逅,却滋生出了AI起号的乱象,影响了网络生态的健康发展。“AI起号”现象的出现也不是偶然,一方面,AI技术的普及极大地降低了内容生产的门槛。曾经需要专业团队、大量时间和精力才能完成的视频制作,如今借助AI工具,只需简单操作,就能在短时间内批量产出。另一方面,在“流量至上”的错误观念引导下,部分人过于追求粉丝数量和账号热度,而忽视了内容的质量和真实性。一个拥有大量粉丝的账号,可以卖出不菲的价格,乱象衍生出来的市场需求,也使得一些人不惜通过AI造假来快速打造“高粉账号”。
“AI起号”带来的危害不容小觑。大量由AI生成的低俗、猎奇、虚假内容充斥网络,挤压了优质原创内容的生存空间,影响了网络生态的健康,也容易引发公众的反感和抵触情绪。而且,虚假信息和谣言也会借助AI起号快速传播,误导公众认知。在商业领域,利用AI起号进行虚假带货,严重损害了消费者的权益,破坏了市场的公平竞争环境。
多方联动监管 用好AI双刃剑
面对这样的乱象,整治行动刻不容缓。平台要承担起主体责任,不断升级技术手段,提高对AI生成内容的识别能力,一旦发现这类行为,立即采取封号、限流等严厉措施。监管部门要加强监管力度,完善相关法律法规,明确AI生成内容的标注义务、虚拟账号的归属以及违规行为的处罚标准等,让执法有法可依。同时,严厉打击非法买卖账号的行为。我想,AI技术是一把双刃剑,在流量经济的时代,我们不能被虚假的繁荣所迷惑,还是应该坚守真实和价值的底线,让AI技术真正服务于社会的发展和进步 。
相关推荐
-
2025/09/17
-
2025/09/17
-
2025/09/17
-
2025/09/17
-
2025/09/17



