《人工智能生成合成内容标识办法》9月1日起施行
如今人们的日常生活与人工智能越来越紧密,可以用AI帮忙查找资料,辅助写作;让AI将创意转化为图像、视频;用AI搭建一套高效的学习场景,可以说,我们正在进入“全民AI时代”。今年3月,国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》。昨天(1日),这项办法正式开始施行。其中,最值得关注的是所有人工智能生成、合成的内容,必须打上标识。那么,新规为何要做这样的强制要求?未做标识的AI画面会对公众造成怎样的误导呢?我们先来了解一下。
用AI制造假新闻 多地警方查处相关案件
近年来,由AI生成的假新闻、谣言,频繁出现在网络空间并传播。今年6月,上海静安警方查处了一起编造“华山医院前院长张明远因阑尾炎未得到及时救治,客死他乡医院走廊长椅”的谣言案件。涉案的3名人员每天在网络上查找各种热点事件和消息,通过向AI工具输入关键词,自动生成文章,拼凑出了一条包含“知名三甲医院”“前院长”“客死他乡”等吸引眼球的谣言信息,仅24小时之内,相关谣言的不同版本就在网上被大量传播,造成了恶劣的社会影响。
直播间AI“辣椒” 涉嫌虚假宣传
还有近段时间,在抖音、快手等平台直播间,一款名为“樟树港辣椒种子”的产品成了一些网络主播卖货推销的重点,但是有网友却发现,直播间里展示的辣椒画面,看起来并不是很真实,疑似是由AI生成。这些主播展示的视频大同小异,都是成串垂挂、排列整齐且硕大的辣椒果实,乍一看似乎这款辣椒的产量非常高,时不时就有人下单购买。然而,当地农技专家在看到这些直播视频时,直言是虚假宣传。
湖南湘阴县樟树镇高级农艺师 黄源:樟树港辣椒植株很矮小的,它这个有一人多高了。你看它这个辣椒,它这个花根本就不是辣椒的花,第二,它这个叶片也不是辣椒树苗叶片的形状。就像一个树苗上面结的全是辣椒,这可能吗?不可能的。辣椒是每一个分支节点结一个辣椒,不是像玉米棒子一样结辣椒的,它这个明显是虚假宣传。
外卖商家用AI生成假门头照
利用AI造假的情况不仅于此。最近,还有网友在社交平台上爆料,有外卖商家用AI生成照片冒充堂食门店的图片,不但门面是假的,有些连店内用餐人群的景象也是假的。比如,在京东秒送外卖平台的这间标注为“堂食餐厅”的肠粉店,其头像为金碧辉煌的门头照,但实际情况却与平台图片并不一致。虚假门面误导了消费者,甚至连外卖骑手有时取餐都找不着店。
AI生成合成的内容真假难辨,只有打上标识,才能让AI生成的虚假消息露出原形。那么,AI生成内容的标识具体该如何添加?AI生成的内容该由谁来标识?出现相关违法违规行为该如何追溯、追责呢?我们接着来看。
AI生成内容必须添加显式或隐式标识
“标识办法”明确,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
中国社会科学院法学研究所研究员 支振锋:这种显式标识就好像人的脸,一眼就能看到这种真假长的是个什么样子,而隐式标识就像人的指纹,虽然一般不轻易看到指纹,但是很容易通过技术去检测它,究竟是谁生产的,从哪生产的,怎么生产的,所以这样子的话出现了问题也很容易去溯源找到这个责任者,它就能够形成一个很好的责任链条。
专家介绍,显式标识可以确保用户能直观辨别生成内容的人工智能属性,保障公众知情权。隐式标识则既保障了标识的持久性,也为后续数据清洗、校验提供技术依据。这两种标识结合使用,既能减少对用户体验的干扰,还能为相关监管提供溯源依据。
明确全链条责任 从生成到传播闭环管理
“标识办法”还明确了相关主体的责任义务,包括服务提供者需在内容生成、传播、下载等环节确保标识完整;互联网应用程序分发平台需审核应用是否具备添加标识功能;个人用户发布生成内容时需要主动声明。另外,“标识办法”中明确,服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。
中国社会科学院法学研究所研究员 支振锋:标识办法区分了生成合成内容不同主体的责任/不管是生成人工智能服务的提供者还是用户,既要按照这个办法的要求去进行标识,还要按照国家强制标准的要求进行标识,这样就把从制作、传播、发布等等这个链条理得更清楚,然后相关的责任划分也更明晰。
细化追责内容 划定AI治理新红线
此外,新规施行也细化了相关法律法规的追责内容。“标识办法”要求,用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
抖音、快手等多平台出台细化规则
新规落地,多家互联网平台也陆续响应。目前,包括抖音、快手、微博、腾讯、B站、DeepSeek等平台都对“标识办法”出台了细化规则。
9月1日,抖音发布《关于升级AI内容标识功能的公告》。《公告》显示,抖音已上线两项核心功能:一是AI内容标识功能,协助创作者为AI内容添加提示标识,方便用户辨别;二是AI内容元数据标识读写功能,可识别并写入AI内容的元数据信息,为内容溯源提供技术支撑。若创作者未主动添加标识,抖音将辅助添加标识说明。
快手则公告称,已上线人工智能生成合成内容标识和用户主动声明功能:首先会在平台AI生成的内容中添加“AI生成”显式标识、以及嵌入文件元数据中的隐式标识;其次,在发布或传播明确由AI生成的内容或被平台检测为疑似AI的内容时,会在内容周边进行显著提示。除此之外,微博、B站、腾讯、DeepSeek等平台也都积极落实《人工智能生成合成内容标识办法》各项要求,相关用户协议已修改升级。
新闻观察:高新科技需要守住法制和伦理底线
今天来到演播室的观察员是周国伟,国伟您好!对于昨天开始正式实施的《人工智能生成合成内容标识办法》,您有什么样的看法?
高新科技需要守住法制和伦理底线
过去我们说“有图有真相”,如今却变成“有图有AI”。一段十几秒的虚假车祸,能让一座城市陷入恐慌;一张AI合成的辣椒丰收图,能让千万农户的真辣椒烂在地里;一张富丽堂皇的假门头,能把外卖骑手和消费者同时骗得团团转。这些案例的共同点是——AI生成的内容“看起来太真”,却没有一处提示“这是假”。当技术可以零成本地制造“完美谎言”,社会信任就会像多米诺骨牌一样倒塌。强制标识,就是让每一张AI假面必须写上“我是戏法”,从而把公共安全从“事后辟谣”前置到“事前预警”。这不是对技术的不信任,恰恰是对技术负责任的爱——只有给AI戴上“紧箍咒”,它才能长成向善的孙悟空,而不是脱缰的六耳猕猴。
AI标识或可带来产业的二次升级
或许有人担心,标识会让AI创作“掉价”。恰恰相反,它让产业从“野蛮拓荒”进入“精耕时代”。隐式标识如同给每一份数据植入一枚DNA芯片,谁生成、谁修改、谁传播,全链路一秒溯源。这不仅为创作者提供了版权护盾,也为平台过滤低俗、谣言、诈骗提供了技术抓手。更深远的意义在于,当标识成为行业标准,AI就不再是“造假”的代名词,而升级为“可信内容”的基础设施。就像食品工业曾因“QS标志”赢得消费者信心,AI产业也将在“可信标识”中迎来二次爆发。未来,没有标识的AI内容会被算法降权,主动标识的AI作品反而因“可信”而获得更多流量与商业回报。标识,不是创新的刹车片,而是产业升级的加速器。
当然,好规则离不开硬执行。平台要改算法、改协议,把“一键标识”做成默认选项;监管部门要建立“黑白名单”,让恶意删标者一处失信、全网受限;而我们每一位用户,也要从“随手转发”升级为“随手验签”,看见没有标识的“完美画面”,先打个问号再决定点赞还是举报。技术本无善恶,标识就是方向盘。当我们把方向盘握稳,AI这条高速公路才会变成通向未来的光明大道。
相关推荐
-
2025/09/02
-
2025/09/02
-
2025/09/02
-
2025/09/02
-
2025/09/02



