AI内容“持证上岗”首测：35款应用，谁是漏网之鱼

滨海小城 · 发表于 2025-9-6 23:46:36

AI内容的“身份标识”正在全面落地。

9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》及配套国标正式实施，要求文本、图片、音频、视频、虚拟场景等AI合成内容需加上标识。用户和传播平台也有责任标明“内容由AI生成”，以免与真实信息混淆。

当天，DeepSeek、腾讯元宝、MiniMax等AI厂商宣布已上线AI标识体系。微博、快手、B站、微信等社交平台亦发布公告，提醒用户主动声明，并增设了“未有AI标识”的投诉选项。

虽然大部分公司都发布了响应公告，但仍有被忽视的场景。21记者实测了35款应用，其中2款未在图片中标识AI，4款未在交互页面标识AI。尤其是APP内置的智能助手，具备深度思考、联网搜索、生成长文的能力，但没有按要求提示AI生成。

执行颗粒度存在差异，业内也发现了争议：只总结私域的AI功能，是否必须标识？AI智能客服在监管范围内吗？下游的社交平台，又该如何对待用户的AI创作？

“AI标识是一切治理的前提。”广东财经大学法学院教授姚志伟向21记者强调，深度伪造和AI虚假信息事件频发，AI标识是非常重要的应对方法。接下来的关键，是在实践中找到平衡合规与用户体验的合理边界。

随着AI虚假信息、深度伪造换脸等事件越来越频繁，建立更全面的AI标识更为必要。今年4 月，中央网信办开展了为期 3 个月的“清朗·整治 AI 技术滥用”专项行动。AI 生成外国人带货、AI内容农场批量生产谣言、企业家和公众人物被换脸换声，已是互联网的共性问题。

新规《人工智能生成合成内容标识办法》明确了AI生成内容的标识方式，包括可肉眼分辨的“显式标识”，以及嵌入文件数据的“隐式标识”。

配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》进一步细化了不同场景的标识。例如，如果是AI合成图片，需要用不低于画面最短边长度的5%的文字，清晰标明“AI/人工智能”和“生成/合成”。

标识责任不仅在于AI平台，新规还要求用户不得删除或篡改标识，社交平台和应用商店需核验AI内容是否带有标识。这意味着AI内容的生产、制作、传播、分发环节都被纳入监管链条。

事实上，我国此前已有《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章要求标明AI生成内容的标识义务，但要求较为宽泛。新规的亮点主要是细化了场景、责任主体和后果。

“AI标识是治理的前提。”姚志伟向21记者解释，就像互联网广告必须先标明是广告，后续合规要求才有落实的可能性。从保障社会安全到保护知识产权、个人权利，都是AI内容治理的课题，也是AI标识想应对的问题。

对外经济贸易大学法学院教授张欣此前也指出，添加了AI内容标识后，用户才能知道自己接收到的内容来源。此类信息区分，是互联网内容治理的基础原则。

9月1日，21记者按7月月活数首先选取了20款AI应用测评，大部分应用已合规，但执行颗粒度有差异。

在交互页面上，除了百度网盘和即梦AI，其他应用均有一行“内容由AI生成”的标识。在图像和视频生成上，除了天工AI和百度文库，其他应用都在图像中有“AI生成”水印。

按照新规，页面标识和文字标识“二选一”即可。多位AI厂商法务坦言，由于担心影响用户体验，几乎没有平台会选择后者。而页面标识，各个平台做法各异。

不少平台虽然提示了“该内容由AI生成”，但位置、字号和颜色几乎难以辨认。比如，百度网盘内置的“云小朵智能助手”，只在页面背景里用“隐形水印”的方式斜印了标识。

目前，仅有DeepSeek会在对话框附近以醒目的黄色字体标注，限于金融、法律、医疗类回答，并未覆盖全部内容。

在音频内容标识方面，只有MiniMax同时提供了页面标识和音频标识。音频标识为可选项，默认关闭，开启后，语音末尾会自动插入“短-长-短-短”的提示音（摩斯密码中的“AI”）。

对于图像和视频，新规要求在画面位置显著标识。测评发现，百度文库的智能漫画只显示产品LOGO，没有标明“AI生成”；而天工AI的图片和视频中则没有任何标识。

21记者已将发现问题反馈给各个平台。9月4日，昆仑万维调整并回应称：图片已经上线了AI标识，目前所有线上可用功能为合规状态。

我们在测评中进一步发现，不少产品内嵌了AI智能助手，这也是一个容易被忽视的标识场景。

从功能上看，AI智能助手可分为两类：一类是通用聊天搜索，如百度网盘“云一朵”、小红书“问一问”、抖音“AI抖音”，实际具备深度思考、联网搜索、生成长文等功能。但前述三种产品的对话页面、对话内容，都未见明显的AI标识。

另一类功能更窄，只能回答特定业务问题，或者总结私域文件。例如BOSS直聘的“直闪闪”，只回答职场话题，无法展开开放式对话。

那么，这两类智能助手是否需要遵守《人工智能生成合成内容标识办法》？

一位大厂AI合规法务表示，虽然法规原本针对AIGC产品或服务，但条款没有限定必须是纯AI产品。《互联网信息服务深度合成管理规定》第十七条已明确，“智能对话、智能写作等模拟自然人进行文本生成或编辑服务”均属生成服务。因此，产品内的AI功能也应遵守新规。

姚志伟也认为，能广泛搜索、总结第三方信息的AI助手，显然需要标识。但如果AI助手仅能回答特定问题，比如一些航空公司在实践的智能客服，其边界仍不够清晰。

姚志伟提到，《互联网信息服务深度合成管理规定》第十七条中一项关键表述是“深度合成服务可能导致公众混淆或者误认”。该前提留有一定解释空间，可能会成为监管考虑要不要发布行政通知的依据。

“尤其是现在越来越多电话客服，很难分辨是AI还是人。”姚志伟补充道，海外如美国已经对这类智能客服进行监管，要求机器不能伪装成人。我国AI标识新规属于内容标识，而非身份标识，没有明确规定AI能否自称为人。在他看来，这也是未来需要探索的边界之一。

AI厂商担心的用户体验并非空穴来风。AI标识新规落地后，也出现了一些用户争议，主要集中在两方面：

第一种争议围绕商业素材使用。

在设计和影视等场景，AI常被作为辅助工具。一位设计师告诉21记者，借助AI生成3D风格素材已经是他日常工作流的一部分。最终成品并非AI一键合成，而是一部分AI素材、一部分人工设计。这种情况下，他需要逐张裁剪水印，再统一写明“AI辅助创作”。

目前，六个社交平台已要求用户声明“内容由AI生成”，并主动监测疑似AI内容，但还没有提供声明AI辅助创作的中间选项。

《人工智能生成合成内容标识办法》对此有一项灵活条款。第九条写道，用户可以申请不带显式标识的内容，但前提是签署明确协议、承担使用责任，且服务商必须留存相关日志至少六个月。

21记者从头部AI厂商中了解到，这一机制主要用于大型商务合作，比如影视和广告项目，会提供无水印版本。目前还没有看到针对个体创作者的申请通道。

第二种争议则集中在社交平台的治理实践。

多家社交平台已经上线“用AI识别AI”的技术，主动给疑似合成内容加注标识。但这引发了另一重担忧：有的用户担心真实作品被误判；另一部分用户认为平台对AI创作“不够友好”，主动标识会影响流量分发。

小红书相关负责人在此前交流中告诉21记者，AI图像的识别准确率已相对较高，系统判定内容为疑似AI生成，将加注AI标识。如果发现有误导、违规等社会不良影响，内容会被进一步限流处理。

换句话说，各平台的重点主要在打击“低质AI”上。所谓低质AI内容，典型特征是内容空洞、前后矛盾、有不良社会影响。今日头条此前透露的数据显示，去年打压了超过93万条低质AI内容，处罚了近3万个利用AI批量发布虚假、低质内容或恶意洗稿、抄袭的账号。

至于如何对待高质量的AI创作，取决于各个平台想要营造的社区调性。例如，前述小红书负责人提到，小红书最看中“真实性”，会将真实体验的内容摆在第一位。而今日头条表示，在监测AI内容的整体流量占比，“会评估处一个相对健康的水位，确保原创作者的空间，同时接纳合理的AI内容的存在。”

这些分歧或许都指向同一个问题：如何在合规、创新与用户体验之间找到合理边界。“虽然国外对AI标识也有讨论，但不像中国已进入国家标准、平台测试和普遍实施阶段。”姚志伟强调，作为全球首个全面推进的国家，很多问题还需要在接下来的实践中寻找平衡。

[新闻] AI内容“持证上岗”首测：35款应用，谁是漏网之鱼

回复

浏览过的版块