AI生成内容滥用，被戴上紧箍。
9月1日起，国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）施行。这是全球范围内第一部关于人工智能生成合成内容标识的国家标准，也意味着所有利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。
近日，新京报贝壳财经记者通过一周时间对哔哩哔哩、微博、抖音、快手、小红书、视频号六个主流内容平台测试发现，不少AI制作的视频已经打上了标识，但也存在没有标识提醒的“漏网之鱼”。
为了进一步测试平台对AI内容的识别能力，新京报贝壳财经记者使用主流视频模型工具生成了目前内容流量较高的“萌宠变装”和“AI美女”两类视频，并分别以去除和显示AI水印的版本进行发布。测试显示，视频发布过程中，六个平台均未主动提醒进行AI生成内容标注。而用户主动标注视频为AI制作的选项，则大多隐藏在发布界面的二级或三级子菜单内。
经过测试，抖音识别出所有视频并添加了疑似AI的提示，快手仅识别出了存在AI水印的视频。其余四家平台则“全军覆没”，均未能识别出记者上传的视频为AI生成，也没有进行任何提示。
对此，北京市天元律师事务所合伙人李昀锴告诉新京报贝壳财经记者，目前《标识办法》没有规定内容发布者不标注的法律责任，如果单纯依靠发布者的自觉性，规定的效果可能会大打折扣。实践中，内容平台作为传播渠道，其强制性要求和技术干预是关键。此外，中国传媒大学媒体融合与传播国家重点实验室研究员程皓楠对记者表示，技术可以鉴别AI生成内容，不过，由于大模型的更新迭代速度快，在AI视频生成内容越来越真实的情况下，鉴伪模型也需要不断精进，双方呈现“螺旋上升”的过程。
部分AI视频仍未亮明身份，微博标识选项“藏得深”
根据《标识办法》，人工智能生成合成内容标识包括显式标识和隐式标识。其中，AI生成视频，要求在视频起始画面和视频播放周边的适当位置添加显著的提示标识。
9月8日至15日，贝壳财经记者在哔哩哔哩、微博、抖音、快手、小红书、视频号的推荐页面随机浏览内容发现，大部分AI制作的视频可以看到作者标注的AI创作声明，也有未进行AI标识的视频内容被平台标注“疑似内容为AI生成”。
不过，未进行AI标识的AI视频内容也并不难寻。贝壳财经记者在小红书上浏览看到，有用户在9月1日后发布的萌宠类视频疑似AI生成内容，但画面周围及文字说明区均未出现明显标识；视频号上，一位用户发布的数字人视频也是如此。
9月8日，贝壳财经记者浏览视频号发现未进行明显标识的AI生成视频。截图
在哔哩哔哩上，一位UP主制作并在介绍页面写有“AI整活儿”的视频中，有的视频被平台识别并标记了“疑似使用AI技术合成”，而个别视频则没有触发平台的提醒。
哔哩哔哩UP主制作并在简介中写明“AI整活儿”视频，并未触发平台“疑似AI技术合成”的提醒。
根据《标识办法》，提供网络信息内容传播服务的服务提供者应提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。贝壳财经记者通过测试发现，目前，六家平台对于AI生成内容标识，仍主要依赖内容发布者是否主动标注。
测试中，贝壳财经记者使用可灵和即梦分别生成了“萌宠变装”和“颜值美女”两类视频，AI视频模型平台均在视频生成后打上了类似“可灵AI”等带着模型名称的水印。
用户发布内容时，平台“AI创作声明”选项对比。 贝壳财经记者 罗亦丹 韦英姿 制图
贝壳财经记者将上述AI生成视频分别上传至六家内容平台，在发布过程中，虽然用户可以自主选择标注AI标识，但这类选项通常隐藏在发布页面一级按钮之后。
其中，抖音“内容由AI生成”选项出现在发布界面“高级设置”中的“发文助手自主声明”子菜单中；快手在发布界面的二级子菜单“作者声明”中才可以找到“内容为AI生成”的选项；视频号在发布页面的“添加声明”二级子菜单里设置“AI创作声明”选项。
测试中，小红书、哔哩哔哩、微博的“AI创作声明”选项需要至少跳转两次页面才能看到。
此外，微博的内容发布页无明显AI生成内容标识选项，必填内容类型中仅有“原创”“二创”和“转载”三个选项。视频设置中也未见AI创作声明选项。贝壳财经记者根据“微博管理员”8月29日公告才找到“AI生成”声明路径为：微博发布页面—右下角“公开”—选择分享范围—内容声明—内容由AI生成。
微博的AI生成内容标识选项隐藏在右下角的“公开”按钮中。
AI视频可“丝滑”发布，仅一家平台识别无水印版本
近年来，滥用或误用AI技术的问题逐渐显现，包括商家利用AI生成虚假商品展示和夸大宣传，误导消费者下单；或者通过AI合成虚拟人物，冒充名人或特定专业身份进行带货。而部分视频中出现AI生成的虚构测评与体验，制造虚假口碑。
根据《标识办法》，文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容。
对于用户故意去掉或遮挡住了AI视频水印，平台能否检测出其为AI生成？9月8日至9日，贝壳财经记者将可灵生成的一段“猫咪变装”视频，分别以自带水印（水印即视频带有AI生成相关字样）和去掉水印版本发布在哔哩哔哩、微博、抖音、快手、小红书、视频号上，且未主动标识为AI生成内容。
测试中，无论有无水印，这一AI视频在各大平台均“一路畅通无阻”，平台未主动提醒要进行AI生成内容标注。视频发布后数小时内，除原有水印外，视频的画面及文字说明区也未被平台标注“AI生成”有关字样，记者也没有收到平台有关视频标注整改的要求。
9月15日，贝壳财经记者再次打开上述已发布的AI视频发现，仅有抖音平台发布的“猫咪变装”视频画面不论有无水印均出现了“疑似使用了AI生成技术，请谨慎甄别”的文字说明。快手则只识别了带有AI水印的“猫咪变装”视频，并进行了AI生成相关提醒。
记者上传了带水印与不带水印的两个版本“AI猫咪”视频，快手只识别出了带AI水印的版本。
值得说明的是，此类猫咪变装视频由于出现了猫咪“自己穿衣服”等画面，因此大概率能够识别出AI生成。相比之下，当下颇有流量又逼真的“AI美女”“AI帅哥”迷惑了不少人。
9月8日，贝壳财经记者使用AI生成了一个“写实风格湖边白色连衣裙中国美女”的视频，并在消除AI水印后通过上述六家平台发布，且未主动标注为AI生成内容，发布过程同样“畅通无阻”。
9月15日，贝壳财经记者再次打开这一视频发现，六家平台中除了抖音标识了“疑似使用了AI生成技术，请谨慎甄别”外，其余五家均未能识别出美女为AI生成，还有不少评论夸赞“美女身材好”。
记者上传的“AI美女”视频，仅抖音识别并进行提醒。
六大主流内容平台对用户不标注AI生成视频的审核情况。贝壳财经记者 罗亦丹 韦英姿 制图
落实新规仍需补漏洞， 平台要担起监督责任
贝壳财经记者注意到，在《标识办法》正式施行前夕，大部分主流内容平台陆续发声落实各项要求。
8月29日至9月1日，腾讯、快手、小红书、哔哩哔哩、微博、抖音等六家平台均发布公告称已按照相关规定提供AI内容标识声明功能。对于未主动标识的AI生成内容，平台有权添加标识。快手、哔哩哔哩、小红书还在公告中强调，用户不得恶意篡改、隐匿平台相关标识。
另外，微博在投诉侧增加“未添加AI标识”分类，如发现平台用户发布的微博内容包含AI生成内容但未进行标记声明，可以选择此分类进行投诉。
不过，此次测试中，作为内容平台，哔哩哔哩、微博、抖音、快手、小红书、视频号虽然上线了AI检测功能，但未能100%检测出所有AI生成内容，且在视频发布过程中仍有漏洞。
根据《标识办法》官方解读，流通（网络信息内容传播服务提供者）承担核验与提示责任，需要核验内容标识或用户声明，对属于生成合成内容要明确提醒公众；终端（用户）则承担主动声明责任，当发布人工智能生成合成内容时，应当主动声明，不得故意“以假乱真”。
李昀锴对贝壳财经记者表示，内容发布平台是内容传播和触达公众的关键环节，因此承担着监督和管理的重要责任。平台的责任主要体现在制定明确的平台规则、提供技术或功能支持、履行内容审核义务、采取必要处置措施。如果内容平台未尽到义务，监管部门可以依据《网络安全法》《网络信息内容生态治理规定》等，对平台采取警告、通报批评、责令限期改正、罚款等行政措施。
而对于内容发布者这一AI标识的直接责任人，李昀锴称，目前《标识办法》实质上没有规定内容发布者不标注的法律责任，如果单纯依靠发布者的自觉性，规定的效果可能会大打折扣。实践中，内容平台作为传播渠道，其强制性要求和技术干预是关键。
他建议，平台可以将“AI内容标识”作为内容发布的前置条件之一。例如，在用户上传图片或视频时，通过技术手段初步判断是否为AI生成，并弹出窗口强制要求用户确认或添加标识。其次，对于发布后被识别或被举报为未标识的AI内容，平台必须依据其社区公约和《标识办法》规定，采取实质性的惩罚措施，如限制内容的推荐、减少曝光，甚至对账号进行警告或封禁。这种与流量、收益和账号权限直接挂钩的措施，会比单纯的呼吁更有效。
9月10日，有AIGC创作者告诉贝壳财经记者，自己曾在某内容平台故意上传AI内容进行测试，结果发现平台未能检测出AI内容。对此，平台方告诉他“只要收紧判断规则，就可以检测出AI内容，但这也有可能‘误伤’上传非AI内容的用户，伤害创作者的积极性。”
“对于用户不乐意主动添加AI标识的情况，很难在法律层面界定平台的责任，因为平台无法提前确定一个内容是否为AI生成，即便有技术手段也不能保证都准确，只能依靠用户自觉，因此《标识办法》只能解决一部分问题。”浙江垦丁律师事务所主任律师张延来告诉贝壳财经记者，“这是法律本身的局限性，我们可以不断地立法，但是遵不遵守还要看市场主体的选择。”
AI难鉴伪？ 专家建议对生成内容实施分级分类管理
当前AI鉴伪技术能否精准检测出AIGC内容？
媒体融合与传播国家重点实验室打造推出了“白杨智鉴——可解释音视频鉴伪平台”，并在外滩大会AI科创赛获得了AI安全赛道季军。程皓楠在接受贝壳财经记者采访时表示，目前AI鉴伪的一大应用场景是音乐平台，因为其涉及艺人的版权问题，以及平台担心真人歌手上传的内容遭到AI内容“稀释”。
程皓楠告诉贝壳财经记者，AI鉴伪技术也存在技术瓶颈，“大家都知道现在基本上每个星期都会出来一些新的生成式模型，在它的生成越来越真实的情况下，我们的鉴伪模型需要跟着这些生成模型不断地精进，双方呈现一个‘螺旋式上升’的过程。”
多位AI从业者对贝壳财经记者表示，一旦AI技术进化到了“极限”，即生成内容和真实内容毫无差距时，鉴伪模型就会面临失效。
“当AI生成的内容已经和真实内容没有任何区别的时候，我们要从更多的维度去进行内容的判断。比如说，对于在社交媒体上传播的音视频内容，我们可以进一步通过传播溯源、传播意图、逻辑一致性、情感操纵迹象等多种维度去判断该信息是否有害。”程皓楠表示。
实际上，AI生成内容本身是否属于“谣言”，或是未来监管的方向之一。
《抖音关于人工智能生成内容的平台规范暨行业倡议》提到，使用人工智能技术辅助创作本身，并不会违反平台规范，是被允许的行为，但利用其生成和发布虚假、侵权等内容会违反平台规范。
AI安全专家裴智勇告诉贝壳财经记者，虽然想要阻止人们使用AI生成伪造视频或图片不现实，但这并不意味着对伪造视频或图片毫无办法。以AI换脸的色情内容为例，即便无法检测出内容是否为AI生成，但“国内对于网络色情视频和图片都有非常成熟的治理方法，即便不能用技术鉴别一张图片的真伪，但可以从平台一侧阻止色情内容的传播，定位色情内容的传播源头并实施打击。”
“建议实施分级分类管理。并非所有的AI生成内容都具有同等的社会风险。未来，监管可以更加精细化，根据内容的类型和潜在风险进行分级管理。对于新闻、教育、医疗、司法等高度影响公共信任和个人权益的领域，必须执行最严格的强制标识规定，违规成本极高。对于艺术创作、娱乐等风险较低的领域，可以采取更为灵活的措施，以行业自律和用户选择为主，法律规定为辅。”李昀锴告诉贝壳财经记者。
新京报贝壳财经记者 罗亦丹 韦英姿
编辑 王进雨
校对 穆祥桐