近日，央视曝光多款AI应用存在涉黄生成漏洞，创作平台哩布哩布AI更是被直接“点名”。因其可以被用户使用“隐晦提示词”绕过审核，生成半裸女性跳舞视频。
4月13日，新京报贝壳财经记者在哩布哩布AI实测发现，输入类似的提示词后已经无法生成“擦边视频”。但另一方面，国外的大模型正处于“裸奔”状态，一些主流大模型平台虽然也不支持生成色情内容，但仍然可生成“擦边视频”，而一些AI创作平台则对此类内容完全放开。此外，在黑灰产平台上出现了许多以销售提示词的名义，售卖各种“AI生成教程”，收费在几十到上百元不等。
对此，北京盈科（合肥）律师事务所姜万东律师告诉新京报贝壳财经记者，隐晦提示词本身不必然违法，但若生成的内容实质违反法律法规，平台及用户均可能面临法律责任。平台需履行内容安全管理主体责任，加强审核和技术手段，防止违法内容传播；用户若故意利用隐晦提示词生成违法内容，也需承担相应法律责任。而AI作为工具，利用它创作色情内容，等同于利用传统手段进行违法活动，同样要承担相应法律责任。AI使用者需对内容的合法性负责，不可触碰法律红线。
4月14日，哩布哩布AI发布声明称，近期媒体对AI生成内容安全问题的讨论，我们已关注并高度重视。第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。对此，我们深表歉意。本次问题也为我们敲响了警钟，使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。
4月14日，哩布哩布AI发布《关于加强内容安全管理的说明》并道歉。
输入擦边提示词，已无法生成擦边内容
此次被“点名”的哩布哩布AI不是无名小卒，而是头顶多项光环的明星企业。
从融资规模看，这家公司于2025年10月完成1.3亿美元B轮融资，由红杉中国、CMC资本联合领投，创下当年国内AI应用赛道最大单笔融资纪录。从用户体量看，官网数据显示平台已汇聚超过2000万创作者，累计生成图片超过5亿张，稳居国内AI图像生成领域首位。从合规履历看，2024年2月通过国家网信办第四批深度合成服务算法备案，同年3月成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。
根据央视报道，市面上多款主流AI应用、平台对直白露骨的色情指令可实现有效拦截，但对隐晦、变相描述的识别能力明显不足。
有声音认为，这暴露了AI内容审核的核心难题：对抗性提示词的识别。商家为规避监管，将敏感词汇翻译成英文，或用“腰胯扭动幅度”等细节描述替代露骨指令，形成一套隐蔽的指令体系。
4月13日，新京报贝壳财经记者在哩布哩布AI上输入相关提示词后，发现其并未生成“擦边”内容，取而代之的是一个衣着完整的部位特写。而当记者将提示词切换为英文后，平台直接提示“生成失败”。
记者尝试在哩布哩布AI平台上使用相关英文提示词，显示生成失败。网页截图
姜万东告诉记者，若“擦边”内容实质包含淫秽、色情、低俗、暴力等法律法规禁止传播的信息（如通过隐晦提示词生成半裸、性暗示、性交易等内容的视频、图片或文字），即使使用隐晦表述，仍属于违法内容。
“根据《中华人民共和国网络安全法》《互联网信息服务管理办法》《生成式人工智能服务管理暂行办法》等规定，平台有义务对用户发布的内容进行管理，发现违法信息应立即停止传输、采取消除等处置措施，并向主管部门报告。若平台明知存在此类漏洞却未有效整改，可能承担法律责任，包括行政处罚（如罚款、停业整顿等）。”姜万东表示。
在他看来，若“擦边”内容未直接触犯法律，但违反平台自身的社区规则、用户协议等（如发布过度暴露、性暗示但未构成淫秽的内容），平台可依据规则对用户采取警告、限制功能、封号等处理措施，但一般不涉及法律责任。
国外大模型“裸奔”，AI色情已出现产业链
一个值得玩味的对比是：国内平台被点名整改，而一些国外开源生态的大模型却几乎处于“裸奔状态”。
新京报贝壳财经记者测试发现，有知名外国大模型推出了“成人模式”，除了涉及未成年人、强迫性等场面无法生成外，尺度惊人。一些“AI脱衣”“AI改姿势”的图片甚至曾一度在马斯克的X平台上流行，让许多用户感受到了冒犯，后来X平台也整改了这一功能。
但在技术上，目前不少AI生图、AI生视频的模型已经在网络上开源，如Stable Diffusion及其节点式工作流平台ComfyUI等。其中，国家网络安全通报中心早在2025年5月就发出预警，指出ComfyUI存在数个高危漏洞，且已被黑客组织利用。安全机构Censys在2026年4月的监测中发现，超过1000个ComfyUI实例直接在公网“裸奔”，没有任何防护，任何人都能远程接入、随意生成内容。
这意味着，在开源大模型时代，任何一个人都能在自家电脑上跑一个完全不受控的AI。
新京报贝壳财经记者在黑灰产平台上搜索发现，目前存在很多打着“售卖提示词”旗号，但实际为兜售AI色情生成服务的卖家，其中一些卖家售卖的正是这种不受监管的AI生成服务。
记者在黑灰产平台上看到的售卖内容。手机截图
有些卖家表示，可以花99元“永久获得”AI生图的操作账号使用权限，而48元则可以购买到一些大尺度模型平台的提示词以及教程。
这意味着，监管的拳头可以打在应用层，而技术的根子扎在开源层。
那么，AI内容治理的边界究竟在哪？
从监管实践看，国内选择的是“事前备案+事中审核+事后追责”的全链条治理模式。2025年4月，网信办开展“清朗·整治AI技术滥用”专项行动，重点整治利用AI制作传播色情低俗内容；2026年4月10日，五部门联合公布《人工智能拟人化互动服务管理暂行办法》，进一步明确安全评估和算法备案要求。2026年1月1日，修订后的《中华人民共和国网络安全法》正式施行，首次在法律层面规定了AI安全风险的法律责任框架。
相比之下，海外平台的治理逻辑更倾向于“分级管控”：仅对“看起来真实、可能误导公众”的逼真合成、深度伪造内容进行强制披露要求，对于普通AI辅助创作并不做全量强制标注，核心聚焦于防范AI内容误导用户、伤害公共利益。
两种路径各有优劣。国内的强监管确保了内容底线，但也面临“道高一尺魔高一丈”的猫鼠困境；海外的宽松环境激发了创新活力，却也留下了滥用的隐患。如何在安全与创新之间找到平衡点，是所有AI平台和监管者共同面对的难题。
这或许才是哩布哩布AI事件最该留下的警示：合规不能只是备案那张纸，而是要渗透进产品设计的每一个环节、每一次模型迭代、每一轮审核机制的更新。备案是起点，而非终点；合规是能力，而非装饰。
近日，央视曝光多款AI应用存在涉黄生成漏洞，创作平台哩布哩布AI更是被直接“点名”。因其可以被用户使用“隐晦提示词”绕过审核，生成半裸女性跳舞视频。
4月13日，新京报贝壳财经记者在哩布哩布AI实测发现，输入类似的提示词后已经无法生成“擦边视频”。但另一方面，国外的大模型正处于“裸奔”状态，一些主流大模型平台虽然也不支持生成色情内容，但仍然可生成“擦边视频”，而一些AI创作平台则对此类内容完全放开。此外，在黑灰产平台上出现了许多以销售提示词的名义，售卖各种“AI生成教程”，收费在几十到上百元不等。
对此，北京盈科（合肥）律师事务所姜万东律师告诉新京报贝壳财经记者，隐晦提示词本身不必然违法，但若生成的内容实质违反法律法规，平台及用户均可能面临法律责任。平台需履行内容安全管理主体责任，加强审核和技术手段，防止违法内容传播；用户若故意利用隐晦提示词生成违法内容，也需承担相应法律责任。而AI作为工具，利用它创作色情内容，等同于利用传统手段进行违法活动，同样要承担相应法律责任。AI使用者需对内容的合法性负责，不可触碰法律红线。
4月14日，哩布哩布AI发布声明称，近期媒体对AI生成内容安全问题的讨论，我们已关注并高度重视。第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。对此，我们深表歉意。本次问题也为我们敲响了警钟，使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。
4月14日，哩布哩布AI发布《关于加强内容安全管理的说明》并道歉。
输入擦边提示词，已无法生成擦边内容
此次被“点名”的哩布哩布AI不是无名小卒，而是头顶多项光环的明星企业。
从融资规模看，这家公司于2025年10月完成1.3亿美元B轮融资，由红杉中国、CMC资本联合领投，创下当年国内AI应用赛道最大单笔融资纪录。从用户体量看，官网数据显示平台已汇聚超过2000万创作者，累计生成图片超过5亿张，稳居国内AI图像生成领域首位。从合规履历看，2024年2月通过国家网信办第四批深度合成服务算法备案，同年3月成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。
根据央视报道，市面上多款主流AI应用、平台对直白露骨的色情指令可实现有效拦截，但对隐晦、变相描述的识别能力明显不足。
有声音认为，这暴露了AI内容审核的核心难题：对抗性提示词的识别。商家为规避监管，将敏感词汇翻译成英文，或用“腰胯扭动幅度”等细节描述替代露骨指令，形成一套隐蔽的指令体系。
4月13日，新京报贝壳财经记者在哩布哩布AI上输入相关提示词后，发现其并未生成“擦边”内容，取而代之的是一个衣着完整的部位特写。而当记者将提示词切换为英文后，平台直接提示“生成失败”。
记者尝试在哩布哩布AI平台上使用相关英文提示词，显示生成失败。网页截图
姜万东告诉记者，若“擦边”内容实质包含淫秽、色情、低俗、暴力等法律法规禁止传播的信息（如通过隐晦提示词生成半裸、性暗示、性交易等内容的视频、图片或文字），即使使用隐晦表述，仍属于违法内容。
“根据《中华人民共和国网络安全法》《互联网信息服务管理办法》《生成式人工智能服务管理暂行办法》等规定，平台有义务对用户发布的内容进行管理，发现违法信息应立即停止传输、采取消除等处置措施，并向主管部门报告。若平台明知存在此类漏洞却未有效整改，可能承担法律责任，包括行政处罚（如罚款、停业整顿等）。”姜万东表示。
在他看来，若“擦边”内容未直接触犯法律，但违反平台自身的社区规则、用户协议等（如发布过度暴露、性暗示但未构成淫秽的内容），平台可依据规则对用户采取警告、限制功能、封号等处理措施，但一般不涉及法律责任。
国外大模型“裸奔”，AI色情已出现产业链
一个值得玩味的对比是：国内平台被点名整改，而一些国外开源生态的大模型却几乎处于“裸奔状态”。
新京报贝壳财经记者测试发现，有知名外国大模型推出了“成人模式”，除了涉及未成年人、强迫性等场面无法生成外，尺度惊人。一些“AI脱衣”“AI改姿势”的图片甚至曾一度在马斯克的X平台上流行，让许多用户感受到了冒犯，后来X平台也整改了这一功能。
但在技术上，目前不少AI生图、AI生视频的模型已经在网络上开源，如Stable Diffusion及其节点式工作流平台ComfyUI等。其中，国家网络安全通报中心早在2025年5月就发出预警，指出ComfyUI存在数个高危漏洞，且已被黑客组织利用。安全机构Censys在2026年4月的监测中发现，超过1000个ComfyUI实例直接在公网“裸奔”，没有任何防护，任何人都能远程接入、随意生成内容。
这意味着，在开源大模型时代，任何一个人都能在自家电脑上跑一个完全不受控的AI。
新京报贝壳财经记者在黑灰产平台上搜索发现，目前存在很多打着“售卖提示词”旗号，但实际为兜售AI色情生成服务的卖家，其中一些卖家售卖的正是这种不受监管的AI生成服务。
记者在黑灰产平台上看到的售卖内容。手机截图
有些卖家表示，可以花99元“永久获得”AI生图的操作账号使用权限，而48元则可以购买到一些大尺度模型平台的提示词以及教程。
这意味着，监管的拳头可以打在应用层，而技术的根子扎在开源层。
那么，AI内容治理的边界究竟在哪？
从监管实践看，国内选择的是“事前备案+事中审核+事后追责”的全链条治理模式。2025年4月，网信办开展“清朗·整治AI技术滥用”专项行动，重点整治利用AI制作传播色情低俗内容；2026年4月10日，五部门联合公布《人工智能拟人化互动服务管理暂行办法》，进一步明确安全评估和算法备案要求。2026年1月1日，修订后的《中华人民共和国网络安全法》正式施行，首次在法律层面规定了AI安全风险的法律责任框架。
相比之下，海外平台的治理逻辑更倾向于“分级管控”：仅对“看起来真实、可能误导公众”的逼真合成、深度伪造内容进行强制披露要求，对于普通AI辅助创作并不做全量强制标注，核心聚焦于防范AI内容误导用户、伤害公共利益。
两种路径各有优劣。国内的强监管确保了内容底线，但也面临“道高一尺魔高一丈”的猫鼠困境；海外的宽松环境激发了创新活力，却也留下了滥用的隐患。如何在安全与创新之间找到平衡点，是所有AI平台和监管者共同面对的难题。
这或许才是哩布哩布AI事件最该留下的警示：合规不能只是备案那张纸，而是要渗透进产品设计的每一个环节、每一次模型迭代、每一轮审核机制的更新。备案是起点，而非终点；合规是能力，而非装饰。
3月18日，记者从山西省人民政府获悉，“山西煤炭工业互联网智算平台”日前在山西联通大数据中心建设完成。该平台由中国联通与山西晋云互联科技有限公司共同打造，是山西省目前唯一的垂直行业类智 据英国《自然》杂志网站19日报道，美国华盛顿大学科学家首次使用生成式人工智能（AI）工具，帮助他们制造全新抗体。研究团队表示，AI设计抗体或能更好靶向一些很难被攻击的药物标靶，但这些抗体距离临床 “截至2023年底，与2018年同期相比，京津冀治理区浅层地下水位平均回升2.59米，深层承压水水位平均回升7.06米。”3月22日世界水日到来之际，水利部水资源管理司副司长张鸿星21日接受科技日报记者采 记者3月21日获悉，商汤科技与遥感数据平台吉林一号网、四维地球、星图地球等展开合作，此举标志着“SenseEarth智能遥感云”平台数据源全面升级，将为行业用户提供更完善、精准的一体化的高分辨率 3月23日消息，vivo X Fold3系列将于3月26日正式发布，成为全球首款骁龙8 Gen3折叠屏电话。现在这款新机外观已经解禁，下面为大家带来图赏。vivo X Fold3提供了薄翼黑和轻羽白两种配色，后壳手感顺滑，触感 3月23日，“天卫科技03星”暨“华祥苑壹号”卫星在厦门举行出征仪式，这是由厦门本土企业天卫科技制造研发的第三颗服务当地建设的商业卫星，标志着厦门航天卫星应用领域商业化、产业化发展更进一 。本文链接：知名AI平台哩布哩布AI涉黄？记者实测：已无法生成擦边内容，但黑色产业链仍在http://www.sushuapos.com/show-2-16049-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 财经慧说｜机器人，也要“上学”