首页 > 正文
央视曝光AI“造黄”产业链
2026-04-13T11:07:00
如今，生成式 AI 广泛应用，从 AI 视频生成到 AI 聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，制作 AI 涉黄视频，污染网络空间、败坏社会风气。AI" 造黄 " 产业链如何形成？又是如何逃避监管？
一张图片即可生成涉黄视频？多个平台公然兜售 AI 造黄教程
根据消费者举报线索，总台记者在多个互联网平台检索发现，有人公开兜售 "AI 生成色情擦边视频 " 的教程和 " 提示词 "。号称仅凭一张图片，甚至几句话就可 " 手搓让自己满意的大尺度视频 "。
教程帖子标着 "AI 制作美女视频 "" 全网最强大尺度 ""AI 擦边赛道日入 5 位数 " 的标题，再配上色情露骨的画面，这些教程就在网络平台上堂而皇之地宣扬如何让用户 " 从无到有 "" 手搓 "" 色情擦边 " 视频。
这些教程为了兜售自己的产品，还刻意引导用户如何规避监管，比如使用境外图生视频 AI 软件、将程序部署在本地电脑离线运行等。
提示词隐晦就能绕过限制多款 AI 应用存在涉黄生成漏洞
众多社交平台上，一些博主还发布售卖各类 AI 生成擦边视频的 " 提示词 " 帖子。商家表示，只需将购买到的提示词复制到各大 AI 视频生成软件，即可获得提示词对应的擦边视频。
记者以 9.9 元和 9.8 元的价格，分别在 " 万象小店 " 和 " 楠楠素材库 " 下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材、姿势、表情，甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。
记者对用户使用较多的 10 款 AI 应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为 " 露骨 "，多数 AI 应用会触发审核机制并拒绝生成内容。然而只要将提示词修改得更加隐晦，便有可能绕过限制。
在一款名为 " 哩布哩布 AI" 的 AI 应用里，记者输入在网上购买的提示词后，仅仅几分钟，平台就生成了一个半裸身体的女性跳舞视频，没有触发平台任何限制机制，同样的问题也出现在市场上其他常见的 AI 应用平台上。
此外，市场上更有专门靠 AI 生成色情视频牟利的软件。根据消费者举报的信息，记者找到了这款号称 " 免下载，能快速换脸 " 的软件。购买者只要愿意付费，软件就可以通过一张图片，生成全裸照片和色情视频。
境外涉黄 AI 软件绕过监管流入国内暗藏不良内容 诱导未成年人沉迷
AI 的可定制性让其高度拟人化，通过投喂数据，用户可以将 AI 虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象。因此，与 AI" 谈情说爱 " 正被越来越多年轻人尝试和喜爱。
但业内人士介绍，这些软件大多是境外的 AI 聊天软件，尺度普遍很大，充斥着色情内容。这些 AI 软件并不能从国内应用市场下载，一些不法分子从中窥见了商机，开发出各种灰色通道绕过监管，让国内的用户可以下载并使用，以此牟利。
记者在某社交媒体平台和某短视频平台上搜索 "AI 语聊 "，评论区中随处可见用户分享推荐 AI 聊天软件，以及软件的下载链接和邀请码。
知情人士告诉记者，由于 AI 聊天软件是境外软件，为了获得大量国内用户，推销 AI 聊天软件的平台通过发放金币以及充值返利的方式，激励老用户拉新，并为用户发帖引流提供帮助，逃避监管的同时，实现获利。
记者点击进入下载好的 "Dady"App 选择一个 AI 角色进行体验。在聊天过程中，AI 会自动生成 3 种回复提示，以便用户能有更好聊天体验，而聊天的内容几乎都是围绕着各种色情话题展开。恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，其中不乏有未成年人。
我国 AI 治理框架正在加速形成
专家告诉记者，App 上架有一系列审核要求。如果是境外软件，手机下载后，可能带来病毒或其他信息安全隐患。
2025 年 4 月，网信办开展的 " 清朗 · 整治 AI 技术滥用 " 专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务、却未履行大模型备案或登记程序的违规 AI 产品。
今年 4 月 10 日，《人工智能拟人化互动服务管理暂行办法》正式公布。《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。