被央视曝光涉黄AI软件未下架 黑产链条令人震惊
被央视曝光涉黄AI软件未下架 黑产链条令人震惊。近日,央视新闻曝光了一条隐蔽的AI“造黄”产业链,揭露了不法分子利用生成式AI技术公然兜售不雅视频教程、定制不雅内容,甚至将境外涉黄AI软件引入国内,规避监管、诱导未成年人,严重污染网络空间。这些行为无底线且令人愤怒,给所有人敲响了警钟。
随着生成式AI技术的普及,AI视频生成和AI聊天陪伴等应用走进大众生活,为人们带来便利的同时,也被不法分子盯上,成为牟取暴利的工具。记者在多个互联网平台检索发现,有不法分子发布“AI制作美女视频”“大尺度内容定制”等诱人标题,吸引用户关注,实则兜售AI“造黄”教程和提示词,声称仅凭一张图片、几句话就能生成满足需求的不雅视频。
进一步调查发现,这些教程不仅详细讲解如何使用AI软件生成不雅内容,还刻意引导用户规避监管,如使用境外图生视频AI软件,将程序部署在本地电脑离线运行,避免被平台检测;将敏感词汇翻译成英文,用隐晦表述编写提示词,绕过AI应用的审核机制。更令人震惊的是,这些教程价格低廉,最低仅需9.9元,普通人只需花费少量金钱就能获得全套“造黄”技巧,门槛极低。
为了验证线元的价格分别在两个平台购买了两组提示词。打开商家发来的文件后,记者发现,提示词描述极其细致热点话题,从人物发型、服饰到姿势、表情,甚至身体部位的扭动幅度都做了精准刻画,显然不法分子早已摸透了AI生成的漏洞,专门打造了这套规避审核的“话术”。
随后,记者对10款市面上常用的AI应用进行实测,结果令人心惊。如果输入露骨的提示词,多数AI应用会触发审核机制拒绝生成内容;但只要使用商家提供的隐晦提示词,就能轻松绕过限制,在几分钟内生成半裸、低俗的擦边视频。其中一款名为“哩布哩布AI”的应用更是毫无门槛,输入提示词后直接生成不雅内容,未触发任何监管预警。被央视曝光涉黄AI软件未下架 黑产链条令人震惊