日志
无关道德？都是生意！
热度 5
[quote]2025年7月15日消息，马斯克于当地时间周一宣布，Grok付费订阅用户现可试用AI聊天机器人新版“虚拟伙伴”（Companions）功能，但也有部分免费用户称其亦可访问该功能。Grok首批上线的虚拟形象包括动漫角色Ani和卡通小熊猫Rudy。据TestingCatalog披露，Ani还设有“NSFW 模式”，该模式下角色将身着内衣，更符合二次元玩家的喜好，在AI行业中遥遥领先。（IT之家）[/quote]
所谓的“NSFW 模式”（Not Safe For Workplace）其实就是AI“成人模式”的代名词。
AI的“虚拟伙伴”（Companions）功能并不是什么新鲜事。前一阵闹的很凶的Character.AI事件中的焦点就是未成年人使用AI“虚拟伙伴”：
[quote]美国人工智能明星独角兽公司Character.AI以及科技巨头谷歌，日前被卷入一起少年自杀案中，其中Character.AI被指控该公司的人工智能聊天机器人平台“危险性过高”，面向儿童销售且缺乏安全防护措施。
今年2月，美国佛罗里达州男孩塞维尔·塞策三世（Sewell Setzer III）在家中自杀身亡。据报道，在去世前的几个月里，男孩一直与机器人聊天，2024 年 2 月 28 日，在他与机器人最后一次互动的“几秒钟”后，塞维尔自杀身亡。[/quote]
曾几何时，各大AI厂商都自我标榜道德高标准。例如 OpenAI 的狗屁通动不动就会跳出一个“根据OpenAI的使用规则，禁止生成有害内容”的警告。所谓“有害内容”五花八门。甚至用户测试中要求狗屁通把“如何制作炸弹”从英语翻译成西班牙语都会触发这个警告。狗屁通搞到后来，干脆先闪显一下答案，然后就把答案从屏幕上抹掉了。而 Claude 更是标榜自己完全不会允许有害内容。
国内厂商也步亦趋步，紧跟潮流。百度文心、阿里千问等等都有类似的警告。DeepSeek 刚出来那会儿，经常性的会出现 “根据OpenAI的使用规则，禁止生成有害内容”之类的警告。结果让外国厂商指责 DeepSeek 是抄袭 OpenAI 的狗屁通。
问题在于，绝大多数高大上的AI模型实际上都能生成“有害内容”。触发这些“有害内容”的生成其实相当容易。网上有大量教程告诉用户如何避开厂商的管制来“越狱”。而道高一尺，魔高一丈，现在用另一组 AI 来监视 AI 用户是否想“越狱”进而采取行动也成了一项重要的功能。
有人或许会问 AI 厂商们为何要搞得这么复杂？语言大模型也好，图像和视频生成工具也好都是需要原始材料来训练的。如果在源头训练中就不给这些 AI 模型喂各种“有害内容”，那么就根本不会出现包含有害内容的回复。语言大模型的问题更严重。就以成人内容来说，语言大模型可以生成任何用户想要的内容。训练一个图象、视频或语言的原始大模型不是几个人单干就行的。DS出来之前，各大厂商的投入是以亿为单位的。即使是 DS，虽然单版成本只有几百万，但这显然没有记入各类前期资产投资。
如此高的投资，如何收回成本？指望广告收入吗？用 AI 做各种广告的不少。但这些钱并不能回归到厂商手中，而是被各种广告公司赚了。指望企业应用吗？这的确是个来源，但由于 AI 幻觉的存在，企业应用实际有限，只能用在低精度非关键的领域。这就大大缩小了收入和利润。
Character.AI 之类的网站早就指出了一条路，收费服务。例如Character.AI的基础服务免费，但 Premium 服务收$9.99美刀。在 OpenAI 的狗屁通时刻之前，这类 AI “虚拟伙伴”网站就早已像雨后春笋一样遍地都是了。而 AI 风暴来临之后，尤其是技术进步到只要几个指令就能生成任何内容的时候，这条道路“钱景”就更为光明了。
全球最大的成人网站 OnlyFans 现在要标价出售了。原因之一或许在下面这段采访中：
[quote]彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。[/quote]
这种情况下，连当初自命清高的狗屁通也下海了。
[quote]在ChatGPT的2025年2月12日版规则中，开发者对于绝对禁止生成的内容做出了重大修改。
此前ChatGPT禁止生成任何露骨的XX内容，本次更新后，相应的条文变成了，仅禁止涉及未成年人的XX内容。也就是说，只要用户不往儿童身上扯，它就可以给你写小黄文，开发者还提醒道，本次修改之后，规则允许ChatGPT在“适当的上下文中”生成此类XX内容而不会发出警告。[/quote]
所以 Grok 干脆收费开放 NSFW 内容有何奇怪呢？这无关道德，只是生意。不需要从源头将其掐断，只需要提出“警告”。
