马斯克全球旗下AI爆出生成大量裸露擦边内容

　　不外靠的并不是其手艺冲破，而是因其被普遍于生成裸露擦边内容，以至涉及未成年人，最终遭到英国、欧盟、印尼等多国的强烈取监管介入。这场风浪不只了单个产物的缝隙，更扯开了AI行业贸易化取伦理平安的深层矛盾，全球AI涉黄警报正式拉响。一切的起因，要从Grok最新的视频生成功能Imagine说起，据称该功能正在后24小时内用户利用量达数万万次。2025年8月，xAI向X平台的付费用户推出了AI图像生成功能“Grok Imagine”，除了支撑文字指令生成图像、视频外，此中还特地设置了一个名为“Spicy Mode”（火辣模式）的功能，间接打破了支流AI产物对“不适宜内容”（NSFW）的严酷——由于其明白答应生成内容。当OpenAI、谷歌等巨头正在提拔代码能力和逻辑推理的赛道上内卷时，马斯克为Grok选择了一条判然不同的道。彼时，xAI大概认为答应内容带来的贸易好处远超于其面对的风险，但现实很快证明，正在复杂的用户需求取手艺面前一切的风险预设都显得不胜一击。Grok的用户群体平均每小时要生成6700多张“”图像，而英国三一学院的社交研究更指出，3/4的素材源自“实正在人物”——这些人物的照片多来自社交平台，未经本人同意便被用于内容创做。最受关心的案例之一，是美国歌手泰勒・斯威夫特的肖像被恶意嫁接至比基尼图像中，正在收集上普遍，不只严沉其肖像权取人格，更激发了对“AI图片生成手艺”的发急。更令人担心的是未成年人成为者。多方动静显示，Grok生成的擦边内容中，包含多起涉及未成年人的案例——有用户将中小学生的校园照片上传至平台，通过“火辣模式”生成性意味图像，并正在私密群聊中。图像人工智能检测公司Copyleaks的监测数据显示，2025年12月下旬，Grok公开可拜候的图片流中，平均每分钟就会呈现一张“未经同意的性暗示图片”，此中不乏未成年人影像。面临愈演愈烈的乱象，xAI的应对却显得对付且被动。正在多国监管压力取下，Grok仅做出了小幅调整：将图像生成取编纂功能“仅限付费用户利用”，并正在X平台上发布声明称“会删除不法内容、永世封禁账户”。但这种调整不只未能处理焦点问题，反而被质疑是“借监管争议营销付费办事”——英国手艺大臣Liz Kendall对这种将问题为付费办事的做法暗示：“若是说仍能够通过付费拜候这项办事，那是性的。”以至就正在几天前，他还本人用Grok为本人生成了一张“马斯克比基尼照片”，画面不胜入目，而马斯克却洋洋，大喊“完满”。Grok的“裸奔”并非偶尔，而是多沉要素交错的成果——马斯克的贸易化野心驱动监管套利，手艺层面的防护栏缺失降低门槛，以及部门用户需求的同化，上海社会科学院消息研究所所长刘炜指出，马斯克深谙“争议是最好的催化剂”，而Grok的宽松内容政策，素质上是一种“监管套利”策略。正在ChatGPT、谷歌Gemini等支流AI平台因严酷内容而“流失”部门用户时，Grok通过降低伦理门槛，收割那些被支流平台的需求，进而为X平台的付费订阅办事引流。这种策略并非无迹可寻：早正在Grok Imagine推出前，X平台就多次通过“边缘内容”吸引关心。此中一个名为“Ani”的二次元气概女性脚色，因其的对话气概和“让你的糊口更”的宣传语激发了庞大争议。随后推出的“Valentine”，设定为“富有魅力、具有欲”，可以或许“实正理解你的空气”，并取基于Solana区块链的同名模因币绑定，构成了一个集AI伴侣、粉丝经济和加密文化于一体的奇特生态系统。取OpenAI对ChatGPT设置的多层内容过滤机制分歧，Grok从设想之初就弱化了风险防控，以至还会自动帮你寻求刺激。据一名X网友透露，正在他选择了“火辣模式”却没有要求Grok脱掉脚色的衣服的时候，最终呈现出来的画面竟然是“立即脱掉了裙子，底下只穿戴一条流苏丁字裤，然后起头跳舞，完全未经审查，完全”。世界反映敏捷而强烈。英国通信办理局已告急联系X平台，暗示正对Grok生成裸露图像及儿童性暗示图像的功能暗示严沉关心。欧盟委员会讲话人Thomas Renier也确认，并要求X平台供给更多消息。美国三位——俄勒冈州的Ron Wyden、州的Edward J。Markey和新墨西哥州的Ben Ray Luján，致信苹果和谷歌首席施行官，要求当即将X和Grok使用从使用商铺下架。大概是看到了商机所正在，除了马斯克的Grok外，客岁11月谷歌发布的新图像生成模子Nano Banana Pro，12月OpenAI更新的ChatGPT Images模子，同样被爆出具备编纂图像将人放入比基尼的功能。康奈尔大学平安、信赖取平安从任Alexios Mantzarlis指出：“整个科技行业鞭策和了AI图像生成器的冒失摆设。”Grok激发的全球监管风暴，标记着对“AI生图”的立场从“不雅望”转向“强硬”——手艺立异不克不及以伦理为价格，AI的“成长”必需有明白的鸿沟。而“不他人”，是最根基的底线。目前，欧盟曾经按照《数字办事法》对X展开了查询拜访，并正正在考虑处以罚款。罚款金额可能高达X公司全球年收入的6%。更值得留意的是，欧盟正正在积极推进《人工智能法案》的落地，该法案已于2024年5月获批，估计2026年8月正式实施。法案中的通明度权利，AI系统供给者必需确保其生成的内容以机械可读的形式被标识表记标帜，并可被识别为AI所生成。同时，Grok事务正加快全球AI管理邦畿的沉塑。截至2024岁尾，但这种繁荣背后是“规范碎片化”的风险。分歧司法管辖区法则的差别，跨国企业必需多套合规机制，导致合规成本急剧上升。当欧盟试图通过《AI法案》确立全球尺度，其他国度却可能强调取数据从权，构成替代性的规范系统。它监管机构、手艺公司和社会配合面临一个底子问题：正在一个AI能够等闲越过人类伦理取法令鸿沟的时代，我们事实需要什么样的全球性护栏？