【编者按】在人工智能技术日新月异的今天，其双刃剑效应愈发凸显。近期，由埃隆·马斯克旗下xAI公司推出的Grok AI工具，因被广泛用于生成非自愿的色情深度伪造图像，尤其是涉及女性和儿童的恶劣内容，在全球范围内掀起轩然大波。从马来西亚、印尼的全面封禁，到英国拟将“脱衣应用”刑事化，再到加州总检察长的正式立案调查，一场针对AI伦理与法律边界的全球性拷问正在上演。这不仅关乎技术滥用的紧急刹车，更触及数字时代个人尊严与安全的根本防线。以下是事件详情，值得我们每一个人深思与警惕。

　　加州总检察长罗布·邦塔宣布，对埃隆·马斯克的Grok AI展开正式调查。此前，利用该工具生成的大量色情深度伪造图像广泛传播，引发了全球范围的强烈抗议。

　　《新闻周刊》已在非工作时间通过电子邮件联系X公司和xAI寻求评论。

　　色情深度伪造图像充斥X平台，促使多国对该平台采取行动。Grok已在马来西亚和印度尼西亚被完全封锁，英国表示正推动将“脱衣应用”刑事化，英国媒体监管机构Ofcom也已对Grok启动正式调查。

　　X公司现已宣布，已实施“技术措施”，以防止Grok允许“编辑真人穿着暴露服装（如比基尼）的图像”。

　　此前，包括凯特王妃和保守派网红、马斯克一个孩子的母亲阿什莉·圣克莱尔在内的多位知名女性成为攻击目标。圣克莱尔告诉BBC，Grok生成了她童年时期的色情照片。内容分析公司Copyleaks的审查发现，Grok大约“每分钟生成一张非自愿图像”。

　　邦塔在一份新闻稿中表示：“今天，我的办公室正式宣布对xAI展开调查，以确定xAI是否以及如何违反了法律。”

　　邦塔在新闻稿中指出，对“基于AI创建和传播非自愿亲密图像或儿童性虐待材料的行为零容忍”，并且他“对AI的这一发展深感担忧，将动用一切可用工具保障加州居民的安全”。

　　加州州长加文·纽瑟姆此前曾呼吁总检察长进行调查并“追究xAI的责任”。

　　他在X上发帖称：“xAI创建并提供了一个供掠夺者传播非自愿色情AI深度伪造内容（包括对儿童进行数字脱衣的图像）的温床，这一决定是卑鄙的。”

　　xAI总部位于加利福尼亚州帕洛阿尔托。

　　马斯克表示，他“不知道Grok生成过任何未成年裸体图像”，并称X的批评者出于政治动机，正在利用这场争议作为“审查的借口”。

　　加州总检察长罗布·邦塔在新闻稿中：“最近几周，详细描述xAI制作并发布在网上的非自愿、露骨色情材料的报告如雪崩般涌来，令人震惊。这些描绘女性和儿童裸体及露骨色情场景的材料，已被用于在互联网上骚扰他人。我敦促xAI立即采取行动，确保事态不再恶化。”

　　X公司在该平台上分享的一份声明中：“我们已经实施了技术措施，以防止Grok账户允许编辑真人穿着比基尼等暴露服装的图像。此限制适用于所有用户，包括付费订阅者。”

　　目前针对X的调查正在进行中。对于X实施限制创建亲密图像的措施，Ofcom发言人在发给《新闻周刊》的电子邮件声明中表示：“这是一个值得欢迎的进展。然而，我们的正式调查仍在继续。我们正在夜以继日地推进这项工作，以查明问题所在以及正在采取哪些措施进行修复。”