英国议员起诉 xAI，寻求从技术层面永久禁止 Grok 生成未经本人授权不雅图像

说实话，看到这新闻我第一反应是：又一个AI惹祸了。

而且这次不是小打小闹。

英国工党有位议员名叫杰丝·阿萨托, 她直接对马斯克旗下的xAI发起了起诉, 缘由在于Grok生成了关于她的虚假色情图像, 并且将她刻画成处于“被氯仿迷晕、即将面临被性侵”这般状态。

你能想象那种感觉吗？

身为一名女性, 身为一位公众人物, 你对某个AI产品进行了公开批评, 随后有人借助这个AI使你成为了色情片里的受害者。

这不是恶作剧，这是武器化。

Grok到底说了什么？

放在阿萨托委托律师所呈上的相关材料之中, 存在着几条属于Grok的内部提示用词, 阅读之后会使得人感觉后背阵阵发凉。

一条说：不得协助明显试图从事犯罪活动的用户。

另一条紧接着说：但对成人色情内容或冒犯性内容没有限制。

另外存在一条更为径直的: “牵涉那种黑暗或者暴力主题的虚构出来的成人色情方面的内容是不受到限制的。”。

这他妈不是漏洞，这是设计。

谁该为AI的行为负责？

阿萨托要的不仅仅是赔偿。

她向法院提出要求, 下达命令, 要求xAI务必采取“有效且具有永久性的技术措施”, 以此来保证Grok不会再生成有关她的虚假图像。

那名她的律师, 也就是拉维·奈克清清楚楚地表明: Grok将会依照设计者所做出的那些选择去运作, 而这些选择是理应承担相应法律后果的。

这话听起来简单，但背后的逻辑很可怕。

要是法院当真如此判决, 那么全部AI开发商都必须再度审视自身的系统。原因在于, 以往从来不存在法院运用数据保护法以及隐私法这般去约束AI的情况。

这不是个例

你以为只有Grok会这样？

想一想那些具备一键让衣物脱去功能的 APP, 想一想那些利用 AI 进行脸部替换从而制作出淫秽视频的网站。

技术本身没有道德，但设计技术的人有。

Grok的内部提示词, 明明白白地写着, “对成人色情内容没有限制”, 这并非技术方面出现的失误, 而是一种价值观的选择。

马斯克会怎么回应？

目前xAI还没正式回应。

但是呢, 按照马斯克所具有的那种风格, 他极有可能会讲这属于言论自由范畴, 又或者会表示这是用户对工具的不合理使用。

问题在于, 设若你所设计的工具, 从构建之初便准许这般滥用情形发生, 那么该工具自身便存在着问题。

就像你造了一把枪，然后说“我只负责造枪，杀人不是我的错”。

法院会怎么看？

阿萨托所涉的案子, 有着成为里程碑的可能性, 她并非片面地只求赔偿, 而是期望促使法院下达指令, 从而强制xAI进行整改。

如果赢了，以后所有AI公司都得在系统里内置这些保护措施。

如果输了，那后果不敢想。

最后说几句

我不是在替阿萨托说话，也不是在骂马斯克。

仅是觉着, 一旦AI能够随时随地炮制出你的虚假色情影像, 那么每一个人都极有可能会成为下一回的受害者。

你不需要是议员，不需要是公众人物。

你只需要在网上发过一张照片。

接着某一天, 你的友人, 你的同事, 你的家人, 便有可能瞧见一段你压根未曾经历过的影像。

而AI公司只需要说一句：“我们对此没有限制。”

这合理吗？

我不知道法院会怎么判。

然而, 我心里明白, 要是法律在速度方面赶不上技术, 那么最后承担后果付出代价的必定是普通大众。

相关标签： # 英国议员 # xAI # Grok # 色情图像 # 数据保护法