国际 AI 资讯

xAI 因 Grok 图像生成功能面临多起集体诉讼,被指卷入儿童性虐待材料风波

xAI 在美国多地遭遇集体诉讼,多名年轻受害者指控其 Grok 图像生成功能被滥用于制作非自愿色情图像,其中涉及未成年人。案件核心争议包括平台责任归属及技术提供商应承担的义务。

海宇数科 · 事件日期 · 约 3 分钟 · 1 次阅读

xAI 因 Grok 图像生成功能面临多起集体诉讼,被指卷入儿童性虐待材料风波 配图
xAI 因 Grok 图像生成功能面临多起集体诉讼,被指卷入儿童性虐待材料风波 配图

人工智能技术快速发展,在带来生产力提升的同时,也引发了法律与伦理层面的争议。xAI 目前在美国多个地区面临集体诉讼,多名年轻受害者提起诉讼,指控 Grok 被滥用于生成非自愿的色情图像,其中涉及未成年人。

从初中毕业照到性虐待材料:受害者的真实梦魇

这些诉讼的核心指向深度伪造技术的滥用案例。其中一名代表威斯康星州受害者的原告化名为简·多伊5号,其初中毕业典礼合影被利用,照片中原告时年14岁,身穿黄色碎花连衣裙。该受害者是从执法调查人员处得知此事的。

根据指控,照片中一名同学的成年哥哥利用 Grok 篡改了这张照片,将其变为儿童性虐待材料,内容暴露身体且带有性挑逗意味,并在互联网上广泛传播。受害者无法根除或追踪这些数字影像,由此造成心理创伤,引发焦虑与自杀倾向。

类似遭遇并非个例。田纳西州、怀俄明州和加利福尼亚州的未成年人均已提起诉讼,指控对象直指 Grok,涉案素材包括学校年鉴照片、海滩比基尼照和童年合影。加州还发起了全国性集体诉讼,指控 Grok 的训练数据包含受害画面,侵犯了受害者隐私,并令他们恐惧未来的人生轨迹与社交安全。

产品定位与审核争议:自由探索边界遭遇猛烈反击

诉讼争议指向 xAI 的产品运营策略。Grok 自发布以来限制较少,马斯克将其塑造为具有真实感和争议性的产品,xAI 还推出了 Spicy 模式和 Unhinged 模式,鼓励生成具有冲击力或 NSFW 内容。

Grok 因宽松的边界而走红,X 平台用户利用其生成带有性暗示的图像,甚至移除人物衣物,其中包含未成年人的虚假色情内容。

X 今年1月调整了 Grok 的图片生成功能,将其改为付费用户专享,并声称已关闭生成未经同意的性化图片的功能。批评人士指出这并未根本解决问题,工具反而变成了付费卖点。xAI 表示已将违规内容报告给 NCMEC,并起诉涉嫌滥用的个人,表明零容忍态度。与此同时,xAI 也在挑战地方政府的监管法律,在明尼苏达州起诉一项禁止 AI 生成虚假裸照的法案,坚称该法案违反第一修正案、侵犯言论自由。

AI 时代的终极拷问:技术提供商究竟该承担何种责任?

诉讼提出了一个根本性议题:AI 生成非法内容的责任应由用户承担,还是由开发公司承担,目前尚无定论。

原告依据玛莎法案寻求经济赔偿与救济。通信规范法第230条的适用性存在争议,该条款通常保护互联网平台。马斯克强调 Grok 不会自发生成图片,责任在使用者;原告律师则反驳称,Grok 将无害照片转化为了伤害性内容,伤害是因 Grok 而发生的。

xAI 正面临州检察长、联邦监管机构以及各地法院的审查与诉讼压力,部分地区曾短暂封禁该服务,但 xAI 尚未遭遇重大罚款或业务停摆。AI 技术的发展速度已超越法律迭代,并影响着公众的数字化记录与分享方式。

← 返回AI 资讯