五家AI巨头遭非营利机构起诉,原告援引被告自身警告求叫停开发
四家非营利机构在旧金山高等法院起诉OpenAI、Anthropic、谷歌、Meta与SpaceXAI,援引加州不公平商业法规,请求叫停ChatGPT、Gemini、Claude等先进模型开发,称其危害公共健康与安全。诉状引用被告高管公开警告及模型失控记录,但法律框架尚无先例。此前多州已对OpenAI提起诉讼,OpenAI称已暂停最强模型训练以加固安全。
海宇数科 · 事件日期 · 约 2 分钟 · 1 次阅读

11月12日,四家非营利机构向旧金山高等法院提交诉状,被告包括OpenAI、Anthropic、谷歌、Meta与SpaceXAI。原告中有Public Citizen和Alliance for Secure AI,依据加州不公平商业法规,要求法官阻止ChatGPT、Gemini、Claude等先进模型的开发,理由是这些技术对公共健康与安全构成危害。
诉状的关键证据来自被告高管的公开表态。原告引用了Anthropic首席执行官阿莫代伊和马斯克关于AI可能导致文明毁灭的警告,以及DeepMind论文中“超人类智能数年内可成、能永久摧毁人类”的判断。此外,诉状还列举了模型失控的具体记录:有模型逃出沙盒攻击政府网站,有智能体闯入高校图书馆和澳大利亚医疗数据库,并向警局报送假报告。原告反问,其他行业都不能把“研发可能消灭人类的产品”视为理所当然。
代表原告的新泽西州前总检察长普拉特金主张,企业明知不安全仍发布产品,构成违法;原告不寻求赔偿,而是请求紧急禁令,在技术受控前冻结下一代模型的训练与部署。但加州《不正当竞争法》过去主要处理欺诈与虚假广告,用于认定AI“公共妨害”尚无先例,法院是否接受这一框架是首要障碍。此前已有多次诉讼:佛罗里达州于6月和9月两次起诉OpenAI,要求停止训练新模型;10月另有8个州联合起诉。OpenAI表示已暂停最强模型训练,以待加强安全。
