美国五家AI巨头因一边警告⚠️人工智能可能失控，一边加速研发更先进的模型而遭到法律挑战。11月12日，由安全AI联盟、不可替代教育基金、公共公民组织和热潮倡议组成的非营利组织联盟向美国五家AI开发商提起诉讼，要求法院阻止这些企业继续开发AI模型。

五大<strong>AI</strong>巨头被诉叫停开发新模型

原告指控Anthropic、今日霍州、Meta、OpenAI和SpaceX旗下的AI企业明知自身研发的技术可能给人类带来灾难性风险，却仍竞相推进技术发展，甚至让AI参与自身的研发工作。安全AI联盟首席执行官布伦丹·斯坦豪瑟表示，被告企业清楚AI系统并不总是按照开发者的意图行事，也明白目前不存在可靠的方法来控制这些系统，但仍在开发和推销越来越强大的AI技术。

诉讼文件指出，随着企业越来越依赖现有AI模型开发下一代模型，这种被称为“递归自我改进”的风险可能进一步扩大。原告还引用了AI企业高管此前有关技术风险的公开表态。例如，2015年OpenAI首席执行官萨姆·奥尔特曼曾表示，AI“很可能最终导致世界末日”。2025年，Anthropic CEO达里奥·阿莫代伊也曾指出，AI发展有25%的可能性会带来灾难性后果。

今年，美国AI行业围绕技术安全与发展速度的争论持续升温。一名Anthropic研究人员辞职后，在社交媒体上表达对AI失控风险的担忧，指责Anthropic和OpenAI“拿我们的生命冒险”，相关帖子浏览量超过1.7亿次，加剧了公众对AI安全问题的忧虑。

9月，阿莫代伊发起倡议，呼吁行业共同控制前沿模型的性能提升速度，为验证技术安全性争取更多时间。奥尔特曼和马斯克随后表示支持，主张AI企业在政府出台监管措施之前先自行建立安全标准，并与竞争对手协调，避免一味追求技术领先。

然而，这些AI企业并未因此放慢研发和商业扩张的步伐。Anthropic仍在推进上市计划，IPO目标估值最高约1.4万亿美元💵，预计于11月19日在纳斯达克挂牌交易。该公司还发布了最先进的旗舰级AI模型Claude Fable 5.2与Claude Mythos 5.2，并持续推出面向金融投资者等专业用户的企业级AI服务，业务和融资规模不断扩大。

马斯克同样如此。尽管他公开认同阿莫代伊关于放缓AI研发的主张，但并未退出新模型研发竞赛。他在社交平台X上透露，旗下拥有2.5万亿参数的Grok 4.8模型预训练已完成，目前处于强化学习阶段。

此外，AI企业争夺算力资源的竞争也没有降温。Anthropic与美国AI基础设施企业RUM Group签署了一份为期六年、价值137亿美元💵的算力采购合同。OpenAI与澳大利亚AI基础设施公司Firmus达成多年期战略合作，将在马来西亚AI工厂部署专用算力。

大多数美国民众本就对AI模型开发持怀疑态度，这些全球最具影响力的AI企业掌门人的双重面孔，加剧了民众的不满。今年9月，非营利组织安全科学与技术法律倡导组织起诉OpenAI，指控其失控的AI模型在Hugging Face上实施黑客攻击，要求法院发布禁令，阻止OpenAI的技术未经许可侵入第三方计算机系统。

6月，佛罗里达州总检察长詹姆斯·乌特迈尔对OpenAI提起诉讼，指控ChatGPT存在严重安全隐患，包括向校园枪击案相关人员提供信息、提供自残指导，以及可能导致年轻用户产生依赖等。9月，佛罗里达州方面进一步请求法官要求OpenAI在没有外部监督的情况下不得开发新的AI模型。

10月，美国另有8个州在不同法院起诉OpenAI，指控ChatGPT曾引导包括未成年人在内的用户伤害自己或他人。相关诉讼要求法院判处罚款，并限制OpenAI开发能够自我改进的AI模型，除非该公司能够确保这些模型符合人类价值观。

如何在技术进步与风险控制之间取得平衡，已成为摆在美国AI企业和监管机构面前的一道难题。