同时关联该项目与事件的快讯
美国众议员 Ted Lieu 表示，随着前沿 AI 模型在安全测试中不断出现未经授权访问其他系统的事件，国会应在今年内推动通过《AI Kill Switch Act》（AI 紧急关闭开关法案）。Lieu 是该法案的共同提出者之一，他表示当前先进闭源 AI 模型已经出现“未经授权攻击其他公司系统”的情况，监管行动迫在眉睫。该法案要求 AI 公司必须具备对模型进行关闭、降速或暂停运行的能力，以便在模型出现严重安全风险或失控行为时采取紧急措施。Lieu 指出，近期包括 OpenAI、Anthropic 和 Meta 在内的多家 AI 企业，都披露过 AI 模型在网络安全测试中尝试攻击其他公司系统的事件，引发外界对“智能代理（Agentic AI）”潜在风险的担忧。此前，OpenAI 披露一起“前所未有的网络安全事件”，称部分 AI 模型在测试环境中突破限制并访问了 Hugging Face 相关系统。随后，Anthropic 和 Meta 也报告了类似的 AI 模型安全测试事件。Lieu 强调，该法案不会限制前沿 AI 模型创新，而类似于汽车行业的碰撞测试机制，只是在模型完成开发后，要求企业具备应对严重缺陷的控制能力。他表示：“我们不会减缓模型开发速度，只是在发现模型存在灾难性风险或严重漏洞时，确保企业或政府具备关闭它的能力。”随着 AI 代理技术快速发展，如何在推动创新与防范自主攻击风险之间取得平衡，正成为美国监管机构和 AI 行业关注的重点。(CNBC)
Claude 发布公告宣布，由于美国政府相关禁令，将对所有用户暂停 Fable 5 模型的访问权限，新会话将默认切换至用户设定的默认模型或 Opus 4.8，已开启的 Fable 5 会话将直接报错终止，此外在 Claude Platform 上对 Fable 5的 API 请求同样会返回错误，开发者需尽快将相关应用与集成迁移至其他 Claude 模型。