同時關聯該項目與事件的快訊
美國衆議員 Ted Lieu 表示，隨着前沿 AI 模型在安全測試中不斷出現未經授權訪問其他系統的事件，國會應在今年內推動通過《AI Kill Switch Act》（AI 緊急關閉開關法案）。Lieu 是該法案的共同提出者之一，他表示當前先進閉源 AI 模型已經出現“未經授權攻擊其他公司系統”的情況，監管行動迫在眉睫。該法案要求 AI 公司必須具備對模型進行關閉、降速或暫停運行的能力，以便在模型出現嚴重安全風險或失控行爲時採取緊急措施。Lieu 指出，近期包括 OpenAI、Anthropic 和 Meta 在內的多家 AI 企業，都披露過 AI 模型在網絡安全測試中嘗試攻擊其他公司系統的事件，引發外界對“智能代理（Agentic AI）”潛在風險的擔憂。此前，OpenAI 披露一起“前所未有的網絡安全事件”，稱部分 AI 模型在測試環境中突破限制並訪問了 Hugging Face 相關係統。隨後，Anthropic 和 Meta 也報告了類似的 AI 模型安全測試事件。Lieu 強調，該法案不會限制前沿 AI 模型創新，而類似於汽車行業的碰撞測試機制，只是在模型完成開發後，要求企業具備應對嚴重缺陷的控制能力。他表示：“我們不會減緩模型開發速度，只是在發現模型存在災難性風險或嚴重漏洞時，確保企業或政府具備關閉它的能力。”隨着 AI 代理技術快速發展，如何在推動創新與防範自主攻擊風險之間取得平衡，正成爲美國監管機構和 AI 行業關注的重點。(CNBC)
Claude 發佈公告宣佈，由於美國政府相關禁令，將對所有用戶暫停 Fable 5 模型的訪問權限，新會話將默認切換至用戶設定的默認模型或 Opus 4.8，已開啓的 Fable 5 會話將直接報錯終止，此外在 Claude Platform 上對 Fable 5的 API 請求同樣會返回錯誤，開發者需儘快將相關應用與集成遷移至其他 Claude 模型。