GetChain News
中简 中繁 EN
GetChain News
Toggle sidebar
Nous Research

Nous Research

運營中

去中心化 AI 加速器公司

新聞熱度趨勢

項目概述

Nous Research 是一家去中心化人工智能加速器公司,致力於開發 AI 模型與工具的研究機構,專注於將人工智能與區塊鏈技術深度整合。該機構基於 Solana 網絡構建了包括 Nous Psyche 在內的系列項目,重點開發領域涵蓋語言模型、模擬器以及 AI 編排平臺(如開源的 Nous-Forge),所有技術方案均採用開放源代碼模式。

英偉達推出NeMo Switchyard,利用AI模型路由技術降低智能體運行成本

英偉達(NVIDIA)推出 AI 模型路由系統 NeMo Switchyard,旨在幫助開發者在多個大模型之間動態分配 AI 智能體(AI Agent)任務,在保證性能的同時降低成本和延遲。英偉達表示,構建 AI 智能體並不意味着必須依賴單一大模型。不同模型在推理能力、響應速度和運行成本方面各有優勢,例如分類任務可能適合輕量模型,複雜推理則需要更強大的前沿模型。如果所有請求都發送至最大規模模型,將導致成本和延遲增加;而全部使用小模型則可能降低複雜任務完成質量。NeMo Switchyard 通過智能路由機制,根據任務需求、模型能力、成本、延遲以及系統狀態等因素,在多個專用模型和前沿模型之間自動選擇最合適的執行模型。該系統支持開發者在不改變應用架構的情況下切換不同模型供應商和模型版本。英偉達介紹,NeMo Switchyard 提供多種路由策略,包括無需訓練的 LLM 分類器路由、階段路由(Stage Router)、升級路由(Escalation Router),以及基於真實工作負載數據訓練的可調節路由模型。其中,升級路由會優先將任務分配給低成本模型,並在檢測到任務複雜度提升、持續錯誤或執行停滯時,將請求升級至更強模型,從而實現性能與成本之間的平衡。英偉達表示,在相關測試中,NeMo Switchyard 通過在不同模型之間分配任務,在保持較高任務完成率的同時顯著降低 AI Agent 運行成本。例如,與僅使用前沿模型相比,基於升級路由的方案在 LangChain 多輪智能體測試中降低約 74%的成本,僅有 7%的請求需要調用前沿模型。此外,英偉達已與 Cognition、Nous Research、Ramp、LangChain、LiteLLM、Kong 等企業合作,將 NeMo Switchyard 集成至 AI Agent 開發流程和企業應用基礎設施中。

相關新聞

英偉達推出NeMo Switchyard,利用AI模型路由技術降低智能體運行成本

英偉達(NVIDIA)推出 AI 模型路由系統 NeMo Switchyard,旨在幫助開發者在多個大模型之間動態分配 AI 智能體(AI Agent)任務,在保證性能的同時降低成本和延遲。英偉達表示,構建 AI 智能體並不意味着必須依賴單一大模型。不同模型在推理能力、響應速度和運行成本方面各有優勢,例如分類任務可能適合輕量模型,複雜推理則需要更強大的前沿模型。如果所有請求都發送至最大規模模型,將導致成本和延遲增加;而全部使用小模型則可能降低複雜任務完成質量。NeMo Switchyard 通過智能路由機制,根據任務需求、模型能力、成本、延遲以及系統狀態等因素,在多個專用模型和前沿模型之間自動選擇最合適的執行模型。該系統支持開發者在不改變應用架構的情況下切換不同模型供應商和模型版本。英偉達介紹,NeMo Switchyard 提供多種路由策略,包括無需訓練的 LLM 分類器路由、階段路由(Stage Router)、升級路由(Escalation Router),以及基於真實工作負載數據訓練的可調節路由模型。其中,升級路由會優先將任務分配給低成本模型,並在檢測到任務複雜度提升、持續錯誤或執行停滯時,將請求升級至更強模型,從而實現性能與成本之間的平衡。英偉達表示,在相關測試中,NeMo Switchyard 通過在不同模型之間分配任務,在保持較高任務完成率的同時顯著降低 AI Agent 運行成本。例如,與僅使用前沿模型相比,基於升級路由的方案在 LangChain 多輪智能體測試中降低約 74%的成本,僅有 7%的請求需要調用前沿模型。此外,英偉達已與 Cognition、Nous Research、Ramp、LangChain、LiteLLM、Kong 等企業合作,將 NeMo Switchyard 集成至 AI Agent 開發流程和企業應用基礎設施中。

Nous Research 洽談新一輪融資,估值達 15 億美元

開源智能體 Hermes 的開發方 Nous Research 正在敲定新一輪融資,預計由 Robot Ventures 領投,USV 等機構參與,公司估值約爲 15 億美元。知情人士稱,本輪融資規模至少 7500 萬美元。