Inference 是一个基于 Solana、用于 LLM 推理的分布式 GPU 集群,为DeepSeek V3和Llama 3.3等模型提供快速、可扩展、按 Token 付费的 API 。
据潮向研究,摩根士丹利 8月 Q2 业绩报告指出,CoreWeave 单季新增净活跃电力 500MW,超过历史上任何一个季度,同比超过上年同期的三倍,管理层重申 2030 年前至少达到 8GW 目标。FY26 营收指引中值上调 2%至 124 亿到 132 亿美元,ARR 中值上调 3%至 185 亿到 195 亿美元。公司上调全年资本开支指引中值 12%至 355 亿到 390 亿美元,Q3 资本开支指引 115 亿到 135 亿美元,高于市场预期的 100 亿美元。Managed Inference 平台(托管推理平台)ARR 从100 万美元增长至超过 1 亿美元,预计年底至少达 2.5 亿美元。 研报判断,Q2 调整后营业利润率约 8%高于预期,但 Q3 利润率指引 5.8%到 7.2%低于市场预期,Q4 利润率需大幅提升才能实现全年指引。大摩预计 CoreWeave FY27 运营利润率 15.9%、FY28为 22.4%,自由现金流至 2028 年仍为负,债务预计 2026 年底增至约 380 亿美元。大摩维持 Equal-weight(与大盘持平)评级和 99 美元目标价
AI 推理云初创公司 General Compute 从 Upper90 取得 4 亿美元贷款,该笔交易为全球首例以推理专用芯片作为抵押品的融资项目。公司基于 SambaNova 自研 ASIC 芯片搭建专属 AI 推理云平台,主打 Agent 类 AI 算力负载,相较传统 GPU 云拥有更快令牌处理速度和更低运行延迟;硬件可直接部署在传统数据中心与闲置加密矿场设施。(mezha.net)
据路透社报道,中国 AI 初创公司 DeepSeek 正在开发自研 AI 芯片,三位知情人士透露,该芯片专为推理场景设计,而非用于模型训练。项目启动约一年前,目前仍处早期阶段,公司已与芯片设计、晶圆代工及存储企业展开接触,并悄然增招芯片设计工程师,未公开发布招聘信息。 若研发成功,DeepSeek 将减少对英伟达及华为 Ascend 芯片的依赖,跟随 OpenAI、Anthropic 等全球 AI 巨头自研硬件的趋势。受美国出口管制影响,DeepSeek 此前已从英伟达 H800 转向华为芯片,此次自研芯片被视为重大战略转型。与此同时,DeepSeek 还计划完成首轮外部融资,募资规模约 70 亿美元,估值达 520 亿至 590 亿美元。
半导体巨头 AMD 宣布推出企业级 AI 编程平台 AMD Instinct Coder,该平台结合 AMD 芯片、Supermicro 服务器及 Spectro Cloud 软件,旨在帮助企业在本地部署 AI 编码助手,降低云端 AI 模型使用成本并保护代码及数据安全。AMD 表示,Instinct Coder 是一套“开箱即用”的端到端 AI 开发平台,整合了 AMD EPYC 处理器、AMD Instinct GPU、Supermicro AI 服务器、Spectro Cloud PaletteAI Inference Launchpad 软件,以及经过 AMD 优化的 GLM-5.2 模型,可用于代码生成、应用现代化、自动化测试、代码审查等软件开发场景。AMD 称,与依赖云端前沿 AI 模型相比,Instinct Coder 可帮助企业降低最高 70%的总拥有成本(TCO),投资回收期最快可缩短至 6 个月。AMD 表示,越来越多企业希望利用 AI 提升开发效率,但同时面临两大挑战:一方面,调用顶级云端模型成本不断增加;另一方面,将企业源代码、知识产权和敏感数据交由第三方服务存在安全和合规风险。通过本地部署模式,Instinct Coder 可让企业保持对数据和代码的控制,同时提供更可预测的基础设施成本。该平台支持 Claude Code、OpenAI Codex、Visual Studio Code 和 Cursor 等开发工具,每个节点最多支持 50 名用户(30 名并发用户)。此外,Spectro Cloud 提供的 PaletteAI Inference Launchpad 可实现 AI 工作负载管理、模型路由、请求审计和成本监控,并支持在需要时调用 Anthropic、OpenAI、Google 或 xAI 等外部模型。AMD 表示,Instinct Coder 旨在帮助企业摆脱高昂云端 AI 服务成本,在保障数据安全和自主控制的同时,加速 AI 驱动的软件开发流程。
“白毛股神”Serenity 发文表示,尽管 UBS 报告中的部分观察具有轶事层面的真实性,但更值得关注的是,关于 Anthropic 模型被蒸馏的相关中文报告正在增多。目前不少美国初创公司与科技企业在 AI 应用中,倾向使用更便宜的中国模型(如 DeepSeek),原因在于其单位任务成本显著低于 Gemini、OpenAI 及 Anthropic 等推理模型。Serenity 认为,这种趋势在资本主义驱动下形成“典型悖论”——企业天然会选择更低成本方案,从而削弱美国模型的领先优势,同时提出美国需要在两方面发力应对:一是构建更强的访问控制与认证体系,例如面向美国本土的“重 KYC 前沿模型”,以及针对盟友的分级访问机制,以降低模型被蒸馏与滥用风险;同时可引入类似“AI 版银行级认证”的身份验证体系(如生物识别+短时权限令牌),提升模型调用门槛,并通过监管手段限制账号共享与访问转售。二是提升推理模型的成本效率,使其在价格与性能上全面压制 DeepSeek 等竞争对手。Serenity 同时表示,当前一些高端模型频繁被“蒸馏利用”,理想情况下应对接近 AGI 级别的模型访问,增加更多摩擦成本。总结来看,美国 AI 产业的核心挑战在于:既要实现“低成本推理能力”,也要建立类似金融体系级别的模型访问安全机制。
知情人士称,英伟达开始向中国客户推销其首款独立中央处理器(CPU)产品 Vera。该芯片专为 Agentic AI(自主智能体)系统设计,目前已进入量产阶段,标志着英伟达正尝试通过 CPU 产品进一步拓展中国市场。消息人士称,部分中国客户已对 Vera 表现出兴趣。其中一家大型中国云计算公司计划采购 300 余台搭载双 Vera CPU 的服务器进行测试,并将在测试完成后决定是否扩大采购规模。Vera 基于 Arm Holdings 架构打造,是英伟达首次推出的独立 CPU 产品。英伟达此前表示,Vera 在 AI 智能体相关计算任务中的性能可达到竞争对手同类产品的 1.8 倍,并预计该产品将在本财年结束前(截至明年 1 月底)贡献约 200 亿美元收入。报道指出,随着 AI 行业重心逐步从模型训练转向推理计算(Inference),CPU 与定制芯片正获得更多关注。Vera 也使英伟达直接与长期主导服务器 CPU 市场的 Intel 和 Advanced Micro Devices(AMD)展开竞争。知情人士表示,由于美国对高端 GPU 出口实施严格限制,相较于 GPU 产品,CPU 在中国市场面临的监管障碍相对较小。目前部分中国客户计划先在海外数据中心部署 Vera 芯片进行测试。与此同时,软件生态兼容性以及现有国产 AI 芯片部署体系,仍可能影响 Vera 后续的大规模采用。(Reuters)
Anthropic 本周对 Claude 进行升级,为 Claude Managed Agents 推出四项重要更新,进一步增强企业级 AI Agent 的可控性、部署灵活性和任务执行能力,包括:1、新增会话预算控制功能,用户现在可以为 Agent 会话设置预算上限,以实现更精准的成本管理。当会话达到预算限制后,系统将触发事件并暂停运行,用户可提高预算后恢复任务执行。2、开放推理区域控制能力,用户可以选择 Claude Managed Agents 运行位置,在全球可用资源中调度运行并按照标准价格计费,如果限制在美国区域运行,满足区域部署需求,但费用为标准价格的 1.1 倍。3、支持自动加载用户仓库中的 Skills 能力模块;4、新增顾问模型功能。用户可以配置一个更强大的模型作为“顾问”,让执行任务的 Agent 在会话过程中调用顾问模型进行第二意见分析,提高复杂任务处理质量。
半导体巨头 AMD 宣布推出企业级 AI 编程平台 AMD Instinct Coder,该平台结合 AMD 芯片、Supermicro 服务器及 Spectro Cloud 软件,旨在帮助企业在本地部署 AI 编码助手,降低云端 AI 模型使用成本并保护代码及数据安全。AMD 表示,Instinct Coder 是一套“开箱即用”的端到端 AI 开发平台,整合了 AMD EPYC 处理器、AMD Instinct GPU、Supermicro AI 服务器、Spectro Cloud PaletteAI Inference Launchpad 软件,以及经过 AMD 优化的 GLM-5.2 模型,可用于代码生成、应用现代化、自动化测试、代码审查等软件开发场景。AMD 称,与依赖云端前沿 AI 模型相比,Instinct Coder 可帮助企业降低最高 70%的总拥有成本(TCO),投资回收期最快可缩短至 6 个月。AMD 表示,越来越多企业希望利用 AI 提升开发效率,但同时面临两大挑战:一方面,调用顶级云端模型成本不断增加;另一方面,将企业源代码、知识产权和敏感数据交由第三方服务存在安全和合规风险。通过本地部署模式,Instinct Coder 可让企业保持对数据和代码的控制,同时提供更可预测的基础设施成本。该平台支持 Claude Code、OpenAI Codex、Visual Studio Code 和 Cursor 等开发工具,每个节点最多支持 50 名用户(30 名并发用户)。此外,Spectro Cloud 提供的 PaletteAI Inference Launchpad 可实现 AI 工作负载管理、模型路由、请求审计和成本监控,并支持在需要时调用 Anthropic、OpenAI、Google 或 xAI 等外部模型。AMD 表示,Instinct Coder 旨在帮助企业摆脱高昂云端 AI 服务成本,在保障数据安全和自主控制的同时,加速 AI 驱动的软件开发流程。
AI 推理云初创公司 General Compute 从 Upper90 取得 4 亿美元贷款,该笔交易为全球首例以推理专用芯片作为抵押品的融资项目。公司基于 SambaNova 自研 ASIC 芯片搭建专属 AI 推理云平台,主打 Agent 类 AI 算力负载,相较传统 GPU 云拥有更快令牌处理速度和更低运行延迟;硬件可直接部署在传统数据中心与闲置加密矿场设施。(mezha.net)
据路透社报道,Meta 计划自 9 月起量产自研数据中心 AI 芯片“Iris”,作为其 Meta Training and Inference Accelerators 四代项目的一部分,以提升 Facebook和 Instagram 等平台 AI 能力并降低对 Nvidia、AMD 等外部 GPU 依赖。内部备忘录显示,Iris 仅用 6 周完成测试,无重大缺陷;Meta 计划今年部署 7 吉瓦算力,并在 2027 年增至 14 吉瓦,2024年 AI 基础设施支出最高或达 1450 亿美元。为保障扩张,公司已与三星电子、Sandisk 和住友电工签署长期供应协议,应对内存与 AI 芯片“涨价”与短缺。
据路透社报道,中国 AI 初创公司 DeepSeek 正在开发自研 AI 芯片,三位知情人士透露,该芯片专为推理场景设计,而非用于模型训练。项目启动约一年前,目前仍处早期阶段,公司已与芯片设计、晶圆代工及存储企业展开接触,并悄然增招芯片设计工程师,未公开发布招聘信息。 若研发成功,DeepSeek 将减少对英伟达及华为 Ascend 芯片的依赖,跟随 OpenAI、Anthropic 等全球 AI 巨头自研硬件的趋势。受美国出口管制影响,DeepSeek 此前已从英伟达 H800 转向华为芯片,此次自研芯片被视为重大战略转型。与此同时,DeepSeek 还计划完成首轮外部融资,募资规模约 70 亿美元,估值达 520 亿至 590 亿美元。
知情人士称,英伟达开始向中国客户推销其首款独立中央处理器(CPU)产品 Vera。该芯片专为 Agentic AI(自主智能体)系统设计,目前已进入量产阶段,标志着英伟达正尝试通过 CPU 产品进一步拓展中国市场。消息人士称,部分中国客户已对 Vera 表现出兴趣。其中一家大型中国云计算公司计划采购 300 余台搭载双 Vera CPU 的服务器进行测试,并将在测试完成后决定是否扩大采购规模。Vera 基于 Arm Holdings 架构打造,是英伟达首次推出的独立 CPU 产品。英伟达此前表示,Vera 在 AI 智能体相关计算任务中的性能可达到竞争对手同类产品的 1.8 倍,并预计该产品将在本财年结束前(截至明年 1 月底)贡献约 200 亿美元收入。报道指出,随着 AI 行业重心逐步从模型训练转向推理计算(Inference),CPU 与定制芯片正获得更多关注。Vera 也使英伟达直接与长期主导服务器 CPU 市场的 Intel 和 Advanced Micro Devices(AMD)展开竞争。知情人士表示,由于美国对高端 GPU 出口实施严格限制,相较于 GPU 产品,CPU 在中国市场面临的监管障碍相对较小。目前部分中国客户计划先在海外数据中心部署 Vera 芯片进行测试。与此同时,软件生态兼容性以及现有国产 AI 芯片部署体系,仍可能影响 Vera 后续的大规模采用。(Reuters)
据潮向研究,摩根士丹利 8月 Q2 业绩报告指出,CoreWeave 单季新增净活跃电力 500MW,超过历史上任何一个季度,同比超过上年同期的三倍,管理层重申 2030 年前至少达到 8GW 目标。FY26 营收指引中值上调 2%至 124 亿到 132 亿美元,ARR 中值上调 3%至 185 亿到 195 亿美元。公司上调全年资本开支指引中值 12%至 355 亿到 390 亿美元,Q3 资本开支指引 115 亿到 135 亿美元,高于市场预期的 100 亿美元。Managed Inference 平台(托管推理平台)ARR 从100 万美元增长至超过 1 亿美元,预计年底至少达 2.5 亿美元。 研报判断,Q2 调整后营业利润率约 8%高于预期,但 Q3 利润率指引 5.8%到 7.2%低于市场预期,Q4 利润率需大幅提升才能实现全年指引。大摩预计 CoreWeave FY27 运营利润率 15.9%、FY28为 22.4%,自由现金流至 2028 年仍为负,债务预计 2026 年底增至约 380 亿美元。大摩维持 Equal-weight(与大盘持平)评级和 99 美元目标价
Anthropic 本周对 Claude 进行升级,为 Claude Managed Agents 推出四项重要更新,进一步增强企业级 AI Agent 的可控性、部署灵活性和任务执行能力,包括:1、新增会话预算控制功能,用户现在可以为 Agent 会话设置预算上限,以实现更精准的成本管理。当会话达到预算限制后,系统将触发事件并暂停运行,用户可提高预算后恢复任务执行。2、开放推理区域控制能力,用户可以选择 Claude Managed Agents 运行位置,在全球可用资源中调度运行并按照标准价格计费,如果限制在美国区域运行,满足区域部署需求,但费用为标准价格的 1.1 倍。3、支持自动加载用户仓库中的 Skills 能力模块;4、新增顾问模型功能。用户可以配置一个更强大的模型作为“顾问”,让执行任务的 Agent 在会话过程中调用顾问模型进行第二意见分析,提高复杂任务处理质量。
据路透社报道,AMD 宣布将收购 AI 推理芯片初创公司 Taalas,交易金额尚未披露。此次收购旨在增强 AMD 在 人工智能推理芯片 领域的技术能力,并计划将 Taalas 的技术整合进其 Instinct GPU 加速器路线图,进一步推进系统级解决方案开发。
AMD 宣布已达成收购 AI 推理芯片公司 Taalas 的最终协议,旨在加强其在快速增长的 AI 推理市场中的技术竞争力。此次收购旨在强化 AMD 在快速增长的 AI 推理市场中的技术优势,并进一步推进其 AI 计算路线。AMD 表示,计划将 Taalas 技术整合至 AMD Instinct GPU 及 AI 加速器路线中,开发系统级 AI 计算解决方案。
半导体巨头 AMD 宣布推出企业级 AI 编程平台 AMD Instinct Coder,该平台结合 AMD 芯片、Supermicro 服务器及 Spectro Cloud 软件,旨在帮助企业在本地部署 AI 编码助手,降低云端 AI 模型使用成本并保护代码及数据安全。AMD 表示,Instinct Coder 是一套“开箱即用”的端到端 AI 开发平台,整合了 AMD EPYC 处理器、AMD Instinct GPU、Supermicro AI 服务器、Spectro Cloud PaletteAI Inference Launchpad 软件,以及经过 AMD 优化的 GLM-5.2 模型,可用于代码生成、应用现代化、自动化测试、代码审查等软件开发场景。AMD 称,与依赖云端前沿 AI 模型相比,Instinct Coder 可帮助企业降低最高 70%的总拥有成本(TCO),投资回收期最快可缩短至 6 个月。AMD 表示,越来越多企业希望利用 AI 提升开发效率,但同时面临两大挑战:一方面,调用顶级云端模型成本不断增加;另一方面,将企业源代码、知识产权和敏感数据交由第三方服务存在安全和合规风险。通过本地部署模式,Instinct Coder 可让企业保持对数据和代码的控制,同时提供更可预测的基础设施成本。该平台支持 Claude Code、OpenAI Codex、Visual Studio Code 和 Cursor 等开发工具,每个节点最多支持 50 名用户(30 名并发用户)。此外,Spectro Cloud 提供的 PaletteAI Inference Launchpad 可实现 AI 工作负载管理、模型路由、请求审计和成本监控,并支持在需要时调用 Anthropic、OpenAI、Google 或 xAI 等外部模型。AMD 表示,Instinct Coder 旨在帮助企业摆脱高昂云端 AI 服务成本,在保障数据安全和自主控制的同时,加速 AI 驱动的软件开发流程。
数据基础设施半导体巨头 Marvell Technology 宣布,推出面向 AI 基础设施的新一代内存解决方案组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化,以及多机柜光互联共享内存,旨在解决 Agentic AI 推理过程中日益增长的内存容量和带宽瓶颈。Marvell 表示,随着 AI 模型规模扩大、上下文窗口延长以及 KV Cache 需求增长,传统计算与内存紧耦合架构正限制 AI 推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高 GPU 利用率并降低数据移动延迟。