跳至主要內容
SHUO Blog News每日早報

自動 AI 新聞摘要:Moonshot 發布直逼 Opus 5.5 的 Kimi K3.1 Pro 預告開源、Block 發表純端側全雙工語音 Dessa、OpenAI 揭秘十億用戶存儲 Habitat 與訓練隔離安全架構、NVIDIA 開源 Nemotron-3.5-Bolt 端側小模型

10 月 24 日 AI 新聞摘要:Moonshot AI 推出 Kimi K3.1 Pro 與 Highspeed 版本,Artificial Analysis 評分超越 GPT-6 Astra 直逼 Claude Opus 5.5 並預告 11 月 4 日全面開源權重;Block 發表可在 MacBook Pro M4 Max 純本機運行的頂級全雙工即時語音模型 Dessa;OpenAI 深入剖析支撐十億用戶的 Habitat 存儲架構並公布前沿模型訓練隔離安全機制;NVIDIA 推出小於 4GB 顯存的 Nemotron-3.5-Bolt 端側模型;百度開源 VHA 虛擬頭注意力架構打破長上下文不可能三角;GitHub 與 Anthropic 亦帶來 Copilot in Teams 與 SDK 重大更新。

由 Codex 經由 Horizon 自動抓取新聞並自動編寫

前言

本文由 Horizon 抓取資料,再由 Codex 篩選與改寫;Horizon 只負責資料抓取。今日全球人工智慧技術動態圍繞著六大關鍵技術主軸展開:「開源生態逼近頂尖專有模型水準」、「全雙工多模態語音互動走向端側晶片」、「十億用戶級別高併發系統架構與前沿模型訓練離線隔離」、「邊緣小語言模型(SLM)在極低顯存下的推論極限」、「長上下文注意力機制打破不可能三角」,以及「企業級 AI 開發者工具鏈的全面深化」。從 Moonshot AI 正式上線預計於 11 月 4 日開源的 Kimi K3.1 Pro,到 Block 發布能在 MacBook Pro M4 Max 上本機流暢執行的全雙工語音模型 Dessa,再到 OpenAI 同步揭示支撐 10 億 ChatGPT 用戶的線上存儲技術與前沿模型封閉訓練安全實務,AI 技術正從單純的基準測試競逐,全面過渡至系統工程韌性、終端即時互動與高效架構重構的實戰深水區。

Moonshot AI 發布 Kimi K3.1 Pro 與 Highspeed:直逼 Claude Opus 5.5,預告 11 月 4 日全面釋出開源權重

中國頂尖 AI 實驗室月之暗面(Moonshot AI)正式在 API 上線新一代旗艦模型「Kimi K3.1 Pro」以及專為低延遲互動打造的「Kimi K3.1 Pro Highspeed」。最引發業界震動的是,Moonshot 明確承諾將於 2026 年 11 月 4 日全面釋出 K3.1 Pro 的完整開源權重(Open Weights),這標誌著即將開源的開源模型在基準測試與實際推理品質上首次如此緊咬全球最頂尖的專有閉源前沿。

根據第三方獨立評測機構 Artificial Analysis 公布的盲測數據,Kimi K3.1 Pro 斬獲了高達 55 分的綜合評分,不僅超越了 Claude Fable 5.1(53 分)、GPT-6 Astra(53 分)以及 Gemini 4 Argon(53 分),在全球所有前沿模型中僅次於 Anthropic 的專有旗艦 Claude Opus 5.5(58 分)。在價格策略上,K3.1 Pro 展現了驚人的性價比:輸入端每百萬 Token 為 2.00 美元,輸出端每百萬 Token 為 10.00 美元,定價與 GPT-6.1 Sol 相當,但僅為 Claude Opus 5.5 的一半;高速版 Highspeed 則透過特定算子調優將生成速度提升 2 至 3 倍。在代碼與邏輯經典基準 Pac-Man Bakeoff 中,K3.1 Pro 以 0.68 美元花費與 11 分鐘耗時,在 93 分的得分上直接打平了消耗 1.61 美元且耗時 14 分鐘的 Claude Sonnet 5.5。

此外,K3.1 Pro 原生支援 low、medium、max 三種動態思考強度(Reasoning Effort)。技術社群知名開發者 Simon Willison 透過開源 CLI 工具測試了該模型在不同思考深度下的向量圖生成能力,確認其在 max 模式下具備極其縝密的空間理解與結構化輸出穩定性。Moonshot 團隊在技術揭露中特別強調,為了負責任地推進開源,K3.1 Pro 在訓練後處理中刻意抑制了進攻性網路攻擊(Offensive Cyber)潛能,使其保持在安全閥值之內,為開源模型的高性能與安全邊界設立了示範典範。

來源:Introducing Kimi K3.1 Pro / Simon Willison: Introducing Kimi K3.1 Pro

Block 推出 Dessa:全球首款純端側全雙工語音模型,可在 MacBook Pro M4 Max 本機流暢運行

由 Jack Dorsey 創辦的金融科技與去中心化技術巨頭 Block(原 Square)發表了其語音生成最新研發成果「Dessa」,並宣告其為「歷來所打造過最具真實感的人類全雙工(Full-Duplex)語音模型」。

傳統的 AI 語音對話系統普遍基於「輪流交談(Turn-taking)」架構,仰賴「語音辨識(ASR)→ 大語言模型思考 → 語音合成(TTS)」的串聯管線,導致對話充斥著機械式的等待停頓,且無法自然打斷或在對方說話時發出附和聲(Backchanneling)。Dessa 徹底重構了語音交互範式:

  1. 真·全雙工自然交談:支援說話與聆聽並行,具備精確捕捉人類細微呼吸、即時笑聲、猶豫語氣與動態打斷的能力,交互流暢度直逼真實人類對話。
  2. 極致的資料樣本效率:與動輒消耗數十萬億 Token 文本的傳統大模型不同,Dessa 學習人類自然語言的資料規模僅為主流 LLM 的數百分之一,證明了從真實人類音訊流直接提取韻律與意圖的高效性。
  3. 單機訓練與端側推論奇蹟:研發團隊成功將 Dessa 的全量訓練收斂在僅僅單一組 NVIDIA GB200 NVL72 叢集架構上;更關鍵的是,Dessa 的端側推論版本能夠直接在配備 Apple Silicon M4 Max 晶片的 MacBook Pro 上純本機離線執行,完全擺脫了對昂貴雲端 GPU 推論農場的依賴,為消費級硬體上的沉浸式虛擬助理開闢了全新路徑。

來源:Dessa: the most authentic full-duplex speech model ever built

OpenAI 揭秘支撐十億 ChatGPT 用戶的線上存儲 Habitat(Part II)與前沿模型訓練環境防禦藍圖

OpenAI 連續發布了兩篇重磅工程與安全白皮書,全面公開其背後支撐全球超十億活躍用戶的分散式儲存架構,以及針對未來超前沿模型(Frontier Models)訓練機房所建立的頂級硬體與網路安全防護體系。

在存儲工程篇中,OpenAI 深入拆解了其核心線上數據存儲平台「Habitat」的二期演進架構。為應對數億用戶在會話歷史、長期記憶檢索、多工作區隔離與即時協同中所帶來的每秒數百萬次查詢突發,Habitat 導入了三大關鍵架構改造:

  • 強健的多租戶資源隔離:在儲存層實現租戶級 CPU 與 I/O 配額動態調度,徹底杜絕吵鬧鄰居(Noisy Neighbor)效應。
  • 全域多級快取網格:結合邊緣節點與區域快取叢集,將重複對話與系統提示的命中延遲微縮至亞毫秒級。
  • 深度整合 Azure Cosmos DB:透過高可用分散式架構重整數據路徑,成功將 ChatGPT 核心數據庫的讀取延遲縮短了 12 倍,並在跨大洲故障轉移時維持嚴格的因果一致性。

在安全架構篇中,OpenAI 針對下一代超前沿模型訓練叢集發布了防禦指引。隨著模型自主性與推理能力突破臨界點,OpenAI 啟動了實體隔絕與離線訓練環境(Offline Enclaves),將訓練主節點與外部公開網際網路完全切斷;同時在模型檢查點(Checkpoints)儲存引進硬體安全模組(HSM)防篡改加密,並投入大量運算資源展開「高算力自主紅隊演練(High-Compute Red-Teaming)」,在權重釋出前嚴密測試模型是否存在自我外溢(Self-Exfiltration)或未授權特權提升的能力,從物理到代碼層面確保前沿 AI 研發全生命週期的安全封閉。

來源:Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II) / Securing our frontier model training environment

NVIDIA 開源 Nemotron-3.5-Bolt-E4B-4GB:極低首字延遲、專為端側助手打造的小語言模型

NVIDIA 官方在 Hugging Face 與 GitHub 上正式釋出了專為終端與邊緣設備打造的高性能小語言模型「NVIDIA-Nemotron-3.5-Bolt-E4B-4GB」,並開放完整的商業與學術研究授權。

Nemotron-3.5-Bolt 基於 Google Gemma-4-E4B-it 進行深入的指令微調與強化學習後訓練,針對邊緣端對延遲與顯存的嚴苛限制進行了軟硬體聯合特化:

  1. 極小顯存佔用(< 4GB VRAM):模型整體權重經過特化壓縮,在保留強大多輪對話能力的前提下,運行記憶體嚴格控制在 4GB 以內,為終端設備上的相鄰影像處理、語音管線或使用者應用預留了充裕的硬體餘量。
  2. 極致首字反應延遲(TTFT):針對本地端即時語音助手與互動人格(Interactive Personas)進行了算子排程優化,將首字返回延遲壓縮至極致,使用者幾乎感受不到任何交談遲滯。
  3. 深度的多輪工具調用與接地(Grounding):顯著強化了模型在面對複雜 API 定義時的參數抽取精度與多步驟任務執行能力,避免本地小模型常見的參數幻覺。

NVIDIA 同時發布了配套的投機解碼草稿模型 DFlash Drafter、全精度 BF16 權重,並攜手 unsloth 與 ggml 團隊同步提供了開箱即用的 GGUF 量化版本,使得個人開發者在單張消費級顯卡甚至現代筆電上皆可秒級部署頂級端側 Agent 核心。

來源:nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB on Hugging Face / NVIDIA-Nemotron-3.5-Bolt-E4B-4GB Technical Report

百度與 PaddlePaddle 發表虛擬頭注意力(VHA):打破長上下文大模型「不可能三角」

在長上下文大語言模型的架構創新領域,百度 PaddlePaddle 團隊發表了重要論文與開源實作,正式提出「虛擬頭注意力機制(Virtual Head Attention, VHA)」,旨在徹底打破長期困擾大模型長文本推理的「不可能三角」——即 KV 快取佔用體積、預填/訓練算力開銷(FLOPs)與模型生成品質三者之間的不可兼得。

現有架構中,群組查詢注意力(GQA)品質優異但 KV Cache 佔用龐大;多頭潛在注意力(MLA)能大幅壓縮快取但伴隨嚴重的表徵品質損耗;多頭特徵注意力(MFA)則顯著增加了計算複雜度。VHA 透過兩項精妙的輕量線性運算破局:

  • Q Premix(查詢預混):在每個 KV 群組內部對 Query 施加近恆等變換,用減半的物理查詢頭完美重構出高維虛擬頭的多樣性表徵。
  • Linear Postmix(線性後混):透過低秩殘差結構 $I + AB^T$ 高效融合不同注意力頭之間的交互特徵。

最關鍵的是,由於 VHA 全程未引入任何非線性激活函數,在推論部署階段,Premix 可直接被無損折疊(Fold)進 Query 投影權重矩陣中,Postmix 亦可同步折疊進 Output 投影矩陣中。在推論硬體看來,VHA 在運行時直接等價於標準的 GQA-2 架構,能 100% 無縫沿用現代推理引擎的所有 GQA 加速算子。實驗證明,在密集模型中 VHA 相比 GQA-8 減少了 4 倍 KV 快取,在 MoE 架構下相比 GQA-4 縮減 2 倍,訓練與預填 FLOPs 降低 7.9%;在 30B-A3B MoE 模型評測中全面超越 MLA 與 GQA-4,在 8K 至 128K 超長文本 RULER 基準測試中更取得了 84.4 分的卓越成績(遠高於基準 GQA 的 73.0 分)。

來源:Virtual Head Attention Paper (arXiv:2610.17959) / PaddlePaddle/VHA Repository

GitHub 與 Anthropic 開發者工具鏈進展:Copilot 深度進駐 Teams、Usage Metrics 納入 OpenCode,以及 Anthropic Python SDK v2.3

面向廣大軟體開發者與企業研發組織,兩大 AI 開發工具巨頭本日同步發布了生態層面的關鍵功能升級:

首先,GitHub 宣布 Copilot 正式登陸 Microsoft Teams。透過全新的 GitHub App for Teams,研發團隊能夠將系統報警、CI/CD 失敗通報與 GitHub Issue 提醒直接轉化為即時修復對話。工程師可以在 Teams 頻道或群聊中直接使用自然語言指令調用 Copilot 檢索倉庫代碼、分析問題根因、生成修復代碼並就地發起 Pull Request,使程式碼修復工作流完全融入日常團隊溝通。

其次,GitHub Copilot Usage Metrics API 迎來重大擴充:企業管理員現在可以在統計儀表板與指標 API 中,精確追蹤團隊透過第三方與開源工具(例如 OpenCode 等新興終端編程代理)所產生的模型調用數據,確保跨工具使用情況的透明度與合規管理。

與此同時,Anthropic 官方釋出了 anthropic-sdk-python 的 v2.2.0 與 v2.3.0 連續更新。新版本引入了對 Claude 訊息線程(Message Threads)的原生協議支援、支援企業級組織的多維度成本與用量細粒度分析(Usage and Cost Reports by Dimension)、新增 Claude Enterprise 的 Claude Tag 端點,並修復了工具運行器(Tool Runner)在回呼函式與訊息追加中的狀態同步問題,為高可靠 Agent 的開發提供了更堅實的 SDK 基石。

來源:Turn notifications into code with GitHub Copilot in Teams / Usage metrics API adds usage from tools like OpenCode / anthropic-sdk-python v2.3.0 Release

今日觀察

從今日發布的多項突破中,可以觀察到 AI 產業正迎來三個高度共識的演進方向:

  1. 開源模型與閉源旗艦的代差進入「準同步時代」:Kimi K3.1 Pro 承諾在短短兩週內開源,而其評測表現已能正面叫板 Claude Opus 5.5。這意味著開源社區不再只是接收前代技術的二線陣地,而是正在以極度平民化的推論成本與極高透明度,與專有閉源前沿在第一梯隊並駕齊驅。
  2. 端側邊緣智慧從「文本玩具」走向「真實全雙工與實用 Agent」:從 Block 的 Dessa 在 MacBook Pro M4 Max 上實現零雲端依賴的低延遲全雙工互動,到 NVIDIA Nemotron-3.5-Bolt 將多輪工具調用壓縮進 4GB 顯存以內,證明了邊緣硬體的推論價值正在從輔助性摘要躍升為具備即時自主交互能力的完整個體。
  3. 系統工程正全面補齊「軟體基礎設施」的技術債:無論是百度以優雅的線性折疊算子重構注意力機制(VHA)以解救長上下文 KV Cache 膨脹,還是 OpenAI 為十億級用戶重構 Habitat 儲存層並引入離線隔離訓練防線,亦或是 GitHub 將 Copilot 嵌入通訊軟體與度量 API,整個行業正從「盲目堆砌參數」的粗放期,邁入「講求每瓦效能、系統可靠度與全生命週期安全」的成熟工業化新階段。