自動 AI 新聞摘要：DeepSeek 開源 DeepInfer、Mistral 發表 Voxtral 3 與 Cloudflare 推出 Rust 版 TypeScript tsrs

前言

本文由 Horizon 抓取資料，再由 Codex 篩選與改寫；Horizon 只負責資料抓取。今日的技術焦點呈現出「超大規模推論框架透明化」、「語言與底層編譯生態現代化」、「AI 自主科學發現實證」以及「Agent 記憶無微調演進」四大維度。從 DeepSeek 正式開源支援 Blackwell 與昇騰晶片的大規模生產推論系統 DeepInfer，到 Cloudflare 與 VoidZero 以 Rust 重新賦能 TypeScript 編譯器，再到 Anthropic 展示 Claude 自主探索設計並通過實驗室驗證的抗毒蛋白分子，AI 工程與應用正在以驚人的速度跨越純軟體邊界，深入算力架構與實體科學領域。

DeepSeek 開源 DeepInfer：日吞吐百萬億 Token 的生產級推論框架，首發支援 Blackwell 與昇騰 950

DeepSeek 正式開源了其核心生產級高性能推論框架 DeepInfer（deepseek-ai/DeepInfer），將其每日承載超大規模流量的關鍵技術向全球社群公開。該框架專為 DeepSeek-V4.1-Flash 等大規模模型設計，在單集群架構下實現了高達每日 155 萬億（trillion）Tokens 的服務吞吐量，並在離線與在線混合服務中展現出頂尖的算力效率。

DeepInfer 在底層架構上深度整合了一系列極致調優的算子與通訊核心，包括 FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect 以及針對性編寫的自定義 TileLang 算子。在並行架構方面，框架支援 Attention 資料平行（DP）與平衡上下文平行（CP），並結合了 MoE 專家平行（EP）與動態專家負載均衡（EPLB）。針對推論加速，DeepInfer 內建了 DSpark 投機草稿生成與基於置信度排程的驗證機制（Confidence-scheduled verification），並在解碼端實作了滑動窗口注意力（SWA）有界重放（Bounded Replay），僅重放必要後綴即可覆蓋注意力窗口與最大回溯長度，大幅壓低 Prefill 階段的算力消耗。

此外，DeepInfer 支援異步調度（Asynchronous Scheduling），以零開銷將 CPU 批次排程與加速器運算完全重疊，並在 NVIDIA 硬體上實現了批次不變性推論（Batch-Invariant Inference）與確定性取樣。硬體生態方面，DeepInfer 首發即原生支援 NVIDIA 次世代 SM100 GPU（Blackwell 架構）與華為昇騰 Ascend 950 NPU，為全球大模型部署提供了關鍵且獨立於單一硬體廠商的開源基礎設施。

來源：DeepInfer: High-performance inference framework for DeepSeek models

Mistral AI 發表 Voxtral 3：低延遲語音 Agent SDK 亮相，打造聽、想、調用、說一體化即時體驗

Mistral AI 正式推出了新一代語音技術全家桶 Voxtral 3，包含完整的即時語音 Agent SDK 以及覆蓋 50 多種語言與方言的語音模型生態。這項發布旨在打破傳統將語音識別（STT）、大型語言模型（LLM）與語音合成（TTS）割裂串接的傳統架構，為電話客服、車載語音與即時網頁互動提供極致流暢的整合方案。

Voxtral 3 包含了多個針對不同延遲與精度需求的模型矩陣：旗艦轉錄模型 Voxtral Small Transcribe 3 支援 50 多種語言的高精度轉錄、說話人分離（Diarization）與情境偏置（Context Biasing），定價為每分鐘 $0.004 美元；針對邊緣與即時互動場景的 Voxtral Mini Transcribe Realtime 3 則將端到端延遲壓縮至 500 毫秒以內，定價每分鐘 $0.008 美元；在輸出端，Voxtral Speech 3 則提供跨 35+ 語言與 50+ 方言的高度自然語音合成，每百萬字元定價 13 美元。

透過 Voxtral 提供的語音 Agent SDK，開發者可以將語音輸入直接對接 Mistral Small 4 等思考模型，並在對話流中無縫調用內部系統 API 或檢索工具（Tool Calling），實現一邊通話、一邊查詢資料庫並動態回覆的即時自主代理能力。

來源：Mistral AI：Voxtral 3 - Voice Agent SDK & Speech Models

Cloudflare 與 VoidZero 聯手孵化 tsrs：Rust 原生 TypeScript 編譯器，效能飆升 8 倍

Cloudflare 與 VoidZero 宣布與 Owner.com 的 Max Schwenk 達成合作，共同在開源 Oxc 工具鏈下孵化 tsrs——一個以 Rust 語言完全重寫的 TypeScript 編譯器原生移植專案。該專案在與微軟官方 TypeScript 團隊的密切協同下進行，旨在徹底消除龐大專案在類型檢查與編譯時的冗長等待。

初步基準測試顯示，在相同類型檢查 Worker 執行緒數量下，tsrs 相較現行主流的 TypeScript 7.0 實現了高達 8 倍的速度提升，同時記憶體消耗大幅降低約 70%。若啟用 tsrs 依據機器硬體規格動態配置的自適應模式，其推論檢查吞吐量還能進一步提升。這項記憶體與速度的飛躍，將使在瀏覽器內部直接運行完整的 IDE 與語言服務（LSP）成為現實。

團隊特別強調，tsrs 絕對不是 TypeScript 的分支（Fork），微軟 TypeScript 團隊仍將對語言規範與演進方向保持完全主導。tsrs 的目標是嚴格保持與官方語意 100% 相容。令人振奮的是，tsrs 在重構過程中探索出的多項底層架構優化，目前已被官方採納並逆向合併（Upstream）至即將推出的 TypeScript 7.1 beta，使官方版本獲得了約 2.5 倍的加速，展現出開源社群與核心團隊良性共振的典範。

來源：Cloudflare Blog：Introducing tsrs: a Port of TypeScript to Rust

Anthropic 展示 Claude 自主設計蛋白質：成功合成蠍子神經毒素結合劑並通過濕實驗驗證

Anthropic 發表了一項具里程碑意義的生物科學突破：研究團隊驗證了 Claude 能夠以自主 Agent 模式設計出針對蠍子神經毒素的高親和力蛋白質結合劑，且候選分子已通過實體實驗室（Wet Lab）的化學合成與生物物理檢驗。

在這項實驗中，研究人員僅向 Claude 提供了目標神經毒素結構、12 種蛋白質設計與共折疊工具，以及新穎性、打分與過濾規則。在長達數十小時的自主執行期間，Claude 自主設定質量閾值、權衡工具調度策略，在約 10,000 個 GPU 小時的算力支持下，生成了 318,484 個候選設計，並對 553,052 對共折疊結構進行結構預測篩選，最終自主篩選出 180 個候選物，並在後續多輪迭代中擴展為 211 個候選設計。更值得關注的是，Claude 還自主撰寫郵件將基因序列直接發送給 Twist Bioscience 進行實體分子合成。

後續由 Twist Bioscience 與 Adaptyv Bio 透過表面電漿共振（SPR）技術進行雙盲與互補檢測，結果證實 211 個設計中有 17 個成功達標成為高親和力結合劑（在單毒素設計中命中率達 18%）。其中針對墨西哥劇毒蠍（Centruroides noxius）Cn2 神經毒素的最強結合劑 Cn2-B1 與 Cn2-B2，其解離常數（KD）達到個位數納摩爾（single-digit nM）級別，且競爭實驗顯示其精確結合在已知中和抗體 LR 的神經位點上。Anthropic 已將全部 211 個設計與測試數據完全開源，為 AI 驅動的低成本抗毒血清研發提供了全新途徑。

來源：Anthropic：Claude designed protein binders against scorpion neurotoxins

Google 開源 TorchTPU：PyTorch 原生 TPU 後端上線，全面整合 torch.compile

Google 宣布正式開源 google-pytorch/torch_tpu 專案，為深度學習主流框架 PyTorch 提供官方第一方原生的 TPU 設備後端。長久以來，PyTorch 使用者在 Google TPU 上運行模型時，往往依賴複雜的 PyTorch-XLA 中介抽象層，面臨除錯困難與計算圖降級的挑戰。

TorchTPU 透過為 TPU 實現原生的 PyTorch ATen 核心（Kernels），大幅簡化了 PyTorch 算子到底層硬體的映射路徑。專案引入了專為 XLA 計算圖優化的編譯快取（Compilation Cache），有效消除了動態重編譯帶來的啟動延遲，並完美相容 torch.compile() 圖模式執行。

在分散式與模型生態支援方面，TorchTPU 提供了對資料平行（DP）與張量平行（TP）的開箱即用支援，並發布了涵蓋 Llama、Qwen、ResNet、DLRM 與 UNet 等主流架構的端到端範例。此外，社群也已著手將 TorchTPU 的架構向 Tenstorrent 等新興 AI 晶片抽象層延伸，有望推動異質算力架構下 PyTorch 原生編譯體驗的大一統。

來源：Google PyTorch：TorchTPU - Native PyTorch backend for TPUs

IBM 發表 ALTK-Evolve：Agent 透過自我經驗學習準則，無須微調即在 τ²-bench 客服評測登頂

IBM Research 在 Hugging Face 發布了關於自主代理演進框架 ALTK-Evolve 的深入研究。該研究核心探討了一個關鍵問題：面對複雜多變的企業工作流程，Agent 是否必須透過昂貴且脆弱的模型權重微調（Fine-Tuning）才能獲得高可靠性？

ALTK-Evolve 給出了否定的答案。該框架允許 Agent 從自身的執行軌跡（Trajectories）中自動挖掘、反思並沉澱出一套結構化的操作準則（Guidelines）。在客戶服務領域高難度基準 τ²-bench（包含零售退換貨與航空退改簽等複雜多工具調用任務）中，研究團隊在不調整模型權重的情況下，將萃取出的經驗準則附加至提示詞中。結果顯示，基於一般 GPT-4.1 模型的 Agent 在零售領域的嚴格四次全對率（Pass^4）從 57.5% 大幅躍升至 67.5%，航空領域亦由 35.0% 提升至 45.0%，其可靠性直接跨越至未經引導的 Frontier 旗艦模型水準；當應用於 GPT-5.5 時，更將 Pass^4 進一步推高至 70.0% 登頂排行榜。

尤為關鍵的是，研究證實加入準則後的 Agent 由於行動更具方向感，單次任務的平均對話輪次反而縮短了約 0.3 至 0.4 輪，直接降低了端到端延遲。雖然系統提示詞因攜帶準則而增加了 Token 數量，但在現代生產環境中，這部分靜態上下文幾乎可以被 Prompt Caching 完全吸收，從而以極低成本實現了 Agent 在特定領域的可靠自我演進。

來源：IBM Research：ALTK-Evolve: How learned memory tops the τ²-bench leaderboard without a frontier model

Eagle-4 與 REMORY：投機解碼飆出 3.59x 速度，殘差軟記憶突破長上下文決策瓶頸

開源社群在推論加速與長上下文 Agent 架構方面今日迎來兩項重要突破：投機採樣演算法 Eagle-4 的發表，以及殘差記憶網絡 REMORY 的提出。

在模型推論加速領域，Eagle-4 正式釋出。基準測試顯示，在 Qwen 3.8 27B 模型上，相較於傳統無輔助的逐字解碼，傳統多 Token 預測（MTP）實現 2.22 倍加速，DSpark 實現 2.57 倍加速，DFlash 2 達到 2.80 倍加速，而 Eagle-4 則一舉衝上了 3.59 倍的速度躍升，再次刷新了開源大模型投機採樣的吞吐量天花板。

與此同時，針對長工作階段 Agent 因對話歷史過長而面臨的記憶壓縮瓶頸，論文提出了 REMORY 架構。傳統的文本摘要往往會丟失支撐後續細微工具調用的關鍵信號，REMORY 則透過神經網絡在文本摘要之後附加一組有界（Bounded）的連續軟記憶 Token（Soft Memory Tokens），在序列維度上構建起類似殘差連接的機制。實驗表明，REMORY 僅使用全上下文 5.2% 的輸入位置，就能讓凍結的大模型獲得接近全上下文的決策精度，並在 Terminal-Bench 2.1 與 BrowseComp 等評測中大幅減少了工具重複調用與無效操作。

來源：Reddit LocalLLaMA：Eagle-4 Released: Faster than DFlash2 & DSpark

今日觀察

綜觀今日的技術進展，AI 正在從單純的模型參數量競賽，轉向「系統工程化」、「底層生態成熟度」與「科學價值變現」的全面深水區：

推論架構全面重塑：DeepSeek 開源 DeepInfer、Eagle-4 推進投機解碼以及 Google 推出 TorchTPU，均指向同一個目標——如何將昂貴的硬體算力榨取至極致，打破單一巨頭的軟硬體捆綁，讓海量 Tokens 的生成成本呈數量級下降。
開發工具走向原生高效：TypeScript 的 Rust 移植專案 tsrs 不僅為前端與全端工程師帶來高達 8 倍的編譯檢查速度躍升，更展現了與官方標準嚴格對齊、技術成果反哺上游的高水準開源協同範式。
Agent 落地聚焦可控與演進：Mistral 的 Voxtral 3 將即時語音、推理與工具調用合而為一，直攻企業即時服務核心；而 IBM 的 ALTK-Evolve 與 REMORY 則證明了透過非侵入式的經驗反思與軟記憶壓縮，無須重金微調模型權重，即可讓 Agent 在長期任務中越用越聰明、越用越穩定。
AI for Science 走向閉環：Claude 在約 10,000 GPU 小時的自主探索下成功設計出具備單純納摩爾親和力的抗毒蛋白質結合劑，並在實體濕實驗中獲得驗證。這象徵著生成式 AI 已不再停留於文字摘要與代碼補全，而正在成為真實推動人類醫學與生物分子發現的實用科研合作者。