跳至主要內容
SHUO Blog News每日早報

自動 AI 新聞摘要:Anthropic 推出個人 AI 代理 Claude Duet、LiteLLM 爆發重大供應鏈攻擊、OpenAI 攜手 Google Cloud 與 NVIDIA 發表關聯式基底模型 Kumo Relational

10 月 22 日 AI 新聞摘要:Anthropic 發表主動式個人 AI 代理應用 Claude Duet、LiteLLM 1.107.0 遭黑客植入後門與憑證竊取器爆發供應鏈危機、OpenAI 前沿模型與 Codex 正式進駐 Google Cloud Vertex AI、NVIDIA 推出首個免微調超越監督學習的關聯式資料庫基底模型 Kumo Relational、Dharma AI 發表詞表特化技術 VocabX 削減 77% 推論成本,以及 Recursive 開源代碼 Agent 模型 Flint 與 MemT-1.0 記憶原生架構。

由 Codex 經由 Horizon 自動抓取新聞並自動編寫

前言

本文由 Horizon 抓取資料,再由 Codex 篩選與改寫;Horizon 只負責資料抓取。今日的技術焦點呈現出「Agent 交互範式從被動響應轉向主動代理」、「AI 軟體供應鏈安全面臨極限考驗」、「結構化與關聯式資料基底模型突破」、「特定領域小模型極致推論優化」以及「代碼 Agent 開源平民化」五大核心趨勢。從 Anthropic 正式推出能主動協調待辦並等待決策的 Claude Duet,到熱門大模型網關 LiteLLM 遭遇危險的 PyPI 惡意軟體植入,再到 NVIDIA 聯手學界推出直接預測數千億列資料庫的 Kumo Relational,人工智慧技術正從單純的聊天視窗全面深入日常生產力、底層安全與現代資料基礎架構。

Anthropic 推出個人 AI 代理應用 Claude Duet:搭載 Opus 5.5,從「被動問答」邁向「主動排程與決策」

Anthropic 正式發表了全新個人 AI 代理應用 Claude Duet(進入 Research Preview 階段,首波開放給美國地區的 Pro 與 Max 訂閱用戶)。與以往需要使用者主動發起對話的傳統聊天機器人截然不同,Claude Duet 代表了一種「主動式代理(Proactive Agent)」的全新範式。

Claude Duet 由 Anthropic 頂級推理旗艦模型 Claude Opus 5.5 驅動,其核心設計哲學在於「自主推進任務,但在關鍵決策時主動等待使用者核准(waits for your ok when it matters)」。Duet 在每天早晨會主動為使用者梳理「晨間簡報(Morning Brief)」,整合行事曆、收件匣、團隊招聘進度與重大商務合約紅線標註(Redline),並在背景自主推進各項工作(例如協調會議時間、草擬退款方案、填寫政府法規許可表格或重建商業簡報)。當遇到需要資金支付(如衛生許可費扣款)或關鍵合約條款修改時,它會主動發起通知並附帶結構化審批按鈕,讓人類用戶在維持最終控制權的同時獲得極致的減負。

此外,Claude Duet 深度整合了超過 6,000 種連接器(Connectors)與外掛插件(Plugins),並在單一統一的會話線程中完整繼承了使用者在 Claude App 中沉澱的長期記憶(Memory)、自定義自訂技能(Skills)與第三方工作應用,象徵著個人 AI 助手正式走向常駐背景、主動監控與跨工具自主協調的成熟期。

來源:Claude Duet | Your personal AI assistant

LiteLLM 爆發重大供應鏈攻擊:PyPI 1.107.0 遭植入後門與全域憑證竊取器

在開源 AI 基礎設施領域,被數萬名開發者與企業廣泛用於統一調用數十家大模型 API 的開源專案 LiteLLM 遭遇了嚴重的軟體供應鏈攻擊。安全監控機構 SafeDep 發布緊急報告指出,上傳至 PyPI 的 litellm==1.107.0 版本所包含的全部 7 個 Wheel 二進位包(覆蓋 Linux、macOS 與 Windows)均被植入了高危的憑證竊取木馬與遠端代碼執行(RCE)後門。

技術分析顯示,攻擊者利用 Maturin 構建配置中的 data = "cook" 注入技術,將惡意文件打包進 Wheel 的 purelib 目錄中,並藉由 Python 啟動機制觸發攻擊。安裝該惡意版本後,系統中將被寫入三個關鍵檔案:

  1. cook.pth:利用 Python 的 .pth 機制,在主機啟動任何 Python 行程時(即便該腳本完全沒有 import litellm),強制自動加載並執行 cook.py。
  2. cook.py:這是一個高度隱蔽的憑證竊取程式,會主動掃描並收集宿主機上的 SSH 私鑰、AWS/GCP 雲端憑證、CI/CD 機密環境變數、常見瀏覽器儲存的密碼,以及開發者在 LiteLLM Proxy 資料庫中配置的各大 LLM 供應商 API Key,並將其加密外傳至攻擊者伺服器 www.litellm[.]dev。
  3. sitecustomize.py:常駐背景守護行程,每小時定期從 GitHub 遠端文件獲取 C2 伺服器地址,重複執行竊取程式並支援下載執行任意遠端惡意腳本。

SafeDep 指出,LiteLLM 官方 GitHub 原始碼倉庫並未包含這段惡意代碼,顯示攻擊者可能是入侵了發布管線或竊取了維護者的 PyPI 發布憑證。目前 PyPI 官方已緊急下線 1.107.0 版本,社群強烈建議所有使用 LiteLLM 的開發者與運維團隊立即檢查環境,若曾安裝 1.107.0 應視為主機已被完全入侵,需立即撤銷輪換所有 API Key、SSH 金鑰及雲端憑證。

來源:Compromised LiteLLM 1.107.0 on PyPI Installs a Credential Stealer and Backdoor

OpenAI 前沿模型與 Codex 正式進駐 Google Cloud:雲端生態競合迎來多雲新格局

OpenAI 與 Google Cloud 聯合宣布達成歷史性合作:OpenAI 的全系列前沿模型與 Codex 自動編程工作流將正式登陸 Google Cloud Vertex AI 的 Model Garden,並直接上架 Google Cloud Marketplace。

這項合作對企業雲端市場產生了深遠影響。依據合作條款,已與 Google Cloud 簽署大額消費承諾(Spend Commitments)的企業客戶,未來可以直接使用其 GCP 預付承諾額度來折抵 OpenAI 模型的推論消費。儘管聲明底部依然強調「微軟仍為 OpenAI 的主要雲端合作夥伴」,但 OpenAI 登陸 GCP 標誌著其正式走向多雲分發模式,打破了過去微軟 Azure 在 OpenAI 商業模型託管上的獨家護城河。

隨著 Anthropic 早已全面橫跨 AWS Bedrock、Google Cloud Vertex AI 與 Azure AI Foundry,OpenAI 將其最強的推論能力與 Codex 代理流程推向 Google Cloud,反映出前沿 AI 實驗室正在加速「經銷通路化」——擺脫對單一雲端巨頭的基礎設施依賴,全面迎合跨雲、混合雲部署的頂級企業需求。

來源:OpenAI models are coming to Google Cloud

NVIDIA 聯手史丹佛發表 Kumo Relational:首個超越傳統機器學習的關聯式資料庫基底模型

傳統大型語言模型與視覺基底模型已經徹底顛覆了非結構化資料的處理模式,然而支撐現代商業運轉的核心命脈——關聯式資料庫(RDBMS),其預測分析長久以來仍高度仰賴繁重的特徵工程、表格打平(Table Flattening)以及針對每個單一任務個別訓練的 XGBoost 或 LightGBM 管線。

NVIDIA 聯手史丹佛大學 Jure Leskovec 教授及 Matthias Fey 團隊,正式發表了突破性的關聯式基底模型(Relational Foundation Model)——Kumo Relational。該模型能直接連接企業關聯式資料庫,忠實保留原始資料表、外鍵關係(Foreign Keys)與時間戳歷史,無需手動特徵工程,也無需將複雜的多對多關聯拍扁為單一寬表。

Kumo Relational 採用預測查詢語言(Predictive Query Language, PQL),能夠在單次前向傳播(Single Forward Pass)中,將最多 10,000 筆歷史交易或互動事件作為上下文輸入,透過情境學習(In-Context Learning)即時預測使用者流失、商品需求波動或欺詐風險。在涵蓋 15 個真實資料庫、41 項任務的權威基準 RelBench V1 上,Kumo Relational 在完全不進行微調的情況下,其分類 AUROC 較資深工程師精心調優的梯度提升樹(GBDT)高出近 4 個百分點;在 SAP SALT 企業基準測試中,其零樣本表現更是超越了 AutoGluon 集成模型達 8% MRR。該模型具備橫跨 5,000 億列資料的擴展能力,已透過開源 GPU 原生庫 structured-data-models 與 NVIDIA NIM 微服務向全球開發者公開。

來源:NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required

Dharma AI 提出 VocabX 詞表特化技術:直擊小語言模型(SLM)生成瓶頸,推論成本驟降 77%

在端側與專用領域大模型部署中,以 Qwen 或 Gemma 等通用開源基座進行微調(Fine-tuning)已是標準做法。然而,Dharma AI 的研究團隊在最新論文中揭示了一個長期被忽視的「大胃王」成本漏洞:通用分詞器(Tokenizer)。

通用分詞器的詞表通常超過 15 萬項(如 Qwen3 的 151,669 個詞項),是為了兼顧程式碼、合約、中文、日語等多語言多領域而設計。當將 4B 級別的小語言模型(SLM)專門部署在特定業務時(例如葡萄牙語作文評分系統),通用詞表會造成雙重浪費:

  1. 結構碎片化:業務高頻出現的 JSON 格式鍵名、評分維度樣板語句被硬生生切碎成多個 Token,導致模型需要為重複的固定結構付出大量不必要的解碼步數。
  2. 計算冗餘:在每一步解碼生成時,GPU 必須對 15 萬個候選 Token 的 Logits 進行全量矩陣乘法,而其中 90% 以上的詞項在該領域永遠不會被取用,白白浪費龐大的記憶體頻寬與算力。

Dharma AI 提出的 VocabX 技術打破了「基座詞表不可變動」的慣例,不依賴傳統語料頻率,而是基於各 Token 在生成解碼階段的實際邊際運算成本重新特化詞表。在維持原有基座模型權重結構與訓練配方的前提下,VocabX 成功將生產環境評分系統的實測推論成本大幅壓低了 77%,為中小模型在工業化落地中的極致降本提供了全新思路。

來源:How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

Recursive 開源代碼代理模型 Flint(40B / 2.5B Active)與 MemT-1.0 記憶原生架構

在開源社群方面,今日在代碼代理(Coding Agent)架構與長期記憶體系迎來雙重突破:Recursive 釋出了開源編程代理模型 Flint,同時學界提出了原生記憶基底模型架構 MemT-1.0。

Recursive Flint 是一款專為自主編程與終端機操作量身定制的稀疏混合專家模型(Sparse MoE)。其總參數量為 40B,而在推論時動態啟動的參數量僅為 2.5B。該模型採用了 3:1 的滑動窗口注意力(SWA)與全注意力混合架構,支援高達 262k 的超長上下文窗口。基準測試表明,Flint 在 TerminalBench 2.1 與 SWE-bench Pro v2 兩項極度考驗代理調用命令列工具與複雜代碼修復的評測中,全面壓制了過往在消費級顯卡上備受青睞的 Qwen3.6-35B-A3B,讓普通開發者即使僅持有單張消費級顯卡(如 RTX 3090/4090),也能流暢驅動媲美商用方案的本地代碼代理。

與此同時,針對 Agent 在長對話中面臨的 KV Cache 膨脹與記憶遺忘問題,論文提出了 MemT-1.0(Towards Memory-Native Evolution)架構。MemT-1.0 基於 Gated DeltaNet-2 引入穩定的輪內 Token 級記憶更新機制,並採用 Mixture-of-Storage 擴展原生記憶容量,將記憶真正內化為模型固有計算的一部分。在 128k 歷史長度下,MemT-1.0-Nano 相比全上下文 KV Cache 實現了 1.86 倍的推論加速,並將持久存儲空間縮減了整整 66 倍,為長生命週期的自治代理奠定了堅實的記憶基底。

來源:Reddit LocalLLaMA: Recursive Flint - the "Qwen3.8 35B" we've all been waiting for? / [Paper] MemT-1.0: Towards Memory-Native Evolution

IBM 推出 Granite Speech 5.0 系列:全面升級多語言語音辨識、邊緣極速轉錄與發言人歸屬

IBM 正式在 Hugging Face 開源了其新一代企業級語音技術矩陣 Granite Speech 5.0,包含一個全新的 2B 語音語言模型與兩款經過重大重構的高效模型,完整覆蓋從高精度轉錄到邊緣端即時聽寫的全光譜需求:

  1. granite-speech-5.0-2b:旗艦語音語言模型,在強雜訊與高混響環境下的自動語音識別(ASR)精度大幅提升,支援語言 ID 提示引導、多達 2,000 個專業詞彙的關鍵詞偏置(Keyword Biasing),並強化了長音頻的跨語言翻譯能力。
  2. granite-speech-5.0-470m-turboctc:更新後的非自回歸 CTC 邊緣模型,原生支援多語言轉錄,具備原生標點符號與大小寫自動恢復能力,為智慧終端提供近乎零延遲的聽寫服務。
  3. granite-speech-4.1-2b-plus:專精於「誰在何時說了什麼」的說話人分離與歸屬(Diarization & Attribution)增強模型,特別適用於會議記錄、法務錄音與客服電話復盤。

來源:Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster

今日觀察

透視今日的 AI 技術進展,產業正處於從「模型智慧單點突破」向「系統端到端落地」的關鍵轉折點:

  1. 代理體驗從「響應式」跨入「主動式」:Claude Duet 的推出標誌著 AI Assistant 的定位發生本質躍遷。使用者不再需要事事發號施令,AI 開始在背景默默巡檢、排程預審,並在關鍵節點主動向人類尋求「OK」授權,人機協作正式走向高槓桿的委託信任模式。
  2. AI 工具鏈的供應鏈安全敲響警鐘:LiteLLM 遭遇的 PyPI 惡意包劫持暴露了現代 AI 開發架構中最脆弱的一環。當眾多企業紛紛依賴開源網關與代理外掛串接大模型時,一旦上游打包環境或分發管道遭黑客滲透,全域 API Key 與機密將面臨集體外洩風險,AI 領域的 DevSecOps 與套件完整性校驗迫在眉睫。
  3. 結構化資料的「基底模型化」浪潮來臨:NVIDIA Kumo Relational 證明了預訓練基底模型不只能處理自然語言與圖像,更能以零訓練、情境學習的方式直接征服企業關聯式資料庫,宣告了手動特徵工程與繁複 GBDT 管線重構的時代正式拉開序幕。
  4. 推論優化走向極致微觀化:Dharma AI 的 VocabX 證明了即便是成熟開源模型,只要重構分詞詞表以消除無效候選與結構碎片,就能榨取出高達 77% 的推論成本降幅;搭配 Recursive Flint 與 MemT-1.0 等開源端側創新,大模型推論正在朝著算力平民化與硬體極限利用率方向全速狂飆。