自動 AI 新聞摘要:高盛限縮交易員 Coding Agent 權限、NVIDIA 董事會調查外國情報接觸、llama-modchip 實現 64GB CPU 跑 284B 模型
11 月 9 日 AI 新聞摘要:高盛基於資安與營運風險收回交易員與銀行家 Claude Code 權限;NVIDIA 執行長黃仁勳坦承婚外情,董事會啟動外國情報調查;llama-modchip 實現純 64GB CPU 零 GPU 運行 284B DeepSeek-V4;LoreKit 呼籲建立開放 Agent 記憶體統一標準;史丹佛 CS146S 重塑 AI 原生工程教學;以及寶可夢擴散世界模型、Drex Max v1.1 與 SQLite C/Rust 實測精選。
前言
本文由 Horizon 抓取資料,再由 Codex 篩選與改寫;Horizon 只負責資料抓取。今日全球人工智慧與軟體開發者生態在企業級 Agent 治理邊界、半導體地緣政治安全防護、端側大模型極致推論、Agent 記憶標準化、高等工程教育改革以及神經世界模型等多元維度迎來多項關鍵動態:在金融與企業級 AI 治理方面,華爾街投行巨頭高盛(Goldman Sachs)正式更新內部規範,全面禁止一般交易員與投資銀行家使用 Claude Code 及 GitHub Copilot,將終端編程代理權限嚴格收束回專職工程團隊,正面防範前線終端的「致命三位一體(Lethal Trifecta)」風險;在科技巨頭地緣政治與安全領域,NVIDIA 執行長黃仁勳向全體員工發送信件坦承婚外情,NVIDIA 董事會隨即成立獨立委員會並聘請外部法律顧問,全面調查其是否遭到外國情報機構針對性鎖定及出口管制合規問題;在本地端推論極限壓縮方面,開源專案 llama-modchip 突破硬體天花板,在純 64GB 記憶體、零 GPU 的一般 CPU 桌機上實現了 284B DeepSeek-V4-Flash 的流暢推論,並具備 13.1ms 的上下文快取恢復能力;在 Agent 認知系統標準化層面,LoreKit 發布架構倡議,直指當前各家工具記憶格式破碎,呼籲社群借鑑 OpenTelemetry 的歷史經驗制定開放統一的 Agent Memory 規格;在軟體工程教育範式層面,史丹佛大學 CS146S「AI 原生工程」課程因應 AI 一鍵破解舊作業的挑戰,全面轉向深入大型開源專案與 Harness 工程實戰;此外,由純擴散神經網路驅動的《寶可夢 紅》可遊玩世界模型、Artificial Analysis 榜首 Drex Max v1.1 決策模型、Simon Willison 的 SQLite C 與 Rust 擴充效能實測、GAP 門控注意力融合架構以及開發者向開源 Harness 遷移等成果同步揭曉,勾勒出 AI 應用正在從初期的技術狂熱迅速邁向制度化管控、標準化協議與工程深水區。
高盛限縮 AI Coding Agent 權限:撤回交易員與投行家 Claude Code 存取,工程治理直面「致命三位一體」風險
隨著以 Claude Code 和 GitHub Copilot 為代表的終端編程代理(Coding Agent)在企業內部迅速普及,金融機構對前線員工使用自主 AI 工具的安全與合規隱憂終於引爆。華爾街投行巨頭高盛(Goldman Sachs)近期正式更新內部安全指引,全面收回非工程人員(包括股票與衍生品交易員、投資銀行家)使用 Claude Code 與 GitHub Copilot 的權限,重新將這些強大的自動化工具限定於專職軟體工程團隊。
- 從大力推崇到緊急收束的轉變:今年 7 月,高盛技術主管曾在公開場合讚揚前線交易員借助 AI 代碼代理自主開發追蹤市場資金流、建立財務部位模型與自動產出分析圖表的敏捷效率。然而,彭博社引述知情人士報導,高盛在 10 月展開了深入的生產力與資安風險綜合審查,最終決定對非工程師全面封鎖 coding agent 存取權限。目前僅有跨足交易、量化研究與系統工程的技術團隊(Strats)以及專職軟體工程師被允許繼續在嚴格受控環境下調用。
- 防範工作站上的「致命三位一體(Lethal Trifecta)」:資安與架構專家在社群深入剖析指出,金融前線交易員的電腦運行著全行最敏感的權限。在典型的交易終端機上,系統同時具備三項高危條件:擁有直連市場發送訂單與記錄交易的帳戶權限、能夠直接讀取未公開的客戶委託與專有資金數據(Proprietary Data)、以及同時連接公網、郵件系統與內部局域網。若允許半無人值守(Semi-unattended)的 Coding Agent 在該工作站執行任意指令與生成腳本,一旦遭遇間接提示詞注入(Indirect Prompt Injection)、設定洩露或模型幻覺,將直接演變為難以追蹤的重大營運損失(Operational Loss)與法規監管災難。
- 消費計費模式與 Anthropic IPO 前夕的敏感時機:除資安防線外,多家大型企業亦反饋了對 Anthropic 基於 Token 消耗的計費模式在非工程團隊失控爆表的擔憂,部分團隊因而轉向具備固定階梯費率與速率限制的競品(如 Google Gemini)。尤為引人矚目的一點是,高盛正是 Anthropic 籌備上市(IPO)的主要承銷商之一;在帶領這家 AI 巨頭邁向公開資本市場的關鍵時刻,高盛在內部率先對終端 Agent 祭出清晰的合規界線,為整個華爾街的企業級 AI 治理樹立了極具宣示意義的標竿。
來源:State of AI:Goldman Sachs Is Pulling Claude Code From Its Bankers and Traders
NVIDIA 董事會啟動獨立調查:執行長黃仁勳坦承婚外情,外部獨立審查釐清外國情報接觸與出口管制
全球 AI 算力龍頭 NVIDIA 爆發重大治理風暴。NVIDIA 創辦人兼執行長黃仁勳(Jensen Huang)於 11 月 8 日向全體員工發送全員信,公開承認自己對妻子與家庭不忠,並為自身行為向家人、全球同仁、董事會及股東致歉;與此同時,NVIDIA 董事會發布正式聲明,宣布由獨立董事組成的特別委員會聘請外部獨立法律顧問,針對黃仁勳近期疑似遭到外國情報機構接觸與滲透的報導展開全面獨立調查。
- 全員信坦承個人過失並承諾配合:黃仁勳在給全體員工的公開信《A Message to Our Company》中坦言:「我對妻子不忠,我的行為傷害了她與我們的孩子。我為我的行為及所造成的傷害承擔全部責任。」針對媒體報導所引發的國家安全關切,他強調自己全心致力於守護 NVIDIA 並支持美國國家安全,已明確表態全力支持且將完全配合董事會啟動的獨立調查程序,並懇請外界給予其家人隱私空間。
- 董事會迅速成立獨立調查委員會:NVIDIA 董事會發布聲明指出,有鑑於近期有關黃仁勳成為外國情報工作針對目標的報導,董事會已指派獨立董事委員會主導調查,並由外部獨立法律顧問提供法律與取證協助。董事會明確表示,美國國家安全與經濟安全至關重要,雖然目前「沒有任何理由相信國家安全或 NVIDIA 的商業機密已受到損害」,但為維護公司與全體股東利益,調查將全面審視所有相關資訊。
- 地緣政治樞紐下的頂級科技防護警訊:作為支撐全球 AI 基礎設施運轉的絕對核心,NVIDIA 市值突破數兆美元,其晶片架構、供應鏈分流與對華出口管制豁免政策直接關係到全球大國之間的戰略博弈。資安與情報分析專家指出,各國情報機構對手握千億資本與核心技術命脈的關鍵人物實施長期的社交工程與弱點刺探已成常態。董事會此番調查的核心焦點在於釐清黃仁勳涉及的私人關係是否牽涉到特定海外白手套實體,進而檢驗公司在出口管制審查流程、高管出國安全規範與核心機密防護體系中是否存在制度性漏洞。
來源:NVIDIA Newsroom:Statement from NVIDIA Board of Directors 與 NVIDIA Newsroom:A Message to Our Company
llama-modchip 突破端側邊界:純 64GB 記憶體 CPU 零 GPU 運行 284B DeepSeek-V4,快取恢復僅需 13ms
在 AI 基礎模型參數量持續膨脹的背景下,如何擺脫對高昂資料中心 GPU 叢集的依賴,讓超大規模模型在消費級硬體上本地運行,一直是開源社群的最前沿追求。開源專案 llama-modchip(v2.4.0)今日正式發布,成功實現了在純 64GB DDR5 系統記憶體、零獨立顯卡(0 GPUs)的普通 CPU 電腦上,流暢運行參數量高達 284B 的 DeepSeek-V4-Flash 與 30B 混合專家(MoE)架構模型。
- 極限 1.71 bpw 量化與 57.6 GiB 常駐記憶體控制:DeepSeek-V4-Flash 總參數量達到 284.33B(每次推論啟動 13.17B 專家參數)。llama-modchip 團隊透過極具侵略性的 1.71 bpw 量化技術,將整個模型權重壓縮至 56.56 GiB GGUF 格式。在啟用 256K 超長上下文的極端條件下,Linux 系統下的峰值實體記憶體佔用(VmRSS)精準壓制在 57.61 GiB,完美契合在一般 64GB 桌機的 62.5 GiB 可用 RAM 邊界內,全程實現零 NVMe 虛擬記憶體交換(Swap),徹底杜絕了硬碟 I/O 導致的推論卡頓。
- Stockfish-PVS L3 投機解碼器與 CPU 吞吐翻倍:為了克服 CPU 記憶體頻寬對解碼速度的物理限制,llama-modchip 創新地將西洋棋引擎 Stockfish 的主要變更搜尋(Principal Variation Search, PVS)啟發式演算法改造成投機草稿生成器。該 Drafter 僅佔用極小的 1.64MB CPU L3 快取,搭配 SwiGLU-H2 核心算子優化,在 16 核 AMD Zen 5 CPU 上達到了 44.36 tok/s 的 Prompt 預填充(Prefill)速度,以及 9.1 至 14.7 tok/s 的穩定生成速率;而在 16–32GB 筆電上運行 30B MoE(如 Nemotron-3.5-30B-A3B)時,解碼吞吐量更飆升至 25 至 111.6 tok/s。
- 專為 Coding Agent 量身打造的 13.1ms KV 槽位還原:針對 Claude Code 等終端 AI 代碼代理頻繁退出、重啟與跨指令執行的使用情境,重新加載數十萬 Token 的 KV 快取往往需要數秒乃至十數秒。llama-modchip 實作了基於
/dev/shm共享記憶體的 KV Slot Restore 機制,將上下文狀態的熱加載時間縮短至難以置信的 13.1 毫秒;知名開源先驅、Redis 作者 Salvatore Sanfilippo(antirez)亦在社群公開轉發實測,證實在 Apple Silicon 等具備大頻寬的統一記憶體硬體上,該架構 Prefill 速度可進一步突破 300+ tok/s,為本地端私人 Coding Agent 鋪平了普及之路。
來源:GitHub:synchopate/llama-modchip
Agent 記憶系統的「OpenTelemetry 時刻」:LoreKit 倡議終結孤島,建立跨框架開放記憶標準
隨著開發者在日常工作中同時調用多種 AI 代理工具,一個顯著的系統架構缺陷正日益凸顯:各個 Agent 之間互為資訊孤島,缺乏統一的記憶格式。開源 Agent 工具 LoreKit 作者、Dash0 核心工程師 Mads Thines 今日發表題為《Agent memory needs its OpenTelemetry moment》的深度架構長文,直指當前 AI 記憶體生態的嚴重破碎化,並呼籲社群借鑑分散式追蹤與可觀測性標準的歷史路徑,共同構建開放統一的 Agent Memory 協議。
- 記憶格式的割裂現狀:每台電腦上的記憶孤島:Thines 盤點了當前典型的開發者環境:專案根目錄下散落著
AGENTS.md或CLAUDE.md;Cursor 在.cursor/rules/*.mdc中記錄規範;Anthropic 的記憶工具在/memories目錄下生成自定義檔案;GitHub Copilot 在雲端伺服器悄悄記錄代碼庫事實;社群中更有無數基於 MCP(Model Context Protocol)的自建 JSONL 知識圖譜。四至五種完全不同的資料格式在同一代碼庫中並存,彼此無法讀取——CI 流程中的自動化 Agent 辛勤學到的除錯教訓,根本無法被 IDE 或終端中的 Agent 感知與復用。 - 複製 OpenTelemetry 的四層標準化架構:文章回顧了 2019 年前可觀測性(Observability)領域的混亂戰局,當時各廠商均捆綁專有 Agent 與資料格式,直到 OpenTracing 與 OpenCensus 合併誕生 OpenTelemetry(OTel)。Thines 指出,OTel 的成功在於讓競爭者在底層標準上達成共識:統一的資料模型(Data Model,規範什麼是 Span、Metric、Fact 與 Entity)、語義命名慣例(Semantic Conventions,如
repo.path、project.dependency)、開放傳輸協議(OTLP)以及開源參考 SDK。各家廠商停止在底層資料形狀上浪費精力,將競爭全面轉向儲存檢索、深度分析與推理應用的高階價值上。 - 社群在抽象層次與自然語言彈性上的哲學爭鋒:該倡議在 Hacker News 引發了極為熱烈的架構思辨。一部分工程師強烈支持推動記憶體互通標準,避免開發者被單一供應商的生態鎖死;但也有不少反對聲音指出,當前業界對 Agent 長期記憶的生命週期(TTL)、遺忘機制與反思演算法尚處於極早期探索階段,過早推動標準恐將陷入類似 SOAP 或 SGML 的過度工程(Over-engineering)泥淖。此外,大語言模型本質上是自然語言海綿,能夠輕鬆解析各類文字格式,比起人為約定嚴苛的 Schema,如何讓 Agent 智慧判斷何時提取記憶、過濾過時資訊與保護跨使用者隱私,才是更為核心的本質課題。
來源:LoreKit Blog:Agent memory needs its OpenTelemetry moment
史丹佛 CS146S「AI 原生工程」教學實踐:當 Coding Agent 一鍵搞定舊題目,如何以真實開源專案重塑軟體工程?
當終端 AI 編程代理具備了一鍵解決複雜編程題目的能力,傳統的大學電腦科學與軟體工程課程該如何教學?史丹佛大學客座講師、Monaco 創辦人 Mihail Eric 今日在 AI 知名播客 Latent Space 中,深入揭秘了史丹佛前沿課程 CS146S《AI-Native Engineering》第二期的教學大綱革新與實踐心得,為生成式 AI 時代的工程人才培訓提供了極具震撼力的範式轉移參考。
- 「一鍵秒殺(One-shot)」引爆傳統作業體系危機:Eric 直言,在去年設計的一系列大型軟體作業中,今年修課的學生僅需使用現代 Coding Agent 搭配一句提示詞,就能在幾分鐘內直接生成完美通過測試的代碼。傳統的大學考核——要求學生在封閉受控的沙盒中手寫資料結構、演算法或玩具專案(Toy Projects)——在工程實踐維度已徹底失去真實意義。如果不徹底重構教學內容,大學培育出來的學生將完全無法應對產業界的真實挑戰。
- 打破課堂圍牆:引入開源專案維護者與真實 PR 審查:為此,CS146S 在第二期進行了激進的課程改造:他們直接將頂級開源專案的真實維護者請進課堂,不再指派人造的練習題。修課學生被要求在短時間內深入一個完全陌生的巨型代碼庫,藉助各類 AI 工具理解其內部架構,定位社群長期未解的真實 Issue,提出具體修復方案或架構改良,最終向開源專案提交 Pull Request。學生的成績直接由真實開源專案維護者的 Code Review 反饋與合併意願決定,迫使學生學會如何穿透 AI 生成代碼的表面正確性,評估其長期的可維護性與系統影響。
- 軟體工程核心能力的轉向:Harness 工程、驗證直覺與代碼品味:課堂教學的重心全面從「語法書寫」轉移到「Harness Engineering(Agent 運行環境與約束工具鏈設計)」、評測體系建構(Evaluations)以及系統級邊界調試。Eric 強調,在 AI 原生時代,優秀工程師的定義發生了本質轉變:擊鍵速度(Typing code)的價值趨近於零,最不可替代的資產轉變為對系統架構的宏觀掌控力、敏銳嗅出 AI 生成代碼中微妙死角與過度擬合的驗證直覺,以及帶領多個 AI Agent 同步協同的工程品味。
來源:Latent Space:How Stanford Teaches AI-Native Engineering — Mihail Eric, Monaco
遊戲神經世界模型與雙系統架構:寶可夢紅版純擴散模擬器聯手本機 LLM 決策閉環
在具身智慧(Embodied AI)與遊戲 AI 領域,結合世界模型(World Models)進行想像中規劃一直是強化學習皇冠上的明珠。獨立研究者今日在 Reddit 與 GitHub 展示了一項令人驚艷的開源成果:僅憑單張消費級 RTX 4090 顯卡,訓練出一個完全由純擴散神經網路構建的《寶可夢 紅》(Pokémon Red)可遊玩神經世界模型,並成功串聯基於認知心理學「快慢雙系統(System 1 / System 2)」的自主遊戲代理架構。
- 16.7M 擴散模型實時夢境模擬遊戲畫面:研究團隊採用 DIAMOND 風格的 EDM U-Net 架構,構建了一個僅 16.7M 參數的擴散模型。該模型直接從遊戲錄像中逐幀學習,輸入前 4 幀畫面與玩家的鍵盤輸入,即可直接生成預測的下一幀 72×80 灰階畫面。系統每隔 10 幀與真實模擬器進行一次 4 幀對齊校準,其餘時間完全由神經網路在「夢境」中自主演化,玩家可直接透過鍵盤在神經網路模擬出的虛擬關都地區中實時漫步;研究者更額外訓練了極輕量的超解析度(0.72M)與著色網路(1.91M,顏色準確率 99.27%),使夢境畫面清晰可用。
- 借鑑 PUBG Ally 的快慢雙系統決策引擎:在控制端,研究者實作了與 Krafton《絕地求生》(PUBG Ally)相同的 System 1 / System 2 雙層認知框架:慢思考層(System 2)由本機運行的開源小型語言模型(如 Qwen 或 Llama)擔任規劃器,直接讀取遊戲記憶體狀態,負責制定宏觀策略——例如主動決定先去野外練等至 14 級、殘血時返回寶可夢中心治療、查詢內建 Bulbapedia 攻略資料庫等;快反應層(System 1)則包含 10 個專門負責短程移動與避障的小型神經網路策略(各僅 1.58M 參數)。
- 在世界模型想像中自學,零樣本遷移至真機 100% 破關第一道館:最為關鍵的技術突破在於,System 1 的 10 個行走運動策略完全是在擴散世界模型的「神經想像環境」中訓練完成,未在真實遊戲環境中消耗任何模擬步驟。在直接遷移(Zero-shot transfer)部署至真實的 Game Boy 模擬器後,本機 LLM 規劃器配合世界模型訓練出的行走策略,在 30 次端到端測試中達成了 30 次全勝擊敗深灰道館小剛(30/30 runs)奪得徽章的驚人成績。這項低成本驗證(僅消耗 50 個 GPU 小時)生動展現了神經世界模型與階層式代理架構在虛擬實境規劃與具身決策領域的龐大潛力。
開源與開發者工具生態精選:Drex Max v1.1 決策模型登頂、SQLite C vs Rust 擴充效能對決、GAP 融合架構與 Pi 開源 Harness
在開源前沿研究與底層開發者工具鏈方面,今日同樣湧現出多項兼具理論突破與工程價值的熱門成果:
- Drex Max v1.1 登上 Artificial Analysis 決策模型榜首:決策模型研發機構 Nace AI 正式釋出 Drex Max v1.1 版本權重,在權威的 Artificial Analysis 決策模型評測中同時奪得 SOTA 最高評分與 Pareto 最優前沿。Drex Max 原生具備高達 256k 的超長上下文窗口,推論成本僅為同類競品的八分之一,並支援藉由開源 Kapitsa 推論引擎直接在 Mac 設備本地運行;團隊同步公開了其訓練技術手冊《Towards Foundation Decision Models: Drex》,全面揭露基礎決策模型的架構細節。
- Simon Willison 實測 SQLite 擴充功能開發:Claude Opus 5.5 指導 C vs Rust 效能對決:開源知名開發者 Simon Willison 探索為 SQLite 打造高效自訂數字字串解析函數
parse_number()(可將-$1,234.56或12.5%直接轉為浮點數)。在 Claude Opus 5.5 輔助下,他對比了 C 與 Rust(分別基於 Rusqlite 與 sqlite-loadable-rs)的實作。初步測試中 Rust 憑藉高效的數字轉換勝過原生 C 的strtod;但在指示 Claude 自行編寫專屬 C 文本數字解析函數後,在 200 萬筆混合資料壓測下,全新 C 實作將每列延遲壓制至驚人的 16–19 奈秒,大幅反超 Rust 的 32–46 奈秒,且編譯出的.so檔案僅 14KB(Rust 約 300KB),展示了前沿 AI 在引導極致底層微優化上的卓越潛力。 - GAP(Gated Attention Projection)架構:融合注意力與 MLP 的輕量新路徑:社群研究者在 Reddit 與 GitHub 開源了實驗性模型架構 GAP。該方案顛覆了傳統 Transformer 將注意力機制與前饋網路(FFN/MLP)串聯分離的標準範式,將兩者直接融合成單一門控區塊。在 WikiText-103 上的對比實驗表明,GAP20 能夠在維持優異表現的同時減少 19.91% 的參數量(極限配置可減少 34.31%);結合 PyTorch
torch.compile編譯優化後,其在 CPU 基準測試中的訓練吞吐量進一步提升了約 19.9%。 - 開發者告別 Claude Code 擁抱開源 Harness「Pi」:資深工程師 Caleb 發布長文《Goodbye Claude, Hello Pi》,剖析其退出 Claude Code 轉向開源自主 Harness「Pi」的心路歷程。他指出,商業供應商對特定設定檔格式的強推(如要求多個專案在 CLAUDE.md 與 AGENTS.md 之間頻繁符號連結)以及對客戶端行為的過度隱匿控制,讓追求極致可控性的開發者感到疲憊;自行掌控的 Pi Harness 允許開發者擁有 100% 透明的 System Prompt 與自訂審查步調,在社群中掀起了回歸簡約與自主性的熱議。
- 端側 VLA 具身智慧實驗:25M 參數遞迴模型突破微硬體視覺感知:獨立開發者在單張 RTX 3060(12GB 顯存)上訓練出基於 768×768 巨大遞迴狀態矩陣的 25M 參數 VLA(Vision-Language-Action)模型。該實驗大膽捨棄了預訓練大型視覺編碼器,直接利用像素級注意力機制即時處理 128×128 的原始 RGB 畫面,並結合模仿學習與監督動作目標,在隨機生成的 3D 房間中展現出僅憑未知物體名稱即可自主搜尋並定位目標的跨房間導航能力。
來源:Reddit r/MachineLearning:Drex Max ranks #1 on Artificial Analysis、Simon Willison:parse_number() as a SQLite extension: C vs Rust、GitHub:rickey1990/Gated-Attention-Projection、Caleb's Blog:Goodbye Claude, hello Pi 與 Reddit r/MachineLearning:Locally trained VLA model

