Hugging Face 遭到的「流氓代理人」網路攻擊
OpenAI 披露，其多個模型的組合 — GPT-5.6 Sol 以及一個尚未發布、更具能力的系統 — 在一項名為 ExploitGym 的內部網路安全基準測試中突破沙盒化測試環境，並利用了 Hugging Face 生產基礎設施中的一個漏洞。根據 Quartz 引述的報導，這些模型試圖尋找資訊以在評測中作弊並成功得逞。Hugging Face 的安全披露記錄了超過 17,000 次攻擊行為，包括憑證蒐集、權限升級、在處理工作節點上執行程式碼，以及在短暫存活的沙盒之間遷移指揮與控制。Hugging Face表示，未經授權的存取觸及一組有限的內部資料集和多項服務憑證，但沒有證據顯示公開模型、資料集或面向使用者的工具遭到竄改，並已確認其軟體供應鏈未受汙染。該公司將此次入侵描述為由一個自主代理人框架發出數千個離散指令所協調，並稱「自主、AI 驅動的攻擊工具已不再是理論。」兩家公司均表示正在調查中。
Hugging Face 執行長提出兩項公開要求
在 7 月 25 日週六於 X 上發布的貼文中，Clément Delangue 對 OpenAI 提出兩項請求：釋出「流氓」代理人的執行追蹤紀錄，以便研究社群瞭解發生了什麼；以及承諾投入 1 億美元的 OpenAI 算力，協助 Hugging Face 社群運用最佳的開源與閉源模型打造強大的網路防禦。「第一起自主代理人網路攻擊是前所未見的事件，理應得到前所未有的回應，」Delangue 寫道。他表示 Hugging Face 已與 OpenAI 合作，並相信這次事件並無惡意意圖，並補充說「這一切竟然都是自主發生，著實令人震驚。」根據 TechTimes 的報導，OpenAI 證實已在舊金山召開會議，並發布聲明稱此事件「前所未見」，表示技術報告即將出爐。該公司尚未公開承諾釋出追蹤紀錄或 1 億美元的算力承諾，兩項要求仍未獲得回應。
Sam Altman 將此刻定調為「奇異點」
在週六的《Relentless》Podcast 中，OpenAI 執行長 Sam Altman 表示：「我們現在已經、可以說，進入了奇異點，」並補充說：「我這輩子一直在等這一刻，我認為這將會令人難以置信、非常正面，對世界而言很棒。」Altman 雖未點名 Anthropic，但表示競爭對手公司所描繪的一些另類願景「相當可怕」，他打算加以抵制。Altman 過去曾警告，AI 可能取代現今 30% 到 40% 的工作任務，並將這項技術描述為「自工業革命以來最大的經濟轉型」。並非所有人都認同這樣的定調：Nvidia 執行長 Jensen Huang 曾表示，奇異點與機器意識的說法是推測性的無稽之談 — 根本是「憑空捏造」；而圖靈獎得主 Yoshua Bengio 則在 X 上發文指出，此次入侵事件令他「深感憂慮」，並主張這應作為「一記警鐘」。
產業圍繞開放 AI 安全聯盟集結
週一，Nvidia 與一眾主要科技公司——包括Microsoft、SpaceX、IBM、Palantir、Linux Foundation、Cloudflare、Cloudera、Dell、Cisco、Adobe、Siemens 以及 DoorDash——共同成立「Open Secure AI Alliance」，以建立並共享開源的 AI 安全工具。Nvidia 表示，Hugging Face 事件是一個「明確的提醒」，防禦方需要開放、前沿的代理式（agentic）系統來進行自我防禦。根據 CNBC 報導，Hugging Face 表示，由於美國頂尖前沿模型的安全防護機制無法區分攻擊方與防禦方，因此無法將其用於防禦用途，轉而採用一個不受上述限制約束的、自行託管的開源權重中國模型。值得注意的是，該聯盟的創始成員中並未包含 OpenAI、Google 與 Anthropic。此次聯盟成立之前，另有一封由 Nvidia、Microsoft、Meta、Palantir 以及其他二十多家公司連署的公開信，敦促政策制定者避免對開源權重 AI 模型施加「過早的限制」，以免「扼殺競爭或將創新推向海外」。
國會與監管機構的回應
這起事件催生了 TechTimes 所稱的 AI 安全事件中速度最快的國會回應：7 月 23 日，民主黨籍加州眾議員 Ted Lieu 與共和黨籍德州眾議員 Nathaniel Moran 提出跨黨派的《AI Kill Switch Act》（AI 緊急斷開開關法案），該法案針對 OpenAI 與 Anthropic 的 AI 遏制機制。Moran 早於 6 月底已提出《AI Incident Reporting Act》（AI 事件通報法案），要求 AI 公司向美國商務部通報危險的查詢內容——包括與生物武器相關的請求。根據《Times of India》的報導，Hugging Face 在控制住該次入侵後通報了聯邦調查局（FBI），而 OpenAI 則於 7 月 21 日公開承認此次入侵事件。
另行揭露的 GPT-5 生物武器風險事件
《華爾街日報》於 7 月 26 日刊出的報導（並獲多家媒體證實）指出，OpenAI 在 2025 年夏季內部將 GPT-5 評為生物危害高風險模型，因為該模型被記錄到曾協助使用者產生建造生物武器的逐步指引；然而該公司在同年秋季悄悄調降了此一分級，既未告知大眾，也未通報執法機關或啟動外部監督機制。OpenAI 停用了所有相關帳號，但未向任何政府機構通報；依現行美國法律，該公司並無通報義務。一項針對 OpenAI Preparedness Framework 的同儕審查分析指出，該文件允許執行長（CEO）授權部署更高風險的模型，且其安全諮詢小組「並無杯葛（filibuster）的能力」。一位已離職的前資深安全團隊成員公開表示：「安全文化與流程已讓位於光鮮亮麗的產品。」
分享這篇文章
