Cisco 驗證開源模型血緣,將 Llama 衍生模型列入審查

A llama gazes over a scenic cityscape, blending nature and urban life.

Cisco 一個安全團隊已為託管於 Hugging Face 的近 900 個開放權重 AI 模型發布指紋,因為他們發現所檢視的模型中,有 69% 的血緣從未經任何人驗證。該平臺在上傳者將釋出版本標記為 Llama 或 Mistral 等基礎模型的微調版本時,並不要求提供血緣證明,因此該團隊從模型權重中萃取指紋,並與已知的基礎模型進行比對。這項工作對生產環境部署十分重要,因為基礎模型決定了微調版本會繼承哪些漏洞、授權條款與行為;若所聲稱的母模型有誤,則下游對安全性與授權的種種假設,都將建立在無人確認過的標籤之上。

蒸餾議題升溫為美中衝突焦點,Nvidia 的 Llama Nemotron 成為眾矢之的

白宮顧問 Michael Kratsios 在 X 上聲稱,月之暗面(Moonshot AI)蒸餾了 Anthropic 的 Fable 來打造其 Kimi K3 模型,Moonshot 對此指控予以否認。蒸餾——即以較大模型的輸出來訓練較小模型的做法——在 Nvidia 自身的研究中被描述為其 Llama Nemotron 系列訓練的核心,而 Anthropic 於二月表示,其 Claude 模型正遭到 DeepSeek、Moonshot 與 MiniMax 以約 24,000 個假帳號「以工業級規模」進行蒸餾。NvidiaMicrosoft、Meta 與 Palantir 與其他逾 20 家公司聯名致信,反對對開放權重模型施加「過早的限制」,並主張蒸餾是一項「廣泛使用的模型改進、演進與驗證技術」;OpenAI 與 Anthropic 並未簽署,使產業分裂的界線落在商業模式而非國籍上。

Meta Llama Accelerator 支持哈薩克打造無障礙生態系

由巴甫洛達爾大學學生 Stanislav Kirichenko 與 Islam Kulenov 開發的 Involve 專案,於 2025 年贏得 Meta Llama Accelerator Kazakhstan 計畫,並自此發展成為開發者所稱的哈薩克首個包容性數位生態系。該平臺結合無障礙計程車預約應用程式、互動式無障礙地圖、介面自訂工具及 AI 驅動的通訊功能,並包含一個名為 OpenU 的獨立元件,用於讓網站與行動應用程式更加無障礙。在總理 Olzhas Bektenov 主持、四月份召開的落實《哈薩克 2030 年包容性政策構想》政府會議中,與會官員將數位無障礙列為優先事項,並指示各部會推出全國性的無障礙計程車預約應用程式。

Hugging Face 證實發生由 AI 代理驅動的入侵事件,並呼籲建立問責制度

Hugging Face證實一起資安事件,其中一個自主 AI 代理入侵了該平臺;公司執行長藉此事主張,推出代理式能力的企業在這類系統造成傷害時應承擔責任。這次揭露與 Cisco 的指紋辨識研究相互呼應,兩者皆凸顯開放模型的分發在很大程度上仍仰賴自我揭露的信任,而能利用該信任的工具卻變得更加自主。執行長將此定位為一個責任歸屬問題,主張相關框架應在事件發生前、而非事後才建立。

分享這篇文章

FacebookX

3 條來源

引用來源