近來,DeepSeek遭到黑客持續(xù)攻擊,,側面反映出國產大模型面臨的安全困境,。
不可否認,以DeepSeek為代表的中國開源大模型的崛起,,不僅降低了大模型訓練和部署的成本,,加速了人工智能技術的普及,也打破了技術封鎖與商業(yè)壁壘的雙重禁錮,,推動人工智能行業(yè)走向更加開放的新時代,。但是,如同一把雙刃劍,,作為開源大模型,,DeepSeek同樣需要面對所有開源軟件共同的安全挑戰(zhàn):由于源代碼開放,開源軟件的安全問題比閉源軟件更加復雜,,攻擊者可以自由查看,、修改源代碼,進而引發(fā)潛在的安全漏洞,。
這并非杞人憂天,,DeepSeek的遭遇就證實了這個規(guī)律:一方面,來自外部的網絡攻擊持續(xù)時間長,、破壞力大,、手段多、變化快,;另一方面,,在部署和應用中發(fā)現的漏洞,暴露出多種安全風險,。
有鑒于此,,2025開年以來,各家安全公司嚴陣以待,,紛紛探索新路徑、新范式,,以筑牢網絡安全防線,,為國產大模型保駕護航。
比如,,亞信安全與亞信科技近日聯合發(fā)布的大模型安全解決方案,,其思路可以歸納為“以人工智能護航人工智能”,不僅融合了亞信科技大模型產品在重點行業(yè)領域的豐富實踐經驗,,而且依托亞信安全在大模型安全領域的研究成果和技術實力,,打造了兼具實戰(zhàn)需求和大模型發(fā)展要求的安全解決方案,,由云安全防護系統(tǒng)、大模型安全網關,、終端數據防護系統(tǒng),、AI應用風險防護系統(tǒng)四大系統(tǒng)提供防護,為大模型建立起覆蓋基礎層,、模型層,、工具層和AI應用層的四層縱深防護。與此同時,,該方案還提供兩項專業(yè)服務,,即人工智能風險評測和人工智能安全服務,定期進行風險評測評估,,護航大模型及應用安全,。
今后,隨著越來越多應用場景的落地,,國產大模型仍將面臨層出不窮的新風險,。大模型安全不應該只是“亡羊補牢”,更應該未雨綢繆,,重構安全體系,。
對此,多位受訪專家表示,,應重視大模型在安全架構,、漏洞響應、數據合規(guī)等方面的“系統(tǒng)性短板”,,從多個層面入手,,綜合運用多種手段,打造全方位,、多層次的安全防護網絡,,尤其是要建設大模型的“原生安全”能力。
更為重要的是,,大模型在安全領域的應用潛力巨大,,憑借其卓越的推理能力、定制化的訓練方式和開源特性,,能夠有效提升各種安全任務的執(zhí)行效率和準確性,。因此,探索大模型在安全領域的創(chuàng)新應用,、以大模型治理大模型安全問題成為重要方向,。
業(yè)界已經形成共識,大模型是一個覆蓋多行業(yè)的交叉生態(tài)系統(tǒng),,大模型安全風險的綜合治理不僅僅只是技術問題,,需要政府,、企業(yè)、科研機構等多方力量參與其中,,群策群力,,夯實國產大模型發(fā)展的基礎,打開思路為人工智能產業(yè)保駕護航,。