2024年6月15日，由國(guó)內(nèi)多家頂尖網(wǎng)絡(luò)安全機(jī)構(gòu)聯(lián)合主辦的“智見(jiàn)破境——2024網(wǎng)絡(luò)安全運(yùn)營(yíng)實(shí)戰(zhàn)大會(huì)”在北京國(guó)家會(huì)議中心隆重開幕。本次大會(huì)以“實(shí)戰(zhàn)驅(qū)動(dòng)，智御未來(lái)”為核心主題，匯聚了來(lái)自政府、企業(yè)、高校及研究機(jī)構(gòu)的數(shù)千名網(wǎng)絡(luò)安全專家、學(xué)者與從業(yè)者，共同探討在人工智能技術(shù)浪潮下，網(wǎng)絡(luò)安全運(yùn)營(yíng)面臨的新形勢(shì)、新挑戰(zhàn)與實(shí)戰(zhàn)解決方案。其中，人工智能基礎(chǔ)軟件（AI Infrastructure Software）的安全開發(fā)與治理，成為本屆大會(huì)最受關(guān)注的前沿焦點(diǎn)。

隨著ChatGPT等生成式人工智能的爆發(fā)式應(yīng)用，人工智能技術(shù)已深度滲透至各行各業(yè)的核心業(yè)務(wù)系統(tǒng)。作為AI模型訓(xùn)練、部署與運(yùn)行的底層支撐，人工智能基礎(chǔ)軟件——包括機(jī)器學(xué)習(xí)框架（如TensorFlow, PyTorch）、大規(guī)模數(shù)據(jù)處理平臺(tái)、模型服務(wù)平臺(tái)及各類AI開發(fā)工具鏈——其安全性直接關(guān)系到上層AI應(yīng)用的可靠性與整個(gè)數(shù)字生態(tài)的穩(wěn)定。AI基礎(chǔ)軟件在帶來(lái)巨大效能提升的也因其復(fù)雜性、開源依賴性及新型架構(gòu)特點(diǎn)，引入了前所未有的安全風(fēng)險(xiǎn)。

在大會(huì)主論壇上，中國(guó)工程院院士、網(wǎng)絡(luò)安全專家李明教授發(fā)表了題為《筑牢智能時(shí)代的安全基座：AI基礎(chǔ)軟件開發(fā)生命周期安全》的主旨演講。他指出：“人工智能基礎(chǔ)軟件已構(gòu)成數(shù)字社會(huì)的‘新基建’。其安全漏洞不僅可能導(dǎo)致模型被投毒、數(shù)據(jù)泄露、服務(wù)中斷等傳統(tǒng)風(fēng)險(xiǎn)，更可能引發(fā)模型偏見(jiàn)固化、決策邏輯被惡意操控等新型系統(tǒng)性風(fēng)險(xiǎn)。我們必須將安全能力‘左移’，深度嵌入AI基礎(chǔ)軟件的需求設(shè)計(jì)、代碼開發(fā)、供應(yīng)鏈管理及持續(xù)運(yùn)營(yíng)的全生命周期之中。”

本次大會(huì)特設(shè)“AI基礎(chǔ)軟件安全”專題分論壇，議題深入且極具實(shí)戰(zhàn)性。來(lái)自頭部科技公司的安全實(shí)驗(yàn)室負(fù)責(zé)人分享了他們?cè)谧匝蠥I框架中實(shí)施“安全-by-Design”原則的實(shí)踐，包括在軟件架構(gòu)層面集成機(jī)密計(jì)算、差分隱私保護(hù)模塊，以及建立針對(duì)AI模型的專項(xiàng)模糊測(cè)試（Fuzzing）與對(duì)抗樣本檢測(cè)體系。多家專注于軟件供應(yīng)鏈安全的廠商展示了針對(duì)AI開源組件（如Hugging Face模型庫(kù)、PyPI中的AI相關(guān)包）的自動(dòng)化漏洞與后門掃描方案，以應(yīng)對(duì)日益嚴(yán)峻的供應(yīng)鏈攻擊威脅。

與會(huì)專家們熱烈討論了AI基礎(chǔ)軟件開發(fā)帶來(lái)的新挑戰(zhàn)：

1. 復(fù)雜性挑戰(zhàn)：AI軟件棧層次多、技術(shù)新，傳統(tǒng)安全工具和方法存在盲區(qū)，需要發(fā)展適應(yīng)AI特性的新型安全分析技術(shù)。
2. 數(shù)據(jù)與模型安全：訓(xùn)練數(shù)據(jù)污染、模型竊取與逆向攻擊成為新的攻擊面，要求基礎(chǔ)軟件具備更強(qiáng)的數(shù)據(jù)溯源和模型保護(hù)能力。
3. 合規(guī)與倫理挑戰(zhàn)：隨著全球?qū)I監(jiān)管的加強(qiáng)（如歐盟《人工智能法案》），基礎(chǔ)軟件開發(fā)必須內(nèi)置可解釋性、公平性審計(jì)與合規(guī)性驗(yàn)證接口。
4. 人才缺口：兼具深厚AI技術(shù)理解與網(wǎng)絡(luò)安全實(shí)戰(zhàn)能力的“AI安全工程師”極為稀缺，成為產(chǎn)業(yè)發(fā)展的關(guān)鍵瓶頸。

為促進(jìn)產(chǎn)、學(xué)、研、用協(xié)同，大會(huì)現(xiàn)場(chǎng)發(fā)布了《人工智能基礎(chǔ)軟件安全開發(fā)實(shí)踐指南（2024）》征求意見(jiàn)稿，并啟動(dòng)了“AI安全開源組件共創(chuàng)計(jì)劃”，旨在聯(lián)合產(chǎn)業(yè)力量，共同構(gòu)建更安全、可信的AI軟件開發(fā)環(huán)境。

“智見(jiàn)破境”2024網(wǎng)絡(luò)安全運(yùn)營(yíng)實(shí)戰(zhàn)大會(huì)的成功舉辦，標(biāo)志著中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)正將戰(zhàn)略目光投向更深層的技術(shù)基礎(chǔ)。在人工智能定義軟件的新時(shí)代，確保AI基礎(chǔ)軟件的安全，已不僅僅是技術(shù)問(wèn)題，更是關(guān)乎國(guó)家數(shù)字主權(quán)、經(jīng)濟(jì)安全與社會(huì)穩(wěn)定的戰(zhàn)略議題。大會(huì)凝聚的共識(shí)與展示的實(shí)戰(zhàn)成果，將為各行各業(yè)安全地?fù)肀斯ぶ悄堋⒅沃悄軙r(shí)代的數(shù)字防線提供至關(guān)重要的思路與路徑。