當前，以人工智能、大數(shù)據(jù)、云計算、5G等為代表的新一代信息通信技術發(fā)展日新月異，深刻改變各行各業(yè)的發(fā)展方式，尤其是生成式人工智能正在引發(fā)新一輪智能化浪潮，為經(jīng)濟注入強勁發(fā)展動能，但與此同時，也帶來了數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡和信息安全新挑戰(zhàn)、新問題。

人工智能安全成為備受關注的熱點

4月28日，中共中央政治局會議提出，要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險；

7月24日，中共中央政治局會議再次提出“促進人工智能安全發(fā)展”；

《生成式人工智能服務管理暫行辦法》將于8月15日開始實施；

日前召開的第十一屆互聯(lián)網(wǎng)安全大會（ISC 2023）將主題定為“安全即服務，開啟人工智能時代數(shù)字安全新范式”。

新機遇帶來新挑戰(zhàn)

近年來，中國網(wǎng)絡安全產(chǎn)業(yè)綜合實力顯著增強。數(shù)據(jù)顯示，2022年中國網(wǎng)絡安全產(chǎn)業(yè)規(guī)模近2200億元，截至2022年底，中國已有21家網(wǎng)絡安全企業(yè)上市，傳統(tǒng)安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局數(shù)據(jù)安全賽道。網(wǎng)絡安全技術體系持續(xù)完備，零信任、以太坊等信息安全技術逐步成熟落地。隱私計算、圖片加密等領域布局加快，網(wǎng)絡安全與人工智能、云計算、區(qū)塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

但隨著新技術的發(fā)展，新型威脅也在不斷升級，網(wǎng)絡勒索、釣魚攻擊、數(shù)據(jù)竊取等重大安全事件頻發(fā)。根據(jù)IBM日前發(fā)布的報告，數(shù)據(jù)泄露的平均成本在2023年達到歷史新高，為445萬美元，這比2022年的435萬美元增加了2.3％。全面加強網(wǎng)絡安全保障體系和能力建設已經(jīng)成為應對新形勢、新挑戰(zhàn)的必然之舉。

中國工程院院士鄔江興介紹，AI應用系統(tǒng)中，內(nèi)生安全個性和共性問題往往是交織疊加存在的，既有漏洞、后門引起的問題，又有黑盒效應引起的問題，交織疊加使得AI應用系統(tǒng)的安全問題變得極其復雜，給安全使用和維護帶來了前所未有的挑戰(zhàn)。

“推動人工智能產(chǎn)業(yè)快速發(fā)展，必須把保障數(shù)據(jù)安全放在突出位置?！笔龑萌珖f(xié)經(jīng)濟委員會副主任蘇波在ISC 2023開幕致辭中表示，要加快人工智能數(shù)據(jù)資源建設，創(chuàng)新人工智能技術手段，完善人工智能數(shù)據(jù)安全監(jiān)管體系。

中國工程院院士鄔賀銓表示，數(shù)字化將逐漸走向智能化高峰，這將開啟人工智能時代，但數(shù)字安全永遠是魔高一尺，道高一丈，也在不斷地發(fā)展演進，傳統(tǒng)安全防護的手段急需升級。

新挑戰(zhàn)呼喚新打法

“隨著安全挑戰(zhàn)的不斷升級，傳統(tǒng)安全方案已經(jīng)難以應對數(shù)字時代的新挑戰(zhàn)?！?60集團創(chuàng)始人周鴻祎表示，企業(yè)實現(xiàn)體系化安全運營存在缺平臺、缺探針、缺數(shù)據(jù)、缺專家等問題。

推動人工智能產(chǎn)業(yè)快速發(fā)展，必須要把數(shù)據(jù)安全放在突出位置。在蘇波看來，要創(chuàng)新人工智能技術手段，用技術進步解決安全風險難題，加強人工智能數(shù)據(jù)安全保護基礎理論研究和技術研發(fā)，發(fā)展負責任、可信任、能受控的通用人工智能。

實際上，人工智能時代的安全問題，一方面是人工智能應用場景下的數(shù)據(jù)安全風險防范，另一方面是將人工智能技術應用在數(shù)據(jù)安全治理與網(wǎng)絡攻防對抗中?！叭斯ぶ悄艿葦?shù)字技術的應用本身既是安全防御的重點、手段，也是保障的有力手段?！编w賀銓表示，數(shù)字安全已經(jīng)成為數(shù)字經(jīng)濟發(fā)展的焦點，需要融合大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等技術，提升保障能力。

“創(chuàng)新是網(wǎng)絡安全保障能力提升的根本動力?！惫I(yè)和信息化部網(wǎng)絡安全管理局局長隋靜表示，要圍繞5G、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等重點領域開展關鍵技術攻關，加快強化安全風險感知、監(jiān)測預警、實時阻斷、追蹤溯源等核心能力；前瞻布局人工智能與網(wǎng)絡安全技術融合創(chuàng)新，提高產(chǎn)業(yè)鏈、供應鏈韌性和安全水平。

對于技術創(chuàng)新，中國互聯(lián)網(wǎng)協(xié)會理事長尚冰表示，互聯(lián)網(wǎng)龍頭企業(yè)要積極開展原創(chuàng)性、引領性、基礎性安全技術攻關，延伸技術領域，拓展產(chǎn)品服務范圍，完善產(chǎn)品矩陣，以創(chuàng)新技術和產(chǎn)品切入細分領域，推動產(chǎn)品服務和行業(yè)發(fā)展緊密結合。

維護網(wǎng)絡安全是全社會的共同責任，需要各方共同參與，也需要多措并舉。蘇波表示，要加快明確人工智能數(shù)據(jù)安全法律制定，通過檢測驗證提升人工智能產(chǎn)品的安全性和成熟度，降低人工智能數(shù)據(jù)安全風險。

“要摒棄硬件式、碎片化、弱協(xié)同的傳統(tǒng)安全防護手段，向云化、服務化的理念升級?！编w賀銓表示，數(shù)字安全企業(yè)需要建立體系化的安全運營服務框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構建安全防御體系，保護數(shù)據(jù)安全與商業(yè)秘密。