記者從在北京召開的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會產業(yè)峰會（以下簡稱“BCS產業(yè)峰會”）上獲悉，人工智能極大提升了工作學習效率，但也帶來風險和監(jiān)管問題。人工智能和機器學習越來越多地應用于威脅檢測、自動化響應、預測分析等網絡安全防護工作。要更加重視人工智能安全防御技術創(chuàng)新，筑牢智能時代網絡安全基石。

　　聯(lián)合國副秘書長李軍華

　　聯(lián)合國副秘書長李軍華在開幕致辭中說，“不斷發(fā)展的數字世界是一個矛盾體?！卑査颉鯛枴だ章榷辔粚＜椰F場分享了智能時代網絡安全威脅的種類以及典型的網絡攻擊方式，介紹了當前利用人工智能助力網絡安全躍升的前沿研究和實踐，為構建更加安全穩(wěn)固的數字安全體系建言獻策。

　　開幕式上，全國工商聯(lián)網絡與數據安全委員會召集奇安信集團、聯(lián)想集團、中科曙光、中興通訊、中國軟件、長城科技、神州信息、東軟集團、東華軟件、瀾起科技、軟通動力、中國電子云等60家數字經濟產業(yè)鏈領軍企業(yè)，共同發(fā)起《打造“人工智能+安全”新質生產力》倡議，呼吁社會各界攜手合作，凝聚各方智慧和力量，推動人工智能與安全的深度融合，為中國數字經濟保駕護航。
　　AI助力實現四大躍升
　　2024年政府工作報告明確，開展“人工智能+”行動。在BCS產業(yè)峰會上，演講嘉賓們認為，人工智能有利于筑牢可信可控的數字安全屏障，至少能夠助力網絡安全實現四大能力躍升。
　　第一，網絡威脅發(fā)現能力躍升。通過應用人工智能，可以提升威脅判定的準確度，從海量噪聲中快速、準確地洞察和判定真正的風險。據吳云坤透露，1個安全大模型處理安全告警的能力相當于50～60個網絡安全工程人員。
　　利用大模型進行威脅研判已投入多個應用場景。據苗守野透露，中國聯(lián)通基于元景大模型體系，實現檢測+分析+運營的端到端網絡安全能力智能化升級，大模型智能研判平均時間達到秒級，研判準確性達到95%以上，有效助力基礎網絡安全底座的智能化變革。

　　中國聯(lián)通集團網絡與信息安全部總經理苗守野

　　第二，病毒檢測效率和精度躍升。人工智能可以增強識別準確度和研判效率，幫助快速準確地從海量樣本中識別出真正的惡意樣本和病毒。吳云坤說，奇安信利用人工智能病毒引擎QDE對132萬多個樣本的檢測結果顯示，QDE的檢出率為97.9%，比傳統(tǒng)病毒引擎高出4.13%，誤報率僅0.009%，遠低于傳統(tǒng)引擎誤報率0.04%。

　　奇安信集團總裁吳云坤

　　第三，安全運營能力提質躍升。人工智能可以替代人工，解放安全專家，突破網絡安全的人力資源邊界，大幅度提升運營能力。吳云坤講到，安全專家每天能夠研判約480條信息，安全機器人每天能夠智能研判30240條信息，“從這個角度看，一臺機器人相當于60位安全專家”。
　　第四，攻防實戰(zhàn)水平躍升。網絡安全領域的創(chuàng)新核心是使用新技術實現網絡空間安全檢測、分析、研判、指揮、響應、處置形成閉環(huán)，并不斷提升攻擊方和防守方的實戰(zhàn)水平和工作效率。在吳云坤看來，人工智能能有效的縮短閉環(huán)時間，AI加持攻守雙方完成閉環(huán)后，可以實現知識經驗再積累，持續(xù)提升作戰(zhàn)水平。
　　AI成為安全領域創(chuàng)新熱點
　　“AI驅動安全已經成為網絡安全領域的重要創(chuàng)新熱點?！?吳云坤舉例說，上個月在美國舉行的全球最大網絡安全年度大會（RSAC 2024）發(fā)布的新產品中，60%與AI相關，其中創(chuàng)新沙盒十強中有7家是AI方向；我國2024安全創(chuàng)客匯40強的10個創(chuàng)新賽道中，AI安全排在第二位。
　　與此同時，傳統(tǒng)網絡安全行業(yè)也正在快速轉型，加快擁抱AI。一些綜合性大型安全企業(yè)通過收購、自我研發(fā)或生態(tài)建設補齊短板，用AI不斷發(fā)展完善產品和服務體系，加速建立對抗威脅的閉環(huán)，提升安全事件處置的能力和效率。例如，Crowdstrike在推出Charlotte AI之后，把過去分布在不同終端的所有數據整合進AI網絡安全分析工具Charlotte AI，將安全事件響應時間從過去的8小時縮短為幾分鐘。
　　國內頭部科技企業(yè)已在同步推進AI在網絡安全領域落地生根。作為網絡安全原創(chuàng)技術策源地總體單位，奇安信以科技創(chuàng)新推動產業(yè)創(chuàng)新，于今年3月對外正式發(fā)售了“AI驅動安全”的代表性產品：QAX-GPT安全機器人。QAX-GPT安全機器人對真實網絡風險事件研判準確率達到100%，可以消除80%以上無效告警，助力企業(yè)網絡安全運營效率提升逾60倍。
　　BCS產業(yè)峰會嘉賓一致認為，國家相關政策正在進一步推動AI在網絡安全產業(yè)加速布局。
　　“數據是人工智能三要素之一，人工智能模型的訓練需要大量且高質量的數據?！笔Y楠說，發(fā)展人工智能，需要更加注重數據的收集、清洗、標注和存儲，以確保模型訓練的有效性和科學性。當前，國家發(fā)力促進數據要素流通，通過流通實現數據價值，將支撐包括網絡安全在內的人工智能新應用快速發(fā)展。

　　中石化集團信息和數字化管理部副總經理蔣楠

　　AI時代呼喚體系安全
　　在BCS產業(yè)峰會上，與會嘉賓們提醒，目前的網絡攻擊者不僅利用人工智能技術編寫程序、制造病毒、發(fā)起飽和式攻擊，也在針對人工智能防護模型本身的弱點進行“投毒”或“滲透”。與會專家建議，AI時代的網絡安全防護同樣需要突破單點思維，推進體系建設。
　　一方面，網絡攻擊開始面向AI“對癥下藥”。蔣楠舉例說，攻擊者可能進行藥餌攻擊，即針對AI收集日常運營數據自我學習訓練以檢測出新的攻擊這一特性，攻擊者注入精心設計的數據樣本（即藥餌），使訓練數據被污染，給AI“洗腦”，最終危及整個系統(tǒng)的正常功能。
　　要更加重視人工智能安全防御技術創(chuàng)新。具體而言，在AI系統(tǒng)收集數據、訓練模型階段，可以采用網絡蒸餾、對抗訓練、對抗樣本檢測、輸入重構、模型剪枝等多種防御性技術，以防止針對AI的數據投毒式攻擊。
　　當前國內網絡安全防護還沒有真正普及體系化建設。例如，國內安全設備和產品的互操作性標準和規(guī)范一度長期缺位，不同網絡安全廠商各自為戰(zhàn)，無法形成協(xié)同效應，無法真正落實“AI驅動安全”帶來的威脅檢測能力和安全運營能力提升
　　“AI是知識工程，需要多維數據、多維場景，綜合性廠商比單點技術廠商更具優(yōu)勢?！眳窃评ふJ為，綜合性廠商基于內生安全建立體系，使單點技術通過體系協(xié)同在對抗威脅時發(fā)揮最大效能。
　　與會專家們呼吁，網絡安全行業(yè)應建立體系化思維，不僅是在企業(yè)內部推廣建立協(xié)同高效的安全體系，全行業(yè)也需要建立更多通用、互認、開源的標準規(guī)范和操作體系，實現產品互操作、數據共分享、安全同治理，提升全行業(yè)體系安全能力，真正助力數字經濟發(fā)展。