近兩年，各行業(yè)大模型如雨后春筍般快速發(fā)展，人工智能技術、產業(yè)、應用各環(huán)節(jié)迎來快速迭代和探索突破時期。在日前舉行的2024第十二屆西湖論劍·數(shù)字安全大會上，各界人士就如何應用人工智能技術賦能數(shù)字網絡安全進行討論和交流。與會人士認為，網絡安全已進入人工智能階段，“AI+安全”是網安行業(yè)未來發(fā)展的方向，同時AI技術的雙刃劍效應以及行業(yè)發(fā)展環(huán)境需多方共同破解完善。

網安進入人工智能階段

隨著人工智能技術的快速發(fā)展，數(shù)據(jù)安全復雜性和傳統(tǒng)網絡安全治理局限性之間的矛盾日益凸顯，數(shù)字安全面臨前所未有的挑戰(zhàn)，通過AI賦能安全運營被視為發(fā)展新質生產力的關鍵一環(huán)。

國家行政學院電子政務專家委員會原副主任、全國數(shù)字經濟聯(lián)盟學術委員汪玉凱提出，數(shù)字經濟在新質生產力發(fā)展的結構中起全局性、戰(zhàn)略性的意義，數(shù)字經濟有可能成為新質生產力中最關鍵的一個領域。

中國科學院院士吳世忠表示，近30年來，網絡安全大致可分為三個階段，前20年左右是IT驅動階段，是一個萬物互聯(lián)時代；后10年是DT，即數(shù)據(jù)驅動階段，以大數(shù)據(jù)、云計算為特征，追求數(shù)據(jù)流動；如今則已進入AI驅動時代，人工智能的巨浪極大地改變了安全問題的內涵和外延。

國家信息技術安全研究中心金融安全處處長曹岳認為，未來的攻擊，也就是智能化的攻擊，將加強攻擊的頻度，AI的擴展會提升攻防的對抗維度，AI還將升級網絡攻防對抗的強度。

參加過多次重大項目網絡安全工作的安恒信息，將2008年以來重大活動網絡安全分為單兵戰(zhàn)、綜合戰(zhàn)、立體戰(zhàn)和AI戰(zhàn)四個發(fā)展階段。單兵戰(zhàn)大致在2008-2015年間，早期的網絡安全防護中，用單一的網絡安全產品與安全服務相配合，就能為重大活動的網絡和信息系統(tǒng)提供基本保護；綜合戰(zhàn)大致在2016-2020年間，此時的賽會網絡環(huán)境變得復雜，需要借助強大的網絡安全態(tài)勢感知等平臺類產品，結合多區(qū)域、線上線下的安全服務，才能保證大型賽會安全無虞；立體戰(zhàn)大致在2021-2023年間，隨著重大活動網絡環(huán)境風險的增加，需根據(jù)不同的網絡安全威脅分別制定針對性策略，在防御、監(jiān)控、響應、預測等方面部署相應的安全產品服務，才能保證重大活動的順利舉行；而從2023年9月至今，重大活動網絡安全工作已經進入了AI戰(zhàn)階段。

安恒信息董事長范淵對《經濟參考報》記者表示，現(xiàn)階段的網絡安保工作中，AI已經開始扮演多元化且至關重要的角色，它不僅會改變網絡安全戰(zhàn)的方式和態(tài)勢，還將對勝敗產生深遠影響。在這一階段，首先是網絡安保場景數(shù)字化程度高。人工智能、數(shù)字孿生、物聯(lián)網等數(shù)字技術應用廣泛，傳統(tǒng)安全保障手段無法有效應對；其次是攻擊的自動化和防御的自動化。AI可以被用來進行自動化網絡攻擊，使得攻擊更加隱蔽、快速和難以防御。安全垂域大模型基于機器學習和大數(shù)據(jù)分析等技術，能自動學習網絡攻擊行為模式，并快速響應和應對各種新型網絡威脅，因此以AI對AI、以AI管AI成為必選項。

相關探索應用取得突破

在使用AI助力網絡防御方面，國內外都已經進行了很多探索，并已經取得成果。

美國微軟公司推出的網絡安全助手給用戶提供生成式、自動化網絡安全人工智能服務。經過去年一年的運行，可以將安全事件響應、評估和防御時間從過去的數(shù)小時到數(shù)天壓縮到幾分鐘。

AI賦能極大地提升了國內網絡安全防御能力與處置效率。安恒信息去年8月發(fā)布的“恒腦·安全垂域大模型”，實現(xiàn)了國內AI安全垂域大模型在國際大型賽事的首次應用。在杭州亞運會期間，基于這一模型和MSS安全運營平臺的輔助支撐，有效解決了安全運營過程中復雜重復的工作。

據(jù)了解，安恒信息已將AI技術應用作為一級戰(zhàn)略。范淵介紹，過去8個月，安恒信息在人工智能應用于數(shù)字安全方面進行了大量嘗試和實戰(zhàn)探索，公司的數(shù)字安全產品和服務正在發(fā)生翻天覆地的變化。以數(shù)據(jù)分類分級+AI為例，AI技術應用使數(shù)據(jù)分類分級的效率提升了30倍?！斑@不僅僅是一次簡單的效率提升，更是一次深刻的行業(yè)變革，讓我們看到了AI在數(shù)字安全領域的巨大潛力和廣闊前景?！?/p>

今年4月，安恒信息剛剛發(fā)布了數(shù)據(jù)分類分級解決方案、AI防火墻、天穹人工智能安全運營平臺等八大AI產品。此次大會期間，安恒信息攜手華為發(fā)布昇騰-恒腦推理一體機，利用昇騰AI集群為恒腦提供底座，全流程加速大模型的創(chuàng)新與落地。

海亮集團積極探索“AI+安全”的建設思路。集團數(shù)字創(chuàng)新部部長孫雯介紹，用AI來代替人工使安全告警的分析更加智能，效率大幅提升。海亮集團發(fā)現(xiàn)，在AI與數(shù)據(jù)安全結合的過程中，AI表現(xiàn)超乎預期，試點場景的4000多個字段自動化梳理可達到90%以上，識別準確率從50%提高到85.8%。

AI應用于網絡安全的前景如何？

安永（中國）企業(yè)咨詢有限公司合伙人王堅表示，威脅監(jiān)測與相應的工作、惡意軟件的檢測、用戶的行為分析、身份驗證訪問控制、網絡釣魚監(jiān)測、自動化情報威脅、欺詐檢測以及數(shù)據(jù)的泄密保護等方面，都是大模型應用的潛力領域。

杭州人工智能學會副秘書長、安恒信息研究院院長王欣認為，AI之于安全，現(xiàn)在真正的能力只發(fā)揮了不足5%。過去一年多時間，AI與安全之間的探索，是從原來的智能問答發(fā)展到輔助駕駛，在不久的將來將進入半自動駕駛，未來會進入全自動駕駛。

推動“AI+安全”縱深發(fā)展

此次大會上，業(yè)界人士的一個共識是，“AI+安全”一定是網安行業(yè)未來發(fā)展的方向。同時，專業(yè)人士對于AI技術的雙刃劍效應以及行業(yè)發(fā)展環(huán)境也給予廣泛關注，對“AI+安全”的發(fā)展提出了很多積極的建議。

教育部新工科聯(lián)盟網絡空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長、俄羅斯國家工程院外籍院士胡瑞敏認為，從短期與中期來講，大模型技術還存在著很多不足，必然需要通過人機協(xié)同才能真正發(fā)揮作用。從長期來看，要在做好安全準備的前提下，謹慎推動機器的自主性。

多位專家建議，面對復雜多變的國際形勢和日益增長的網絡安全威脅，亟需加強關鍵信息基礎設施安全保護工作。

“現(xiàn)有的漏洞補上了，新的漏洞會被發(fā)現(xiàn)?，F(xiàn)有的技術出現(xiàn)了攻防相對平衡穩(wěn)定，新的技術創(chuàng)新會把戰(zhàn)場轉移到新領域。”國際電信聯(lián)盟前秘書長趙厚麟表示，“在安全領域的攻防、互斗會長期存在?！?/p>

對此，中國工程院院士鄔江興認為，無論是數(shù)字產業(yè)化還是產業(yè)數(shù)字化，第一要務都是網絡安全。但是，網絡安全防御卻呈現(xiàn)出像“打鼴鼠”游戲一樣的情況，即按下葫蘆浮起瓢，冒出一個鼴鼠就打一下。他指出，針對傳統(tǒng)網絡安全治理的局限性，要從數(shù)字產業(yè)的源頭技術抓起，從數(shù)字產品的設計安全抓起。推動數(shù)字生態(tài)系統(tǒng)底層驅動范式轉型，以內生安全賦能，才能筑牢網絡與數(shù)據(jù)空間安全屏障。

從與會專家的討論中，記者發(fā)現(xiàn)，“AI+安全”行業(yè)既要滿足市場對網安技術和產品安全可靠、簡便易行的要求，還要在用戶愿負擔成本和企業(yè)研發(fā)成本激增之間找出最佳平衡點，因此挑戰(zhàn)不小。

鄔江興針對網安人才短缺問題表示，按照中央網信辦的預測，到2027年，中國需要235萬網絡安全人才，但目前全國100多所網安相關學院每年的畢業(yè)生不足3萬人。網安人才與制造漏洞或無意制造漏洞的人數(shù)相比，存在巨大的“剪刀差”。

在國際領域，吳世忠表示，人工智能的安全治理已經成為大國博弈的一個協(xié)調議題。70多個國家在五年內已經出臺安全治理方面的戰(zhàn)略對策和法律文件接近100件。

趙厚麟表示，數(shù)字安全全球關注，要加強全球協(xié)作，鼓勵和加強國際合作。