以大模型為代表的新一輪人工智能（AI）浪潮正以前所未有的態(tài)勢席卷千行百業(yè)。在這個顛覆性技術變革時代，數(shù)字安全領域?qū)⒚媾R怎樣的機遇與挑戰(zhàn)？5月18日，“C3安全大會·2024”在南京舉行。在這場數(shù)字安全行業(yè)的高級別閉門會議上，業(yè)界多方共同探索AI+時代的數(shù)字安全之道，為新時代安全生態(tài)建設提供了新的思路。

　　人工智能時代 網(wǎng)絡安全形勢嚴峻

　　“隨著去年ChatGPT的發(fā)布，AGI（通用人工智能）技術讓全球黑客開始狂歡?！眮喰虐踩呒壐笨偛藐悐^在“安全AI未來”主旨演講中的這番描述并非危言聳聽。事實上，AGI工具可以將黑客生成新威脅的時間由之前的數(shù)個月縮減至幾小時甚至幾分鐘，與此同時，攻擊者開始利用大模型迅速發(fā)現(xiàn)軟件與服務中存在的漏洞，通過人臉深度偽造來實施網(wǎng)絡詐騙犯罪的案例也越來越多。更有甚者，攻擊者的目標正由傳統(tǒng)的數(shù)字資產(chǎn)轉(zhuǎn)向AI算力基礎設施和大模型?！皝喰虐踩O(jiān)測到，短短一年時間，針對大模型的攻擊手段已涌現(xiàn)出數(shù)十種不同的類型?！?/p>

　　專注AI安全攻防實戰(zhàn)與對抗的亞信安全實驗室模擬了去年發(fā)現(xiàn)的海綿樣本攻擊，大致原理是通過向大模型發(fā)布特殊的樣本，讓大模型的算力消耗急劇上升，原來短時間能做出響應的需求，現(xiàn)在則需要大量時間去計算。即便停止攻擊，大模型返回結(jié)果的速度也變得很慢?！叭绻磥砗诵膽枚际谴竽Ｐ万?qū)動的AI原生應用，這種情況基本上就等于癱瘓了。”陳奮說。

　　這只是未來網(wǎng)絡安全風險的“冰山一角”。與會專家學者形成共識的是，隨著全球新一輪科技革命和產(chǎn)業(yè)變革的持續(xù)演進，以人工智能大模型為代表的新技術迅猛發(fā)展，數(shù)字化、網(wǎng)絡化、智能化日新月異，網(wǎng)絡安全面臨的風險挑戰(zhàn)不斷增加，網(wǎng)絡安全形勢更為復雜嚴峻。

　　智譜AI總裁王紹蘭介紹，從技術突破到應用落地顯著加快、技術影響力呈現(xiàn)裂變式擴散、規(guī)模化應用與前沿攻關并舉，這是新一代AI技術浪潮的特點。上海垣信衛(wèi)星科技有限公司高級副總裁陸犇博士則透露，垣信擬于今年開始進行大規(guī)模的衛(wèi)星組網(wǎng)建設，隨著衛(wèi)星互聯(lián)網(wǎng)逐步建成，勢必會為產(chǎn)業(yè)帶來新的大數(shù)據(jù)源、新的分布式算力網(wǎng)絡與快捷的人工智能分發(fā)途徑。其間，包括通信的連接、數(shù)據(jù)的連接，以及無處不在的智能泛在體，都將面臨更為突出的安全問題。

　　“現(xiàn)在安全的范疇需要擴大?！敝袊こ淘涸菏俊⑶迦A大學智能產(chǎn)業(yè)研究院（AIR）院長張亞勤認為，新的人工智能是信息智能、物理智能和生物智能的融合，AI大模型的能力極其強大，未來可能創(chuàng)造出很多發(fā)展機遇，但也蘊含著不少潛在風險，包括信息智能的風險、AI本身隱含的安全風險以及可控性、可信性、邊界等問題。其中，AI幻覺、深度偽造等問題很有挑戰(zhàn)性?！艾F(xiàn)在完全可以去仿造人的聲音、圖片和短視頻且無法鑒別，而更大的風險是在物理世界、生物世界，當一個大模型可以控制上億的車、無人機、機器人，連接到金融體系、核心體系，甚至和人的大腦連在一起，失控和被利用的風險更大?！?/p>

　　“在推動大模型相關技術進步的同時，也應未雨綢繆地做好防范工作，確保技術向善?！睆垇喦谠菏繌娬{(diào)。

　　用AI對抗AI 網(wǎng)絡安全攻防升級

　　與會專家認為，網(wǎng)絡安全的攻防從原來人和人之間的對抗，已經(jīng)升級到AI和AI之間的對抗，只有AI驅(qū)動的網(wǎng)絡安全防護檢測技術才能識別AI驅(qū)動的黑客攻擊技術。最典型的案例是深度偽造，人眼可能都看不出來的人臉替換，只有通過AI技術才能識別出來。

　　面對日益嚴峻的網(wǎng)絡安全形勢，全球科技企業(yè)都在加緊行動，網(wǎng)絡安全范式正在革新。微軟日前已經(jīng)正式商用了可用自然語言交互的安全自動化解決方案Copilot for Security；谷歌去年也發(fā)布了網(wǎng)絡安全大模型。全球網(wǎng)絡安全企業(yè)Palo Alto、Crowd Strike已經(jīng)在安全運營平臺上集成了大模型能力。在AI技術浪潮推動下，Palo Alto已經(jīng)成為全球首家市值突破千億美元的安全公司，Crowd Strike的市值也逼近千億美元。在中國，約80%以上的網(wǎng)絡安全公司都在將大模型技術集成到網(wǎng)絡安全產(chǎn)品中，近30%的公司已經(jīng)開始做大模型安全的研究。

　　本次大會期間，亞信安全帶來的“信計劃”也包含了全新研發(fā)的保護算力云基礎設施安全、大模型應用安全防護、大模型紅藍對抗測試等服務，并正式發(fā)布了網(wǎng)絡安全行業(yè)領域自研大模型——信立方。據(jù)介紹，信立方大模型對于執(zhí)行網(wǎng)絡安全行業(yè)的精準問答、復雜的告警日志解讀、深度的網(wǎng)絡安全事件分析等專用場景都有獨特的效果。

　　此外，亞信安全還在構(gòu)想安全運營數(shù)字人，這是一個獨立的大模型應用。用戶每天會產(chǎn)生大量的安全事件，未來安全運營主管只要對數(shù)字人說：“幫我分析一下今天的安全態(tài)勢怎么樣？”數(shù)字人就會自動把當天的安全態(tài)勢調(diào)出來?！敖裉炷男┌踩录仨汃R上處理？”數(shù)字人可能會列舉ABCD四個事件，只要告訴數(shù)字人處理哪個事件，這個事件就會被閉環(huán)處理，沒有任何復雜的界面，完全是對話式的入口來完成過去很繁雜的操作工作。

　　針對近期頻發(fā)的網(wǎng)絡勒索事件，本次大會上，網(wǎng)絡勒索響應與治理中心暨獵狐計劃正式啟動。該中心由亞信安全、中國聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，以防范網(wǎng)絡勒索的持續(xù)惡意攻擊為目標，建立區(qū)域性和行業(yè)性的網(wǎng)絡勒索響應與治理中心，形成常態(tài)化一體化的網(wǎng)絡勒索安全運營。獵狐行動計劃則通過事前、事中、事后三個階段完善處理“銀狐”木馬，這一計劃的實施將為有效打擊網(wǎng)絡勒索行為提供更加堅實的保障。

　　產(chǎn)學研用協(xié)同 多方共建安全生態(tài)

　　值得關注的是，本屆C3安全大會上還舉行了兩項重磅簽約儀式。其一是亞信安全和清華大學智能產(chǎn)業(yè)研究院聯(lián)合研發(fā)行動升級計劃，雙方將進一步提升合作規(guī)模，實現(xiàn)科研實力與人力資源的優(yōu)勢結(jié)合，持續(xù)開展理論、技術、政策等方面的創(chuàng)新性研究工作；另一項則是亞信安全與華為終端的合作簽約，雙方將深度投入鴻蒙生態(tài)建設，結(jié)合領先行業(yè)的終端安全能力，為用戶提供更加安全、可靠的終端環(huán)境，保障用戶的信息安全。

　　產(chǎn)學研用加強協(xié)作正在成為業(yè)界的共識：只做大模型安全是無法解決大模型安全問題的，需要整個產(chǎn)業(yè)鏈、生態(tài)鏈多方融合，構(gòu)建產(chǎn)品配套、軟硬協(xié)同的產(chǎn)業(yè)生態(tài)。

　　“大模型產(chǎn)業(yè)鏈非常長，最終落地過程中會發(fā)現(xiàn)有更多企業(yè)參與進來，尤其是以大模型為基礎的周邊業(yè)態(tài)會更加豐富。”亞信安全高級副總裁兼CDO吳湘寧說，“現(xiàn)在大家都還在探索大模型生態(tài)安全的建設，可以明確的是整個生態(tài)鏈打開后，很多技術使用場景都會發(fā)生改變?！?/p>

　　在制造業(yè)，美的是較早把安全大模型落地到信息安全領域的企業(yè)。據(jù)美的集團首席信息安全官兼軟件工程院院長劉向陽介紹：“過去做安全運營，安全日志每天80億條，僅告警就有20萬條，很難用人力處理。引入安全大模型后，把安全告警需要人工研判的數(shù)量從20萬條降到了100至200條，這就是人工能夠處理的程度了?！?/p>

　　談及與亞信安全的合作，華為終端云開發(fā)者服務與平臺部總裁望岳表示，鴻蒙操作系統(tǒng)是華為推出面向下一代端側(cè)的操作系統(tǒng)，在華為設計理念里，“安全”排在所有因素之上。操作系統(tǒng)涉及計算、資源、通訊、圖形圖像等方方面面，安全體系特別龐大，安全面臨的形勢也尤為復雜，特別是應用到各個行業(yè)，在制造業(yè)、家電行業(yè)、金融業(yè)等，涉及安全的課題和考量點完全不一樣。“鴻蒙操作系統(tǒng)其實也是一個容器，需要像亞信安全這樣的合作伙伴，把多年的經(jīng)驗、積累、能力放到鴻蒙操作系統(tǒng)的底層，以協(xié)同治理好整個系統(tǒng)的安全。”

　　“在新的時代，數(shù)據(jù)正在成為最重要的資產(chǎn)，大模型如同現(xiàn)代冶煉廠，在鑄造出這個時代的‘鋼鐵’。操作系統(tǒng)、行業(yè)大模型與‘云網(wǎng)安’共同構(gòu)成新時代數(shù)據(jù)的基礎設施，應用開發(fā)者們在建造征服數(shù)據(jù)海洋的戰(zhàn)艦?！眮喰怕?lián)合創(chuàng)始人田溯寧如此生動的比喻，勾勒出的正是當前正在建設中的新時代安全生態(tài)。