以大模型為基礎(chǔ)的生成式AI的高速發(fā)展，給數(shù)字化領(lǐng)域帶來了強(qiáng)大的驅(qū)動(dòng)力，各行各業(yè)如何利用大模型創(chuàng)造新質(zhì)生產(chǎn)力，是2023世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)的熱門話題之一。在11月9日舉行的“下一代前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇”上，奇安信集團(tuán)總裁吳云坤表示，工業(yè)級(jí)大模型應(yīng)用可以解決安全生產(chǎn)力短缺的問題，但需要以大模型應(yīng)用安全作為生產(chǎn)力輸出的前提和基礎(chǔ)。

網(wǎng)絡(luò)安全的本質(zhì)是攻防對(duì)抗，攻防對(duì)抗是能力和效率的對(duì)抗。目前，在安全事件響應(yīng)、安全運(yùn)營、攻防演習(xí)等實(shí)戰(zhàn)攻防場景下，普遍存在“安全告警疲勞、安全專家稀缺、安全效率瓶頸”三大生產(chǎn)力短缺難題，迫切需要安全大模型來創(chuàng)造新質(zhì)生產(chǎn)力，然而當(dāng)前大多數(shù)大模型應(yīng)用無法真正解決網(wǎng)絡(luò)安全生產(chǎn)力問題。

吳云坤指出，安全大模型達(dá)到工業(yè)級(jí)應(yīng)用，需要滿足三個(gè)關(guān)鍵條件。

一是工業(yè)級(jí)應(yīng)用需要高質(zhì)量知識(shí)數(shù)據(jù)、專家隊(duì)伍、實(shí)戰(zhàn)經(jīng)驗(yàn)和場景支撐。安全大模型的工業(yè)級(jí)應(yīng)用，更依賴于高質(zhì)量知識(shí)數(shù)據(jù)和實(shí)踐訓(xùn)練。首先高質(zhì)量、數(shù)量龐大的安全大數(shù)據(jù)是安全大模型的基礎(chǔ)；其次需要龐大的安全專家團(tuán)隊(duì)持續(xù)為大模型提供滲透測試、威脅情報(bào)、病毒樣本分析、漏洞挖掘、代碼審計(jì)、安全測試、應(yīng)急響應(yīng)、安全運(yùn)營等不同的維度的專業(yè)知識(shí)，這些知識(shí)來自于專家持續(xù)的實(shí)踐經(jīng)驗(yàn)總結(jié)；最后需要豐富的實(shí)戰(zhàn)場景和經(jīng)驗(yàn)，只有足夠多的個(gè)性場景和基于這些場景的實(shí)踐經(jīng)驗(yàn)持續(xù)的投喂，安全大模型才能持續(xù)提供能力。

二是工業(yè)級(jí)應(yīng)用必須基于多種安全任務(wù)的強(qiáng)化學(xué)習(xí)和頂尖專家的反饋訓(xùn)練。訓(xùn)練是大模型能力生成的關(guān)鍵。安全大模型的訓(xùn)練過程共分為安全知識(shí)預(yù)訓(xùn)練、安全任務(wù)微調(diào)、反饋學(xué)習(xí)和推薦加速四個(gè)環(huán)節(jié)，其中根據(jù)安全任務(wù)進(jìn)行微調(diào)模型是大模型能力生成的關(guān)鍵環(huán)節(jié)，需要通過大量安全設(shè)備間數(shù)萬個(gè)API接口任務(wù)進(jìn)行不同領(lǐng)域的微調(diào)，才能具備足夠的任務(wù)能力；另外一個(gè)關(guān)鍵環(huán)節(jié)是頂尖專家的反饋學(xué)習(xí)，根據(jù)大量頂尖安全專家的反饋進(jìn)行強(qiáng)化學(xué)習(xí)，對(duì)安全任務(wù)要求，進(jìn)一步強(qiáng)化執(zhí)行安全任務(wù)的能力。

三是工業(yè)級(jí)應(yīng)用需要面向安全生產(chǎn)場景中的任務(wù)和應(yīng)用強(qiáng)化實(shí)戰(zhàn)能力。奇安信面向網(wǎng)絡(luò)安全工業(yè)級(jí)應(yīng)用推出了Q-GPT安全大模型，這個(gè)大模型致力于解決“安全告警疲勞、運(yùn)營效率瓶頸、安全專家稀缺”三大生產(chǎn)力短缺難題，面向安全運(yùn)營、安全事件響應(yīng)和攻防演習(xí)等實(shí)戰(zhàn)安全場景，強(qiáng)化了智能研判、智能溯源、智能處置、智能報(bào)告、智能問答五大能力，通過實(shí)戰(zhàn)能力的強(qiáng)化，確保在網(wǎng)絡(luò)安全生產(chǎn)過程中輸出能力，實(shí)現(xiàn)提升生產(chǎn)力和生產(chǎn)效率的目標(biāo)。

吳云坤介紹，目前Q-GPT安全大模型已經(jīng)在安全運(yùn)營、事件響應(yīng)、攻防演練等場景中進(jìn)行大量實(shí)踐驗(yàn)證，大幅度提升了相關(guān)應(yīng)用場景的安全能力和效率。比如在安全運(yùn)營場景下，經(jīng)過初步測算，Q-GPT大模型每分鐘可以研判16條告警，是安全專家平均水平的16倍；年運(yùn)營效率可以達(dá)到人工運(yùn)營的70倍。

同時(shí)，大模型技術(shù)是一把雙刃劍，要以大模型應(yīng)用安全作為生產(chǎn)力輸出的前提和基礎(chǔ)。奇安信推出的大模型衛(wèi)士，可防范大模型應(yīng)用中數(shù)據(jù)投喂造成的敏感數(shù)據(jù)泄露、避免觸發(fā)數(shù)據(jù)跨境安全監(jiān)管紅線、建立身份識(shí)別與溯源機(jī)制，對(duì)企業(yè)的大模型應(yīng)用進(jìn)行安全管控。

吳云坤表示，安全大模型是網(wǎng)絡(luò)安全新質(zhì)生產(chǎn)力的希望和未來，只有將既有網(wǎng)絡(luò)安全知識(shí)和能力、網(wǎng)絡(luò)安全實(shí)戰(zhàn)場景和實(shí)踐充分結(jié)合、深度融合，才能真正讓大模型應(yīng)用落地，解決網(wǎng)絡(luò)安全生產(chǎn)力短缺難題。