(資料圖片僅供參考)

格隆匯4月18日丨有投資者向亞信安全(688225.SH)提問：大家比較關注國外ChatGPT等AI新技術在安全的一些應用，請問兩個方面的問題，第一是從技術發(fā)展上可能會帶來什么樣的安全問題？另外就是前段時間微軟、谷歌要把AI能力植入到整個安全技術體系內(nèi)，公司怎么去看技術發(fā)展趨勢以及是否會有相應的布局？

亞信安全回復：這個問題其實是兩個方面，先回答AI對安全的影響。原來我們一直在談公司的平臺化戰(zhàn)略是云化、智能和聯(lián)動，其中的“智能”實際上從那時候開始一直在做相應的布局，只不過最近ChatGPT的推出讓大家突然發(fā)現(xiàn)AI的很多算法和模型超出了大家的預期，實際上整個AI構架與網(wǎng)絡安全行業(yè)極其契合。在大模型中一方面要有相應的海量數(shù)據(jù)(603138)，另一方面要有相應的模型或者規(guī)則，最后是相應的反饋，甚至把反饋輸出給機器人(300024)、虛擬人等完成行動處置。這與網(wǎng)絡安全行業(yè)基于威脅情報以及安全事件告警記錄等海量信息采集、訓練形成模型是類似的路徑，不管是在做APT防護還是各種各樣的防御，威脅發(fā)現(xiàn)能力的規(guī)則要有相應的模型，只不過原來這些規(guī)則絕大部分要基于專家、基于攻防研究去設置，然后才會進行相應的處置和響應。從這個鏈條來看，我們可以看到AI的應用在于取代專家的判斷或者加強規(guī)則的設立。AI底層技術在云網(wǎng)邊端相應的產(chǎn)品、威脅情報、核心技術引擎等方面都得到了很快的發(fā)展與應用。不管是XDR還是我們講到的態(tài)勢感知等產(chǎn)品，都會應用AI技術，未來我們給客戶提供的運營能力以及應急處置能力都可以用AI進行部分替代和取代，甚至比訓練有素的安全專家會更加強大。從這個維度講，AI的注入和賦能對整個產(chǎn)業(yè)會產(chǎn)生深刻的影響，帶來巨大的幫助。第二，AI本身的挑戰(zhàn)。AI大模型基于海量數(shù)據(jù)和相應的訓練，在模型中大家可以發(fā)現(xiàn)提問的技巧特別關鍵，提問人有沒有解構的能力、把問題設計好是比較重要的。一方面，訓練的數(shù)據(jù)是不是存在毒藥、提問和處置在應用的時候是否出現(xiàn)問題等等會對數(shù)字化系統(tǒng)帶來巨大的挑戰(zhàn)，也就是說可以數(shù)據(jù)投毒，甚至黑客組織、APT組織也可以利用模型能力來高效地發(fā)起攻擊。所以在這個過程中怎么防范在數(shù)據(jù)訓練和提問的過程中避免出現(xiàn)安全風險是很大的挑戰(zhàn)，也是一個很大的問題。其實安全行業(yè)和各國政府高度重視ChatGPT帶來的安全問題，不僅是我們所看到的狹義的網(wǎng)絡安全和數(shù)據(jù)安全，甚至于上升到了社會意識、輿論操作的問題，所以這里面我們認為會有很多的挑戰(zhàn)，網(wǎng)安行業(yè)會在相關技術應用如同態(tài)加密等密碼技術以及很多技術層面對其進行相應的防御。

關鍵詞：