(資料圖片僅供參考)
格隆匯4月18日丨有投資者向亞信安全(688225.SH)提問：大家比較關(guān)注國外ChatGPT等AI新技術(shù)在安全的一些應(yīng)用，請問兩個方面的問題，第一是從技術(shù)發(fā)展上可能會帶來什么樣的安全問題？另外就是前段時間微軟、谷歌要把AI能力植入到整個安全技術(shù)體系內(nèi)，公司怎么去看技術(shù)發(fā)展趨勢以及是否會有相應(yīng)的布局？
亞信安全回復(fù)：這個問題其實是兩個方面，先回答AI對安全的影響。原來我們一直在談公司的平臺化戰(zhàn)略是云化、智能和聯(lián)動，其中的“智能”實際上從那時候開始一直在做相應(yīng)的布局，只不過最近ChatGPT的推出讓大家突然發(fā)現(xiàn)AI的很多算法和模型超出了大家的預(yù)期，實際上整個AI構(gòu)架與網(wǎng)絡(luò)安全行業(yè)極其契合。在大模型中一方面要有相應(yīng)的海量數(shù)據(jù)(603138)，另一方面要有相應(yīng)的模型或者規(guī)則，最后是相應(yīng)的反饋，甚至把反饋輸出給機器人(300024)、虛擬人等完成行動處置。這與網(wǎng)絡(luò)安全行業(yè)基于威脅情報以及安全事件告警記錄等海量信息采集、訓(xùn)練形成模型是類似的路徑，不管是在做APT防護還是各種各樣的防御，威脅發(fā)現(xiàn)能力的規(guī)則要有相應(yīng)的模型，只不過原來這些規(guī)則絕大部分要基于專家、基于攻防研究去設(shè)置，然后才會進行相應(yīng)的處置和響應(yīng)。從這個鏈條來看，我們可以看到AI的應(yīng)用在于取代專家的判斷或者加強規(guī)則的設(shè)立。AI底層技術(shù)在云網(wǎng)邊端相應(yīng)的產(chǎn)品、威脅情報、核心技術(shù)引擎等方面都得到了很快的發(fā)展與應(yīng)用。不管是XDR還是我們講到的態(tài)勢感知等產(chǎn)品，都會應(yīng)用AI技術(shù)，未來我們給客戶提供的運營能力以及應(yīng)急處置能力都可以用AI進行部分替代和取代，甚至比訓(xùn)練有素的安全專家會更加強大。從這個維度講，AI的注入和賦能對整個產(chǎn)業(yè)會產(chǎn)生深刻的影響，帶來巨大的幫助。第二，AI本身的挑戰(zhàn)。AI大模型基于海量數(shù)據(jù)和相應(yīng)的訓(xùn)練，在模型中大家可以發(fā)現(xiàn)提問的技巧特別關(guān)鍵，提問人有沒有解構(gòu)的能力、把問題設(shè)計好是比較重要的。一方面，訓(xùn)練的數(shù)據(jù)是不是存在毒藥、提問和處置在應(yīng)用的時候是否出現(xiàn)問題等等會對數(shù)字化系統(tǒng)帶來巨大的挑戰(zhàn)，也就是說可以數(shù)據(jù)投毒，甚至黑客組織、APT組織也可以利用模型能力來高效地發(fā)起攻擊。所以在這個過程中怎么防范在數(shù)據(jù)訓(xùn)練和提問的過程中避免出現(xiàn)安全風(fēng)險是很大的挑戰(zhàn)，也是一個很大的問題。其實安全行業(yè)和各國政府高度重視ChatGPT帶來的安全問題，不僅是我們所看到的狹義的網(wǎng)絡(luò)安全和數(shù)據(jù)安全，甚至于上升到了社會意識、輿論操作的問題，所以這里面我們認為會有很多的挑戰(zhàn)，網(wǎng)安行業(yè)會在相關(guān)技術(shù)應(yīng)用如同態(tài)加密等密碼技術(shù)以及很多技術(shù)層面對其進行相應(yīng)的防御。
關(guān)鍵詞：
