北京2020年6月17日 /美通社/ -- 近期，天地和興發布了(le)一(yi)篇《請問人工(gong)智能，你對(dui)網絡(luo)安全造成了(le)什(shen)么影(ying)響(xiang)？》的文(wen)(wen)章，以下是觀點(dian)全文(wen)(wen)：
當前網絡安全領域攻擊與防御的協同進化如火如荼。像人工智能（AI）和機器學習（ML）這種先進的技術同時為惡意的攻擊者也帶來了攻擊技術演進的機會。簡單來看，對網絡安全的需求比以往任何時候都更加重要。AI/ML工具在幫助抗擊網絡犯罪方面可能走了很長一段路，但是這些技術并非無所不能，也會被惡意黑客利用。人工智能將致力于極大地提高網絡安全性，但黑客也可將其用于網絡犯罪活動，這是對網絡安全的真正威脅。AI可以有效地分析用戶行為，推導模式并識別網絡中的各種異常或不正常情況。有了這些數據，可以快速輕松地識別網絡漏洞。反之，現在依賴于人類智能的職責將易于受到模仿合法的基于AI算法的惡意程序的攻擊。天地和興認(ren)為，一些(xie)企業(ye)正在熱衷于(yu)將其基于(yu)AI/ML的概念或產品推(tui)向市場(chang)。但(dan)AI/ML的局(ju)限性(xing)，導致他們可能(neng)會(hui)忽略算(suan)法正在產生錯誤或虛假(jia)的安全(quan)感。
一、網絡安全行業AI應用火熱
技術和業務領導者已將網絡安全行業作為當今企業中人工智能（AI）和機器學習（ML）的頂級高級用例之一。根據最新研究，在未來五年里，網絡安全中的AI技術有望以每年23%的速度增長。到2026年，網絡安全AI市場將從去年的88億美元增長到382億美元。
2020年(nian)，網絡(luo)安(an)(an)全(quan)領域(yu)的(de)(de)AI將(jiang)顯著增長。根據Capgemini去年(nian)的(de)(de)《用(yong)人工智能(neng)重塑網絡(luo)安(an)(an)全(quan)》報(bao)告研究結果顯示，在(zai)2019年(nian)之(zhi)前(qian)，只有五分之(zhi)一的(de)(de)網絡(luo)安(an)(an)全(quan)組織(zhi)(zhi)在(zai)其(qi)技術(shu)(shu)棧中使用(yong)了AI。但是(shi)Capgemini的(de)(de)研究人員(yuan)表(biao)示，AI采用(yong)率將(jiang)直線上升，大約有63%的(de)(de)組織(zhi)(zhi)計劃在(zai)2020年(nian)底之(zhi)前(qian)部(bu)署AI。最具(ju)有潛力的(de)(de)用(yong)例是(shi)在(zai)運營技術(shu)(shu)（OT）和(he)物聯網（IoT）。
二、AI在網絡安全行(xing)業(ye)的優(you)勢
人工智能可能會是(shi)網絡安全(quan)的(de)救(jiu)星。根據Capgemini研(yan)究結果顯示，80%的(de)公(gong)司都依(yi)靠AI來(lai)幫助識(shi)別威(wei)脅和阻止攻擊(ji)。這是(shi)一個(ge)很大的(de)要求，因為實(shi)際(ji)上，很少有(you)非專家真正了解AI對安全(quan)的(de)價值，或者該技術是(shi)否可以有(you)效解決信息安全(quan)的(de)許多(duo)潛在用例。
發現新(xin)型(xing)惡意(yi)軟件并不是部(bu)署機器學習(xi)以(yi)提(ti)高網(wang)絡安全性的(de)唯一方法：基于AI的(de)網(wang)絡監視工具(ju)還(huan)可以(yi)跟(gen)蹤用戶的(de)日常(chang)行(xing)(xing)為，從而(er)了(le)解其(qi)典型(xing)行(xing)(xing)為。通過分(fen)析此信息，AI可以(yi)檢測(ce)異常(chang)并做(zuo)出相應(ying)的(de)反應(ying)。
領先的(de)網絡安全(quan)公(gong)司Darktrace使用機器學習來檢(jian)測(ce)威脅，該公(gong)司聯合(he)首(shou)席(xi)執行官(guan)Poppy Gustafsson表示，“人工智(zhi)能(neng)(neng)使我們能(neng)(neng)夠以(yi)一種智(zhi)能(neng)(neng)的(de)方式做出反應(ying)，了(le)解違規行為(wei)或(huo)行為(wei)改變的(de)相關性和后果，并(bing)實時制定相應(ying)的(de)反應(ying)。”
Darktrace的(de)工業免(mian)疫系(xi)統(tong)是(shi)一項尖端創新，可為(wei)運營技(ji)術(shu)實(shi)施實(shi)時的(de)“免(mian)疫系(xi)統(tong)”，并(bing)實(shi)現(xian)傳統(tong)網(wang)絡防御方法的(de)根本轉變(bian)。該系(xi)統(tong)以(yi)貝(bei)葉斯數(shu)學和無(wu)監督機器學習為(wei)基礎(chu)，對復(fu)雜(za)的(de)網(wang)絡環境進行分析，以(yi)了解每個網(wang)絡，設備和用戶(hu)的(de)“生活模式”。該技(ji)術(shu)不依賴于過去的(de)攻擊(ji)知(zhi)識，而(er)是(shi)像人類免(mian)疫系(xi)統(tong)一樣運作，并(bing)且可以(yi)通(tong)過檢測預期(qi)行為(wei)的(de)細(xi)微變(bian)化來發現(xian)以(yi)前未知(zhi)的(de)威脅。
網(wang)(wang)絡(luo)安(an)全主管(guan)越(yue)來越(yue)相信(xin)AI對(dui)于增加響(xiang)應(ying)(ying)時間(jian)和降低預防漏(lou)洞的(de)成本至(zhi)關重要。根據(ju)Capgemini的(de)《用人工智(zhi)能重塑網(wang)(wang)絡(luo)安(an)全》研究，四(si)分之三的(de)高管(guan)表示(shi)，網(wang)(wang)絡(luo)安(an)全領域(yu)的(de)AI可以加快(kuai)對(dui)漏(lou)洞的(de)響(xiang)應(ying)(ying)速度(du)，無(wu)論是(shi)在檢測還是(shi)補救方面。約有64%的(de)人表示(shi)，這也降低了檢測和響(xiang)應(ying)(ying)的(de)成本。
盡管人們(men)(men)對(dui)過度依賴(lai)AI存(cun)有(you)疑慮，但人們(men)(men)似乎正在(zai)為(wei)一種中庸之道建立共識，AI并(bing)不是魔杖，而(er)是一種有(you)助于(yu)增強SOC和整個安全組(zu)織的(de)人類智(zhi)能(neng)（HI）的(de)有(you)用(yong)方(fang)法。根據White Hat的(de)《人工智(zhi)能(neng)與(yu)人類要素安全情感研究》，大約(yue)70%的(de)安全專業人員同(tong)意(yi)AI通過消(xiao)除多達55%的(de)手動(dong)任務(wu)來(lai)提(ti)高團隊(dui)效率。這有(you)助于(yu)他們(men)(men)專注(zhu)于(yu)更重要的(de)任務(wu)并(bing)減輕壓力水(shui)平。
三、AI在網絡安全行業的局限(xian)
經驗豐富的(de)網絡安全專家們現在(zai)正在(zai)研究的(de)問題是：“人工(gong)(gong)智能(neng)(neng)到(dao)底能(neng)(neng)在(zai)多大程度上(shang)幫助(zhu)改善安全狀況和安全運營？”AI在(zai)網絡安全中的(de)成熟度到(dao)底如何？它能(neng)(neng)取(qu)代(dai)安全團隊嗎(ma)？網絡安全行業在(zai)2020年的(de)發展很大一部分將是如何有效(xiao)平衡人工(gong)(gong)智能(neng)(neng)（AI）和人類智能(neng)(neng)（HI）。
盡管AI驅動的(de)(de)網(wang)絡安(an)(an)全(quan)不斷向前發展，許(xu)多(duo)安(an)(an)全(quan)專業(ye)人(ren)員仍認為(wei)(wei)，人(ren)類智(zhi)能(neng)(neng)（HI）仍將根據具體情況提供最(zui)佳結(jie)(jie)果。白帽安(an)(an)全(quan)公(gong)司（White Hat Security）在RSA大(da)會上進行的(de)(de)一(yi)項最(zui)新《人(ren)工(gong)(gong)智(zhi)能(neng)(neng)與人(ren)類要(yao)素(su)安(an)(an)全(quan)情感研(yan)究》表明，60%的(de)(de)安(an)(an)全(quan)專業(ye)人(ren)員仍然(ran)對(dui)由人(ren)類驗證(zheng)的(de)(de)網(wang)絡威脅結(jie)(jie)果比人(ren)工(gong)(gong)智(zhi)能(neng)(neng)生成的(de)(de)結(jie)(jie)果更(geng)有(you)信心。大(da)約三分(fen)之(zhi)一(yi)的(de)(de)受訪(fang)者(zhe)表示(shi)，直覺是推(tui)動人(ren)類分(fen)析的(de)(de)最(zui)重要(yao)的(de)(de)人(ren)為(wei)(wei)因(yin)素(su)，21%的(de)(de)人(ren)認為(wei)(wei)創造(zao)力是人(ren)的(de)(de)優勢(shi)，20%的(de)(de)人(ren)認為(wei)(wei)以前的(de)(de)經驗和(he)參考框(kuang)架是使人(ren)們對(dui)安(an)(an)全(quan)操作(zuo)流程至關重要(yao)的(de)(de)因(yin)素(su)。
Osterman Research的(de)(de)《網絡安全中人(ren)工(gong)智能(neng)現狀》研(yan)究表明，在部署的(de)(de)早期(qi)階(jie)段，部分問題是(shi)人(ren)們強烈認(ren)為(wei)AI尚未(wei)準(zhun)(zhun)備就緒。一些常見的(de)(de)投訴(su)包括結果不準(zhun)(zhun)確的(de)(de)問題、在端點上放置某些類型的(de)(de)AI平臺的(de)(de)性能(neng)權衡(heng)、使用困難以及對(dui)誤報(bao)的(de)(de)擔憂(you)。
網絡(luo)安(an)全專家(jia)認為，他們(men)(men)對人(ren)工智能(neng)的(de)(de)過度依賴也(ye)令(ling)人(ren)擔憂，因為他們(men)(men)認為他們(men)(men)所做的(de)(de)工作過于復(fu)雜，無法被機(ji)器復(fu)制。去(qu)年Ponemon的(de)(de)《自(zi)動化時(shi)代IT安(an)全功能(neng)的(de)(de)人(ren)員(yuan)配置》報告調查結果顯示，超過一(yi)半的(de)(de)安(an)全專家(jia)表示，他們(men)(men)將無法訓練AI來(lai)完(wan)成其(qi)團隊執行(xing)的(de)(de)任務，并且他們(men)(men)更有(you)資格實時(shi)捕(bu)獲威(wei)脅。幾乎一(yi)半的(de)(de)人(ren)還報告說，人(ren)為干(gan)預(yu)是(shi)網絡(luo)保(bao)護的(de)(de)必要(yao)條件(jian)。
但是，盡管AI和ML確實為網絡安全提供了好處，但對于組織而言，重要的是要認識到這些工具并不能代替人類安全人員。因此，關于AI將解決網絡技能危機的任何想法都具有廣泛意義。實際上，這些解決方案通常需要安全團隊花費更多的時間，這一事實經常被忽略。
例如，基于機器學習的安全性工具可能會被錯誤地編程，從而導致算法遺漏意外甚至明顯的事情。如果該工具由于沒有經過編碼以考慮某些參數而錯過了特定類型的網絡攻擊，那將會導致問題。確實，AI和ML可能會產生其他問題，因為盡管這些工具有助于防御黑客，但網絡犯罪分子自己很有可能會使用相同的技術來使攻擊更加有效。
例如，可以使用ML自動發送網絡釣魚電子郵件，并學習在活動中使用哪種語言，生成點擊的原因以及應如何針對不同目標進行攻擊。
例(li)如，以(yi)異常檢測為(wei)例(li)。對于(yu)安(an)全(quan)運營中(zhong)心分析人員而言(yan)，能夠(gou)發(fa)現網絡中(zhong)的任何“壞(huai)東(dong)西”確實很有(you)價值，并且機器(qi)學習(xi)可(ke)以(yi)很好地解決此問題。但是(shi)，找到比以(yi)前更(geng)多(duo)“壞(huai)東(dong)西”的算(suan)法可(ke)能并不(bu)像聽(ting)起來那樣好。所有(you)ML算(suan)法都有(you)一個誤報(bao)率(lv)（當事(shi)件是(shi)良性事(shi)件時將其標識為(wei)“不(bu)良”），其值是(shi)各種所需行為(wei)之間權衡(heng)的一部分。因此，仍然需要人工來分類這些結果，而且算(suan)法發(fa)現的“錯誤”越多(duo)，團(tuan)隊成(cheng)員需要評估的事(shi)件就越多(duo)。
這并(bing)不(bu)是(shi)(shi)說(shuo)這對于熟悉ML的人(ren)來說(shuo)是(shi)(shi)一(yi)個特別令人(ren)驚訝的結(jie)果，只是(shi)(shi)對于那(nei)些希望(wang)采用這些解決(jue)方案的團隊來說(shuo)，這并(bing)不(bu)一(yi)定是(shi)(shi)常識，這可(ke)能導致人(ren)們(men)(men)對ML可(ke)以(yi)為他們(men)(men)節省多少時間的期望(wang)過高。
盡管上(shang)面的(de)(de)(de)示例是(shi)關于(yu)如何將ML算法直接用(yong)于(yu)完成(cheng)安全(quan)(quan)團隊的(de)(de)(de)某些工作(zuo)的(de)(de)(de)示例，但是(shi)算法也可以(yi)用(yong)于(yu)幫助(zhu)用(yong)戶(hu)避免犯可能帶來風險的(de)(de)(de)錯(cuo)誤，從而(er)間接地(di)為他們提供幫助(zhu)。這(zhe)種方法之所以(yi)令人興奮(fen)，是(shi)因為它(ta)開始著眼于(yu)減少進入渠(qu)道(dao)的(de)(de)(de)可能事(shi)件的(de)(de)(de)數量，而(er)不是(shi)試圖(tu)在事(shi)件最(zui)終導致安全(quan)(quan)事(shi)件時識別(bie)并減輕它(ta)們。不僅(jin)僅(jin)是(shi)解決最(zui)明顯的(de)(de)(de)問(wen)題，從長遠(yuan)來看(kan)，這(zhe)些問(wen)題可能會帶來預期(qi)的(de)(de)(de)結果。
考(kao)慮ML時，另(ling)一個容易忽(hu)略的(de)問題(ti)是數(shu)據(ju)問題(ti)。任何ML算法(fa)(fa)只有在有足夠的(de)數(shu)據(ju)可供學習時才(cai)能工作(zuo)。學習需要(yao)時間。試想，在識(shi)別貓之前，您需要(yao)顯示(shi)多(duo)少張互(hu)聯(lian)網貓圖片？模型(xing)開始運(yun)行(xing)之前，算法(fa)(fa)需要(yao)運(yun)行(xing)多(duo)長(chang)時間？學習過(guo)程所花(hua)費的(de)時間可能比預期的(de)長(chang)得多(duo)，因(yin)此(ci)安(an)全團(tuan)隊需要(yao)考(kao)慮這(zhe)一點。此(ci)外，對(dui)于某些用例而言最佳的(de)標記數(shu)據(ju)在安(an)全性方(fang)面(mian)供不(bu)應(ying)求。這(zhe)是另(ling)一個需要(yao)“人(ren)員(yuan)參與”來對(dui)安(an)全事件(jian)進(jin)行(xing)分類并協助算法(fa)(fa)訓練的(de)領域(yu)。
參考資源
【1】
【2】
【3】
