百度安全 護(hù)航AI安全生態(tài)需要真正的技術(shù)開放
- 來源:中國信息化周報(bào) smarty:if $article.tag?>
- 關(guān)鍵字: smarty:/if?>
- 發(fā)布時(shí)間:2017-11-29 11:00
近日,百度安全牽頭成立OASES智能終端安全生態(tài)聯(lián)盟。這是國內(nèi)第一個(gè)開放的致力于AI生態(tài)安全的聯(lián)盟組織,引發(fā)了媒體、行業(yè)對(duì)AI安全的聚焦。
毋庸置疑的是,人工智能時(shí)代已經(jīng)到來。有數(shù)據(jù)顯示,到2020年,會(huì)有500億臺(tái)物聯(lián)網(wǎng)設(shè)備在全球部署。埃森哲預(yù)測(cè),人工智能可能將勞動(dòng)生產(chǎn)率提升40%,讓人們更有效地利用時(shí)間。到2035年,人工智能將讓年度經(jīng)濟(jì)增長率提升一倍。
但是,所謂“螳螂捕蟬,黃雀在后”,AI既能被用來提升效率,也能被黑客用來提升攻擊技術(shù),竊取用戶隱私。前段時(shí)間各種智能電視被破解,攝像頭變成客廳監(jiān)視器;某品牌智能掃地機(jī)器人被曝存在高危漏洞,變成家庭“間諜”等安全事件頻發(fā)。
危機(jī)四伏的AI生態(tài)
移動(dòng)互聯(lián)時(shí)代,無論是終端、云端、傳輸通道,最終保護(hù)的都是網(wǎng)絡(luò)生態(tài)中的數(shù)據(jù),這些數(shù)據(jù)既有企業(yè)和用戶的隱私,也包含賬戶和密碼等。在AI時(shí)代,大抵相同。不同的是各種IoT設(shè)備的多樣化,身份認(rèn)證加入了生物識(shí)別,語音輸入需求更多地取代了手動(dòng)輸入。但他們的工作方式依然是智能終端與云端的各種通信。
根據(jù)百度安全的總結(jié),AI的安全既包含傳統(tǒng)安全層面,比如AI系統(tǒng)的硬件、軟件、框架、協(xié)議等,也包含AI自身層面的安全,比如錯(cuò)誤地引導(dǎo)機(jī)器學(xué)習(xí)系統(tǒng),以達(dá)到攻擊者的目的,或者破壞機(jī)器學(xué)習(xí)的樣本,讓機(jī)器學(xué)習(xí)得出錯(cuò)誤的結(jié)果。
在最近的GeekPwn極棒破解大會(huì)現(xiàn)場(chǎng),百度安全實(shí)驗(yàn)室只用一張打印的A4紙晃了晃,就成功秒破了某安卓智能手機(jī)的人臉識(shí)別認(rèn)證系統(tǒng),虹膜和指紋也相繼被破解。AI時(shí)代,很多人認(rèn)為生物識(shí)別的唯一性保護(hù)了我們的隱私。但事實(shí)上,這種想法過于簡單。要知道,當(dāng)你把自己變成一個(gè)活的人體密碼時(shí),也就成了黑客的重要“資源”。
云管端一體化AI安全方案
會(huì)上,百度安全宣布向聯(lián)盟成員開放了其在AI生態(tài)上的多項(xiàng)安全能力。官方的說法是,希望在智能終端領(lǐng)域,通過專利共享、技術(shù)開源、標(biāo)準(zhǔn)共建,與聯(lián)盟合作伙伴共同推動(dòng)安全技術(shù)與服務(wù)的應(yīng)用落地,共建安全的AI時(shí)代。
將這次開放的能力進(jìn)行梳理可以看出,這是百度安全針對(duì)智能終端系統(tǒng)給出的全面的安全方案,包含了“云、管、端”的各個(gè)環(huán)節(jié)。這些方案里,也結(jié)合了百度安全的大數(shù)據(jù)安全能力,以及機(jī)器學(xué)習(xí)實(shí)踐經(jīng)驗(yàn)。
在終端層面,首先要保證的是系統(tǒng)安全。針對(duì)這個(gè)問題,百度安全研發(fā)了KARMA自適應(yīng)內(nèi)核漏洞熱修復(fù)方案。它通過五大策略,最大限度保證系統(tǒng)安全,避免系統(tǒng)漏洞被黑客利用。從邏輯層阻斷攻擊,提升自適應(yīng)性;使用內(nèi)存安全語言編寫安全補(bǔ)丁,防止補(bǔ)丁開發(fā)者失誤導(dǎo)致系統(tǒng)崩潰;對(duì)待修補(bǔ)的內(nèi)核進(jìn)行語義聚類,并非只有二進(jìn)制一致才施加修復(fù),進(jìn)一步提升自適應(yīng)性和安全性;方案設(shè)計(jì)了修復(fù)分級(jí)策略,進(jìn)一步提升自適應(yīng)性;生態(tài)共建,以開放、聯(lián)合、協(xié)作模式去合力修復(fù)漏洞,打擊黑產(chǎn)。
目前,KARMA已經(jīng)在1100多個(gè)不同安卓系統(tǒng)版本進(jìn)行了系統(tǒng)化驗(yàn)證測(cè)試,并在某些主流智能終端中應(yīng)用。據(jù)了解,它可以支持目前市場(chǎng)上絕大多數(shù)安卓設(shè)備,同時(shí)還適用于傳統(tǒng)桌面、服務(wù)器Linux的修復(fù)等。它可以支持100%的漏洞修復(fù),其中93.4%可以自適應(yīng)修復(fù),并且對(duì)性能幾乎沒有影響,不影響用戶體驗(yàn)。
終端層面的另一大問題是應(yīng)用安全。但現(xiàn)有智能終端應(yīng)用的生命周期缺乏聯(lián)動(dòng),開發(fā)者、應(yīng)用平臺(tái)、手機(jī)廠商、安全廠商相互隔離。這不但影響了安全信息的互通,也造成了諸多限制,引發(fā)了新的安全問題。
為解決這個(gè)問題,百度安全開源了OASP應(yīng)用簽名安全方案——一種更安全、靈活的密鑰證書管理方案。它首創(chuàng)了應(yīng)用狀態(tài)在線查詢機(jī)制,是一種生態(tài)聯(lián)防、去中心化的安全方案:開發(fā)者能及時(shí)提供應(yīng)用狀態(tài);安全廠商能大規(guī)模掃描監(jiān)控簽名信息生成信用信息,并在端上結(jié)合信用信息判斷App是否惡意;應(yīng)用商店可收納開發(fā)者提交的應(yīng)用信息,并定期下架有問題的App;設(shè)備廠商則通過OASP的簽名機(jī)制進(jìn)行額外的安全校驗(yàn)。
終端設(shè)備和云端服務(wù)通信的過程中,傳輸通道的安全性至關(guān)重要,一旦被黑客惡意劫持,設(shè)備和云端服務(wù)器的數(shù)據(jù)也就都處在風(fēng)險(xiǎn)中。而現(xiàn)在普遍應(yīng)用的TLS/SSL方案是基于非內(nèi)存安全語言編寫,容易被黑客利用內(nèi)存安全漏洞攻擊,而且未來也面臨著被量子計(jì)算機(jī)破解的威脅。
而百度安全基于內(nèi)存安全技術(shù)的下一代可配置嵌入式安全通信協(xié)議棧MesaLink,在語言層面提供內(nèi)存安全保障,算法層面提供后量子密碼對(duì)抗能力。這就使得網(wǎng)絡(luò)傳輸可以避免OpenSSL“心臟流血”等高危漏洞隱患,并且能對(duì)抗量子密碼學(xué)攻擊,進(jìn)一步增強(qiáng)網(wǎng)絡(luò)傳輸層的安全。在MesaLink的保駕護(hù)航下,AI系統(tǒng)的通信有了內(nèi)存安全和抗量子破解的雙重保障,黑客很難再通過內(nèi)存安全漏洞和量子計(jì)算機(jī)技術(shù)經(jīng)過網(wǎng)絡(luò)通信層攻擊進(jìn)入AI系統(tǒng)。
云安全成了老生常談的話題。不過現(xiàn)在的云端防護(hù)引擎存在著一定缺陷,它們大多依賴請(qǐng)求特征。一方面,要適應(yīng)后端應(yīng)用,以及它們對(duì)協(xié)議的處理方式,本身就很困難。另一方面,面臨一些新型攻擊,防御引擎需及時(shí)增添規(guī)則,較為被動(dòng)。最后,防護(hù)引擎只要看到符合特征的請(qǐng)求,就會(huì)產(chǎn)生報(bào)警,并不知道黑客是否真的攻擊成功了,所以誤報(bào)率比較高。
自從Gartner提出自適應(yīng)安全架構(gòu)之后,得到了業(yè)界的一致認(rèn)可。百度安全最近發(fā)布了OpenRASP開源自適應(yīng)安全解決方案,保護(hù)引擎集成在了應(yīng)用內(nèi)部,在應(yīng)用完成協(xié)議解析后,才開始檢測(cè)攻擊。
這與傳統(tǒng)的安全防護(hù)解決方案有什么差別呢?首先,傳統(tǒng)防護(hù)產(chǎn)品主要依賴請(qǐng)求特征,OpenRASP是通過監(jiān)控應(yīng)用的執(zhí)行邏輯和行為來實(shí)現(xiàn)防護(hù);其次,OpenRASP可以實(shí)現(xiàn)應(yīng)用的熱補(bǔ)丁,比如可以永久免疫Struts系列漏洞;最后,OpenRASP實(shí)現(xiàn)了編碼規(guī)范檢查、服務(wù)器安全基線檢查,這也是傳統(tǒng)防護(hù)產(chǎn)品無法實(shí)現(xiàn)的。OpenRASP和KARMA分別在云端和終端兩側(cè)為智能終端產(chǎn)品和服務(wù)提供自適應(yīng)安全保障能力。
未來的AI攻防:需要真正的生態(tài)開放
AI是一把雙刃劍,用在安全專家手里,能夠更快、更高效地做好防御。將AI用于安全領(lǐng)域,在感知層可以提升用戶體驗(yàn),認(rèn)知鑒權(quán)由“知”(密碼)、“有”(U盾)到“是”的轉(zhuǎn)變;在執(zhí)行層,AI可以提升安全攻防對(duì)抗的能力,無論是網(wǎng)絡(luò)空間安全還是業(yè)務(wù)安全;在戰(zhàn)略層,安全專家角色實(shí)現(xiàn)由人到機(jī)器的轉(zhuǎn)變,AI自主進(jìn)行攻防對(duì)抗。而將AI用在黑客手里,就可能造成“永恒之藍(lán)”那樣席卷全球的災(zāi)難。
然而,AI是一個(gè)大的生態(tài)系統(tǒng),它的安全也是復(fù)雜的多層面的。任何一個(gè)企業(yè)都無力涵蓋所有。這也正是OASES聯(lián)盟的價(jià)值所在。它希望針對(duì)AI安全能夠發(fā)動(dòng)整個(gè)產(chǎn)業(yè)鏈的力量,聯(lián)合終端廠商、安全廠商和研究機(jī)構(gòu),通過生態(tài)開放、聯(lián)合的力量,保護(hù)各種智能設(shè)備的安全,最大化避免AI生態(tài)出現(xiàn)安全和隱私的災(zāi)難。據(jù)悉,百度安全已經(jīng)將上述的云管端安全方案對(duì)聯(lián)盟內(nèi)開放。
作為一個(gè)技術(shù)型的生態(tài)聯(lián)盟,它跟以往聯(lián)盟最大的不同之處就在于實(shí)現(xiàn)了真正的開放,不僅是提供單方向的服務(wù),而且是核心基礎(chǔ)技術(shù)開源,專利共享。這就打消了產(chǎn)業(yè)鏈上的顧慮,有效地推動(dòng)了核心技術(shù)落地,推動(dòng)聯(lián)盟之間的合作。
AI時(shí)代,百度安全寄希望于行業(yè)聯(lián)合和技術(shù)創(chuàng)新,讓安全的天秤向防御的一方傾斜一點(diǎn),再傾斜一點(diǎn)。
佚名
