雷鋒網(wǎng)按：2018 全球人工智能與機器人峰會（CCF-GAIR）在深圳召開已進(jìn)入第二天的議程，活動現(xiàn)場依舊火爆。本次峰會由中國計算機學(xué)會（CCF）主辦，雷鋒網(wǎng)、香港中文大學(xué)（深圳）承辦，得到了深圳市寶安區(qū)政府的大力指導(dǎo)，是國內(nèi)人工智能和機器人學(xué)術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級交流盛會，旨在打造國內(nèi)人工智能領(lǐng)域最具實力的跨界交流合作平臺。

根據(jù)大會安排，6月30日迎來了仿生機器人專場，機器人行業(yè)應(yīng)用專場，計算機視覺專場，智能安全專場，金融科技專場等專場。作為主論壇的研究方向的延伸，“智能安全專場”則匯聚來自廣州大學(xué)、浙江大學(xué)的專家學(xué)者，同時來自百度、阿里巴巴、騰訊、京東、?？低?/strong>的安全大牛，共同探討人工智能領(lǐng)域里的安全問題，同時就安全研究能否深入進(jìn)人工智能領(lǐng)域等話題帶來了企業(yè)的最新觀點與研究成果。

9:15分，會場高朋滿座，專場開場。專場主席暨主持人是來自廣州大學(xué)網(wǎng)絡(luò)空間先進(jìn)技術(shù)研究院院長、教授、博導(dǎo)的田志宏先生。

廣州大學(xué)網(wǎng)絡(luò)空間先進(jìn)技術(shù)研究院院長、教授、博導(dǎo)的田志宏先生

他首先代表峰會主辦方對與會人員的到來表示了感謝和歡迎，同時表示智能安全已日益受到人們的關(guān)注，與AI、IoT、云計算等等多個層面結(jié)合越來越緊密，因而“智能安全專場”是個很好的契機，安全行業(yè)內(nèi)的領(lǐng)軍人物可以一起共同探討智能安全未來的發(fā)展方向。隨著開場致辭結(jié)束，專場正式進(jìn)入演講部分。

一份重磅專場報告：《數(shù)據(jù)安全的現(xiàn)狀與趨勢》

開場演講的是來自浙江大學(xué)網(wǎng)絡(luò)空間安全研究中心主任、國家特聘教授、IEEE Fellow任奎教授，他做了《數(shù)據(jù)安全的現(xiàn)狀與趨勢》的大會重磅報告，他是研究型學(xué)者，因此他的報告讓專場具備了更多學(xué)術(shù)氣息。他主要從大數(shù)據(jù)和人工智能之間的契合點來談個人研究的經(jīng)驗與成果。他指出，數(shù)據(jù)安全的問題存在于數(shù)據(jù)的整個生命周期，從數(shù)據(jù)采集、流轉(zhuǎn)、傳輸?shù)綌?shù)據(jù)使用，通常情況下他更關(guān)注的是數(shù)據(jù)的機密性、數(shù)據(jù)的完整性、數(shù)據(jù)的可用性。

浙江大學(xué)網(wǎng)絡(luò)空間安全研究中心主任、國家特聘教授、IEEE Fellow任奎教授

機密性方面，互聯(lián)網(wǎng)企業(yè)尤其是大公司數(shù)據(jù)泄露事件一直發(fā)生，而且發(fā)生得越來越厲害，他列舉了美國Equifax用戶數(shù)據(jù)泄露和德國郵政出售選民信息的案例。他認(rèn)為數(shù)據(jù)有可能被直接泄露，也有可能被做進(jìn)一步隱私的挖掘。任奎談到3個技術(shù)：數(shù)據(jù)加密技術(shù)、訪問控制策略技術(shù)、隱私保護技術(shù)。數(shù)據(jù)加密技術(shù)上，學(xué)術(shù)界慢慢看到工業(yè)界的現(xiàn)實和需求，成果在進(jìn)行遷移；訪問控制策略技術(shù)上，很多基于生物特征的訪問控制策略（指紋、臉部識別等）飛速發(fā)展，包括從密碼學(xué)的屬性里面基于屬性、角色的訪問控制策略越來越成熟；隱私保護技術(shù)上，在過去十幾年里面，一項最重要的項目就是差分隱私保護。

數(shù)據(jù)完整性方面，任何不被授權(quán)的對數(shù)據(jù)的改動都是不被允許的，都會影響數(shù)據(jù)的完整性。對數(shù)據(jù)篡改來說，人們會使用傳統(tǒng)的技術(shù)手段，比如數(shù)據(jù)采集和傳輸時可以用數(shù)據(jù)分裝和簽名，傳輸時有一些丟包恢復(fù)的機制，即便有一些包被丟掉，不用同傳也可以有本地數(shù)據(jù)，數(shù)據(jù)審計在數(shù)據(jù)使用的時候可以通過可驗證計算等等手段來進(jìn)行保護。

數(shù)據(jù)可用性方面，防DDos攻擊主要技術(shù)就是本地防護、云端防護和源端防護，大家都在做這些事情，盡量把這些攻擊帶來的壞影響控制在最低范圍內(nèi)。這其中就涉及流量清洗，涉及IP合法性檢查、流量限速、動態(tài)指紋識別、特定應(yīng)用防護等等。

人工智能時代到底是更好還是更壞？

人工智能的時代，數(shù)據(jù)安全也面臨了很多新的挑戰(zhàn)。從數(shù)據(jù)安全來說，人工智能時代到底是更好還是更壞？他談及三點：

·人工智能的發(fā)展使數(shù)據(jù)安全保障有了更強有力的工具：精確高效的信息過濾、安全多樣的身份認(rèn)證。

·人工智能生成新的加密算法：很多新型的安全形態(tài)會出現(xiàn)，可以用產(chǎn)生的算法來對數(shù)據(jù)進(jìn)行加密。

·人工智能不只是好處：AI算法被用來去挖掘用戶的隱私且?guī)淼呢?fù)面的效應(yīng)也非常之大，還可以用來生成以假亂真的音頻和視頻， 還有大大失效的CAPTCHA檢測。

AI自身數(shù)據(jù)安全的問題方面，任奎認(rèn)為有三類：

·訓(xùn)練數(shù)據(jù)安全：訓(xùn)練數(shù)據(jù)獲取成本極高，數(shù)據(jù)較為敏感，容易被竊取。

·模型參數(shù)安全：模型的價值都在參數(shù)，被輕易拿走，會使巨大損失。

·AI應(yīng)用安全：對于智能駕駛就是致命問題。對于白盒攻擊，攻擊者能夠知道AI系統(tǒng)算法及參數(shù)，主要的攻擊算法包括快速梯隊算法、投射梯隊算法等等。

演講末，任奎感觸，合規(guī)和新的數(shù)據(jù)法律給學(xué)術(shù)界和工業(yè)界都提出了非常多的挑戰(zhàn)，數(shù)據(jù)安全依然任重而道遠(yuǎn)。

BATJ同臺：暢談AI時代網(wǎng)絡(luò)安全如何保護

 

與會觀眾紛紛拍照學(xué)習(xí)

BATJ同臺可能是讓“智能安全專場”具備更強互聯(lián)網(wǎng)屬性的話題，因為互聯(lián)網(wǎng)4大巨頭全部到場，聽眾在比較其解決方案中會加深對BATJ的清晰認(rèn)識。來自BATJ的嘉賓及主題分別為：

·百度AI安全技術(shù)總監(jiān)聶科峰：《AIoT時代的安全》

·阿里巴巴集團安全部資深總監(jiān)路全：《智能化攻防——機器學(xué)習(xí)在阿里巴巴網(wǎng)絡(luò)安全的應(yīng)用》

·騰訊安全平臺部總監(jiān)胡珀：《AI+安全=？從危到機，AI時代下的安全挑戰(zhàn)》

·京東安全北美研究院院長Jimmy Su：《Bots vs Adversarial machine learning: Escalating battle of captcha solving》

百度：AIoT時代的安全

首先登場的是百度AI安全技術(shù)總監(jiān)聶科峰，他一開始便談到，AI技術(shù)正加速IoT發(fā)展，目前整個社會逐步進(jìn)入AIOT時代。作為百度的安全團隊，他一直在跟AI一起努力開拓這個市場。AIoT概念由來已久，但沒有得到足夠的發(fā)展，近兩年AI的賦能開始，周邊很多的設(shè)備開始智能化。

 

百度AI安全技術(shù)總監(jiān)聶科峰

·傳感器。傳感器是未來整個智能化設(shè)備最核心的點，基于納米微電子技術(shù)的發(fā)展，可以把數(shù)字處理做在非常小的機器上，所以它是廉價化、微小化，使得傳感器大量可行，成為AIoT發(fā)展的非常重要的因素。

·芯片。CPU的特點是處理邏輯非常強，但在運算上有非常天然的弱勢。友達(dá)做了非常重要的貢獻(xiàn)——把GPU大規(guī)模的應(yīng)用，在現(xiàn)性大數(shù)據(jù)處理方面發(fā)揮了非常強大的作用?，F(xiàn)在在所有基于AI技術(shù)應(yīng)用上，為百度大數(shù)據(jù)的處理提供了基礎(chǔ)。

·帶寬。5G速率為未來的時代提供了更加高速的傳輸，加上數(shù)據(jù)流量成本的下降，很多人都可以去接受的階段。

·深度學(xué)習(xí)的AI。谷歌、百度也有一些深度學(xué)習(xí)的框架——這加深了AI的處理。

·云和邊緣計算。云和邊緣計算的發(fā)展為整個AI的角色處理提供了非常成熟的基礎(chǔ)。

聶科峰進(jìn)一步談到，進(jìn)入到AIoT時代以后，它確實跟原來的時代很不一樣，這個不一樣體現(xiàn)在它的安全上面要求會更高：

·AIoT本身的安全技術(shù)非常薄弱，生態(tài)里面目前從硬件到系統(tǒng)、到軟件甚至到設(shè)備廠商，是分工非常明確但非常不標(biāo)準(zhǔn)化，所以它的安全問題現(xiàn)在是沒有得到解決。

·AI基于傳感器數(shù)據(jù)的采集到傳輸?shù)教幚?，又引發(fā)了非常大的新的問題（個人隱私盜竊、泄密等）。

·系統(tǒng)性的安全風(fēng)險。AIoT領(lǐng)域沒有人關(guān)注這個問題，但是它持續(xù)存在，每年有大量的漏洞曝出來，包括可能一些更小的實時操作系統(tǒng)都是潛在的風(fēng)險。

他尤其強調(diào)的是“其實在行業(yè)界有一個共識，就是對于深度學(xué)習(xí)的模型，對工程師完全是黑盒，他完全不知道深度學(xué)習(xí)和機器學(xué)習(xí)的算法如何一步步推導(dǎo)出最終的結(jié)果，所以這個結(jié)果是充滿了不確定性和不可控制性。這樣的不可控制性會是我們整個AI未來應(yīng)用的風(fēng)險點所在”。

“數(shù)據(jù)是最重要的防線，對數(shù)據(jù)是最堅固的防線，這條防線上百度一定要從各個維度來保持好這條防線”，聶科峰指出，AI的安全這塊他們要求很簡單——就是穩(wěn)健。

此外，聶科峰還談及設(shè)備安全和漏洞修復(fù)問題，他表示，從云管端到AI，百度安全將保護百度在整個AI生態(tài)上的茁壯成長，同時百度提供了基于對抗訓(xùn)練的平臺，大家可以嘗試使用。

阿里巴巴：像呵護孩子一樣呵護AI系統(tǒng)

緊接著，阿里巴巴集團安全部資深總監(jiān)路全則帶來了《智能化攻防——機器學(xué)習(xí)在阿里巴巴網(wǎng)絡(luò)安全的應(yīng)用》的演講。他指出，他的演講圍繞安全為智能，而不是智能為安全。

 

阿里巴巴集團安全部資深總監(jiān)路全

他以攻擊智能汽車為例，詳細(xì)介紹了典型的智能安全體該如何構(gòu)成。他指出，改變交通標(biāo)志、黑客入侵系統(tǒng)、數(shù)據(jù)植入云端讓數(shù)據(jù)中毒都可以實現(xiàn)對智能汽車的攻擊，而當(dāng)前作為掌握海量大數(shù)據(jù)的阿里巴巴來說，面臨的挑戰(zhàn)還比智能汽車安全更為復(fù)雜。

目前，數(shù)據(jù)污染或數(shù)據(jù)中毒的案例不勝枚舉，而阿里安全除了在傳統(tǒng)網(wǎng)絡(luò)建立安全的防御體系，防御黑客入侵和滲透，還要建立一張網(wǎng)防止數(shù)據(jù)中毒和數(shù)據(jù)污染。在阿里看來，機器流量是萬惡之源（爬蟲爬取信息、商家信息泄露、搜索排序刷單等）。

路全接下來介紹了阿里在機器流量防空體系三個方面：

·檢測模塊。如果把整個智能系統(tǒng)比作一個人，檢測模塊就是眼睛，沒有眼睛很多事情是做不了。

·分類模型。分類模型是機器學(xué)習(xí)的一種，是在工業(yè)界最常用的模型，如果機器學(xué)習(xí)比作有機體，分類模型就是大腦。

·輔助系統(tǒng)。反饋控制研究已經(jīng)很透，但其實在實際系統(tǒng)中，反饋控制往往能起到和機器學(xué)習(xí)模型疊加組合起來能起到好效果。在傳統(tǒng)的OR領(lǐng)域，運籌學(xué)和信息系統(tǒng)結(jié)合也能產(chǎn)生很好的效果。

“在阿里有一句話，‘我們要像治理酒駕一樣去打擊假貨’。現(xiàn)在還要加上一句，因為我們不光要像治理酒駕一樣去打擊假貨，我們還要‘像呵護我們的孩子一樣去呵護AI系統(tǒng)’，因為它是數(shù)據(jù)驅(qū)動，你教它什么，給它什么數(shù)據(jù)，就會出現(xiàn)什么行為”。演講最后，路全如此說道，他覺得對AI的保護迫在眉睫，智能體被數(shù)據(jù)中毒或被數(shù)據(jù)污染是他們非常不愿意看到的一面，他們正為此而努力。

騰訊安全：AI+安全=？

騰訊安全平臺部總監(jiān)胡珀

騰訊安全平臺部總監(jiān)胡珀是AI安全領(lǐng)域的年輕專家，他最為關(guān)心的就是AI本身的安全問題，他認(rèn)為，這可以歸為以下三類：

·AI算法自身的安全問題。圖像識別、圖像欺騙等會導(dǎo)致自動駕駛出問題，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改，并且給它學(xué)習(xí)，會產(chǎn)生完全不一樣的結(jié)果。

·AI系統(tǒng)引入第三方的組件。這些組件也會存在問題，包括對文件、網(wǎng)絡(luò)協(xié)議、各種外部輸入?yún)f(xié)議的處理都會出問題。被黑客利用，帶來的是災(zāi)難性的毀滅，所以現(xiàn)在產(chǎn)業(yè)界學(xué)術(shù)界都非常關(guān)注AI的這個方面。

·壞人也會用到AI。不要以為AI只是停留在學(xué)術(shù)界或者是工業(yè)界，其實現(xiàn)在黑產(chǎn)也大量在使用AI。

胡珀接著從人機對話、人臉識別、在線AI、智能音箱竊聽、智慧城市協(xié)議、智能設(shè)備劫持、攝像頭入侵、手機解鎖等角度用實際案例詳細(xì)解釋了AI的安全的問題。

AI安全應(yīng)用到安全場景，可能帶來一些實戰(zhàn)。大概沿著這些方向：第一是會向傳統(tǒng)的生物特征轉(zhuǎn)變，第二是研究工具有變化，特征工程對抗轉(zhuǎn)入機器學(xué)習(xí)的方法，可能用機器學(xué)習(xí)建一個域值和模型，通過模型來看是否是黑客攻擊。在騰訊看來，引入機器學(xué)習(xí)的實際效果是應(yīng)用在兩個層面，即DDoS與黑客的入侵行為，為了防止機器誤報，騰訊采用雙引擎在跑。

演講結(jié)束時，胡珀總結(jié)到，機器學(xué)習(xí)方法應(yīng)用到傳統(tǒng)的安全場景，在某些特定場景下，AI絕對是優(yōu)于人類或者傳統(tǒng)的特征工程，但可能在某些場景業(yè)內(nèi)還需要繼續(xù)探索。

京東安全：機器人與對抗性機器學(xué)習(xí)——不斷升級的驗證碼的戰(zhàn)斗

京東安全北美研究院院長Jimmy Su主要分享“機器人與對抗性機器學(xué)習(xí)：不斷升級的驗證碼的戰(zhàn)斗”這個話題，他認(rèn)為隨著柯潔和李世石敗給了人工智能機器人，深度學(xué)習(xí)其實已經(jīng)在不同領(lǐng)域有非常顯著的發(fā)展。而京東的AI在賬號安全場景上已經(jīng)運用一段時間。

京東安全北美研究院院長Jimmy Su

體現(xiàn)在哪些方面呢？首先是在APP的安全SDK里面有采集設(shè)備指紋，其次是在注冊和登錄環(huán)節(jié)有人機識別技術(shù)（生物探針），再其次是行為分析做一些異常檢測，用無監(jiān)督學(xué)習(xí)技術(shù)，到訂單的風(fēng)控會加入黑產(chǎn)情報，最后是通過業(yè)務(wù)的驗證和反饋去調(diào)整模型。

電商場景欺詐行為非常豐富，涉及機注、刷單、黃牛、代購刷券、惡意訂單、虛假評論等，京東的AI體系都會涉及。從黃牛行為來看，黃牛黑產(chǎn)整個生態(tài)環(huán)境也有攻防不同的技術(shù)，黃牛也會有意避開人機識別。從防守角度來看，京東安全有反爬蟲，能確保京東活動價格信息不會很快被知道，同時京東也會分析黑產(chǎn)信息，通過NLP技術(shù)找到黃牛的動態(tài)以及黃?，F(xiàn)在用的工具，逆向團隊也會把黑產(chǎn)軟件進(jìn)行立項以便打擊。

與此同時，Jimmy Su指出黑產(chǎn)有成熟的工具——火牛和刀鋒。火牛有非常多的功能，注冊、訂單、刷券種種行為，可以看到黑產(chǎn)會導(dǎo)入帳號、收貨人地址、微信手Q的地址、定時下單，還可以實現(xiàn)驗證碼的識別。而刀鋒工具作為第二大黑產(chǎn)工具，運作的時候可以用工具去自動滑動驗證碼，用多個賬號做批量下單，使用不同的IP從而繞過人機識別技術(shù)。黑產(chǎn)工具有辦法做爬蟲，從不同的端拿到價格信息，同時因為IP地址更換，使得檢測行為變得困難。

“黑產(chǎn)技術(shù)發(fā)展非常快，一兩天后就有新的版本出現(xiàn)，我們也會持續(xù)監(jiān)控黑產(chǎn)工具”，Jimmy Su表示。針對互聯(lián)網(wǎng)企業(yè)流行的打碼平臺，京東用得比較多的是超人打碼平臺。他們將比較主流的圖片驗證碼輸入到超人打碼平臺，由于有AI服務(wù)模型，所以在主流的驗證碼里面準(zhǔn)確率還是很高。此外，京東還將用人工智能模型去提取優(yōu)點，將優(yōu)點都放在新的驗證碼，所以使用黑產(chǎn)工具后驗證碼正確識別率只有12%，當(dāng)然對人的識別難度會有所提升，這是京東安全需要平衡的地方。

演講最后，Jimmy Su表示，在京東安全有非常廣泛的AI應(yīng)用場景，AI應(yīng)用是能讓他們?nèi)ジ咝н\作的唯一途徑，所以電商和黑產(chǎn)之間高對抗性的攻防將持續(xù)發(fā)生。

視頻物聯(lián)網(wǎng)巨頭：網(wǎng)絡(luò)安全最佳實踐與IoT的碰撞

本次專場的另一個重磅演講來自海康威視。雷鋒網(wǎng)了解到，作為國內(nèi)以視頻為核心的物聯(lián)網(wǎng)解決方案提供商，?？低曉诰W(wǎng)絡(luò)安全層面的布局早早就已開始。海康威視網(wǎng)絡(luò)安全部總監(jiān)、網(wǎng)絡(luò)與信息安全實驗室主任王濱發(fā)表了《網(wǎng)絡(luò)安全最佳實踐與IoT安全的碰撞》的精彩發(fā)言。

 

?？低暰W(wǎng)絡(luò)安全部總監(jiān)、網(wǎng)絡(luò)與信息安全實驗室主任王濱

王濱指出，隨著AI技術(shù)的發(fā)展，其在IoT領(lǐng)域的發(fā)展現(xiàn)狀已經(jīng)超過我們的想象，整個AIoT的安全問題需要足夠引起足夠重視，但是脫離了業(yè)務(wù)講安全是比較空的。

他在會上演示了三個片段，從智慧城市的智慧安防、安檢高清攝像頭以及交通領(lǐng)域的車輛定位幾個角度來看物聯(lián)網(wǎng)的升級業(yè)務(wù)的落地。

“每個人在物聯(lián)網(wǎng)的時代，其實都是沒有辦法去逃脫這個物聯(lián)網(wǎng)?；谠朴嬎愕膸?，現(xiàn)在整個物聯(lián)網(wǎng)的體系架構(gòu)已經(jīng)跟原來物聯(lián)網(wǎng)的體系架構(gòu)發(fā)生了翻天覆地的變化，原來傳統(tǒng)上物聯(lián)網(wǎng)的設(shè)備都是一些嵌入式的甚至單面積設(shè)備，發(fā)展到了今天，我們現(xiàn)在見到很多的物聯(lián)網(wǎng)設(shè)備已經(jīng)加載了GPU的功能，它的計算能力甚至已經(jīng)超越了我們用的手機或者筆記本電腦的計算能力”。

談及物聯(lián)網(wǎng)的安全，王濱表現(xiàn)出擔(dān)憂：當(dāng)大家都納入到物聯(lián)網(wǎng)里面，我們在物聯(lián)網(wǎng)里面受到的安全威脅一定會越來越多，因為任何一個物聯(lián)網(wǎng)的設(shè)備和系統(tǒng)，它要為你提供各種各樣的服務(wù)，它一定會搜集到很多個人的數(shù)據(jù)和信息。而這些設(shè)備是資源受限的，網(wǎng)絡(luò)帶寬比較窄，此外最主要的問題在于物聯(lián)網(wǎng)設(shè)備部分場景太開放，數(shù)量太巨大，一旦這些設(shè)備發(fā)生了安全問題，就很難控制。不管從產(chǎn)業(yè)界，從設(shè)備的制造商以及從用戶、政府管理機構(gòu)等等來看，在安全方面做得還是有些欠缺。

“三無產(chǎn)品”是有安全缺陷的，原因有四：弱口令、缺乏有效的升級機制、密碼恢復(fù)存在各種各樣的危險、設(shè)備存在安全漏洞。由于整個無線網(wǎng)絡(luò)設(shè)備數(shù)量太大、分布太多、形態(tài)多樣，進(jìn)行安全升級的時候都有不同的業(yè)務(wù)場景，但是都不能按照傳統(tǒng)的業(yè)界最佳實踐去套。物聯(lián)網(wǎng)缺乏人機交互界面，用戶對設(shè)備產(chǎn)生所有權(quán)后，如何獲取升級通知、如何操作都是問題，安全問題出現(xiàn)時候，物理隔離設(shè)備無法幸免。因此隨著整個AI技術(shù)的發(fā)展，物聯(lián)網(wǎng)的設(shè)備會對人的生活影響越來越大，但是物聯(lián)網(wǎng)的安全問題跟傳統(tǒng)的安全理念上還是有一定的差別，需要大家去做進(jìn)一步的業(yè)務(wù)緊耦合。

演講結(jié)尾，王濱總結(jié)到，?？低暷壳霸谧鋈蚧墓ぷ?，40%銷售額來自海外，后期安全問題將是重要發(fā)力點，目前也已經(jīng)與海外企業(yè)展開對話，將進(jìn)一步將IoT里面的最佳實踐推廣到行業(yè)里。

隨著?？低暤难葜v結(jié)束，“智能安全專場”的演講就步入結(jié)尾了，但與會觀眾對于智能安全的關(guān)注與熱情似乎沒有絲毫消退，他們在會后與嘉賓進(jìn)行了深度交談，專場的思想性、實用性與前瞻性感染了現(xiàn)場每個人。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。