“隨著人工智能和大數(shù)據(jù)技術的應用落地，特別是在自動駕駛、人臉識別、醫(yī)療診斷等安全敏感型的場景應用越來越多，AI和數(shù)據(jù)安全問題也受到廣泛關注。”近日，360人工智能研究院院長鄧亞峰受邀參加首屆清華大學人工智能合作與治理國際論壇，并就“數(shù)據(jù)與人工智能安全”議題發(fā)表演講。

鄧亞峰指出，由于人工智能是快速出現(xiàn)的新應用，AI應用生產和部署的各個環(huán)節(jié)均暴露出一系列安全風險。比如在人工智能框架方面，深度學習框架及依賴組件可能帶有漏洞，存在容易被忽視的安全隱患;在人工智能應用方面，存在模型文件竊取、數(shù)據(jù)流降維攻擊等安全風險;在人工智能算法方面，由于神經網(wǎng)絡模型的黑盒屬性(不可解釋性)，容易導致一系列以模型誤判為目標的惡意攻擊。

這就容易造成嚴重的數(shù)據(jù)泄露和安全風險。“我們在實踐中發(fā)現(xiàn)了大量以隱私竊取為目標的攻擊，如模型反轉攻擊、模型萃取攻擊、成員推斷攻擊等。”鄧亞峰表示。

他認為，雖然從技術角度看，人工智能體很長一段時間都無法擁有真正的自我意識，但是，一些壞人會對人工智能加以利用，偽裝為壞的AI對人類安全造成威脅。因此，保護人工智能和數(shù)據(jù)安全刻不容緩。

鄧亞峰表示，首先，需要相關國家和組織聯(lián)合起來，針對隱私保護和人工智能倫理問題等新情況，制定更加明晰有效的法律法規(guī)，保證在應用人工智能為人類造福的同時，也要保護好數(shù)據(jù)隱私，避免相關社會倫理問題的困擾;

其次，需要構建統(tǒng)一的人工智能硬件、軟件、算法的安全評估標準和準則，并開發(fā)相關系統(tǒng)，用于檢測和確定人工智能相關系統(tǒng)的整體安全，特別是開源框架和軟件方面，更需要統(tǒng)一行動;

再次，需要用更加開放協(xié)同的方式進行科學研究和技術交流，推動人工智能技術快速并安全的落地。

作為網(wǎng)絡安全頭部公司，360也一直致力于構建以安全大腦為核心的新一代安全能力框架體系，整體提升在數(shù)字化時代應對安全挑戰(zhàn)的能力。據(jù)了解，去年8月，360安全大腦入選了國家新一代人工智能開放創(chuàng)新平臺，是網(wǎng)絡安全領域唯一一家入選公司，這標志著360成為人工智能安全領域領軍企業(yè)，以及推動網(wǎng)絡安全行業(yè)發(fā)展的領導力量。

關鍵詞： 人工智能