護航百度大腦 百度AI安全版圖亮相百度世界大會2020

小熊在線 新聞稿 | 2020年09月16日
護航百度大腦 百度AI安全版圖亮相百度世界大會2020 ......

以“萬物智能”為主題,一年一度的百度世界2020大會于9月15日正式揭幕。在百度大腦分論壇上,百度副總裁馬杰發表了題為“智能為腦,安全為本”的主題演講,系統闡述了百度大腦在AI安全領域一系列能力布局和最新進展。

眾所周知,隨著萬物互聯和大規模智能協作的逐漸深入,人類正在進入一個經濟深度智能化的發展階段。作為其中的核心議題,AI在安全方面的諸多挑戰不僅關系到整個AI體系的穩定可靠,直接影響到AI算力、算法和數據的落地應用,也為相應的安全能力建設提出了新的要求與新的思維方式。

(百度副總裁馬杰)

面對一系列全新的安全挑戰,馬杰在演講中將AI安全問題劃分為Security、Safety和Privacy三個維度進行考量,并由此探尋更具針對性的解決方案。

在Security,即在強對抗環境下的安全威脅層面,來自物理世界和數字世界的攻擊可能導致探測裝置和深度學習模型做出誤判,造成AI系統在工作過程中的“指鹿為馬”、“無中生有”和“有中生無”。

而來自非對抗條件下自然環境所產生的真實威脅、即Safety層面真實世界中環境因素對輸入數據的正常擾動,也有可能對深度學習模型的分類和預測造成影響。

為此,百度推出了模型魯棒性體系化評估框架。從光照、空間變換、模糊、噪聲和天氣變化等多項安全屬性著手,根據不同模型任務場景制定評估標準,幫助行業更好地量化評估潛在的安全威脅與模型魯棒性。同時,百度還首創了AdvBox對抗樣本工具箱。從安全驗證、模型加固、對抗樣本檢測、模型魯棒性形式化驗證等多個方面,助力飛槳、TensorFlow等主流機器學習平臺快速提升模型的健壯性。

而在Privacy、即數據安全與隱私保護層面,貫穿于采集、處理、流通、計算整個數據生命周期,隱私合規檢測、差分隱私、AI自動脫敏、聯邦計算、可信計算等安全技術的應用將為百億級大規模數據的安全聯合計算創造可能,也將為金融、醫療、政務等領域的聯合分析、聯合風控、聯合營銷提供數據安全保障,進一步釋放數據價值,擴大AI時代大規模數據協作的信任邊界。

目前,依托PaddleFL聯邦學習開源框架,百度領先的聯邦學習和有隱私保護的機器學習能力已與百度大腦深度融合,為飛槳在產業應用中的跨組織數據合作提供重要的輔助工具支撐。

“我們希望通過長期的研究與實踐,能夠跑到這些威脅造成重大危害之前!睂τ诎俣仍贏I安全領域的持續發力,馬杰重申了加大這一投入的必要性。事實上,其已不止關乎于AI時代眾多安全攸關的關鍵場景,也已成為當前世界亟需應對的現時挑戰——例如,在備受爭議的AI換臉問題上,百度研發并開源的業內首款AI換臉檢測工具,便可實現對深度偽造、合成技術的高效“打假”,為監管部門阻斷電信網絡詐騙等違法行為提供助力。

當然,圍繞算力、算法、數據的安全研究與解決方案,只是在百度大腦AI安全體系框架下的其中一環。面向更為廣泛的AI安全生態挑戰,基于全面開源的“七種武器”BASS下一代人工智能安全技術棧等AI安全核心技術,百度正為解決AI生態中云、管、端及大數據和算法層面的一系列安全風險問題提供支持。

正如本次百度世界大會“萬物智能”的主題,作為百度大腦核心架構之一,百度的AI安全能力將持續致力于為AI大生產平臺的升級和產業智能化變革保駕護航。并從Security、Safety及Privacy多個維度,打造更安全的AI,打造更安全的AI時代。

標簽:百度AI

用戶名:  密碼:  沒有注冊?
網友評論:(請各位網友遵紀守法并注意語言文明,評論僅供參考不代表本站立場)