每經記者 夏冰    每經編輯 梁梟    

《可信人工智能產業(yè)生態(tài)發(fā)展報告》正式發(fā)布

圖片來源：主辦方供圖

“可信人工智能”并非新名詞了。隨著可信實踐的深入，產業(yè)界對可信人工智能的認識也在不斷深化。

今日（9月1日），在上海舉辦的2022世界人工智能大會可信人工智能論壇上，全球20余位可信人工智能頂尖智腦、政府領導、行業(yè)代表，圍繞可信AI的政策與標準、理論與技術、應用與場景等議題展開探討。

如何解決AI信任危機？

“當前，人工智能技術加快演進，深刻改變人們的生產生活方式，隨之而來的數(shù)據隱私、算法歧視、安全風險等人工智能治理問題也引起各方的共同關注。”上海市政府副秘書長尚玉英在論壇上率先提出，發(fā)展可信AI，推動人工智能透明可釋、安全可控、多元包容已經成為全球共識，融合可信要素的人工智能產業(yè)生態(tài)成為新時代人工智能發(fā)展的必由之路。

據IDC相關數(shù)據，2021年全球人工智能產業(yè)規(guī)模為3619億美元，預計在2022年同比增長19.6%，超過4300億美元。

然而，隨著人工智能應用的深入，其自身的技術缺陷以及帶來的決策偏見、使用安全等問題引發(fā)了信任危機，可信成為關注焦點。而構建可信人工智能成為緩解和消除這些擔憂的必然選擇。

學術界率先推開了可信AI的大門，而企業(yè)界則成為實踐可信AI的主要力量。

世界人工智能大會可信人工智能論壇現(xiàn)場

圖片來源：每經記者 夏冰 攝

澳大利亞科學院院士、京東探索研究院院長陶大程從理論層面剖析了可信人工智能中各種支撐技術，從實踐視角詳述可信人工智能的實踐路徑，對實踐可信人工智能、完善可信生態(tài)提出了方案和建議。

陶大程認為，可信AI應該研究怎么從以下四方面解決AI的信任危機：穩(wěn)定性，AI系統(tǒng)抵抗各類環(huán)境噪聲、攻擊的能力；可解釋性，AI系統(tǒng)的預測、決策是否透明、可被人理解；隱私保護，AI系統(tǒng)是否可以保護用戶隱私不被泄露；公平性，AI系統(tǒng)是否公平對待不同群體。

陶大程表示，可信AI研究的方方面面相互聯(lián)系，并不孤立。因此，在建立相關標準時需要將可信AI作為一個整體來考慮。陶大程提出，實踐中，應加強業(yè)務人員在AI應用構建中的參與程度，融合業(yè)務、數(shù)據、算法、運維，以更好更快地實驗、開發(fā)、部署、管理應用，保證交付與運行質量，提升各業(yè)務線獲得的效用與價值。

可信AI仍面臨諸多挑戰(zhàn)

可信已經在人工智能產業(yè)各個環(huán)節(jié)中落地，貫穿研發(fā)、生產、經營等內部全流程，打造出全面融合可信要素的人工智能產業(yè)，涵蓋基礎能力、理論技術、應用場景與產品設備等多元化模塊。

論壇上，為推動企業(yè)實現(xiàn)業(yè)務全鏈路可信，護航可信AI走向工業(yè)級落地，螞蟻集團基于大規(guī)模實踐經驗，聯(lián)合清華大學和中國信通院云計算與大數(shù)據研究所共研一款業(yè)內首個適配工業(yè)級應用的AI安全檢測平臺，正式發(fā)布向行業(yè)開放使用。

螞蟻集團機器智能部總經理王維強從阿里集團基于可信觀的封控技術角度，談了可信AI從可解釋性、公平性、魯棒性、隱私保護四個維度去推進創(chuàng)新、共建、共生。

“如何量化AI模型的公平，如果不公平原因何在？最終如何讓模型更加公平，因此，AI公平性需要可衡量、可歸因、可優(yōu)化。”王維強談到，從隱私保護技術角度，通過用戶隱私體系升級，最小化使用用戶客戶端內容，識別欺詐、賭博、洗錢等風險場景；與合作伙伴的聯(lián)防聯(lián)控，螞蟻開源的可信隱私計算技術與各互聯(lián)友商通過多方安全計算、聯(lián)合建模等方式，助力生態(tài)高效進行聯(lián)合風控，共同控制風險，與生態(tài)伙伴隱私技術共建，形成數(shù)據最小化。在這方面的落地實踐，也讓融合可信要素的人工智能產業(yè)生態(tài)開始興起。

事實上，目前，人工智能平臺系統(tǒng)與可信理念的融合，在數(shù)據處理、模型構建、部署和支撐服務等方面還面臨不少挑戰(zhàn)。技術上，算法脆弱易受攻擊帶來的危險性；黑箱模型導致算法不透明，這些都導致外界無法直觀理解決策背后的原因。

OPPO終端安全領域總經理王安宇則表示，從1G到4G時代，用戶的信任不僅僅是產品本身的安全性，還涉及各參與實體之間的互信，數(shù)字化時代的可信內涵在于安全性、隱私保護、可靠性、韌性、物理安全。“所以說融合世界的可信在社會空間、網絡空間、物理空間，而消費者終端安全的趨勢在感知與交互安全。”

在中國信通院云計算與大數(shù)據研究所內容科技部副主任石霖看來，應以評測手段推進算法治理落地。他談到，算法應用誘發(fā)較多復雜問題，由于算法不透明、用戶不清楚算法的目標和意圖，更談不上對其進行評判和監(jiān)督，信息不對稱導致信任往往難以真正建立。因此，企業(yè)在落實算法治理要求時面臨規(guī)則界定、規(guī)則理解、任務分解、任務分配、效果評估等五大關鍵問題，需要一整套方法論指引。

封面圖片來源：主辦方供圖