蒲公英人工智能治理開放平臺發布，系統支持治理原則落地｜WAIC 2022

為積極應對全球人工智能治理挑戰，系統解決規則落地難、軟硬研究分離、治理碎片化等問題，保障人工智能健康可持續發展，上海人工智能實驗室治理研究中心聯合清華大學、復旦大學合作團隊共同發起建設“軟硬結合”的蒲公英人工智能治理開放平臺——OpenEGLab（www.openeglab.org.cn）。9月1日，平臺1.0版本在2022世界人工智能大會科學前沿全體會議上發布。科技部高新技術司司長陳家昌、戰略規劃司副司長邢懷濱，上海市科技工作黨委書記徐楓和國家新一代人工智能治理專業委員會主任薛瀾共同啟動平臺。

蒲公英人工智能治理開放平臺正式發布

目前，國際上尚少見規則和技術雙輪互動的治理體系性平臺。蒲公英人工智能治理開放平臺OpenEGLab，目標打造系統、實用的人工智能倫理與治理基礎設施，探索“規則-技術-場景-評測”一體協同的人工智能治理體系。蒲公英代表著希望、溫暖與友誼，蒲公英人工智能治理開放平臺秉持促進跨學科研究、多元主體共建共享的理念，讓蒲公英的種子飛得更遠。國家新一代人工智能治理專業委員會主任薛瀾教授表示：“希望業界同仁能在平臺上持續積淀治理創新成果和工具，促進人工智能治理理念的落地，服務提升人工智能治理效率，共促人工智能可信、可持續發展。”

“規則-技術-場景-評測”一體協同

此次平臺共發布包括規則集、治理圖譜、風險展示、評測框架和行業方案五大部分。規則集致力于構建全球治理知識庫，目前已收錄約1500條標注規則文件，包括倫理原則、政策戰略、法律法規和標準等。治理圖譜基于平臺收錄的全球AI治理標注規則集，旨在打造人工智能治理全景圖像，呈現各地治理，支撐研判國際治理動向和趨勢。規則集標簽全部開放，用戶可根據需求自主構建、自由探索各種“蒲公英”式的治理圖譜。

“蒲公英”式的治理圖譜

風險展示的目標是打開人工智能模型價值影響“黑箱”，通過互動方式，幫助用戶理解AI模型的基本結構、魯棒性、安全性、隱私性等。平臺目前支持36種常見視覺和語言模型的交互分析，致力于推動探索規則和技術緊密結合、互相促進的人工智能治理研究。評測框架則旨在對常用人工智能模型進行多維度評測。結合業界研究，平臺提出“人工智能六維評測體系”，用于綜合評估一個人工智能模型的基礎屬性，目前可提供10個常用人工智能模型的初步評測結果。為實現在典型應用場景落地的人工智能治理目標，平臺積極推進為智慧醫療、自動駕駛、智慧教育、智慧城市等重點行業提供行業方案。目前，在自動駕駛領域，平臺廣泛收集了國內關于自動駕駛的重要法律文件，從全流程角度對研發、測試、道路行駛各個環節設計的數據類型、相關利益人、處理原則、法律基準進行梳理，形成《自動駕駛數據合規評估指南》和自動駕駛數據合規評估平臺。在醫療領域，平臺聚焦人工智能醫療影像中的倫理問題，嘗試提出對策建議，推動人工智能醫療影像的倫理原則實質性落地。人工智能的技術創新離不開科學治理，兩者相互支撐、協同推動人工智能的可持續發展。未來，蒲公英人工智能治理開放平臺期待與各方共建共享，廣泛傳播人工智能治理的先進理念。