清華大學薛瀾：人工智能治理跟不上，就會制約發展｜WAIC2021

盡管目前人工智能（AI）技術還遠未達到像《銀翼殺手》《西部世界》等影視作品中的水平，但AI技術在帶來便利的同時，也存在各種新的風險，如何協調人工智能發展與治理的關系顯得尤為迫切。在2021世界人工智能大會期間，清華大學蘇世民書院院長、國家新一代人工智能治理專業委員會主任薛瀾在接受記者專訪時表示，如果人工智能的治理跟不上，不但有可能給社會帶來各種風險，而且在某種程度上也會制約AI本身的發展。

清華大學蘇世民書院院長、國家新一代人工智能治理專業委員會主任薛瀾

他告訴記者，當前人工智能治理面臨的最大挑戰，是我們沒有一套比較成熟的體系來規制其潛在的風險，這和過去是有差別的。因為之前我們一直都在用比較成熟的技術，中國可以借鑒其它國家治理這些技術的經驗。而現在不同的是，在第四次工業革命背景下，我國的人工智能技術和其他國家一樣都處于發展期，所以大家都沒有現成的規制體系。這樣就使得我們在發展科技的同時，也在同步發展我們的規制體系。“這可能是人工智能發展面臨最大的挑戰。”

我國在發展人工智能的同時高度重視治理問題。2019年2月，我國專門成立了國家新一代人工智能治理專家委員會，同年6月，國家新一代人工智能治理專家委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八條原則。

薛瀾說，在科技領域，很多技術都像硬幣的兩面，在帶來正面效應的同時也會存在風險，而人工智能可能只是一個比較突出的領域。在談到近年來中國人工智能治理模式時，他表示，這些年我們的人工智能治理模式有了一些轉變，從最開始的回應式治理模式再到最近的集中治理模式。我們期待能夠盡快轉變到第三個模式，就是敏捷治理模式。

在回應式治理模式下，我們主導的思路是鼓勵創新鼓勵發展，但針對出現的一些風險和問題，科技部推動成立了新一代人工智能治理專家委員會，出臺新的人工智能治理的準則，以及去年出臺的國家新一代人工智能標準體系建設的指南等。

“這些措施主要是回應性、引導性、非強制性的措施。而從去年開始，我們進入了集中治理的模式。其背后的原因是，我們原來的回應性治理，有些問題的應對不夠集中、不夠及時，積累了一些需要解決的問題，觸發了集中治理。現在，很多部門都采取了非常積極的措施來進行整治。這種集中治理的模式雖然見效比較快，但也會帶來相當程度上的成本。” 薛瀾表示。

在他看來，相比前兩種治理模式，敏捷治理更有能效地平衡促進技術創新和規制潛在風險梁方面的考慮。“中國人工智能治理規則里面專門有一條規則就是敏捷治理，而在治理實踐中如何落實？可以從治理價值、治理主體、治理對象、治理工具來著手。”

他說，從最開始的回應性治理到現在集中式治理，我們希望盡快進入敏捷治理的階段，為人工智能的發展提供穩定合理的預期。

上海作為我國與世界交流的重要窗口，國際化程度和開放的城市基因也被業界認為是發揮人工智能治理“上海聲音”的有利條件。早在2019年5月，科技部啟動建設上海國家新一代人工智能創新發展試驗區時（下稱“試驗區”），就明確了建立健全政策法規、倫理規范和治理體系的相關任務。2019年世界人工智能大會期間上海發布了《中國青年科學家2019人工智能創新治理上海宣言》。在今年的WAIC科學前沿全體會議上，上海人工智能實驗室治理研究中心揭牌。

上海人工智能實驗室主任湯曉鷗教授，清華大學蘇世民書院院長、國家新一代人工智能治理專業委員會主任薛瀾教授共同為上海人工智能實驗室治理研究中心揭牌。

薛瀾告訴記者，在初期人工智能廣泛的應用過程中，很需要研究層面、應用層面的交流。上海連續幾年舉辦世界人工智能大會，匯聚了國際、國內頂尖級的嘉賓，“這樣一來就形成了一個局面，大家在這里交流最新的信息和知識，探討最前沿的問題，這是非常重要的”。