在機器人“三大法則”的限制下，人類與機器人和諧相處，但在一起離奇的兇殺案發生后，警探調查發現機器人產生了自我意識，隨時可能成為人類的“公敵”……近年來，隨著通用人工智能迅速發展，二十年前上映的電影《我，機器人》中的恐怖劇情，成為現實的概率正逐漸增加。但對于人工智能國際治理的具體準則，國際社會仍未達成共識。

清華大學文科資深教授、國家新一代人工智能治理專業委員會主任薛瀾

2024年3月7日，中共中央政治局委員、外交部部長王毅在全國兩會記者會上表示，人工智能進入爆發式發展的關鍵階段。我們主張發展與安全并重，既要擁抱新事物新機遇，也要裝好剎車再上路，共同推進人工智能全球治理。

實現人工智能全球治理難在何處？人類真的需要經歷一場危機才能意識到人工智能的安全風險嗎？怎樣幫助發展中國家在人工智能發展中不掉隊？近日，就這些問題，《中國新聞周刊》專訪了清華大學文科資深教授、國家新一代人工智能治理專業委員會主任薛瀾。

分歧與共識

中國新聞周刊：過去一年來，人工智能全球治理成為國際社會的熱門話題，中美領導人舊金山會晤就此達成重要共識，中國發布《全球人工智能治理倡議》，提出“確保有益，確保安全，確保公平”的基本原則。與此同時，歐盟、英國等也推動召開了多次關于人工智能議題的峰會。在此背景下，我們距離形成一個全球性的人工智能治理共識還有多遠？

薛瀾：一方面，各國對人工智能全球治理的宏觀原則存在基本共識。中國、美國、歐盟提出的人工智能治理原則，都以負責、包容、平等、安全等理念為核心。但另一方面，世界各主要經濟體還沒有進入到就人工智能全球治理的具體措施進行充分、深入交流的階段。各國各自出臺了人工智能國內治理的法律或措施，但還沒有把這些規則拿到桌面上進行對比，看看對共識性原則的理解在實踐中是否有差異、是否可以協調形成全球性規則。

關于未來可能達成的全球性共識，我們首先要明確，人工智能治理有兩個核心內容。一是發展問題，即如何構建良好的制度規則，推動人工智能創新發展，科技向善；一是安全問題，包括保證安全底線和防范其他風險。這是所有治理邏輯都必須依托的出發點。

在安全底線問題上，全球有明顯的共同利益。大家都擔心人工智能未來可能不受人類社會控制。所以，大家會尋找為了維護共同利益而必須遵守的規則。但在一般的社會應用層面的風險問題上，各國對不同風險的評判不同，價值觀念不同等，會存在不同的立場。比如爭議很大的人臉識別技術，有些社會反應比較強烈，擔心會侵犯個人隱私及泄露個人信息；但也有些社會感覺如果應用恰當并加上合理的規制，承擔一些不高的風險可以換取更加方便的社會應用。

在發展問題上，各方的差別更大一些。以美國為例，相比中國和歐盟，美國一般來說比較強調自由市場的力量，依靠市場推動科技創新。在人工智能發展和治理方面，態度比較寬松，沒有進行單獨立法，而是以白宮行政令的形式要求企業遵循一系列規則。所以在人工智能規則制定方面，美國表現不算積極。

考慮到種種分歧，各方最終能否形成治理人工智能的全球性規則，還要打一個問號。一個可能的結果是：各國在安全底線問題上達成共識并建立機制，但在其他問題上，各國會按照各自的治理邏輯進行規制，并在一定程度上協調。

何處停步？

中國新聞周刊：人工智能的安全問題，和歷史上新技術帶給人類的安全挑戰相比，有什么不同之處？歷史上是否有什么技術安全治理的經驗可以汲取？

薛瀾：人類社會走到今天，在科技發展方面始終面臨著一個關鍵問題，即需要對新科技的發展進行收益和風險的評估和權衡。有些技術固然可以幫助我們實現更好的生活，但也可能帶來更大的安全風險，所以我們必須考慮在什么地方停步。

以生命科學領域的基因編輯技術為例，像賀建奎事件所體現的那樣，對人類基因進行編輯改造的事情在技術上是可能的，但在其背后的倫理和社會責任問題想清楚之前，世界各國的學術共同體和醫務界都認為這個技術不能再“向前一步”。通用人工智能技術從本質上說也是潛在風險極高，一旦出錯其后果可能是無法挽回的，屬于人類社會必須面對的終極技術。