但是,目前技術轉移主要依賴市場手段,而國際技術轉移的市場還是有很多障礙的。我們未來也許應該考慮將更多的資源投入到發展中國家的科技創新能力建設上。如果沒有更好的教育、創新和研發環境,即使技術轉移到發展中國家,也難以發揮最大的作用。所以,人工智能全球治理,也包括推動發展中國家建立能接納人工智能技術落地的教育和創新體系。
中國新聞周刊:你曾提出,人工智能技術發展變化迅速,因此政府需要“敏捷治理”。但在國際層面,治理規則的形成、新的國際組織的建設總是曠日持久。如何破解國際多邊談判速度跟不上技術發展速度的難題?
薛瀾:是的,人工智能全球治理也需要“敏捷性”。之前國際社會缺乏這種緊迫感。在ChatGPT發布之前,人們覺得通用人工智能距離我們還比較遙遠。但現在,大家已經意識到通用人工智能實現的可能性已經越來越大,不受人類控制的、有自主意識的系統出現的可能性也越來越大。
所以,最近一兩年,在ChatGPT等產品發布后,人工智能的全球治理、特別是風險防控,得到的關注已經越來越多。最近,我參與了一些著名人工智能技術專家和治理專家的共同努力,撰寫一篇提交給《科學》(Science)的論文。這篇論文就指出,我們已經到了刻不容緩需要推動人工智能全球治理的階段。
但現實情況是,由于一些全球治理問題非常復雜,很多治理機制會同時參與、介入對其治理,形成“機制復合體”。人工智能就有這種問題。從聯合國到各個國際組織、各國政府、行業標準組織、非政府組織等都提出了不同的要求和規則。
這種情況的特點是,不同治理機制之間存在重疊和沖突,彼此又沒有清晰的從屬關系。聯合國不是“世界政府”,并非對所有參與者和社會主體都有普遍約束力。這使得問題的討論和解決變得更加復雜。在這種情況下,各方需要特別注意包容性,盡可能容納更多不同的社群和觀點,以尋找真正的共識。
我希望人類社會的智慧可以讓我們盡快找到建立國際機制的可行方案。同時,很多專家也在呼吁人工智能技術公司放慢發展步伐,在不能確保安全、缺乏規制的情況下不要輕易推進技術前沿。當然,未來人工智能安全本身可能也會形成一個市場,全社會也需要加強對人工智能安全領域的研發投入,使得有更多的技術公司參與監測和評估人工智能的安全性,政府監管部門也有更加有效的工具來防范相關風險。
加強中美對話
中國新聞周刊:過去幾年,中美雙方就人工智能全球治理進行了多個層次的交流對話。你覺得目前中美之間關于人工智能全球治理的討論是否充分?去年,美國在荷蘭舉行的“軍事領域負責任人工智能”峰會期間發布《政治宣言》,試圖和其全球伙伴先行商定一些人工智能全球治理共識,從而引領、主導國際社會的規則制定。中方應如何應對美國的“搶跑”活動?
薛瀾:在人工智能全球治理的交流上,2023年11月舉行的中美元首舊金山會晤達成了重要共識。此前,中美學術界和企業界關于人工智能全球治理有多層次的交流,去年7月基辛格先生訪華時,也就人工智能安全問題和各個方面進行了溝通。但總的來說,中美兩國在人工智能全球治理問題上缺乏系統性的、有組織的、全面深入的對話,也缺乏一軌對話機制。而現在,在中美元首舊金山會晤的共識中,雙方明確提出建立人工智能政府間對話機制,這是一個很重要的進展。
歷史上看,美國等西方國家在全球治理規則制定上一直希望占據主導地位,在人工智能治理領域也不例外。對此,中國應當加強對人工智能全球治理的研究,形成真正有價值的、站在人類命運共同體立場上的想法和建議,讓包括美國等西方國家的國際社會對中國的建議產生共鳴。
當然,如果美國等西方國家的規則確實反映了世界各國的意愿,我們也應該持支持態度。也就是說,在人工智能領域的全球治理規則上,不應該以國家或意識形態劃線,而應該以人類社會的共同利益作為判斷的基準。
近年來,中國政府為此進行了大量工作,發布了《全球人工智能治理倡議》等立場文件。現在,我們要在此基礎上進一步研究如何落實這些原則。不可否認的是,美國的學術界和政策界在規則研究方面做了大量工作,并在國際社會上非常活躍地推動和宣傳他們的想法。而中國的學術界和政策界還應該解放思想,加強在這方面的研究和宣傳工作。
我們需要在一定程度上跳出熟悉的國內話語體系、跳出一些約束和限制,能夠站在人類命運共同體的立場上,形成推動全球各方達成共識的想法,讓世界能充分意識到“中國倡議”的價值。