2024世界人工智能大會：“善治”共識期待“善智”回音
AI換臉越發(fā)逼真，大模型一本正經胡說八道也難辨真假，新技術帶來生產效能的提升卻也帶來無法忽視的就業(yè)沖擊……伴隨人工智能以越來越快的速度為人類生活與生產方式帶來創(chuàng)新和益處，其安全風險也越來越被頻繁提起?！耙怨采檀俟蚕?以善治促善智”是2024世界人工智能大會的主題，這兩天的各場論壇上，無論是科學家、研究者還是政策制定者、企業(yè)家都發(fā)出了呼聲。這些聲音，帶著相似的隱憂，傳遞著“善治”的共識，匯集在一起，形成了“共商”的共振，期待著“善智”的回音。
治理之“變”
“與傳統(tǒng)技術革命不同，人工智能帶來的治理沖擊具有特殊性?！鄙虾＝煌ù髮W國際與公共事務學院長聘副教授賈開解釋，人工智能引致影響的速度可能遠快于傳統(tǒng)技術革命，這在很大程度上緣于人工智能技術與整個社會數字化轉型進程的互促效應，技術迭代速度快，其嵌入社會、影響社會的過程也極大縮短；人工智能產生影響的結果可能迥異于傳統(tǒng)技術革命，就業(yè)替代效應或將大于就業(yè)創(chuàng)造效應；此外，人工智能產生影響的領域與機制可能是高度不確定的，“盡管我們大致能框定人工智能安全風險類型，但風險產生的時間地點、對象范圍、因果過程等都是未知的，甚至不能被提前預知?！?/p>
“人工智能技術和應用的不確定性與復雜性，使得從業(yè)者和監(jiān)管者不得不面臨‘共同無知’，治理問題的界定與治理方案的探索始終處于動態(tài)變化之中，”清華大學文科資深教授、蘇世民書院院長薛瀾更是冷靜地強調了人工智能治理的新挑戰(zhàn)，“同時，治理主體在文化、倫理、價值觀等各個維度都存在較大異質性，風險偏好的差異使得達成治理共識較為困難；治理與發(fā)展要求同步演化，以避免出現‘監(jiān)管洼地’，但治理更新的速度卻往往落后于技術創(chuàng)新和應用步伐。”
清華大學公共管理學院長聘副教授趙靜也觀察到AI治理議題正快速變化，她認為這與人工智能技術本身的快速成長性和應用不確定性密切相關，尤其是隨著人工智能技術在經濟社會中的全面應用提速，除了對各類潛在風險的關注外，技術發(fā)展和應用對人類普遍生存的安全影響被提上日程?！艾F在大家更關心如何構建一個安全可信的人工智能發(fā)展框架、基礎理論、治理思路，從而應對和解決前沿人工智能發(fā)展背后的基本安全問題?！?/p>
應變之策
阿里研究院執(zhí)行院長袁媛認為，正是因為這種相似境遇，科學家、企業(yè)、政府形成了一種自覺的共識，逐漸形成了磨合共治的協(xié)作模式，大家共同面對問題，合作形成公共知識，再各自改善。
這種共識并非與生俱來。袁媛提到，在電商時代應用判別式人工智能技術時，無論平臺、商家、用戶、社會都需要安全交易，需要建立“生態(tài)信賴”，阿里巴巴就認識到用算法參與治理的重要性，從企業(yè)內部啟動了治理進程?！澳撬闶侵卫沓跗冢袌錾系钠髽I(yè)沒有太多共識，治理模式也相對簡單，企業(yè)處于‘被規(guī)制’的角色。而現在，隨著公眾認知提升，產業(yè)接受度提高、政府期待日漸成熟，各方將逐漸對‘善智’形成更為健全的共識?！?/p>
升級治理模式并非易事。上海國際問題研究院研究員、網絡空間國際治理研究中心秘書長魯傳穎表示，20世紀80年代美國學者曾提出科林格里奇困境——政策制定者面對快速發(fā)展的技術存在“太早治理因噎廢食，太晚治理脫韁失控”的困境，“所以建立溝通模式，尋找恰到好處的時機，以敏捷治理等最小成本最大收益的方式開展良好治理是很重要的，目前中國正在尋找好的模式、機制、節(jié)點。”
賈開也認為，人工智能治理不能遵循傳統(tǒng)技術治理范式按照預先確定規(guī)則來加以管控，而更加需要依賴政、產、學、研的共同探索，并在此過程中積累治理知識、能力、資源。此次會上，上海交大聯合、徐匯區(qū)政府及研究機構、媒體等21家單位共同發(fā)起“西岸對話：人工智能安全與治理對話網絡”，旨在打破壁壘，在共商共建共治過程中共同探索、共同進步，通過對話機制、建設平臺渠道、素養(yǎng)提升等常態(tài)工作，促進各方在人工智能安全與治理領域的緊密合作，以期在快速發(fā)展的人工智能時代中更好地統(tǒng)籌發(fā)展與安全。賈開認為類似“西岸對話”的共商共建共治機制才能實現AI治理升級的價值，“在單獨一方都不知道人工智能治理風險內涵及其應對機制的前提下，只有保持開放對話的治理關系，才可能形成科學共識、找到合適的治理方法。”
中國呼聲
人工智能治理是全球議題，當前國際社會對人工智能治理既有建立實體多邊監(jiān)管的聯合國模式，也有部分歐美國家開展的小范圍聯盟式治理探索。魯傳穎認為，這場實踐中，中國正全方位積極參與人工智能國際治理，并設計了一條不同于西方國家的治理思路。去年中國政府發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理闡述人工智能治理中國方案。魯傳穎指出，中國方案強調人工智能發(fā)展必須堅持“以人為本”理念，提倡更為和諧、平衡的人類關系視角，倡導構建一個平衡各方利益、共同應對人類挑戰(zhàn)的全球人工智能治理新模式。
“不同模式在當前非常需要對話與互補，因為人工智能的影響是‘生態(tài)性’的，任何一方都不可能完全排除他方，所以存在形成合作共識的基礎?！鄙虾＝煌ù髮W政治經濟研究院名譽院長、廣州粵港澳大灣區(qū)研究院理事長鄭永年表示，“當前盡管仍然存在分歧，中美、中法之間都在人工智能領域展開積極對話，只有在堅持開放、對話、合作基礎上，我們才有可能提升人工智能國際治理水平，在未來能形成具有約束力、執(zhí)行力的合作共識。”
大會期間，科學家從技術視角提出了一些新的治理理念和路徑?！皯獙⑷斯ぶ悄苤卫硪暈橐活悺R’和‘行動’并進的公共產品。”薛瀾提出，這類公共產品具有非排他性，即所有從業(yè)者都應服從相關規(guī)制；同時，這類公共產品也具有非競爭性，即治理方案的擴散和運用不影響他者對該方案的享用。
斯坦福發(fā)布的《人工智能指數報告》中，中國連續(xù)兩年成為AI信任度最高的區(qū)域。袁媛認為，這說明目前中國的AI治理和企業(yè)自律都有較好的表現。她期待接下來，企業(yè)、政府、研究機構等第三方共同制定安全規(guī)范，媒體公眾參與監(jiān)督，大家一起把事情做好?！笆袌鍪亲詈玫目紙?，君子之過如日月之食，誰出錯都在聚光燈下?！彼€建議，為營造更為向善的生態(tài)，應采用激勵與監(jiān)管相融的方式，對安全治理方面投入更多的企業(yè)予以激勵。（易蓉）
編輯：遲明緒
京公網安備 11010502000576號