-
傅瑩:人工智能與國際安全治理
導讀2020年12月18日,清華大學人工智能國際治理研究院名譽院長傅瑩在當天舉辦的首屆清華大學人工智能合作與治理國際論壇上發(fā)表講話。
她呼吁在人工智能領域建設包容性強的國際治理委員會,共同去研究、探討、吸納各方面好的建議和意見,形成共同的國際規(guī)范。以下為講話全文。
傅瑩:
尊敬的主持人,各位嘉賓,大家好!感謝主持人的介紹,上午大家談到宏觀的看法和主張。 我特別想呼應一下許多人談到的,尤其是聯(lián)合國副秘書長法布里齊奧·霍奇爾德、外交部國際經(jīng)濟司司長王小龍和科技部戰(zhàn)略規(guī)劃司司長許倞他們談到的,關于構建人工智能國際治理體系和機制的重要性和必要性。希望能在人工智能領域建立包容性很強的國際治理委員會通過共同探討、研究、吸納好的意見和建議,形成共同的國際規(guī)范,這是非常必要且緊迫的。
下面我主要從最近中美學者“人工智能與國際安全治理”合作項目的角度,談談這個問題。論壇開始之前發(fā)布了我和美方項目牽頭人John Allen介紹研究成果的文章,今晚9點在關于《人工智能與國際安全:挑戰(zhàn)與機遇》的第三個分論壇上,中方團隊的李彬老師會作更詳細的介紹,歡迎大家去聽。
中國在人工智能治理問題上向國際社會釋放了清晰的合作信號。今年11月,習近平主席在G20峰會上強調(diào),中方支持圍繞人工智能加強對話,倡議適時召開專題會議,推動落實G20人工智能原則,引領全球人工智能的健康發(fā)展。我理解,今天這個論壇也是依據(jù)這個精神召開的。
今年9月,中國國務委員兼外長王毅提出《全球數(shù)據(jù)安全倡議》,表示希望國際社會在普遍參與的基礎上就人工智能的安全問題達成國際協(xié)議,支持通過雙邊或多邊協(xié)議的形式確認倡議中的承諾。他提出有效應對數(shù)據(jù)安全風險應遵循的三項原則,包括秉持多邊主義、兼顧安全發(fā)展和堅守公平正義。
確實,技術革命往往伴隨不可預知的安全挑戰(zhàn),在這方面,國際關注的焦點之一是智能武器的道德和技術風險。清華大學戰(zhàn)略與安全研究中心與多家國際機構圍繞這個問題開展了研討,包括與美國布魯金斯學會的專家學者進行的三輪系列研討,結合國際軍控經(jīng)驗,尋找管控智能武器風險和國際安全治理的路徑。
專家們梳理了智能武器可能帶來的風險。一是由于人工智能技術不完善,智能武器可能導致更大的連帶傷害。二是智能武器的訓練需要大量數(shù)據(jù),數(shù)據(jù)的污染和形成的偏見可能導致嚴重后果。三是人機協(xié)同的挑戰(zhàn),機器在可解釋性、學習性、常識性等方面的不足有可能放大發(fā)生沖突的風險,等等。
那么,既然人工智能武器化不可避免,專家們研究的方向是尋找合適的治理路徑。大家都認為,人類必須汲取歷史教訓,例如對核武器的治理共識就發(fā)生的太晚,導致人類曾經(jīng)面臨巨大威脅,互聯(lián)網(wǎng)的治理也沒有能夠在早期實現(xiàn)。大家希望這次對人工智能,尤其是智能武器的治理,人類能走在技術變革的前面,充分認識其風險,早些達成治理共識。
大家提出,需要采取軍事克制態(tài)度,限制智能武器的損害范圍,這一點也需要反映在公共教育當中。在路徑方面,最重要的是如何使智能武器的發(fā)展和使用與現(xiàn)行國際法基本原則保持一致,包括《聯(lián)合國憲章》和武裝沖突法里面的相關原則,都是討論的重要依據(jù)。有中方學者主張建構關于人工智能軍事行動的國際規(guī)范,切實保證人在智能武器使用中的決定性作用等等。
誠然,這都是學術層面的探討,參加項目的專家們都撰寫了專題論文,可以提供給決策部門參考,這些路徑是否可行,還需要經(jīng)過大量的政策研究和論證。
這兩年中美關系出現(xiàn)緊張狀況,但是這個項目的研討并沒有受到大的影響,充分顯示了兩國學界的專業(yè)精神和對人類共同命運的責任感和使命感。專家們認識到,現(xiàn)階段是構建人工智能國際安全規(guī)范的關鍵窗口期,希望兩國抓住這一難得的歷史性時機,制定人工智能通用規(guī)范。
中國對人工智能的發(fā)展、應用乃至治理都是高度重視的。2017-2018年間,中央政治局分別圍繞大數(shù)據(jù)和人工智能進行了兩次集體學習,習近平總書記指出:“要加強人工智能發(fā)展的潛在風險研判和防范”,要“確保人工智能安全、可靠、可控。”
中國在治理和立法方面也邁出實際步伐。例如,2018年中國國家標準化委員會發(fā)布《人工智能標準化白皮書》;2019年國家新一代人工智能治理委員會發(fā)布了8條治理原則;2019年國務院頒布了《兒童個人信息網(wǎng)絡保護規(guī)定》,加強對未成年人的信息保護;2020年經(jīng)全國人大通過頒布的《民法典》中對保護個人隱私做出明確規(guī)定,要求不得泄露、出售或非法向他人提供個人信息等。
總之,目前中美兩國是人工智能技術研究和應用發(fā)展最快的國家,兩國需要也有條件加強協(xié)調(diào)與合作。近年其他許多國家學界也表現(xiàn)出對人工智能應用的安全擔憂,說明這是人類共同的難題,不是一國兩國能夠解決的。中美開展對話與合作至關重要,將能夠為全球合作貢獻智慧。我希望和相信這不是一場“零和游戲”,人工智能最終應使得全人類受益。
- 原標題:傅瑩:人工智能與國際安全治理 本文僅代表作者個人觀點。
- 責任編輯: 朱敏潔 
-
準噶爾盆地發(fā)現(xiàn)千億方大氣藏
2020-12-19 08:48 能源戰(zhàn)略 -
國家衛(wèi)健委:新增本土3例、境外輸入14例
2020-12-19 08:48 新冠肺炎抗疫戰(zhàn) -
國家社科基金冷門絕學立項名單公布,66個入選
2020-12-19 08:45 -
香港官員當選國際民航組織亞太地區(qū)區(qū)域航空安全小組主席
2020-12-19 08:29 航空安全 -
心里更有底了!中央經(jīng)濟工作會議傳遞這些鮮明信息
2020-12-19 08:22 新時代新氣象新作為 -
北京新增2例境外輸入關聯(lián)病例:均為慶豐包子鋪員工
2020-12-19 08:07 新冠肺炎抗疫戰(zhàn) -
國辦完善失信約束制度:不得隨意增設懲戒措施或加重懲戒
2020-12-19 08:01 -
中央定調(diào)2021年中國經(jīng)濟,有這5大新提法
2020-12-19 07:18 中國經(jīng)濟 -
-
首屆清華大學人工智能合作與治理國際論壇開幕
2020-12-18 22:43 人工智能 -
蛋殼租客結清租金貸流程公布
2020-12-18 21:20 中國房市 -
-
中央經(jīng)濟工作會議在北京舉行 習近平李克強作重要講話 栗戰(zhàn)書汪洋王滬寧趙樂際韓正出席會議
2020-12-18 20:47 -
北京新增1例境外輸入關聯(lián)病例
2020-12-18 19:59 新冠肺炎抗疫戰(zhàn) -
海南:暫停電子稅務局PC端第三方掃碼支付服務功能
2020-12-18 19:27 -
中央軍委舉行晉升上將軍銜警銜儀式 習近平頒發(fā)命令狀并向晉銜的軍官警官表示祝賀
2020-12-18 19:17 -
中央經(jīng)濟工作會議在北京舉行
2020-12-18 19:00 -
中央經(jīng)濟工作會議:強化反壟斷和防止資本無序擴張
2020-12-18 18:42 新時代之聲 -
4位軍官警官晉升上將 習近平頒發(fā)命令狀并表示祝賀
2020-12-18 18:34 習主席帶領我們強軍 -
中國高技能人才5000萬,比例與發(fā)達國家有很大差距
2020-12-18 18:27
相關推薦 -
最新聞 Hot
-
卡塔爾送大禮引爭議,特朗普:免費的也罵?
-
美國小企業(yè)苦苦掙扎:利潤蒸發(fā)甚至變?yōu)樨摂?shù),最糟的時刻還未到來
-
特朗普施壓后,澤連斯基表態(tài):我去土耳其等普京
-
日車企利潤暴跌超20%,“與中國競爭加劇”
-
中美會談結束后,美國股指期貨應聲上漲
-
“特朗普夜不能寐,搞定全球問題比想象難得多”
-
靠岸中國貨船數(shù)“歸零”,美西港口官員驚到了
-
“出軌女下屬”,英國海軍一把手被免職
-
“聽加州的,否則美國最大經(jīng)濟體地位不?!?/a>
-
流浪53年后,蘇聯(lián)金星探測器墜落地球
-
伊朗官員:美國不真誠,一開始就設陷阱
-
?;鸬谝灰?,印巴互相指責
-
為什么選出美國籍教皇?梵蒂岡消息人士:還不是因為特朗普
-
普京提議:15日,俄烏直接談
-
王毅分別同印巴雙方通話
-
印度稱“不想升級”,巴方想“就此打住”
-