首屆人工智慧安全峰會開得怎麼樣

新華社英國布萊奇利園11月3日電  新聞分析：首屆人工智慧安全峰會開得怎麼樣

新華社記者郭爽 許鳳

首屆人工智慧安全峰會2日在二戰期間英國的密碼破譯中心——布萊奇利園落下帷幕。在為期兩天的會議中，近30個國家和地區的代表、多家國際組織和研究機構代表、人工智慧領域知名專家和業界領袖討論了哪些議題？收穫哪些成果？

2023年11月2日，在英國布萊奇利園，一名參會者經過首屆人工智慧安全峰會的宣傳展板。新華社記者李穎攝

兩類人工智慧 5大目標

會議期間，美國、英國、歐盟、中國、印度等多方代表就人工智慧技術快速發展帶來的風險與機遇展開討論。來自全球的約150名代表重點關注前沿人工智慧的潛在風險，同時也考慮狹義人工智慧的風險。前沿人工智慧是指處於當前能力前沿的通用人工智慧模型，可能帶來技術濫用、失去控制等風險；狹義人工智慧是指能力限于特定領域的人工智慧模型，它們也具有潛在風險，例如生物工程領域人工智慧模型可能被用於開發生物武器等。

會議主要圍繞5個目標展開討論：第一，對前沿人工智慧帶來的風險和採取行動的必要性達成共識；第二，推進前沿人工智慧安全國際合作，包括如何最好地支援國家框架和國際框架等；第三，推動各相關組織採取適當措施，以加強前沿人工智慧安全；第四，尋求人工智慧安全研究的潛在合作領域，包括評估模型能力和制定用於支援治理的新標準；第五，探討如何確保人工智慧安全發展，使人工智慧在全球範圍內被妥善運用。

2023年11月2日在英國布萊奇利園拍攝的首屆人工智慧安全峰會現場。新華社發

根據議程安排，各方代表在峰會開幕當天主要就前沿人工智慧帶來的風險類型、不同參與方在應對這些風險中的作用、人工智慧在不同領域面臨的重大發展機遇等展開跨學科對話和討論。在會議第二天，各方代表主要討論了人工智慧的影響、如何有效合作以及如何進一步實現確保全球人工智慧安全的使命。

以國際合作應對風險

峰會發佈的《布萊奇利宣言》（下稱《宣言》）強調了加強國際合作對於應對人工智慧潛在風險的重要性。《宣言》指出，人工智慧的許多風險本質上是國際性的，因此“最好通過國際合作來解決”。與會國家和地區同意協力打造一個“具有國際包容性”的前沿人工智慧安全科學研究網路，以對尚未被完全了解的人工智慧風險和能力加深理解。

英國政府發表聲明稱，這是世界首個多個國家和地區達成的人工智慧安全領域宣言，參會代表就前沿人工智慧技術發展面臨的機遇、風險和採取國際行動的必要性取得共識。

本次峰會及其成果引發媒體、學界、業界專家的高度關注和積極評價。“《宣言》是在管理風險和實現前沿人工智慧系統的好處方面邁出的重要一步。”英國康橋大學“人工智慧：未來和責任”項目負責人肖恩·奧黑蓋爾塔格表示，《宣言》強調了開發前沿人工智慧的參與者所肩負的“特別重大的責任”，包括擁有充足資源的科技公司以及它們所在國家的政府等。

但也有觀點認為，峰會雖然達成了指導國際合作的原則性宣言，但並未商定國際合作路線圖，也沒有就各國如何在應對人工智慧風險問題上開展合作提出具體措施，未來需要採取更積極主動的國際合作行動。

根據英國政府發佈的聲明，下屆人工智慧安全峰會將於一年後在法國舉辦，韓國將在未來6個月內聯合主辦一次小型虛擬峰會。

全球對話 中國不可或缺

本屆峰會上，中國代表團的出席引人關注。多位專家強調，中國作為在人工智慧研發領域領先的國家之一，在應對人工智慧風險和機遇的全球討論中不可或缺。

世界智慧財産權組織數據顯示，僅2022年一年，中國機構人工智慧專利申請數量就多達29853項，佔當年全球人工智慧專利申請總量的40%以上。

美國外交政策智庫卡內基國際和平研究院院長蒂諾·奎利亞爾對媒體表示，只有中國參會，才能證明這是一次真正的全球對話。

美國矽谷企業家埃隆·馬斯克在峰會閉幕後表示，“如果中國不是（峰會）參與者，那就毫無意義。”他認為，美國、英國和中國等各方在人工智慧安全方面取得共識有利於應對相關問題。

中國科技部副部長吳朝暉率團參加本屆峰會，並在1日舉行的開幕式全體會議上發言。與會期間，中方代表團參與人工智慧安全等問題討論，積極宣介中方提出的《全球人工智慧治理倡議》，並與相關國家開展雙邊會談。

中方表示，願與各方一道就人工智慧安全治理加強溝通交流，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧，切實落實全球發展倡議、全球安全倡議和全球文明倡議，促進人工智慧技術更好造福人類，共同構建人類命運共同體。