日前，聯合國教科文組織（UNESCO）正式發布《人工智能倫理建議書》（以下簡稱《建議書》）。這是關于人工智能倫理的首份全球性規范文書。

作為UNESCO人工智能倫理特設專家組成員，中國科學院自動化研究所中英人工智能倫理與治理研究中心主任、國家新一代人工智能治理專委會委員曾毅參與了《建議書》的起草與修改。

曾毅在接受《中國科學報》采訪時表示：“《建議書》是目前全世界在政府層面達成的最廣泛的共識，是全球人工智能發展的共同綱領，將為進一步形成人工智能倫理有關的國際標準、國際法等提供強有力的參考。”

走向全球共識

隱私、安全、公平、對人類的潛在風險等，人工智能在飛速發展的同時，也給社會帶來了根本性的挑戰。

雖然不同國家、政府間組織、科研和產業界已經發布了不少關于人工智能發展、倫理與治理原則，但這些原則并沒有形成統一觀念，人工智能倫理亟待達成全球共識。

UNESCO總干事阿祖萊在《建議書》發布會上表示，“我們呼吁所有的成員國立即行動起來開始實施這份建議書。民眾、企業等全社會都應當行動起來。這項工作已經開始了，20余個國家已經表態當《建議書》被采納后，將受《建議書》的啟發開啟評估。UNESCO將推進務實的評估落地工作。”

此次發布的《建議書》的核心是價值觀、倫理原則及相關的政策建議、監測與評估。在價值觀方面，《建議書》從尊重、保護和促進人權和基本自由以及人的尊嚴，環境和生態系統蓬勃發展，確保多樣性和包容性，以及在和平、公正與互聯的社會中共生等4部分進行了闡述。

曾毅認為，《建議書》囊括了針對現代人工智能（人工智能作為信息處理工具和賦能技術）倫理考慮的最重要方面。

例如，雖然大規模數據處理及算力的提升促進了現代人工智能的發展，但也帶來了潛在的環境問題。

為此，《建議書》在價值觀“環境和生態系統蓬勃發展”部分指出，應減少人工智能系統對環境的影響，包括但不限于碳足跡，以確保將氣候變化和環境風險因素降到最低，防止會加劇環境惡化和生態系統退化的對自然資源的不可持續開采、使用和轉化。

此外，《建議書》還考慮了不適用人工智能的場景，并在“相稱性與不損害”的原則部分提出，人工智能技術本身并不能確保人類、環境和生態系統蓬勃發展。在有可能對人類、人權和基本自由、個別社區和整個社會，或者對環境和生態系統造成損害時，以確保落實風險評估程序并采取措施，以防止發生此類損害。

不僅如此，《建議書》在此部分還明確提出人類應當確保在關鍵領域進行有意義的控制，以確保人類的決策權，并對高風險領域進行了警示。

“和諧共生”價值觀被部分采納

在曾毅看來，《建議書》在一定程度上體現了全球不同文化的包容性思想。其中，“在和平、公正與互聯的社會中共生”的價值觀充分體現了來自亞洲和非洲等國專家的共同愿景與貢獻。

在UNESCO特設專家組撰寫草案期間，鑒于部分國家和政府間組織的人工智能原則強調自身的價值觀和利益優先，曾毅提議納入“和諧共生”的價值觀。

在曾毅看來，“和諧共生”的價值觀，是倡導人類社會與人工智能技術和諧發展，人工智能賦能人類、社會、生態之間的和諧發展，號召各個國家通過人工智能促進人類命運共同體的構建。

他告訴記者，“和諧共生”的思想在由國家新一代人工智能治理專委會制定的《新一代人工智能治理原則》以及《新一代人工智能倫理規范》中有以“和諧友好”等形式和內容體現的相似表述，是我國發展人工智能技術、處理技術與社會關系的總綱。

雖然“和諧共生”的提議被來自亞洲和非洲等多國的特設專家組專家及部分政府間磋商代表所贊同，但在隨后的環節，由于部分國家代表未能接受“和諧”等提法，隨后改為“在和平、公正與互聯的社會中共生”，“和諧共生”的核心要義得以部分保留和采納。

例如，《建議書》在“在和平、公正與互聯的社會中共生”部分，強調“每個人都屬于一個更大的整體，當這個整體中的組成部分都能夠繁榮興旺時，整體才會蒸蒸日上”。

曾毅對此感到有些遺憾。“‘和平共生’與‘和諧共生’的意義并不完全相同。‘和諧共生’在和而不同、同舟共濟的基礎上還有發展的意義，倡導優化共生，而‘和平共生’這種表述難以表達求同存異、謀求發展的意義。”

但他也表示，雖然《建議書》沒有直接采納“和諧共生”的表述，但相關思想得以保留，被各國專家認為是《建議書》中融入非西方價值觀的重要體現。

“‘和諧共生’的理念已經作為我國人工智能倫理與治理原則的特色，未來必然會成為中國對世界的貢獻。”曾毅表示。

可持續發展的共同愿景

可持續發展目標是聯合國各機構力推的全球發展共同愿景，我國發布的《新一代人工智能治理原則》以及《新一代人工智能倫理規范》都將可持續發展作為新一代人工智能的總體愿景和賦能全球人工智能發展的重要途徑。然而，很多國家在人工智能發展和倫理原則中并沒有明確提出可持續性。

因此，在《建議書》原則部分的撰寫階段，曾毅提出，雖然可持續的理念隱含在文本中的若干方面，但作為全球共同愿景，發展人工智能必須賦能可持續發展目標的實現，同時還要密切關注人工智能應用于可持續發展相關目標領域時，是否帶來阻礙該目標實現的風險，尋求發展與治理的協同。“‘可持續’應當作為原則明確列入《建議書》。”

最終，該意見被《建議書》不同階段廣泛接受，并在政策部分，特別針對環境和生態系統領域如何通過人工智能賦能實現可持續性給出了具體建議。

實際上，除了參與起草和修改《建議書》，曾毅還在UNESCO組織的區域性專家咨詢會上代表UNESCO特設專家組向亞太地區各國政府專家代表宣講了《建議書》草案，并作為政府間專家磋商的中方專家代表參加磋商。

曾毅告訴記者，起草和宣講《建議書》時，他從未感到緊張，因為在那個階段，他的角色更多的是貢獻學術觀點的獨立的學者。但在政府間代表磋商階段，特別是被稱為“成員國中國代表”時，他倍感責任重大。

目前，UNESCO正在依據《建議書》建立倫理評估工具和針對國家人工智能倫理完備指數評估的輔助系統，以敦促和幫助各國落實倫理規范。

在曾毅看來，人工智能的國際協作是通過技術賦能助力實現人類命運共同體，而人工智能倫理與治理的國際交流與協作是確保人工智能國際合作能夠達成共識，并持續推進的基石。

“因此，十分有必要推進形成由類似于UNESCO這樣的政府間機構、各國政府、學術界、產業、公眾緊密交互的多利益相關方人工智能治理體系，通過深度協同擴大共識、避免誤解、減少分歧，確保人工智能的全球發展及其治理最終促進人類和生態的整體協同發展。”曾毅表示。

來源:《中國科學報》