北京市科學技術委員會主任許強在《人工智能北京共識》發布會上致辭。　于立霄　攝

中新網北京5月25日電 (記者 于立霄)《人工智能北京共識》25日發布。針對人工智能研發、使用、治理三方面，《北京共識》提出各個參與方應該遵循的有益于人類命運共同體構建和社會發展的15條原則。

《北京共識》由北京智源人工智能研究院聯合北京大學、清華大學、中國科學院自動化研究所、中國科學院計算技術研究所、新一代人工智能產業技術創新戰略聯盟等高校、科研院所和產業聯盟共同發布。

在研發方面，《北京共識》提倡要有益于增進社會與生態的福祉，服從人類的整體利益，設計上要合乎倫理，體現出多樣性與包容性，盡可能地惠及更多人，對潛在倫理風險與隱患負責，提升技術水平控制各種風險，并最大范圍共享人工智能發展成果。

在使用方面，《北京共識》提倡要善用和慎用，避免誤用和濫用，以最大化人工智能技術帶來的益處、最小化其風險，確保利益相關者對其權益所受影響有充分的知情與同意，并能夠通過教育與培訓適應人工智能發展帶來的影響。

在治理方面，《北京共識》對人工智能部分替代人類工作保持包容和謹慎態度，鼓勵探索更能發揮人類優勢和特點的新工作，廣泛開展國際合作，共享人工智能治理經驗。人工智能的準則與治理措施應做到適應和適度，并開展長遠戰略設計，以確保未來人工智能始終保持向對社會有益的方向發展。

為降低人工智能發展過程中可能存在的技術風險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心，該研究中心在當天的發布會上揭牌。

中國科學院自動化研究所研究員曾毅出任研究中心主任。他介紹說，該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統平臺、行業應用等開展一系列研究。

該研究中心主要研究四個方面內容：一是低風險機器學習模型與平臺的構建，建立機器學習模型安全性的評估體系。二是開展符合人類倫理道德的智能自主學習模型研究，實現人工智能行為與人類價值觀的校準，并在模擬環境與真實場景中進行驗證。三是建立數據基礎設施、數據分級、權限控制、數據審計，最大限度防止數據泄密，降低風險，探索允許用戶撤銷個人數據授權的機制及計算平臺。四是針對數據與算法的安全性、公平性、可追溯性、風險類型、影響程度與影響范圍等方面，對人工智能產品及應用進行風險與安全綜合檢測與評估，引導行業健康發展。

今后，該研究中心將著力在算法安全評估、安全模型構建、AI綜合沙盒建設等方面盡快取得一系列創新性成果，為降低人工智能的風險和倫理隱患提供技術服務，促進人工智能行業的良性健康發展。