引言
在人工智能（AI）研究和應用中應遵循怎樣的倫理和原則，目前尚未形成國際規則。日本在《第五期科學技術基本計劃》中提出“Society 5.0”發展目標后，圍繞AI社會的倫理、法律等規則等一直開展積極探討。2018年12月27日，內閣府發布《以人類為中心的AI社會原則》（以下簡稱《原則》），從宏觀和倫理角度闡明了日本政府的態度。
作者簡介：
李慧敏，中國科學院科技戰略咨詢研究院助理研究員。
由于日本正面臨少子高齡化、勞動力不足、地方稀疏化、財政支出負擔等社會經濟問題，日本政府對AI的發展和應用寄予厚望。其對AI內涵的界定也不局限于技術層面的人工智能，而是泛指“高度復雜的智能社會體系”。《原則》肯定AI的重要作用，同時強調重視其負面影響，如社會不平等、等級差距擴大、社會排斥等問題，提出在推進AI技術研發時，綜合考慮其對人類、社會系統、產業構造、創新系統、政府等帶來的影響，構建能夠使AI有效且安全應用的“AI-Ready社會”。
1
AI社會的基本理念
對AI的利用不能僅僅停留在實現效率、便利等現實利益層面，AI作為人類的公共財富，要通過推動社會方式的根本變革和真正創新，實現全球可持續發展目標。AI社會需要體現以下三個基本理念：
（1）尊嚴（Dignity）：AI社會是尊重人類尊嚴的社會。應將AI作為人類的工具之一，使人類能進一步發揮自身能力和創造性，通過從事具有意義的工作得到物質上、精神上的富足。
（2）多元包容（Diversity & Inclusion）：使用AI技術，不只為實現提升便利、解放勞動等傳統效率目標，要能夠使具有多元背景和價值觀、想法的每個人都能獲得幸福，對多元化采取靈活、包容的姿態，推動新價值創造。
（3）可持續（Sustainability）：通過靈活使用AI，強化科學技術儲備，催生新的商業模式和解決方案，實現科技創新立國，減少社會差距、緩解全球環境問題等，推動可持續社會的構筑。
2
“AI-Ready社會”的愿景
AI、物聯網、機器人、超高速寬帶通信網等都是實現“Society 5.0”的重要技術。AI-Ready社會是實現“Society 5.0”所必需的社會變革。“設定怎樣的目的去使用AI”是人類必須考慮的問題。《原則》分別從人類、社會系統、產業構造、創新系統、政府監管五個維度勾勒了“AI-Ready社會”的愿景。
第一，人類。AI-Ready社會對人類能力提出要求：（1）有能力理解AI的優缺點。數據、算法也會存在偏誤（Bias），也會被用于不合理目的；（2）能夠使人們從事具有較高創造性、生產性的勞動。通過AI的幫助能夠使人們基于出身、文化、興趣等，獲得實現夢想和發揮創意的能力；（3）具有數據、AI基礎知識和實施、設計等應用能力，跨領域、綜合性、融合性的大量人才。
第二，社會系統。AI的使用能夠推動個性化服務、解決方案的升級和效率化。需要醫療、金融、保險、交通、能源等在內的社會系統整體的靈活調整。為了保障社會系統整體的互聯、協作，尤其需要建立各類社會系統間互聯共通的數據應用基礎支撐平臺。
第三，產業構造。需要靈活地構筑國際化的勞動、雇傭和創業環境。需要企業實施公平競爭、采取靈活的工作方式，使人類的創造力通過產業能夠得以持續發揮，拉動創新創業投資。
第四，創新系統。大學、科研機構、企業以及民眾都可以跨越領域和立場，參與到AI研發、利用及評估中。通過AI應用進一步產生新的創意，催生更多的可能性，進一步擴大創新的范圍。
第五，政府監管。產學官民利益相關方共同參與規則、制度、標準化、行為規范等方面的監管課題，兼顧弱勢社會群體的意見，構建較為靈活且具實效性的監管方式。
3
“AI-Ready社會”的基本原則
第一，人類中心原則。AI的使用不得侵害憲法和國際規范保障的基本人權。AI應該用于提升拓展人的能力、使人類獲得多元幸福。為了防止人類過度依賴AI、惡意使用AI操縱人類意思決定的行為，需要把握以下原則：（1）AI可以代替部分人力勞動，并作為輔助人類的高級工具，拓展人類能力和創造性；（2）人類自己可以判斷和決定如何使用AI。對使用AI帶來的后果和責任，根據問題性質在利益相關者之間妥當分配；（3）防止出現“信息弱者”和“技術弱者”群體。
第二，教育應用原則。平等地向所有人提供教育、培育應用的教育環境：（1）在幼兒教育、初等中等教育中提供廣泛的教育機會，為社會人和老年人提供重新學習的機會；（2）建立提升AI、數理、數據科學素養的教育系統。重視應用教育，增加有助于認識數據偏誤及使用方法偏誤的教育內容；（3）轉變單方向、均一化的教育方式，靈活運用AI激發人類興趣，構建防止出現弱勢群體的交互式教育環境；（4）完善教育環境，發揮民企和市民的自主性。
第三，保護隱私原則。AI社會中，依據個人行動等數據可以高精度推斷其政治立場、經濟狀況、興趣愛好等。需要謹慎對待個人數據：（1）包括政府對個人數據的使用行為在內，均不得侵犯個人自由、尊嚴和平等；（2）確保個人數據使用行為的正確性、正當性，使本人能夠實質性參與并從中獲益；（3）對個人數據必須把握使用和保護之間的平衡。
第四，安全保障原則。把握利益與風險之間的平衡，提高社會安全性和可持續性：（1）正確評估及降低AI風險、推進AI深度研發和AI風險管理；（2）重視AI使用的可持續性，不依賴少數幾個特定的AI。
第五，公平競爭原則。公平競爭環境有利于推動商業模式和服務創新，維持經濟持續增長：（1）防止特定國家利用AI資源優勢地位，不當收集數據、侵害主權等行為；（2）防止特定企業利用AI資源優勢地位，不當收集數據、實施不公平競爭行為；（3）防止由于AI的使用，導致財富和社會影響力過于集中于部分利益相關者。
第六，公平、說明責任及透明原則。（1）在AI設計理念下，人不應因人種、性別、國籍、年齡、政治信念、宗教等被不當地差別對待；（2）根據情況對使用AI的事實、數據獲取及使用的方式、確保AI正確運行的相關措施等予以說明；（3）根據需要設置溝通對話場所，使人能夠理解和判斷AI提案；（4）確保AI及數據的可信賴性。
第七，創新原則。（1）為實現持續創新，跨越國境、產學官民、人種、政治理念等界限，從人才、研究兩方面推進國際化、多元化及產學官民合作；（2）推動高校科研院所與企業間的平等合作及人才流動；（3）提升AI品質評估方法、，推動AI開發、測試、運用方法論等AI工學的確立；（4）在確保個人隱私和安全前提下，打破數據壁壘，推動數據跨國境流動；（5）調整政府規制內容，推進AI技術的社會應用。
4
啟示
AI與實體經濟深度融合的同時，對貧富差距、環境問題等關乎人類可持續發展的重大課題都產生重要影響。《原則》在尊重人類尊嚴、實現AI可信賴性等方面與歐洲委員會2018年12月18日發布的《關于可信賴人工智能的倫理準則》具有一致之處。崇尚人人平等、不唯效率至上的人本發展觀，符合日本對“Society 5.0”的概念界定和打造超級智能社會的發展目標。
同時，數字經濟時代，日本致力于依托AI實現聯合國可持續發展目標（SDGs，Sustainable Development Goals），主動提出要為國際社會經濟的廣泛合作和創造性發展做貢獻，尋求樹立有擔當負責任的國際形象，彰顯了其積極參與國際治理、增強國家話語權的決心。
中國作為2016年二十國集團（G20）主席國，首次將“數字經濟”列為G20創新增長藍圖中的一項重要議題。2017年，國務院印發《新一代人工智能發展規劃》，提出積極應對人工智能發展可能帶來的社會、倫理和法律等挑戰。
我們不僅要抓住人工智能發展機遇，還要積極應對人口老齡化、勞動力人口下降、技能型人才短缺等挑戰，多維度對人工智能的開發應用及影響進行系統深入、客觀冷靜的專業研討，在基礎研究、技術開發應用、資源開放共享、人才教育及法律政策上進行有序引導，為人工智能持續健康發展保駕護航。
經作者授權刊發，本文原載于《光明日報》，標題及內容略有刪減。
責編 / 張洪瑞
美編 / Ray
