近日，繼舊金山市之后，美國的薩默維爾市也禁止在公共場所使用面部識別。舊金山市和薩默維爾市的民眾反應是，“我們不應該只是規范面部識別技術的使用，而應該徹底禁止這項技術”。這既反映出人們對新技術應用的接受有一個緩慢且曲折的過程，又說明美國在法律上對隱私權利保護的深厚傳統。視覺識別是人工智能一個重要的場景應用，未來在自動駕駛、智能制造、醫療診斷、安保安防等各領域都有著廣闊前景。但是，由于存在巨大的侵害個人信息風險，在普及視覺識別等方面，人工智能在應用時也存在著倫理和法律的“障礙”。舊金山和薩默維爾的規定具有顯著的示范性，紐約、奧克蘭等城市也在考慮出臺類似的立法。
AI治理日益成為國際共識
人工智能技術不同于傳統的工業化技術。傳統工業化技術限于制造、加工或工藝流程的優化提升，其指向性在于產品，而人工智能技術的指向性卻在人本身。人工智能視覺識別技術不同于傳統的攝像技術，攝像機無論將像素提到多高也只是一個工業產品，但人工智能視覺識別卻有著實時海量的搜索、對比和處理信息能力，甚至在自主系統下可以決策或做出“判決”。被人工智能視覺識別的人像，包含著性別、年齡、種族等傳統照片不明確的信息，獲得者進而可以預測匹配“你的”需求或行為，這種明顯“侵入性”的技術對于權利意識極強的美國人是難以接受的。
關于人工智能的治理日益成為國際共識。美國人的權利和法律意識很強，但以倫理的眼光看待人工智能和提出治理規范，歐盟卻走在了世界前列。2019年4月，歐盟《可信人工智能倫理準則》提出7個關鍵條件——人的能動性與監督能力、安全性、隱私數據管理、透明度、包容性、社會福祉和問責機制，以確保人工智能足夠安全可靠。其他如IEEE發布了《合倫理設計的一般人工智能準則》并不斷更新，確保人工智能為人類服務。
日本也提出過《以人類為中心的人工智能的社會原則》，以及生命未來研究所《阿西洛馬人工智能23條原則》、蒙特利爾大學《人工智能負責任開發宣言》等。不論是法律還是倫理，這些人工智能的治理文件，都表現出人類對人工智能技術發展的擔憂——要利用人工智能技術實現我們生產效率的提高和社會的進步，這一切都要建立在對風險的了解和預防的基礎上。
中國正在積極融入人工智能全球治理體系。雖然有逆流和阻撓，但須知人工智能帶來對人類的挑戰是全球性的，任何一個致力于現代化的國家都應該負起自己的責任。中國作為一個負責任的大國，在人工智能全球治理中積極貢獻自己的實踐經驗。2019年5月《人工智能北京共識》發布，提出了研發、使用、治理三方面的15條原則；國際人工智能與教育大會還發布了專門的《北京共識——人工智能與教育》；6月份，在日本筑波舉行的G20數字經濟部長會議以及G20貿易和數字經濟部長聯席會議通過了聯合聲明以及《G20人工智能原則》；國家新一代人工智能治理專業委員會《新一代人工智能治理原則》提出，發展負責任的人工智能。6月份，2019《亞太及日本企業人工智能倫理道德研究》報告顯示，中國企業在運用人工智能指導方針及管理標準方面位居亞洲前列。
在符合倫理規范下做好AI全球化治理
世界各國法律細節雖然有所不同，但倫理價值觀念是基本一致的。如何在符合倫理規范的前提下發展人工智能，進而做好人工智能全球化的治理，達到“AI for good”的目的，是下一步我們政府、學界和產業界應當共同關注的事情。
第一，實施國家規劃。2017年，國家發布了《新一代人工智能發展規劃》和《促進新一代人工智能產業發展三年行動計劃(2018—2020年)》，其中對人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍圖繪到底”的精神，根據規劃要求實施人工智能法律政策三步走：到2020年部分領域的人工智能倫理規范和政策法規初步建立;到2025年初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力;到2030年建成更加完善的人工智能法律法規體系。
第二，凝聚倫理共識。在上述很多人工智能倫理和治理的文件中，已經研究了很多人類倫理要點，需要各個國家或經濟體結合自身政治、經濟、文化和民族特性，做好本土轉化工作。從早期的阿西莫夫機器人3原則，到近期的阿西洛馬23原則，以及歐盟委員會、IEEE等不同機構提出的各成體系的倫理準則，透過不同的具體內容其實都是在表達發展與安全的核心價值。應當說在工作層面，“鼓勵創新(發展)、包容審慎(安全)”，就是現階段人工智能發展最大的共識。
第三，擬定評價規則。凝聚起倫理共識后，要做的工作就是制定規則。圍繞合法、安全、穩健、透明、可解釋、負責任、科技向善等核心倫理價值，構建人工智能的評估評價體系，指引人工智能健康持續發展。要積極參與人工智能相關的國際標準規范制定，鼓勵國家、行業和團體標準的創新嘗試。要加強傳統企業智能化改造評價和管理體系建設，加強互聯網企業數據經營、算法審查等工作規范指引。積極搭建與歐盟GDPR、人工智能倫理準則實施的溝通協調機制，學習借鑒其評價指標體系。
第四，履行社會責任。發展人工智能歸根到底要靠市場真正的主體——企業，人工智能相關企業能夠履行好企業社會責任，才是真正達到了負責任的人工智能要求。創新是民族的靈魂，也是企業的生命線，要在企業社會責任考核中更加突出技術創新度和安全平衡度指標。要把企業社會責任作為企業發展戰略的重要組成部分，探索企業和技術都可持續發展的路徑，完善企業經營監督機制——保證企業在追求利潤的同時不會越過倫理紅線和法律底線，這對于擁有人工智能技術的企業來說尤為重要。
第五，管好重點行業。每一種革命性的技術發展都會讓一部分行業消亡，讓一部分行業興起，但是新興行業興起不是一蹴而就的，如果不能處理好發展與安全這對基本矛盾，就會導致新興產業成長緩慢，甚至“夭折”。歷史給予一個國家的挑戰和戰略機遇期也是短暫和相對的，一旦錯失就會陷入相當長期的被動甚至落后挨打的局面之中。要在合法、合倫理的前提下，加強視覺識別、用戶畫像、精準推送、虛擬助理等人工智能技術應用的重點行業監管，加強商業APP規范管理，避免出現侵犯消費者權益的惡性事件。同時，大力推進法治政府建設，營造優化經營環境，讓所有主體的行為都在法治的軌道內運行。
作者：賽迪智庫政策法規研究所所長 欒群
