“有人在改變我們，但不知道是誰，什么方式，為什么。”
“他們修改思維，修改個人想法……目的就是操縱你們的人生?！?/p>
“認知模式緩沖器、遠程神經網絡再造……最妙的是，一切都是合理的，潛意識電視信號、你的電動牙刷里的高密度發射器?！?/p>
這就是來自最近大火的游戲——《賽博朋克2077》的對白。
游戲劇情設定的時間是在不久的未來，而人類要擊敗的，正是有了自我意識的AI。
因為事態再發展下去，人類的行為將被AI所控制，服從它們的邏輯、算法。
……
雖然這樣大膽的想法似乎只存在于科幻情節，但隨著AI技術的不斷發展，與之相關的一個話題卻逐步走入公眾視線：
AI倫理道德。
走出象牙塔的AI
首先我們需要了解的是，什么是AI倫理道德？
根據維基百科給出的解釋：AI倫理道德是技術倫理學的一個分支，有時被認為是人類在設計、制造、使用和對待人工智能系統時，對道德行為和機器行為的關注。
它還包括超級智能人工智能可能導致的奇點問題。
追溯到更早，1942年，在著名科幻作家阿西莫夫的作品《環舞》中，就曾提出過著名的“機器人三定律”。
第零法則：機器人不得傷害整體人類，或坐視整體人類受到傷害；
第一法則：除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；
第二法則：機器人必須服從人類命令，除非命令與第零或第一法則發生沖突；
第三法則：在不違背第零、第一或第二法則之下，機器人可以保護自己。
隨著人們對AI研究的不斷深入，與之相關的一系列技術，現已經“走出象牙塔”，逐步滲入到日常生活中的各行各業。
與此同時，除了AI技術給人們帶來的諸多便利之外，相伴相隨地，許多“倫理道德”相關的問題也浮現在公眾面前。
例如以爆火的GAN技術衍生的Deepfakes，便可以憑空捏造各種各樣、甚至不存在的人臉。
以及將圖像、視頻中的人臉，毫無違和感地換成其他人（尤其是名人）也是它的長項，曾一度引起安全、隱私相關的輿論。
△ 國外短視頻用戶“高仿”年輕時的阿湯哥
語音AI技術方面也存在類似的問題，例如已經非常普及的語音助手Siri，就曾被曝出一件離譜的事情。
當用戶咨詢“自殺”相關問題，Siri竟然推薦了距離最近的一座橋……
△ 蘋果Siri語音助手
但這些，卻僅僅是“AI倫理道德”問題浮現出來的冰山一角。而且很明顯的，這個問題已然超出了在“象牙塔”內就能解決的范疇，更需要的是社會組織、企業的共同努力。
在國外，亞馬遜、谷歌、Facebook、IBM和微軟的科技巨頭，已經建立了一個非營利性的合作伙伴關系，來制定與AI倫理道德相關的最佳實踐。
社會組織方面，IEEE便提出了一個關于自主和智能系統倫理的全球倡議，在公眾意見的幫助下，一直在制定和修訂指南。
不難看出，“AI倫理道德”問題已經引起了學術界、產業界、社會組織等各方的重視。
但似乎各方之間更多的是獨立制定，而不是緊密的耦合。
“AI倫理道德”的破局之道
作為一個時代的產物，雖然AI的一些“副作用”已經有所顯現，但拒絕這個技術，顯然不是一個明智的選擇。
那么“AI倫理道德”這步棋又該如何破解？
近日，由商湯科技與上海交通大學聯合主辦的“上海交通大學計算法學與AI倫理研究中心揭牌儀式”，在上交大成功舉行。
在此次活動中，便為這局棋提供了一個破解之道：
產學研一體化：首創性地在人工智能倫理研究領域，開拓了校企合作模式。
AI技術、應用需要產學研結合，倒是經常被提及。但”AI道德倫理”，也需要產學研結合?
新鮮，也很獨特。
那該如何理解此舉？不妨從兩點來看。
第一點，“AI倫理道德”本身是否具備需要聚多方之力來探討的價值。
對此，商湯科技智能產業研究院院長、上海交通大學計算法學與AI倫理研究中心聯袂主任田豐認為，“AI的責任與權利”，是一個不可避免的社會議題。而成立上海交通大學計算法學與AI倫理研究中心，是順應時代的變性，主要因素有三：
命題足夠復雜：AI已經涉及眾多領域，但同時飽受爭議，加上跨學科、百年大變局等環境，對復雜度有很強的研究價值或者研究需求。
命題足夠長期：如果AI是百年大變局的主線，那么計算法學和AI倫理一定是長期的研究命題。
聯合研究很重要：擁有來自學界、法律界、產業界及政府的專家，可以從多維度的視角去考慮問題。
△ 商湯科技智能產業研究院院長、上海交通大學計算法學與AI倫理研究中心聯袂主任，田豐
第二點，“AI倫理道德”問題是否已經發展到了如此大力“整治”的節點。
此次儀式中便得出了這樣一個結論：
今年（2021年）會成為AI倫理、隱私等這方面，非常有爭議的元年。
具體而言，除了最近經常活躍在大眾視線的技術安全隱患之外，像手機等智能軟件和設備，已然涉及眾多AI技術。而所涵蓋到的人數，在全球范圍來看至少高達10億至20億。
從全球發布的相關論文數量角度來看，與人工智能安全風險和安全防御的相關研究激增，這就從一定角度說明，科技能力也好，科技哲學也罷，是一個巨大的研究需求和機會。
更進一步的，這種“校企合作”該怎么做？
走出象牙塔，這是較為核心的一點。
換言之，就是在理論構建之外，從實際應用場景中觀察科技所造成的社會影響，自下而上地歸納出洞察并反饋。
據了解，此次合作成立的計算法學與AI倫理研究中心，將會融合理論研究與實踐經驗，在新興計算機系統研發、智能生態圈的構建、圍繞數字經濟的規則博弈以及人工智能立法等方面成為國內頂級、國際知名的學術重鎮和高端智庫。
而研究中心成立之后，未來在“AI倫理道德”方面希望逐個攻破的“靶點”，也有了較為清晰的介紹：
將重點圍繞人工智能倫理、城市和社會的數字化治理、計算法學、認知科學與法律行為、智慧司法等相關領域開展合作研究，包括但不限于大數據和人工智能相關的原則、法規、政策、技術規格的研究以及認知科學與法律行為實驗。
并就相關問題構建知識圖譜、提交研究報告、承接政府課題、發表論文、出版專著等等。
為什么要發力“AI倫理道德”？
雖然“上海交通大學計算法學與AI倫理研究中心”的成立，對于AI倫理道德是一種新穎的探索方式，也是一個良好的起步。
但在“落地為王”大環境、大趨勢的當下，國內人工智能頭部企業緣何要發力與此？
畢竟“AI道德倫理”不是說能解決就能解決的問題，此前的研究大多也都停留在對“可能性”和“未來影響”的理論工作。
然而“難”并不等同于“不可能”。
例如2012年，AI可以區分人類的假笑和真笑；2015年，AI測謊儀擊敗了最好的人類審訊員；2017年，AI通過人臉識別可以預測一個人是否患有抑郁癥，甚至有自殺傾向。
即便現在仍舊存在著諸多“AI倫理道德”方面的安全隱患，但不可否認的是，它的進步和改善也是有目共睹。
由此進一步考慮這個問題，商湯在“AI倫理道德”上所做的工作，也就不難理解。
首先從產品層面來看，公眾越發地重視對“AI倫理道德”的考量，而這一點，也恰恰是拓展產品渠道的路徑之一：模型、數據的不完整會產生“偏見”，系統的隱患會帶來其保密性和可用性的風險。
因此，聚焦到內部，商湯于2019年專門設立人工智能倫理治理委員會，致力于設計和規范公司產品倫理審核流程。倫理委員會由商湯各部門代表組成，逐步引入外部專家顧問，審核所有商湯的產品，包括從立項到上線，以及上線之后，評估所有在倫理方面的風險。
除此之外，還設有數據安全及個人信息保護委員會，更關注數據全生命周期、算法全生命周期方面的風險。
企業履行社會責任，不是單純向外部展示所做出的一些成果。想為社會做出實質貢獻，只有將“向善”的理念深植于企業的發展觀中，才能自上而下地造成影響，自發地反映在實際舉措當中。
其次，此次能夠將“產學研一體”的概念首創性地滲入“AI倫理道德”，也離不開商湯自身的基因和優勢，即學院派背景。
也正是基于此，商湯可以積極向外拓展合作的空間，基于可持續發展觀的愿景，與其他人工智能企業、高校等非政府機構達成共識，共同構建“AI倫理道德”的生態建設。
但實際上，從實際行動角度來看，這并不是商湯在此領域的第一步，而是已經有所布局數年之久。
除人工智能倫理治理委員會外，早在2019年11月，在人臉識別國家標準工作組成立之際，商湯便擔任了組長單位，并在半年時間內，成功實現三項國家標準的正式立項，包括《人臉識別系統技術要求》、《人臉識別系統測試方法》、《人臉圖像數據交換格式》。
（目前，《人臉識別系統技術要求》被放在首要重要位置進行優先制定，已經通過專家內審會并積極推進中。）
去年6月，在首屆“AI可持續發展2030論壇”上，商湯智能產業研究院與上交大清源研究院聯合發布《AI可持續發展白皮書》，提出了以“尊重協商，探索包容文化”為核心的AI可持續發展觀、以人為本、共享惠民、融合發展和科研創新四項AI發展價值觀。
同年8月份，商湯入選了首屆AI國家標準化組織，參與人工智能風險管理與治理標準的制定。
而且，商湯“AI倫理道德”層面上的工作，不僅限于國內，在國際上，商湯便在去年年底成功立項IEEE標準《人臉識別系統技術要求》，并擔任了“人臉識別”工作組主席。
現在，商湯還準備將所提出來的標準，升級為ISO國際標準，以此讓人臉識別等技術能夠更好的規范化，更有助于技術安全落地。
但歸根結底，人工智能和每一個時代下的科技類似，都是一把雙刃劍，具體將向何處發展、怎么發展，還是在于使用技術的人。
新技術發展帶來的挑戰，最好還是由技術解決。
你說呢？
- THE END -
原文鏈接：量子位責任編輯：隨心
