思想者札記——關于自然、社會、人生問題的思考，期望為讀者提供一個精神家園，大家思想碰撞、心靈互動。每周一、三、五 晚上20點發布3篇原創文章，歡迎投稿，敬請關注、閱讀、分享、評論！
個人很喜歡科幻文學，讓我印象最深的作品之一是美國的《終結者》電影，這一系列一共6部，拍攝時間跨度從1984年到2019年，從最早的《終結者1》，到最新的《終結者：黑暗命運》，情節概括就是人工智能（天網Skynet）發展出自我意識試圖毀滅人類，派遣機器殺手回到過去以消滅未來的人類反抗軍領袖的故事，整個系列腦洞大開，劇情激烈火爆，深受科幻迷的歡迎，也把人類對于AI發展的未來想象和擔憂搬到銀幕，引發科學界數十年的大辯論。
其實，早在20世紀50年代，科學家就對人工智能AI的發展提出擔憂，擔心未來某一天AI可能會發展出自我意識威脅人類生存。
直到今年3月份，美國馬斯克聯合超過1000名科學家發表《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月，信中提到：“^……我們不應該冒著失去對文明控制的風險……只有當確保強大的人工智能系統的效果是積極的，其風險是可控的才能繼續開發……”，更是將AI的威脅推到幕前。
公開信署名者包括全球各個領域AI資深專家、科學家、企業家，明確呼吁暫停更高級AI的研究并制定相關規則，否則后果可能會很嚴重。
AI發展進入快車道
最近一年OpenAI的人工智能聊天工具ChatGPT讓AI成為全球科技和投資熱點，包括百度、騰訊、谷歌等各個公司紛紛開發和推出各自的AI產品，AI發展進入快車道。
人工智能的發展已經超過80年，從最早的1943年英國科學家圖靈推出“圖靈測試”來判斷計算機的智能水平，可以稱之為AI的先驅，到上世紀中期美國政府和軍方開發用于推理和語言處理的計算機系統，正式提出“AI人工智能”概念，再到1980年開始AI進入機器學習和大數據驅動模式，再到近15年來AI開始在各個領域商業化取得成功，比如自動駕駛、金融分析、醫療診斷、智能助手應用等，甚至AI被用于協助新冠疫苗的開發，大大節省時間提升效率。
目前出現的自主AI、量子計算、腦機接口、自適應系統等新技術必將在未來獲得更快的發展，進入更多人類社會的應用領域，推動從科技、經濟到工業等各方面發展。
如果按照現有發展速度，有科學家預測在未來的ChatGPT發展到10.0版本可能出現出現自主意識。AI的發展速度和進化速度超出人類想象和控制，面臨失控風險。
AI的威脅在哪里
AI人工智能技術大大促進人類社會生產力的提高，未來應用不可限量。但是威脅同樣存在。
值得一提的是，AI領域最著名的OpenAI公司CEO在訪談中指出：AI已經表現出無法解釋的推理能力，同時他承認“AI殺死人類”有一定可能性。
相信大家看到科幻電影中無所不能的AI角色毀滅人類的情節都會有一個問題，AI威脅是存在于虛構文學的情節，還是真實存在的？
從機器取代人類從事包括金融、財務、制造領域的工作開始，AI對于人類的威脅已經出現，再上升到類似于控制核武器毀滅人類的深層次擔憂。我們說“非我族類，其心必異”，更何況是一個不管是能力和潛力都遠遠高于人類的新事物。
從1997年人工智能“深藍”打敗國際象棋世界冠軍開始，AI已經在多個領域超過人類。如果未來出現類人類的AI自主意識，必將引發從哲學、倫理到科學多個方面的挑戰。
就像霍金所擔憂，“人工智能的發展有可能終結人類”。雖然目前全世界還沒有形成共識，或者出現一個類似于聯合國的全球AI管理機構來規范和限制人工智能的研發，但是公開信的出現，把這個問題推到了整個世界的面前，讓這個問題不能再被回避。
科技發展是雙刃劍
一方面人工智能技術的發展呈現加速，另一方面是全球沒有相關的框架和準則去規范人工智能的發展，就好像一個人高速駕駛沒有系安全帶一樣，產生巨大風險。
比如科幻小說中著名的"機器人三定律"（Three Laws of Robotics），這是由美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）在他的科幻小說中創造的虛構法則，如下：
1. 機器人不得傷害人類或因不作為而使人類受到傷害。
2. 機器人必須服從人類的命令，除非這些命令與第一定律相抵觸。
3. 機器人必須保護自己，但前提是不得違反第一定律或第二定律。
這三條定律是作家虛構的情節，現實社會中并不存在，但是如果未來某一天AI有了自我意識，和人類發生沖突，那該怎么辦？
馬斯克的公開信也只是提出了這個難題，如何去保證人工智能的發展在可控范圍內，問題的答案是什么，目前還沒有解決辦法。
一方面是AI對于人類社會的巨大推動作用，一方面是對于未來失控的擔憂，而利益攸關方的立場并不一致，對于OpenAI、百度這樣的科技公司，AI越強大，未來的商業前景和收益會越好，但是對于整個人類社會，如何將AI納入可控范圍，限制AI的無序發展，不能不說兩者存在利益的沖突，還有就是現在面臨的是AI管控從0到1的過程：誰來做這個裁判，制定規則執行規則，如何保證執行的效率和結果。
未來如何發展
一方面AI發展是大勢所趨，已經開始深刻地改變人類社會；另一方面如何揚長避短，將AI發展納入可控范圍。公開信所建議的暫停AI研究六個月，是對于目前AI快速無序發展的擔憂，并沒有提出具體解決辦法，還需要從科技行業、AI業界到全球各個政府和組織的協同努力，找到應對辦法。
畢竟整個人類是共同體，這不是一個國家，一個種族單獨的事情，需要集全人類之力。
AI的發展帶給人類巨大的沖擊，是人類首次面對遠遠超過自己能力的一個物種和文明，而且這個文明還是人類創造出來的，如何去用發展的眼光看待AI科技的未來，去興利除弊，還需要等待未來的揭曉。
歡迎大家提問、留言、評論、轉發！
往 期 推 薦
