除了警惕人工智能，我們還總結了他的一些金句，緬懷這位科學家。
霍金近幾年對人工智能十分關注，多次發表對人工智能發展的看法。他認為，人類需警惕人工智能的發展威脅，因為人工智能一旦脫離束縛，以不斷加速的狀態重新設計自身，人類將無法與之競爭，從而被取代。
霍金多次敬告世人，關注人工智能的深遠影響：“強大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。對于好壞我們仍無法確定，現在人類只能竭盡所能，確保其未來發展對人類和環境有利，人類別無選擇。”
2017年1月初，在名為Benificial AI 2017的會議上，近2000名產學研領袖和中堅力量共同聯名發布“AI 23 條原則”，從研究問題、倫理價值觀和長期問題三個角度宏觀地為AI發展提出規定。聯名者包括：Demis Hassabis，Ilya Sutskeve，Yann LeCun， Yoshua Bengio 以及馬斯克等等。霍金也在其中。面對AI 可能會被誤用和威脅人類的擔憂，這 23 條原則被期待能確保AI走在“正軌”，以獲得更加健康的發展。
霍金在2017年初簽署的這23條原則，分為研究問題、倫理價值觀和長期問題三個部分，以確保人人都能從人工智能中受益，同時保證AI研究和發展的正確方向。
人工智能已經為世界各地人的日常生活提供了有益的工具。人工智能技術應該在以下原則的指導下繼續發展，將為未來幾十年到幾個世紀的人給予巨大的幫助和力量。
研究問題
1）研究目標：人工智能研究的目標應該是創造有益的智能，而不是讓它像經歷生物演化一樣沒有確定的發展方向。
2）研究資金：投資人工智能應該附帶確保該研究是用于發展有益的人工智能，包括計算機科學、經濟學、法律、倫理和社會研究中的棘手問題，例如：
我們如何使未來的AI系統具有高度魯棒性，這樣才能夠讓它們在沒有故障或被黑客入侵的情況下做我們想要它們做的事情？
我們如何通過自動化實現繁榮，同時不打破資源和目的的平衡？
我們如何更新法律制度實現更大的公平和更高的效率，跟上AI的發展步伐，管控與AI相關的風險？
AI應該具有怎樣的價值觀，應該具有何等法律和倫理地位？
3）科學政策互聯：AI研究人員和政策制定者之間應該進行有建設意義、健康的交流。
4）研究文化：應該在AI研究者和開發者中培養合作、信任和透明的文化。
5）避免競賽（Race Avoidance）：開發AI系統的團隊應積極合作，避免在安全標準方面進行削減。
倫理和價值觀
6）安全：AI系統應該在整個使用周期內安全可靠，并在可行性和可用性方面有可驗證的衡量標準。
7）故障透明度（Failure Transparency）：如果AI系統造成傷害，應該可以確定原因。
8）司法透明度：任何涉及司法決策的自主系統都應對其判斷提供合理的解釋，并由主管人權機構審核。
9）責任：先進人工智能系統的設計師和建設者是使用、濫用這些系統以及這些系統行動造成的道德影響的利益相關者，他們有責任和機會塑造這些影響。
10）價值觀一致性：在設計高度自治的人工智能系統時，應該確保它們的目標和行為在整個操作過程中與人類的價值觀相一致。
11）人類價值觀：人工智能系統的設計和運行應與人類尊嚴、權利、自由和文化多樣性的理念相一致。
12）個人隱私：由于AI系統能夠分析和利用人類產生的數據，人類也應該有權獲取、管理和控制自身產生的數據。
13）自由和隱私：AI 應用個人數據，其結果不能不合理地限制人類真實或感知到的自由。
14）共享利益：人工智能技術應當惠及和增強盡可能多的人。
15）共享繁榮：人工智能創造的經濟繁榮應該廣泛共享，為全人類造福。
16）人類控制：應該由人類選擇如何以及是否委托人工智能系統去完成人類選擇的目標。
17）非顛覆（Non-subversion）：要控制先進的人工智能系統所帶來的力量，應當尊重和改善社會健康發展所需的社會和公民進程，而不是顛覆這種進程。
18）AI 軍備競賽：應該避免在致命的自動武器開發方面形成軍備競賽。
長期問題
19）能力注意（Capability Caution）：在沒有共識的情況下，應該避免對未來AI能力上限做出較為肯定的假設。
20）重要性：先進AI可能代表了地球上生命發展歷史的一大深刻變化，應該通過相應的關懷和資源對其進行規劃和管理。
21）風險：人工智能系統帶來的風險，特別是災難性或有關人類存亡的風險，必須遵守與其預期影響相稱的規劃和緩解措施。
22）不斷自我完善（Recursive Self-Improvement）：對于那些不斷自我完善或通過自我復制以能夠快速提高質量或數量的AI系統，必須采取嚴格的安全和控制措施。
23）共同利益：超級智慧只應該為廣泛共享的倫理理想服務，為了全人類而不是一個國家或組織的利益而發展。
霍金對于世界的11個觀點
霍金這位劍橋理論宇宙學中心的研究主任、《時間簡史》作者曾有過這樣11個觀點，涵蓋人生和世界的方方面面。大多數人可能還是看不懂霍金的理論研究，但下面這11句話，也蘊含著這位人類歷史上最重要的科學之一的思考方式：
1.關于學校學習：曾是差生，但沒有什么是不可能的
“在學校里，我成績一直是中下游，班上的同學都非常聰明，我的作業不整潔，我的筆跡讓老師絕望，但我的同學給了我愛因斯坦的綽號，所以可能他們真的有先見之明。我十二歲的時候，我的一個朋友向另一個朋友打賭一袋糖果，說我永遠不會有什么成就，我不知道他們是否履行了這個賭約，如果已經塵埃落定，結果使用哪一種方式判定的。”
-來自2010年的“我的簡史”講座
2.關于外星生命：遇見他們一定不是好事
“如果外星人來到我們這里，一定就像哥倫布在美國登陸時一樣，這對美國土著人來說并不好。我們只需要看看自己，看看我們自己的智能會不會發展成為我們無法控制的場面。”
- 2010年與斯蒂芬霍金一起進入宇宙
3.做出科學發現時的高潮“eureka” （阿基米德著名的“我找到了！”之意）：學術對個人生理和心理的另類價值，單身科研狗們別再抱怨單身了，你的追求不止于此
“我不會將它與性相比，但它持續的時間更長。”
- 2011年4月在亞利桑那州立大學的演講
4.關于殘疾：總有一個領域不會讓殘疾成為障礙
“如果你是殘疾人，要知道這可能并不是你的錯，但怪罪世界或渴望它對你施舍憐憫也不好。一個人必須有積極的生活態度，必須充分利用自己的處境；如果身體殘疾，就不要再有心理殘疾。我認為應該多關注那些身體殘疾不會造成嚴重障礙的活動。殘奧會我恐怕不太感興趣，但我很清楚自己向來不喜歡田徑運動。科學對于殘疾人來說是一個很好的發展道路，因為它的活動主要是頭腦。當然，大多數的實驗工作可能也會把大多數的殘疾人排除在外，但理論工作基本上很合適。我的殘疾并沒有成為我理論物理領域的障礙，事實上，殘疾還讓我免除了我本應參加的授課和行政工作。然而，由于我從妻、孩子、同事和學生那里得到了大量的幫助，我成功了。我發現人們一般都會樂意幫助你，但是你應該盡可能地鼓勵他們，讓他們覺得他們的努力是值得的。”
- 來自“殘疾人與科學”，“科學文摘92，第9號，1984年9月”
5.時間旅行：當然為了家庭
“我想回到1967年，我第一個孩子羅伯特出生的時候，我的三個孩子給我帶來了極大的喜悅。”
- 去紐約時報，2011年5月
6.關于命運與自由意志
“我注意到即使是聲稱一切都是決定好的，無法改變的人，在過馬路前也會看看兩邊。”
- 從黑洞與嬰兒宇宙及其他散文
7.科學與宗教：肯定相信科學
“基于權威的宗教與基于觀察與理性的科學之間存在著根本的區別，科學會贏，因為它有用。”
- 致Diane Sawyer / ABC新聞，2010年6月
8.關于缺陷：為缺陷而生，追求完美終會矯枉過正
“下次有人說你犯了一個錯誤，告訴他這可能是件好事，因為如果沒有缺陷，你和我都不會存在。”
- 與斯蒂芬霍金，2010年進入宇宙
9.關于智商：秀智商的都是屌絲
“我不知道。夸耀自己智商的人都是屌絲。”
- 紐約時報，2004年12月
10.關于女性
“她們是一個十分神秘的群體。”
- 致新科學家，2012年1月
11.關于給自己孩子的建議：理想、堅持與愛
“一、記住仰望星星，不要光看腳下；二，永不放棄工作，工作賦予你人生意義和目的，沒有它，生活就是空虛；三，如果你有幸找到愛，記住它的存在，不要舍棄它。”
- 致Diane Sawyer / ABC新聞，2010年6月
