一般對于各種新技術都有三種爭議：第一個是引發失業、第二個是造成依賴、第三是危害倫理。
Deepseek 也不例外，在Deepseek發布之后不到七天的蜜月期，就出現了一個倫理問題。盡管因為及時處置，沒有造成太大的負面后果，但是也足以讓人警省。
這就是假新聞。
除夕夜，在“如何看待馮驥盛贊'Deepseek’的問題”之下，一名自稱為 Deepseek 創始人梁文鋒的知乎用戶，在知乎下面給出了這樣的答案。
知乎用戶“梁文鋒”的回復
不得不說，即使將我所見的所有公司的公開信或公開回應全部放在一起，知乎用戶“梁文鋒”的這一回復也可以列入前三。不論是態度、文筆，還是對于往事的回顧和記述，都非常優美動人。
理所應當，在除夕當晚，這一回應就刷遍了不少科技界人士的朋友圈。并且得到許多反應快速的科技自媒體的報道。
然而，大年初一，反轉瞬時而至。
所謂的“梁文鋒回應馮驥”的報道（包括文章本身），實際上都屬于假新聞。在該文發布四小時后，相關媒體向梁文鋒求證，確認梁文鋒并沒有做過類似回應。這名自稱“梁文鋒”的知乎作者立即被知乎封禁。
諷刺的是，有網友發現，這篇文章正是用Deepseek寫出來的。
作者“yangyiba”關于Deepseek的回復
幸好，這次各大官媒比較謹慎，“Deepseek創始人回應馮驥”的假新聞并沒有通過官方渠道進行進一步擴散，Deepseek的辟謠也很及時。因此，該新聞在傳播萌芽就已經被刪除，沒有造成更大的亂子。即使如此，仍然有一些小型公號在發表這篇文章，也仍然有人在轉發和點贊。
然而，風波的過去，正該是反思的開始。Deepseek 的創作能力，甚至“人格魅力”大大強于以前的人工智能，但正因為這個原因，它也可能會對內容創作倫理甚至人類倫理造成空前的挑戰。沒有人想到的是，Deepseek 生成的第一個假新聞，竟然受害人是Deepseek自己的創始人。但更沒有人想到的是，Deepseek生成的假新聞，竟然能如此契合人們對梁文鋒的想象，以至于第一批回復根本沒有想到“梁文鋒”可能是假的，反而一邊倒的贊揚“AI梁文鋒”“文理兼修，有理性有情懷”。為什么？并不是人們愚蠢，而是確實人工智能現在的進化太真了。
其一：人工智能制造的假新聞，對于用戶的情緒把握相當精準
以下我曾多次在以前推文中提到過一個觀點：許多人工智能研究中總先入為主的認為人類的優勢在于情感，機器的優勢在于理性。這種觀點認為機器因為缺乏身體和自我意識，難以產生真正的情感，因此它無法在一些需要情感的領域如藝術創作、情感撫慰等領域發揮作用。但去年以來，事實恰恰相反。藝術創作如音樂、小說、戲劇、平面設計等反而受到人工智能的沖擊最大。歸根結底，人工智能是否有情緒，和人工智能能否生成“影響人類情緒的內容”是兩回事。正如文章能否打動受眾的關鍵不是作者想寫什么而是受眾想看到什么。人工智能對于海量網絡高質量文學、藝術作品的分析和整合，以及對于受眾數據、偏好的深入了解，讓它可能會一般人類更了解如何寫作才能“動人”。以“梁文鋒”這篇回應來看，幾乎每一段都切入了輿論的爽點和淚點：開頭，以與馮驥的互動進入，滿足人們對于“雙雄會”的期待。第二段，提到甘肅老師在github提issue，用戶提交錯誤日志，既表明了對普通用戶的共情（也是與讀文章的用戶的情感連接）第三段、第四段，提到視障開發者、最偏遠山區的孩童，與第二段甘肅老師呼應，切中輿論的另一個痛點“社會公平”，又用“知識和信息平權“把Deepseek拔高了一個高度。而最后部分又寓情于景，中國頂級科技創業者一邊在馬路牙子吃烤串一邊勾勒未來的畫面堪稱夢幻，同時融合了人們對創業企業的“江湖氣”和“硅谷夢”兩種敘事的想象。五星連環、前后呼應，點點打在輿論的痛點和淚點上。令人毛骨悚然的同時，更體現了一種微妙的悖論：在喚起情感方面，有情感或許不如無情感更能動人。人類作者因為情感發自內心，寫的往往是“有我之境”，內容傳播中必然會有主客沖突，導致“情感盲點”；而人工智能是真正的“無我之工”，完全根據受眾情緒信號和相關反饋反推出編碼，反而能夠引發更直接、更純粹的刺激。如果未來利用特定受眾的興趣、想法訓練模型，也許能進一步提高這種情感刺激的效果 —— 當然也是負面的魔力。其二：人工智能已經可以制造細節，而且擅長用真偽參半的細節誤導受眾如果使用過ChatGPT、豆包等人工智能應用，可能會有一種印象：人工智能擅長談大略，談方向，但越是具體細節就越不擅長。這是因為它對于真實世界缺乏認知，很難做出細致的描述。然而Deepseek卻不是如此，它打動人的一個原因正是它會引用細節。而懂得如何對細節做半真半假的“改造”。文中稱Deepseek曾經開始于“余杭塘路”。杭州的確有一條余杭塘路，且該路上聚集不少人工智能公司，也是“2024全球人工智能技術大會”的舉辦地之一。
2024全球人工智能技術大會在余杭塘路舉辦
云棲小鎮的確是杭州的重要創業者基地之一。而且“AI+云”也是云棲小鎮去年的重點方向。（盡管“創業者夜宵”不可考）并且宇樹科技、強腦科技也的確在杭州，并稱“杭州六小龍”也確有其事。“梁文鋒”的回應中一些句子并不通順，卻很像人類說的。“梁文鋒”的回應里說馮驥說的話“你們搞AI的得把靈魂價格打下來啊。” 其中“靈魂價格”雖然不符語法，但卻能讓人共情 —— 這正像喝高興時候的人類表達。當然，這里存在一種潛在可能：這些細節可能是有人在AI基礎上進行二次加工的結果。但在知乎的另一些回應中，有人使用AI搜集網絡論文資料，發現 Deepseek 雖然能夠找到一部分真實書目，但編造虛假書目的能力也提高了，比如給出難以考證的書目（如《鄭氏宗譜》等）或者書目是真實但給出捏造的頁碼。這樣一來要核查變得非常苦難。
由Deepseek給出的參考引文，標黑是存疑的部分
細節核查一直是事實核查的重要手段。至少對于圈外用戶來說，一件事如果大體符合人們的情感預期，且幾個細節也可以對得上，就會讓許多人傾向于認同該事件的真實性。如果人工智能能反過來操縱細節，或者至少增加很多半真半假，難以核實的細節，就會讓辟謠成本成倍提高，極大影響辟謠的能力。在Deepseek生成的內容中，還有一個值得注意的特點是修辭能力大大增強。從語言學研究論文來看，在2024年上半年，主流人工智能基本上都已經具有了理解修辭的能力。但在輸出修辭方面仍然稍顯呆板，例如比喻主要依靠的仍然是常見的比喻意象，很難分清究竟是人工智能照搬了常用的修辭表達還是真正學會使用修辭。而Deepseek內容生成讓這個問題蓋棺定論：Deepseek的確是真正的在創造比喻而不是引用比喻。它的很多比喻是以前的人們中從未出現過的，雖不華麗（有很多更華麗的例子），卻很值得分析。例如，“用代碼當磚瓦，拿算法做鋼筋，在資本與質疑的裂縫中，硬生生壘出通向未來的棧橋。”代碼當磚瓦、算法做鋼筋比喻雖然樸素，仔細一想卻非常形象：算法支撐了人工智能的整體邏輯，而代碼則在邏輯中支持具體任務的運行。唯一遺憾的是：“裂縫中壘出棧橋”在人的視角中稍不合理，但也證明了是機器自己思考出來的。再看這一句，“用群核構建的虛擬世界作為訓練場——那個我們幻想中的具身智能，就會從西溪濕地的晨霧里跌跌撞撞地走向人間。”同樣是一個看起來很普通的句子，但仔細品味“西溪濕地的晨霧”很有意思。此處由多層的意象建構，首先“西溪濕地”指代杭州，這是一個很簡單的隱喻。但“西溪濕地”的“晨霧”就要一定的想象力了，首先“晨霧”和濕地是一個少用但合理的搭配，濕地水分充分，早晨必然有霧，而“晨霧”又有強調陽光即將來臨的含義，虛實結合。而機器人從虛擬世界走向人間，“跌跌撞撞”即可以說明人工智能并不成熟，也是在“晨霧”中行走的必然結果。這種多層比喻，虛實架構的建立，說明人工智能在一定程度上已經可以自如的理解詞匯的不同層次的意象，乃至于用多個詞匯共同創造出畫面感。這種語言能力結合人工智能龐大的計算能力和幾乎無限的語料，未來能夠為人類拓展的語言表達空間，也許是我們難以想象的。但如果用于負面的傳播，也可能會帶來更加惡劣的后果。Deepseek的技術憂思：如何避免語言變得“巧言令色”？《房思琪的初戀樂園》的作者林奕含曾經提出過一個問題“會不會藝術從來就只是一種巧言令色而已？藝術家不停創新形式，翻花繩一樣的技法會不會也只是一種巧言令色而已呢？”這一提問曾經讓我震撼。也讓我有另一種看待《房思琪的初戀樂園》的方式：它不僅僅寫的是一個性侵的故事，也是一種對于文學乃至語言傳播表達的深入反思。這就是傳播的技法和傳播的真誠實際上是可以彼此獨立的。盡管我們學習文學、藝術學、傳播學都鼓勵“做藝如做人”“傳播的倫理”，甚至在一定程度上把它強行捆綁在一起。但問題是當技術越來越發達，倫理卻停滯不前或缺乏手段的時候，這個裂縫就會變得更加顯眼和可怕。例如在這篇文章中，一開始準備寫的是人工智能具有假新聞的風險。后面寫著寫著，發現其實改幾個字，其實也可以變為“人工智能用于內容創作的出色進步”，而且仔細思考這兩者其實是一回事 —— 這不僅僅是“使用者的惡意”的問題，人工智能不是人類，卻能實現對于人類傳播技巧的極致挖掘，這可能會讓我們洞察情感的本質，卻也把情感的倫理價值放上了審判臺。如果“甘肅老師”“視障者”只是恰當的，刺激人情緒的按鈕，那我們的共情和悲憫豈不是一種激素的迸發？如果“無我之工”在情感刺激上勝過“有我之境”，那文學與數學又有何等差異？當然，這個問題也許過于形而上。有很多事情或許更緊急。Deepseek或許需要考慮更具體的對策，例如是否應該針對本地部署的Deepseek設計倫理規制或至少是責任條款，如何和辟謠平臺合作來解決可能爆發的假新聞問題，以及如何幫助用戶或平臺迅速識別出人工智能生成的內容（例如在生成內容中設置暗碼）。對這些問題的解決方案或許將是梁文鋒，以及未來的AI精英們在“創業者夜宵”將要徹夜思考的問題（當然，前提是如果真的有這個夜宵的話）。編輯：瓦叔
撰文：瓦叔
本站僅提供存儲服務，所有內容均由用戶發布，如發現有害或侵權內容，請
點擊舉報。
