在《GPT最佳實踐 - 提升Prompt效果的六個策略》中，我們介紹了OpenAI官方發布的'GPT 最佳實踐'指南的六個策略，其中第三個策略是“將復雜的任務拆分為更簡單的子任務”。
就像在軟件工程中將復雜系統分解為一組模塊化組件一樣，在提交給GPT模型的任務中也是如此。復雜任務往往比簡單任務出錯率更高。此外，復雜任務通常可以重新定義為一系列簡單任務的工作流程，其中前置任務的輸出作為后續任務的輸入。
具體方法：
對于需要大量獨立指令集來處理不同情況的任務，首先對查詢類型進行分類并使用該分類來確定需要哪些指令可能會更好。這可以通過定義與處理給定類別中的任務相關的固定類別和硬編碼指令來實現。該過程也可以遞歸地應用，將任務分解為一系列階段。這種方法的優點是每個查詢僅包含執行任務下一階段所需的指令，與使用單個查詢執行整個任務相比，這可以降低錯誤率。這還可以降低成本，因為更多的提示(large prompts)運行成本也會更高。（這段描述比較抽象，結合下面的例子來理解會清楚很多）
例如，對于一個客戶服務查詢系統，可以按照以下方式進行更好的查詢分類。
SYSTEM Prompt：
我們將向您提供客戶服務查詢，并將每個查詢分為一級分類和二級分類。請你以JSON格式回答問題，并且JSON包含以下字段：一級和二級。示例回答：{'一級':'一般查詢','二級':'定價'}
一級分類：計費、技術支持、賬戶管理或一般查詢。
計費二級分類：- 取消訂閱或升級- 添加付款方式- 收費說明- 對收費提出異議
技術支持二級分類：- 故障排除- 設備兼容性- 軟件更新
賬戶管理二級分類：- 密碼重置- 更新個人信息- 關閉賬戶- 賬戶安全
一般查詢二級分類：- 產品信息- 定價- 反饋- 人工交流我們提幾個問題，進行客戶服務查詢：
針對我們提出的4個問題，GPT對意圖的識別都是正確的，效果很棒。
這種實現思路，非常適合用來實現智能客服，以及指令類型的應用系統。
USER我需要讓我的互聯網再次工作起來。ASSISTANT{'一級':'技術支持','二級':'故障排除'}USER我忘記密碼了ASSISTANT{'一級':'賬戶管理','二級':'密碼重置'}USER我的軟件兼容性有問題ASSISTANT{'一級':'技術支持','二級':'設備兼容性'}USER軟件版本太舊了ASSISTANT{'一級':'技術支持','二級':'軟件更新'}
根據客戶查詢的分類，可以向 GPT 模型提供一組更具體的指令來處理后續的步驟。例如，假設客戶需要“故障排除”方面的幫助。
SYSTEM Prompt：
你將收到需要技術支持故障排查的客戶服務咨詢。請按照以下步驟幫助用戶：
- 請他們檢查所有進出路由器的電纜是否已連接。請注意，電纜隨著時間的推移可能會變得松動，這是很常見的。- 如果所有的電纜都已連接，但問題仍然存在，請詢問他們使用的路由器型號是什么。- 現在你將指導他們如何重啟設備：-- 如果型號是 MTD-327J，請建議他們按下紅色按鈕并保持5秒，然后等待5分鐘后再測試連接的狀態。-- 如果型號是 MTD-327S，請建議他們拔下電源插頭并重新插入，然后等待5分鐘后再測試連接的狀態。- 如果客戶在重啟設備并等待5分鐘后，問題仍然存在，請通過輸出 {'IT support requested'} 將他們轉接到IT支持服務。- 如果用戶開始提問與此話題無關的問題，那么請確認他們是否希望結束當前關于故障排除的聊天，并根據以下方案對他們的請求進行分類：
將客戶的每個查詢分為一級分類和二級分類。請你以JSON格式回答問題，并且JSON包含以下字段：一級和二級。示例回答：{'一級':'一般查詢','二級':'定價'}
一級分類：計費、技術支持、賬戶管理或一般查詢。
計費二級分類：- 取消訂閱或升級- 添加付款方式- 收費說明- 對收費提出異議
技術支持二級分類：- 故障排除- 設備兼容性- 軟件更新
賬戶管理二級分類：- 密碼重置- 更新個人信息- 關閉賬戶- 賬戶安全
一般查詢二級分類：- 產品信息- 定價- 反饋- 人工交流相比于第一個例子，本示例的Prompt要復雜許多，換做是人工都不一定能回答得很好，但是GPT的回復卻非常的到位。
USER我需要讓我的互聯網再次工作起來。ASSISTANT我明白你的困擾，讓我們一步一步解決這個問題。首先，你能檢查一下連到路由器的電纜是否都已經連接好了嗎? 這包括任何進入或離開路由器的電纜。時間長了，電纜可能會松動，這是很正常的。USER檢查了，已經連接ASSISTANT好的，既然所有的電纜都已經連接好了，接下來我們需要了解一下你的路由器是什么型號。USERMTD-327SASSISTANT好的，謝謝你提供了路由器的型號。對于MTD-327S這款路由器，我們需要做的是斷電重啟。請你按照以下步驟操作：拔下電源插頭，然后重新插入，然后等待5分鐘后再測試網絡連接的狀態。請先試一試，看看這樣能不能解決你的問題。USER問題依然存在ASSISTANT{'IT support requested'}USER我忘記設備的密碼了ASSISTANT{'一級':'賬戶管理','二級':'密碼重置'}
由于 GPT 具有固定的上下文長度，因此用戶和GPT之間的歷史對話內容不能無限期地包含在上下文窗口中。
對于這個問題有多種解決方法，其中一種是對之前的對話進行總結。當輸入內容的大小達到預定的閾值長度時，則觸發對部分對話內容的總結，同時總結后的會話摘要可以作為系統提示信息的一部分。或者，可以在整個對話的過程中，在后臺異步的總結之前的對話。
另一種解決方案，是動態的選擇先前會話中與當前查詢最相關的對話內容。這部分請參閱策略“使用基于嵌入的搜索實現高效的知識檢索”。
舉一個簡單的例子：
例子1：客服聊天機器人假設一個客服聊天機器人正在與用戶討論復雜的技術問題。對話很長，涉及多個問題和解決方案。當對話字符達到2000時，系統觸發一個機制將前1000個字符的內容總結為200字符的摘要。這樣，新的問題和回答可以繼續添加到對話中，而先前對話的重要部分仍然作為摘要保留，可以作為后續對話的參考。
例子2：法律咨詢機器人假設一個法律咨詢機器人正在與用戶討論不同的法律問題，涉及合同、知識產權和勞動法等多個主題。當用戶提出一個特定的關于勞動法的問題時，系統可以動態選擇先前關于勞動法的對話部分，忽略與合同和知識產權相關的內容。這樣，一方面不會超過上下文的最大長度，同時可以更精確地響應當前的問題，而不被不相關的信息所干擾。由于 GPT 具有固定的上下文長度，因此它不能用于在單次查詢中總結長度超過“固定上下文長度減去生成內容的長度”的文本。
要總結一個很長的文檔（例如一本書），我們可以使用一系列的查詢來總結文檔的每個部分。通過將每一個章節的摘要合并在一起并進行總結，可以進一步生成摘要的摘要。這個處理過程可以遞歸地進行，直到對整個文檔完成總結。如果有必要使用前面章節的信息來理解后面的章節，那么另一個有用的技巧是，在總結書中任何給定部分的內容時，都將前面章節得到的摘要（a running summary，持續摘要）包含進來。OpenAI 在之前的研究中，已經使用了 GPT-3 的變體研究了這種總結書籍的過程的有效性。
舉一個簡單的例子：
假設一本書籍有三章：第一章是關于一個男孩的生活。第二章描述了他的大學生涯。第三章講述了他的工作生涯。如果我們對每章進行摘要：第一章摘要：男孩在鄉村長大。第二章摘要：男孩在城市的大學學習。第三章摘要：男孩成為了一名醫生。如果我們用“持續摘要”的方法：第一章的持續摘要：男孩在鄉村長大。到第二章時的持續摘要：男孩在鄉村長大，后來去城市的大學學習。到第三章時的持續摘要：男孩在鄉村長大，后來去城市的大學學習，并最終成為了一名醫生。
通過這種持續摘要的方式，提供了一個連續的、不斷更新的上下文信息，當后續的章節與前面的章節有緊密的聯系時，可以更好的理解最新的章節。
https://platform.openai.com/docs/guides/gpt-best-practices/strategy-split-complex-tasks-into-simpler-subtasks
