大家好，我是在管理咨詢行業(yè)工作超10年的顧問輕舟，擁抱AI，效率賦能。
最近比較忙，有半個月沒使用扣子Bot平臺開發(fā)智能體了。今天打開扣子，發(fā)現跟上個月大不一樣。一轉眼，好幾個知名的大模型又、雙、叒接入到扣子了。字節(jié)做事情，真的是迅速，一個字：服。
國內的扣子以前只有云雀（現在的豆包）大模型，但是海外版的扣子可以介入chatGPT，所以一直被詬病國內版本。但自從接入了Kimi，就強大了很多?，F在又增加了通義千問、MiniMax，特別是MiniMax，號稱億級參數，最長文本處理能力，對扣子的模型能力會有一個重量級的支撐。除了增加大模型，扣子還優(yōu)化了大模型使用的參數配置，用戶使用起來便利了不少。
重要的是，這些完全都是，免費的！扣子就是免費的AI bot平臺，里面的大模型也是完全免費使用的，這樣就不需要做復雜的大模型API調用操作了。而且bot可以發(fā)布到扣子、飛書、豆包、微信等多個平臺，等于是通過bot完全免費在其他平臺上使用這些大模型?？圩拥倪M步，是看得見的日新月異，甩其他廠商幾條街不是吹的。
01 升級后的bot模型設置參數解析
除了模型可選增多，具體模型的參數設置也做了明顯的豐富和優(yōu)化。大家可以看下圖，對比下升級前后的設置界面。升級后的界面：
以前的界面：
我們分別來看下扣子大模型調用參數都做了哪些更新：1.生成多樣性扣子配置了4種生成多樣性模式供用戶直接選擇：
（1）精確模式：嚴格遵循指令生成內容適用于需準確無誤的場合，如正式文檔、代碼等
（2）平衡模式：在創(chuàng)新和精確之間尋求平衡適用于大多數日常應用場景生成有趣但不失嚴謹的內容
（3）創(chuàng)意模式：激發(fā)創(chuàng)意，提供新穎獨特的想法適合需要靈感和獨特觀點的場景，如頭腦風暴、創(chuàng)意寫作等
（4）自定義模式：通過高級設置，自定義生成方式根據需求，進行精細調整，實現個性化優(yōu)化。
過去的參數配置，只有自定義模式，需要用戶根據專業(yè)判斷來配置參數。有了這精確、平衡、創(chuàng)意3種模式定義，用戶的操作難度降低了很多，可以傻瓜式的選擇一個標配就好。
高級設置：生成多樣性除了4種模式選擇，具體還有2個高級設置，生成隨機性和topP。1）生成隨機性（temperature）: 調高溫度會使得模型的輸出更多樣性和創(chuàng)新性，反之，降低溫度會使輸出內容更加遵循指令要求但減少多樣性。建議不要與“Top p'同時調整。（這個解釋也做了更新）2）Top p-累計概率: 模型在生成輸出時會從概率最高的詞匯開始選擇，直到這些詞匯的總概率累積達到Topp值。這樣可以限制模型只選擇這些高概率的詞匯，從而控制輸出內容的多樣性。建議不要與“生成隨機性“同時調整。Top p這個設置是之前沒有的，相對難理解一些，通過詞頻來控制輸出多樣性。這2個參數，實際上都是控制模型輸出的穩(wěn)定性的，要根據bot的使用場景來配置。
2.輸入及輸出設置1）攜帶上下文輪次、最大回復長度：以前的設置也都有。這里要說明的是，最大回復長度，取決于大模型給到扣子的最大長度，而不是這些大模型公布的最大長度。2）輸出格式：這是新增加的內容，輸出格式可選“文本”或“markdown”格式輸出。
具體有什么區(qū)別，我簡單測試了下我之前開發(fā)的bot——AI投標助手測試了下，（在扣子上的使用地址為：https://www.coze.cn/s/iYEcHfpq/）。貌似輸出上沒有明顯區(qū)別。
文本格式輸出如下：
markd格式輸出如下：
3.月之暗面Moonshot模型的2個獨特參數配置以上參數適用每個大模型，而Moonshot還有2個獨特的個性化配置，重復語句懲罰、重復主題懲罰。如下：
1.重復語句懲罰frequency penalty：當該值為正時，會阻止模型頻繁使用相同的詞匯和短語，從而增加輸出內容的多樣性。2.重復主題懲罰presence penalty：當該值為正時，會阻止模型頻繁討論相同的主題，從而增加輸出內容的多樣性。這兩個參數，也是控制輸出準確性與多樣性的指標，大家可以通過參數調整、測試來對比效果。
02 新增的MiniMax、阿里千文、Kimi初體驗
我們來簡單看一下扣子新接入的這幾個大模型怎么樣。
1.MiniMax的abab6.5系列
MiniMax 是一家類似kimi的新銳人工智能公司，成立于 2021 年 12 月。
MiniMax 自主研發(fā)了不同模態(tài)的通用大模型，其中包括萬億參數的 MoE 文本大模型、語音大模型以及圖像大模型，號稱是最大上下文的大模型。
基于不同模態(tài)的通用大模型，MiniMax 推出生產力工具海螺AI、沉浸式AI內容社區(qū)星野等原生應用。MiniMax 開放平臺為企業(yè)和開發(fā)者提供安全、靈活、可靠的 API 服務，助力快速搭建 AI 應用。
MiniMax的大模型產品叫abab6.5，提供的API以極簡的形式供企業(yè)客戶和個人開發(fā)者調用，同時針對不同的行業(yè)及場景進行不同的能力抽象和封裝。
MiniMax 模型上下文長度高達245K，是非常高的上下文長度了，扣子里面已經全量放送了，這是扣子四大模型里面，上下文最長的大模型了。
2.通義千問：qwen-max
就在昨天，6月7日，阿里通義千問Qwen2大模型發(fā)布，并在Hugging Face和ModelScope上同步開源。Qwen2系列涵蓋5個尺寸的預訓練和指令微調模型，其中包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B，上下文長度支持進一步擴展，最高達128K tokens。
官方表示，相比Qwen1.5，Qwen2在大規(guī)模模型實現了非常大幅度的效果提升。
不過在扣子平臺，通義千問提供的是千文Max-8k的模型，最大輸出長度只有2000 tokens，遠低于MiniMax 和kimi的大模型。通義縮水不少，對于制作比較長文本輸出的bot而言，這個長度還是有些困難的。
3。Kimi的noonshot模型
Kimi是最早第一個接入扣子的外部大模型，一開始就是全量接入，非常給力，提供了3種長度的模型，并且最大輸出支持到131072 tokens，雖然比MiniMax 少了一半，但已經是非常夠用了。
03 大模型免費一鍵接入到微信
扣子是一個開發(fā)性很高的平臺。
除了接入的大模型越來越豐富，扣子平臺制作的bot也可以發(fā)布到多個平臺。
一方面扣子內部就有扣子、豆包、飛書3大平臺，特別是飛書有很大的用戶基礎，發(fā)布到飛書對于AI辦公及推廣非常給力。
