那是天量的硬件資源堆起來的。想本地化部署,那是絕無可能的。但是deepseek做到了,可以本地化部署,本地化知識庫。最小模型是1.5b,大概是1.1G的樣子。本地化以后,可以不需要網絡,不需要云端,本地就可以跑大模型!這使得小微應用里面跑大模型成為可能。例如,導彈就可以跑大模型啊!那什么干擾之類的都不好使了!無人機,無人車,無人船也可以啊。類似的應用太多了。現在的大模型基本上是通用型。也就是要跟人一樣,上知天文,下知地理,博古通今。事實上,針對具體應用,是不需要那么多的。僅僅關注一個很小的領域即可。因此,大模型是可以裁剪的。尤其是基于本地知識庫,大模型首先搜索本地知識庫,然后思考,給出答案。這就使得我們可以通過本地知識庫,對專一領域進行專業化訓練,只需要很少的硬件,很少的算力,就能夠達到通用型大模型同樣的水平。這就牛逼了!可以廣泛用于各種各樣的武器,裝備,裝置,工具等等中。
本站僅提供存儲服務,所有內容均由用戶發布,如發現有害或侵權內容,請
點擊舉報。