6月20日，寒武紀正式推出了云端AI芯片中文品牌“思元”，同時，寒武紀發布了第二代云端AI芯片思元270（MLU270）及板卡產品。
據悉，寒武紀曾于去年推出云端AI芯片品牌“MLU”（Machine Learning Unit），此次推出的中文品牌“思元”其實是對MLU品牌的補充。寒武紀方面表示，“思元”的含義是“思考的基本單元”。
根據官方介紹，思元270芯片采用TSMC 16nm工藝制造，其板卡產品可以通過PCIe接口快速部署在服務器和工作站內。寒武紀本次公開的思元270板卡產品面向人工智能推斷任務，在ResNet50上推理性能超過10000fps。
其中，MLU270-S4 型板卡（半高半長）面向數據中心部署，集成16GB DDR4 內存，支持ECC；MLU270-F4型板卡（全高全長）采用主動散熱設計，面向非數據中心部署場景，集成16GB DDR4 內存，支持ECC。而面向人工智能訓練任務的思元270訓練版板卡產品將于本年度第四季度推出。
寒武紀方面表示，最新發布的思元270芯片集成了寒武紀在處理器架構領域的一系列創新性技術。
比如處理非稀疏深度學習模型的理論峰值性能提升至上一代MLU100的4倍，達到128TOPS（INT8）；同時兼容INT4和INT16運算，理論峰值分別達到256TOPS和64TOPS；且支持浮點運算和混合精度運算。
在定點訓練領域，思元270訓練版板卡將可通過8位或16位定點運算提供人工智能訓練性能。有分析稱，該技術有望成為AI芯片發展的重要里程碑。
思元270采用寒武紀公司自主研發的MLUv02指令集，可支持視覺、語音、自然語言處理以及傳統機器學習等高度多樣化的人工智能應用，同時也為視覺應用集成了充裕的視頻和圖像編解碼硬件單元。
在系統軟件和工具鏈方面，思元270繼續支持寒武紀Neuware軟件工具鏈，支持業內各主流編程框架。
此外，為方便開發者更好地挖掘思元270超強的運算能力、開拓更多的應用領域，寒武紀將在近期向社區和開發者開放專用編程語言。
2018年5月，寒武紀發布了第一代云端AI芯片MLU100及板卡。據悉，經過在一年的適配和部署證明，MLU100系列產品已為寒武紀客戶在智能視頻分析、語音合成、推薦引擎、AI云等多個領域提供了高能效比的解決方案。而思元270的發布，意味著寒武紀進一步完善了寒武紀端云一體的產品體系。
