經濟觀察報 陳奇杰/文 3月13日,北京中綠訊科科技有限公司(下稱“中綠訊科”)在AI生態聯盟大會上介紹了其AI產品和相關技術。
中綠訊科是中國綠發和科大訊飛的合資公司,成立于2024年7月。中綠訊科致力于打造央國企的AI通用平臺入口,通過統一標準化AI基礎設施、場景集成以及數據打通,實現企業數智化轉型。
中綠訊科聚焦央國企AI應用市場,一方面因其母公司中國綠發是央企,可利用自有大模型群獲取央國企私域數據進行訓練;另一方面,科大訊飛作為國內知名大模型廠商,2024年中標項目數量位居前列。
具體而言,中綠訊科在企業級AI應用平臺中綠訊科綠舟(下稱“綠舟”)上規劃了覆蓋100多個專業業務場景的AI應用,目前已落地數十項,包括AI問答、AI法務、AI紀檢等。當前,平臺仍在迭代中,正逐步覆蓋基礎辦公、綠色能源、文旅產業等多元場景。
中綠訊科解決方案部負責人馬志超介紹,綠舟通過模型精訓中心、智能湖倉、智能體開發平臺三項技術幫助企業AI應用落地。
模型精訓中心由全域模型庫、精訓工坊和智能體調度中心組成。其中,全域模型庫適配眾多的國產大模型,支持混合的推理架構。精訓工坊基于企業數據自動化微調技術,可以讓模型的訓練時間縮短到數天。智能體調度中心支持計費統計和成本優化等功能。
中綠訊科產研部負責人李明提到,模型精訓中心的混合調度能力可以讓多個小模型協作,解決大模型解決不了的問題。中綠訊科測試發現,0.5B、7B、32B的模型,組合起來效果大于600B的模型(1B等于10億大模型參數量),且推理成本會降低60%到80%。
智能湖倉是融合了AI能力的智能化解決方案,提供數據檢索、應用程序編程接口(API)調度、智能分類、AI數據分析等相關功能。
智能體開發平臺是智能體邏輯編排與低代碼開發中心,能幫助企業一站式開發部署智能體應用,降低了AI的應用門檻。
李明表示,智能體開發平臺旨在解決從模型到業務的“最后一公里”。為了保證兼容不同企業的需求,該平臺適配了市面上的開源和閉源模型,同時內置了很多降低開發門檻的組件,這是為了讓企業的業務方能快速落地,而不需要高代碼開發。此外,可視化的邏輯編排形式讓開發者能夠通過拖拉拽組件的形式構造智能體,將開發速度從原來的幾天、幾周提高到幾小時、幾天。
央國企是企業AI應用的“排頭兵”。據第三方機構智能超參數不完全統計,2024年大模型相關中標項目共1520個,央國企相關的項目數量占比達到61.25%。
但央國企的AI應用落地也有不少痛點,馬志超表示,大多數的AI產品僅停留在對現有的流程和系統的優化上,難以帶來顯著的業務增長收益。同時不同的企業內部流程千差萬別,通用型的AI產品難以適配復雜的業務場景。此外,通用型的AI產品,產品的功能和界限都相對模糊,缺乏深度的行業定制。并且,企業更換供應商需要投入大量的時間、人員和資金進行系統性的適配和遷移。