近日,微眾銀行率先推出金融行業AI智算場景自研交換機,并首度披露高性能AI智算網絡解決方案。該方案實現了AI智算場景下從硬件層的交換機、到軟件層的網絡操作系統、再到智能網絡管控的全鏈路自主可控。
目前,該款交換機已在微眾銀行生產運營環境正式投入使用,最高可滿足400G GPU/NPU算力卡的組網需求,建網成本節省約70%,為微眾銀行邁向AI原生奠定重要基礎。
大模型時代,基于海量數據的AI分布式訓練經常受限于“網絡擁塞”。特別是在基于以太網開展的AI分布式訓練中,由于流量的低熵特性,傳統多鏈路等價負載分擔容易造成網絡擁塞,無法滿足金融業對高帶寬、低時延、零丟包的嚴苛要求。如果依賴外部商用單點優化解決方案,不僅成本高昂,且無法高效、系統、全面地優化升級。
面對這一難題,微眾銀行另辟蹊徑,深度拆解自身業務發展需求,面向AI智算場景,打造軟硬件全棧自主可控的高性能AI智算網絡解決方案,實現軟硬件解耦與靈活組合配置。
硬件方面,微眾銀行基于12.8T國產交換芯片和國產CPU打造專屬交換機,適配國內外主流GPU和NPU計算資源。交換機支持高達1.6T的RDMA(Remote Direct Memory Access,即“遠程直接內存訪問”)接入能力,最高能夠支撐400G 的GPU/NPU算力卡在無損以太網環境下的組網需求,為金融行業在AI算力卡選型上拓展了更多可能性。
軟件方面,微眾銀行基于開源的SONiC(Software for Open Networking in The Cloud,即“云中開放網絡軟件”)自研網絡操作系統,創新性研發適應不同組網架構、可自定義的鏈路級負載分擔組件,使得大規模部署無損以太網更絲滑。如若鏈路發生故障,該組件能夠在毫秒之間將流量切換至備份鏈路上,極大縮短故障影響范圍與時長。
值得一提的是,針對日常AI訓練過程,如何快速發現網絡擁塞并妥當處理極為關鍵。為此,微眾銀行在軟件層進一步自研智能網絡管控系統,為AI智算網絡提供智能化調度的“全知視角”,實現全網設備擁塞指標秒級采集監控,精準定位擁塞業務流量,并自動調度至最優路徑。
此前,微眾銀行在利用開源SONiC自研網絡操作系統的同時,將網絡協議性能優化方案開源反哺SONiC社區,成為上榜SONiC官方貢獻組織名單的領先金融機構,助力中國金融科技提升國際影響力。下一步,微眾銀行將持續迭代AI智算網絡解決方案,總結提煉在智能網絡管控方面的成熟經驗,計劃未來形成標準化公共組件面向全球開源共享,助力AI智算網絡高質量發展。