在“全力打造全球引領性金融科技中心”的政策驅(qū)動下,《上海高質(zhì)量推進全球金融科技中心建設行動方案》明確提出,要聚焦人工智能等領域推動金融科技底層技術創(chuàng)新,構建自主創(chuàng)新的金融信息技術創(chuàng)新生態(tài)體系。
浦發(fā)銀行作為行業(yè)先行者,在人工智能應用與探索上走在前列,其對算力底座構建、大模型訓練調(diào)優(yōu)及業(yè)務應用層面規(guī)劃長遠,積極探索人工智能技術與金融業(yè)務的深度融合,以提供更智能高效的金融服務。
昇騰憑高性能算力芯片領跑算力賽道,中軟國際則兼具深厚的AI技術積累與豐富的金融行業(yè)IT服務經(jīng)驗。雙方強強聯(lián)合攜手基于昇騰算力構建算力底座,依托中軟國際的技術與行業(yè)優(yōu)勢開展業(yè)務模型訓練調(diào)優(yōu),推動人工智能在金融業(yè)務中的規(guī)?;涞?,助力加速智慧金融布局。
聚焦AI落地:四大核心優(yōu)化方向
算力應用與布局中面臨著多重挑戰(zhàn),首先體現(xiàn)在算力需求爆發(fā)式增長與傳統(tǒng)架構的適配矛盾上。隨著千億級大模型逐步部署,單次模型訓練便需數(shù)千卡時算力支撐,而傳統(tǒng)算力架構已難以滿足實時風控、智能營銷等核心業(yè)務場景對低時延、高可靠性的要求,算力瓶頸成為制約 AI 應用快速迭代的關鍵因素。隨之產(chǎn)生的,是日益凸顯的自主創(chuàng)新與替代工作的緊迫性。受供應鏈波動及金融安全監(jiān)管要求影響,構建具備獨立技術體系的算力底座成為必然選擇。
與此同時,技術與業(yè)務的深度融合也面臨不小難度。金融行業(yè)業(yè)務場景復雜多樣,從知識助手到跨境金融,不同場景對 AI 模型的應用需求差異顯著。推動 AI 模型從 “能運行”向“好用、實用”升級,實現(xiàn)技術與業(yè)務的精準匹配,需專業(yè)技術與行業(yè)經(jīng)驗的雙重支撐。
此外,算力布局還需與國家戰(zhàn)略要求相契合?!皷|數(shù)西算”政策明確提出優(yōu)化算力資源空間布局,需在現(xiàn)有資源基礎上協(xié)同規(guī)劃,構建高效運行與成本控制兼顧的算力架構。
通力協(xié)作破局 技術創(chuàng)新賦能
浦發(fā)銀行與中軟國際、華為的深度合作,有效的應對了上述挑戰(zhàn)。分布式訓練與推理技術通過算力集群協(xié)同優(yōu)化與端到端流程重構,成為突破傳統(tǒng)架構限制的關鍵,解決了算力增長與傳統(tǒng)架構的適配難題。分布式訓練依托多芯片算力集群協(xié)同,通過數(shù)據(jù)/模型/流水線混合并行的架構創(chuàng)新,RDMA與通信壓縮的通信優(yōu)化技術,以及彈性擴縮容的資源調(diào)度,突破單機資源局限,縮短訓練周期,加速AI應用迭代。
中軟國際結合自身在金融行業(yè)的經(jīng)驗以及AI技術能力,提供量身定制的算力資源優(yōu)化、大模型微調(diào)、AI應用模型調(diào)優(yōu),持續(xù)提升AI大模型服務業(yè)務部門的效率。分布式推理通過模型并行、PD分離、專家并行等技術,支持低時延、高吞吐與高并發(fā),為智能風控、智能營銷等場景提供穩(wěn)定支撐,確保金融級服務,重塑金融行業(yè)智能化標準,為AI時代金融服務的價值躍遷提供核心引擎。
昇騰以自主算力芯片及完善生態(tài)為核心,支撐算力底座構建。中軟國際結合昇騰服務器與鯤鵬 CPU,為銀行高效交付數(shù)據(jù)中心千卡級算力集群,使其算力水平躋身國內(nèi)銀行前列。該集群兼具超高計算密度、極致通信效率與綠色節(jié)能優(yōu)勢。中軟國際憑借端到端交付能力,助力推進算力資源優(yōu)化配置,深度契合“東數(shù)西算”戰(zhàn)略。
三方聯(lián)動
實現(xiàn)算力自主創(chuàng)新與效能提升雙突破
三方合作突破了算力限制,顯著提升了銀行業(yè)務與商業(yè)價值。模型推理平臺與算力優(yōu)化平臺通過技術重構與資源提效,成為金融機構實現(xiàn)數(shù)智化轉(zhuǎn)型的核心引擎。二者通過技術普惠化、資源集約化、場景深度適配,推動算力中心從成本中心轉(zhuǎn)向價值中心、從被動響應轉(zhuǎn)向主動創(chuàng)新、從單點突破轉(zhuǎn)向生態(tài)共贏。
從行業(yè)視角看,大規(guī)模算力集群、模型訓練推理平臺與算力優(yōu)化對金融機構的影響意義深遠。在大模型參數(shù)規(guī)模持續(xù)擴大、迭代加速的背景下,可保障訓練推理算力領先,助力金融機構快速構建 AIGC應用,其優(yōu)化能力助力金融機構實現(xiàn)“多快好省” 的算力應用,精準匹配核心業(yè)務,助力金融機構數(shù)智化轉(zhuǎn)型。
模型推理平臺與算力優(yōu)化平臺不僅為頭部機構鞏固競爭優(yōu)勢,更為中小金融機構提供“換道超車”的技術底座,成為中小型金融機構數(shù)智化轉(zhuǎn)型的核心驅(qū)動力。中軟國際在多家頭部銀行AI解決方案的落地過程中,沉淀了從十億至千億級參數(shù)大模型性能優(yōu)化能力,滿足低首字符響應、高吞吐等業(yè)務要求,充分釋放昇騰算力與模型價值,得到了客戶的充分認可。浦發(fā)銀行表示:“中軟國際在項目實施過程中基于昇騰算力完成模型微調(diào)試點,已初步打通微調(diào)業(yè)務流程,沉淀基礎微調(diào)經(jīng)驗?!毕嘈胚@樣的認可將會在更多客戶案例中得到進一步的實踐與提升。
展望未來,中軟國際通過“技術輸出+生態(tài)共建”雙輪驅(qū)動,為中小金融機構提供可參考的數(shù)智化轉(zhuǎn)型路徑;異構算力集群與模型訓練推理平臺、算力優(yōu)化等技術和建設經(jīng)驗,將賦能中小金融機構,共建金融大模型生態(tài)聯(lián)盟,助力行業(yè)突破技術瓶頸,重塑AI時代金融服務的價值坐標,形成可量化的商業(yè)價值閉環(huán)。
-
人工智能
+關注
關注
1817文章
50105瀏覽量
265534 -
中軟國際
+關注
關注
0文章
726瀏覽量
8188 -
ai技術
+關注
關注
1文章
1313瀏覽量
25755
原文標題:中軟國際攜手昇騰打造端到端AI解決方案,領跑金融數(shù)智化轉(zhuǎn)型
文章出處:【微信號:CSI00354,微信公眾號:中軟國際】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
中軟國際攜手昇騰推動人工智能在金融業(yè)務中的規(guī)模化落地
評論