在大力發(fā)展新質生產力背景下，人工智能正成為高質量發(fā)展的最大增量。而大模型以其模型精度高、泛化能力強、支持多模態(tài)的特點，成為人工智能技術發(fā)展的核心方向。

當下，大模型在企業(yè)數(shù)字化場景的落地中會遇到，場景選擇、數(shù)據準備、模型訓練、算力獲取、效率提升等諸多挑戰(zhàn)?；诖耍熊泧H在整合大模型應用架構各層能力和生態(tài)資源后，打造大模型開發(fā)和應用服務的專業(yè)平臺--中軟國際模型工場，為政企客戶、模型供應商、算力中心提供從規(guī)劃設計到應用落地的一站式端到端大模型應用開發(fā)服務。

▲中軟國際模型工場服務架構

政企客戶服務場景

在面向政企客戶的大模型應用開發(fā)場景時，模型工場基于主流大模型為底座，以咨詢引導、模型賦能、應用落地，三個層次的服務架構，采用咨詢導入、規(guī)劃設計、原型驗證、模型微調/應用開發(fā)、應用集成、部署運營的六步應用開發(fā)工程法，為政企客戶提供從概念到部署的全周期服務。

模型供應商服務場景

在面向模型供應商的服務場景時，模型工場可提供模型場景調研分析及設計、數(shù)據標注、Prompt撰寫及優(yōu)化、模型工程部署、AI應用集成開發(fā)支持、模型遷移、模型開發(fā)和訓練、模型運維的八大服務。

模型場景調研分析及設計服務：根據客戶場景、數(shù)據的調研與分析，識別客戶業(yè)務中存在的痛點及需求，提供模型選型與落地實施方案。

▲模型場景調研分析及設計服務

數(shù)據標注管理服務：為客戶提供數(shù)據采集與標注服務，包括數(shù)據采集處理、標注審核、質檢評估及發(fā)布等服務，數(shù)據集版本管理，支撐模型數(shù)據訓練和推理。

▲數(shù)據標注管理服務

Prompt撰寫及優(yōu)化服務：結合客戶NLP任務目標，以及數(shù)據分布和特征規(guī)律，編寫合適的Prompt，并進行優(yōu)化調整。

▲Prompt撰寫及優(yōu)化服務

模型開發(fā)和訓練服務：基于ModelArts平臺，構建L2級AI模型開發(fā)工程，包括模型設計、特征工程、模型訓練、驗證融合等開發(fā)實施。

▲模型開發(fā)和訓練服務

模型工程部署服務：把模型部署在生成環(huán)境，并實時進行模型推斷，提升模型運行效率。

▲模型工程部署服務

AI應用集成開發(fā)支持服務：根據業(yè)務應用需求，實現(xiàn)基于大模型進行業(yè)務應用開發(fā)和實施服務。

▲AI應用集成開發(fā)支持服務

模型遷移服務：提供業(yè)務、應用及模型、算法及算子的昇騰環(huán)境遷移，并提供調測及集成對接等服務。

▲模型遷移服務

模型運維服務：針對私域模型的訓練、推理和部署過程，提供有效管理和維護服務，保障模型穩(wěn)定高效運行。

▲模型運維服務

算力中心服務場景

在面向算力中心服務場景時，中軟國際自主研發(fā)了大模型運營管理系統(tǒng)（LMBSS），全面提升算力中心在大模型運營領域的核心競爭力。該系統(tǒng)可構建多種大模型納管與商品化，支持大模型資源的全生命周期流程管理，提供大模型運營業(yè)務中靈活的計量計費，提供合同、折扣、營銷、發(fā)票、工單等運營支撐服務能力，助力智算中心構建一體化大模型服務平臺，推動客戶構建大模型服務生態(tài)。

▲LMBSS大模型運營管理系統(tǒng)

打通AI應用最后一公里！中軟國際模型工場正成為推動千行百業(yè)智能化升級的重要力量，助力行業(yè)向更高效，更智能的未來邁進，攜手客戶、伙伴共同探索大模型在企業(yè)服務的無限可能。