一周前，百度智能云宣布ERNIE Speed、ERNIE Lite兩款主力模型全面免費。據了解，本次免費的兩個模型是客戶在場景應用中經常用到的主力模型，在文案創(chuàng)作、聊天對話、知識問答、內容續(xù)寫等場景中有非常高的調用量。

會上，沈抖首次揭秘了模型免費背后的原因，以及為什么能把價格打下來，主要是依托于技術能力，尤其是業(yè)界最高效的AI異構算力管理平臺和“一云多芯”兩項硬實力。

首先，百度百舸·AI異構計算平臺能夠對不同地點、規(guī)模、集群的智能算力進行統(tǒng)一、高效的管理，基于芯片性能優(yōu)化、自動芯片選型、潮汐混部等技術，大幅提升智能算力效能，萬卡集群上的模型有效訓練時長占比超過98.8%。相同的大模型任務，百舸能夠幫助客戶將資源成本降低一半。據推算，百舸每年為企業(yè)客戶節(jié)約的智算成本可達50億元以上。

第二，在“一云多芯”方面，百舸兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片，支持同一智算集群中混合使用不同廠商芯片，最大程度上屏蔽硬件之間差異，幫助企業(yè)擺脫單一芯片依賴，打造更有性價比、更安全、更具彈性的供應鏈體系。在多芯混合訓練任務中，百舸能夠將單芯片利用率、芯片間通信效率、集群整體效能發(fā)揮到極致，百卡規(guī)模性能損失不超過3%，千卡規(guī)模性能損失不超過5%，均為國內最高水平。

此外，在模型層面，千帆ModelBuilder提供的模型路由能力，能夠針對任務類型自動分配合適的模型進行處理，讓更便宜的小參數模型在特定場景中媲美大參數模型的效果。以小度AI助手為例，通過使用模型路由能力，相比全部任務調用旗艦版文心大模型，成本大幅下降了99%，模型響應速度也提升了200%?！凹词故窃趶碗s應用場景下，模型路由也可以節(jié)省30%的成本?！鄙蚨墩f。

目前，文心大模型日均調用量超過2億，每天處理的文本相當于74萬本《新華字典》，已經成為中國落地應用最廣的大模型。千帆平臺累計服務10.5萬家企業(yè)用戶，累計幫助用戶精調了1.75萬個大模型，幫助用戶開發(fā)出了32萬個AI原生應用。

02 推出“千帆行業(yè)增強版” 加速行業(yè)大模型應用落地

在行業(yè)落地中，僅靠大模型的通用能力很難滿足各行各業(yè)的特有需求，而是要在通用大模型基礎上增強行業(yè)專業(yè)性，同時降低行業(yè)應用開發(fā)門檻。

沈抖指出，行業(yè)大模型本質上是一個多模型的行業(yè)解決方案，由一個通用大模型和多個行業(yè)模型組合而成。這些行業(yè)模型往往由小模型精調而成，在特定領域具有很強的能力。但企業(yè)應用場景十分復雜，如果只是用一個個“孤立”的行業(yè)模型去解決特定場景的問題，那么整套工程將會非常復雜，和傳統(tǒng)的AI開發(fā)沒有區(qū)別，開發(fā)效率極低。

因此，為了進一步降低行業(yè)大模型的開發(fā)門檻，百度智能云此次推出了千帆·行業(yè)增強版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專業(yè)能力相結合，搭配體系化的工具和組件，支持從資源管理、大模型服務到應用開發(fā)的全過程。

具體來講，千帆·行業(yè)增強版主要由資源服務、大模型服務、應用服務三部分組成，它不僅提供千帆、百舸的通用能力，在這個基礎上，還做了行業(yè)能力的擴展和適配。在資源服務方面，企業(yè)可以結合業(yè)務情況，擴展多源數據治理、云邊端協(xié)同等能力，為業(yè)務構建起強大的基礎設施；在大模型服務方面，企業(yè)可以在千帆平臺上自由選擇不同參數規(guī)模、不同上下文長度、不同細分領域的大模型，然后按需擴展行業(yè)模型、行業(yè)知識、行業(yè)智能體；在應用服務方面，支持添加運營、運維、企業(yè)環(huán)境內應用開發(fā)、應用服務等各類業(yè)務邏輯。

在千帆·行業(yè)增強版上，還可以不斷的增加新的行業(yè)。有了通用底座和行業(yè)增強的能力，應用開發(fā)范式將徹底改變，復雜的工程會被千帆屏蔽掉，真正實現“場景驅動”。目前，千帆·行業(yè)增強版已經在政務、交通、工業(yè)、金融等行業(yè)落地應用。

比如，在政務領域，中華全國總工會聯(lián)合百度智能云打造了AI法律咨詢助手，為勞動者提供精準的法律問題解答、快速計算勞動賠償金額、生成個性化案情評估等便捷服務。相較于傳統(tǒng)的開發(fā)模式，整套系統(tǒng)及應用的交付周期從3～6個月大幅縮短至1個月。

“我們和客戶一起整理了所需的專業(yè)數據，精調出工會行業(yè)大模型，部署在客戶的專有云環(huán)境。這樣，當公有云上的文心大模型完成任務規(guī)劃、拆解后，具體的任務就會交給工會行業(yè)大模型執(zhí)行，之后文心大模型會匯總結果、做出回答。這樣，既滿足了數據合規(guī)的要求，又得到了非常好的模型效果?！鄙蚨侗硎荆骸盀榱素S富這個平臺的場景化能力，我們還封裝了法律問答、案例推薦這些行業(yè)智能體?！?/p>

03

中國超半數央企聯(lián)合百度進行AI創(chuàng)新

就在上周，國內大模型行業(yè)的價格戰(zhàn)已經打響。包括字節(jié)、阿里、百度、騰訊、科大訊飛在內的多家廠商宣布降價或免費。不過，多位企業(yè)技術負責人表示，價格只是選擇大模型的一個考量因素，比起價格，更重要的是模型效果和應用場景。

沈抖表示，目前，百度文心大模型已經擁有中國最大的產業(yè)落地規(guī)模，超過半數的央企正在使用百度智能云的技術和服務進行人工智能創(chuàng)新。百度智能云總結了過去一年國內客戶落地AI與大模型的關鍵問題，并針對性的打造了全棧的技術服務體系。

在交通領域，貴陽市公安交通管理局與百度智能云一起，在貴陽觀山湖核心區(qū)的31個關鍵交通節(jié)點部署了AI信控系統(tǒng)。通過引入交通信控大模型，對各路口、各流向的交通流量進行精準感知和預測，動態(tài)調節(jié)路口信號燈時長，緩解交通擁堵。目前，貴陽市工作日車均延誤時長下降多達15%，全國城市擁堵排名也從過去的第4位下降至第20位，AI與大模型功不可沒。

在汽車行業(yè)，蔚來汽車基于千帆平臺，在文心大模型的基礎上通過提示詞工程打造出了端云協(xié)同多模態(tài)大模型——NOMI GPT。NOMI能夠自然地與用戶互動，成為一個更懂用戶、更聰明的座艙AI小助手。目前，NOMI已經陪伴了近20萬車友家庭，為用戶創(chuàng)造更美好的出行體驗。

在工業(yè)領域，中化信息攜手百度智能云，共同探索利用大模型進行新型材料的研發(fā)。中化信息基于千帆AppBuilder打造的“化小易”知識助手，能夠基于自然語言提問，快速檢索并回答分子特性、分子合成路線等專業(yè)知識，替代了傳統(tǒng)的人工查詢方式。目前，特定分子的檢索效率能夠提升5倍以上，極大提高了研發(fā)效率。

此外，百度智能云還聯(lián)合上海交通大學，構建了Al for Science科研創(chuàng)新平臺，孵化了多項首創(chuàng)性科研成果；聯(lián)合沈陽首府經開區(qū)，規(guī)劃建設了全國首個“場景-平臺-模型-算力”全棧部署的1000P智算中心，為沈陽特色產業(yè)、重點產業(yè)提供強有力的算力支持，建設不到1年就實現了10%的投資回收。