作為人工智能的關鍵基石，能夠從過往數(shù)據(jù)中發(fā)現(xiàn)規(guī)律、總結知識，并預測趨勢洞察的機器學習，正受到越來越多的重視和越來越廣泛的應用。從預測疫情發(fā)展走向、協(xié)調(diào)倉儲和物流資源、躲避道路交通擁堵、前瞻流行趨勢，到“猜你喜歡”的個性化推薦，機器學習正在不同行業(yè)的各種場景中，展現(xiàn)出不可忽視的巨大潛力。

然而構建和部署機器學習模型，并讓它靈活高效地運行起來，并不是一件容易的事，特別是在面對復雜數(shù)據(jù)來源與不斷發(fā)展變化的大規(guī)模運營需求時，就對企業(yè)的技術水平和運維能力提出了更高的要求。機器學習運維（MLOps）讓數(shù)據(jù)科學與IT運維緊密協(xié)作，能通過改進模型監(jiān)控、調(diào)試、管理等各個環(huán)節(jié)，全面提升機器學習模型運行、部署的效率，真正發(fā)揮出機器學習的規(guī)模效應。

準確預測，打造更穩(wěn)定、高效的全球云服務

云計算是個規(guī)模巨大、技術復雜的系統(tǒng)平臺，如何對分布于全球各地數(shù)據(jù)中心的各類軟硬件資源進行安全、高效的運維和管理，不僅涉及到巨大的資源投入，更牽扯到億萬客戶的業(yè)務系統(tǒng)和服務是否能夠平穩(wěn)運行、靈活擴展，隨時滿足業(yè)務需求。Microsoft Azure目前服務于世界各地58個區(qū)域，是全球覆蓋最廣泛的公有云，為了最大限度地提高云計算資源的利用率、優(yōu)化云平臺的整體運營水平，Azure團隊和微軟研究院的研究人員開始思考如何利用機器學習預測和優(yōu)化Azure的資源分配。

通常情況下，計算機，包括云計算資源的管理都是由既定策略控制的，但這種方式有兩個主要缺點：首先是相關的閾值通常是為滿足不同類型的工作負載大致設定的;其次是由既定策略所觸發(fā)的被動措施，常常會造成額外的成本投入，并給客戶造成負面影響。而基于機器學習的預測式資源管理，能有效解決這些問題。

Azure團隊與微軟研究院共同開發(fā)出了Resource Central服務，這是一個作為獨立組件的通用機器學習預測系統(tǒng)，能夠為Azure的各個云計算資源管理器提供關于工作負載和硬件基礎設施分配的預測洞察。Resource Central會收集來自于容器和服務器的運行數(shù)據(jù)，分析它們之前的運行和故障情況，從中尋找規(guī)律，然后在需要的時候，對未來可能出現(xiàn)的情況做出預測。基于分析和預測的主動管理策略，能動態(tài)調(diào)整閾值，對虛擬機、容器、CPU等資源進行合理、動態(tài)、及時的調(diào)整，從而提升云計算的整體運行效率。

目前，Resource Central已經(jīng)部署在全球各地的Azure區(qū)域，對數(shù)據(jù)中心效率、云平臺效率和可用性、服務器效率和可用性、虛擬機效率等關鍵資源分配情況進行監(jiān)控、預測和優(yōu)化，其在各個方面的預測準確度平均都達到了80%以上。在虛機管理方面，由于實現(xiàn)了對實際工作負載的準確預測，原本被認為已經(jīng)滿載系統(tǒng)，現(xiàn)在可以運行更多的虛擬機，與對照組相比，物理資源耗盡的情況減少了六倍。

更準確的預測意味著更低的宕機風險、更高的可用性、更靈活高效的資源管理和更低的運行成本，也讓Azure能夠為全球客戶提供更加安全、可靠、經(jīng)濟的云計算服務。

機器學習讓PowerPoint更懂什么設計才“大氣”

與此同時，機器學習也在不斷推進微軟生產(chǎn)力云平臺的智能進化。多年來，微軟一直在不遺余力地為Office加入更多人工智能應用，幫助人們事半功倍地完成工作、發(fā)揮創(chuàng)意。讓很多人耳目一新的PowerPoint的“設計靈感”以及Outlook的“建議回復”功能便是其中的典型代表。

PowerPoint中的設計靈感功能，可以根據(jù)用戶輸入的文字和圖片，為幻燈片設計出多種不同風格的版面樣式，用戶完全無需動手調(diào)整字號、行距、圖形效果這些細枝末節(jié)，就能得到美觀大氣的PPT設計。Outlook網(wǎng)頁版和iOS、安卓客戶端提供的建議回復，能根據(jù)郵件內(nèi)容自動建議快速回復的文字選項，幫助用戶簡化操作?，F(xiàn)在這兩項智能創(chuàng)新，都是由Azure機器學習服務驅動的。

以設計靈感為例，其首先要對用戶輸入的圖像、文字、表格等內(nèi)容進行分析、理解、分類，然后再把相應的內(nèi)容放入到風格與之匹配的專業(yè)設計模板中呈現(xiàn)出來。在這個過程中，圖像分類、內(nèi)容建議、文字分析、頁面結構分析、評價反饋等環(huán)節(jié)都要用到機器學習。自問世以來，設計靈感功能已經(jīng)幫助用戶設計了超過17億個幻燈片，并且要經(jīng)常對模型進行更新訓練，對內(nèi)容建議進行持續(xù)優(yōu)化，這些都意味著巨大的工作量。

為了應對快速增長的用戶需求，PowerPoint開始采用Azure機器學習和機器學習運維（MLOps）服務，更快速地構建和部署機器學習模型，并加入了更多對背景圖片、視頻和復雜內(nèi)容的處理建議。來自不同來源的原始數(shù)據(jù)會在Azure數(shù)據(jù)湖中被轉換成模型能夠讀懂的格式;Azure機器學習將訓練模型分布下放到虛機中進行并行訓練，在不影響用戶體驗的情況下，完善和更新模型的效果;通過嘗試不同變量、參數(shù)配置，并對結果進行比較，模型就能得到不斷的優(yōu)化;經(jīng)過升級的模型最后回到Azure數(shù)據(jù)湖，重新部署到機器學習服務中。這樣，依靠機器學習運維平臺，PowerPoint、Outlook以及更多微軟智能應用，得到了持續(xù)高效的智能迭代和升級。

Azure MLOps，讓機器學習運維觸手可及

為了幫助更多企業(yè)將機器學習模型部署到生產(chǎn)環(huán)境中，并實現(xiàn)高效的開發(fā)運維，微軟在Azure機器學習的基礎上推出了Azure機器學習運維（MLOps）服務。Azure MLOps以軟件開發(fā)運維（DevOps）的經(jīng)典模式，提供了機器學習模型從開發(fā)、封裝、測試、部署、監(jiān)測、重新訓練、迭代的全生命周期流程，并且可以通過復制開發(fā)流程，實現(xiàn)規(guī)?；臄U展，從而幫助企業(yè)真正在業(yè)務中發(fā)掘出機器學習和人工智能的最大潛力。

TransLink是加拿大溫哥華市的公共交通運營商，其運營的公交系統(tǒng)覆蓋了溫哥華1800平方公里的面積，每年承運超過4億人次。為了確保公交系統(tǒng)的準時運行， TransLink部署了1.8萬個不同的機器學習模型來更好地預測每趟公交車的開車時間，其中融入了包括交通、天氣以及其它各種可能造成影響的因素，利用Azure機器學習和MLOps服務，他們現(xiàn)在可以并行不悖地同時運行所有這些預測模型。

擁有130年歷史的美國江森自控（Johnson Controls）是一家專業(yè)從事樓宇消防、中央空調(diào)、安防系統(tǒng)安裝運營的企業(yè)，機器學習是其智能樓宇解決方案的核心技術。江森自控提供數(shù)千種冷卻設備，每臺設備上可能有多達70種不同的傳感器，它們實時發(fā)送的數(shù)據(jù)可達TB級別。MLOps能夠以快速、可復制的方式部署機器學習模型，為日常檢修提供實時的數(shù)據(jù)洞察。這樣，至少可以提前幾天預測冷卻機出現(xiàn)故障的風險，從而將其造成的損失降到最低，并確保不會對客戶造成影響。

覆蓋全球、安全可靠的微軟智能云為機器學習、機器學習運營服務提供了絕佳的運行平臺，為全球客戶提供了普及人工智能的理想工具;與此同時，微軟智能云自身，也在積極采用機器學習和機器學習運營服務，不斷實現(xiàn)快速的更新迭代，實現(xiàn)周而復始的自我更新。