[[377893]]

【51CTO.com快譯】通過數(shù)據(jù)的可用性和可訪問性以及開源的機(jī)器學(xué)習(xí)框架，數(shù)據(jù)科學(xué)家和開發(fā)人員在構(gòu)建基于人工智能的解決方案時(shí)將會(huì)獲得更加輕松的體驗(yàn)。但是，當(dāng)他們需要考慮部署模型并選擇最佳策略以擴(kuò)展到生產(chǎn)級系統(tǒng)時(shí)，這個(gè)過程將變得更加復(fù)雜。

以下將介紹機(jī)器學(xué)習(xí)模型部署的常見挑戰(zhàn)，并對如何解決其中的一些挑戰(zhàn)進(jìn)行探討：

為什么成功的模型部署對于人工智能驅(qū)動(dòng)的組織至關(guān)重要?

機(jī)器學(xué)習(xí)模型部署是將機(jī)器學(xué)習(xí)算法轉(zhuǎn)換為Web服務(wù)的過程。而這種轉(zhuǎn)換過程可以稱之為可操作性：可操作性的機(jī)器學(xué)習(xí)模型意味著將其轉(zhuǎn)換為可消費(fèi)服務(wù)，并將其嵌入現(xiàn)有生產(chǎn)環(huán)境中。

部署模型是機(jī)器學(xué)習(xí)模型工作流程的基本步驟。通過部署機(jī)器學(xué)習(xí)模型，組織可以開始充分利用自己構(gòu)建的預(yù)測和智能模型，根據(jù)模型結(jié)果開發(fā)業(yè)務(wù)實(shí)踐，從而將自身轉(zhuǎn)變?yōu)橛扇斯ぶ悄茯?qū)動(dòng)的實(shí)際業(yè)務(wù)。

在考慮采用人工智能時(shí)，組織需要將注意力集中在機(jī)器學(xué)習(xí)工作流程的關(guān)鍵組件上，例如數(shù)據(jù)源和攝取、數(shù)據(jù)管道、機(jī)器學(xué)習(xí)模型訓(xùn)練和測試、如何設(shè)計(jì)新功能，以及使用哪些變量使模型更精確。所有這些步驟都很重要。但是，考慮如何隨著時(shí)間的推移使用這些模型和數(shù)據(jù)也是每個(gè)機(jī)器學(xué)習(xí)管道中的關(guān)鍵一步。當(dāng)已經(jīng)部署模型并投入運(yùn)營時(shí)，才能從模型的預(yù)測中獲取實(shí)際價(jià)值和業(yè)務(wù)收益。

成功部署模型對于人工智能驅(qū)動(dòng)的組織至關(guān)重要，主要原因如下：

• 通過部署機(jī)器學(xué)習(xí)模型，組織的團(tuán)隊(duì)可以使用它們，向它們發(fā)送數(shù)據(jù)并獲取預(yù)測，然后將其輸入到機(jī)器學(xué)習(xí)系統(tǒng)中以提高訓(xùn)練數(shù)據(jù)的質(zhì)量和數(shù)量。
• 一旦啟動(dòng)這一過程，組織將開始在生產(chǎn)過程中構(gòu)建和部署更多數(shù)量的機(jī)器學(xué)習(xí)模型。他們可以掌握將模型從開發(fā)環(huán)境遷移到業(yè)務(wù)運(yùn)營系統(tǒng)的可靠且可重復(fù)的方法。

為什么有些組織在模型部署上舉步維艱?

許多組織將采用人工智能視為一種技術(shù)實(shí)踐。但是，它更多是由組織內(nèi)部發(fā)起的業(yè)務(wù)驅(qū)動(dòng)的計(jì)劃。為了成為人工智能驅(qū)動(dòng)的組織，重要的是，組織的當(dāng)前運(yùn)營和了解業(yè)務(wù)的人員必須開始與負(fù)責(zé)機(jī)器學(xué)習(xí)部署工作流的團(tuán)隊(duì)緊密合作。

機(jī)器學(xué)習(xí)部署工作流程的每個(gè)步驟都是基于有關(guān)需要使用不同工具和服務(wù)的特定決策，以實(shí)現(xiàn)成功部署(從模型訓(xùn)練和注冊到模型部署和監(jiān)視)：

在開始人工智能應(yīng)用程序開發(fā)流程時(shí)，機(jī)器學(xué)習(xí)團(tuán)隊(duì)?wèi)?yīng)與業(yè)務(wù)對應(yīng)方進(jìn)行互動(dòng)。必須保持不斷的交互作用，以了解與模型部署和使用步驟并行的模型實(shí)驗(yàn)過程。大多數(shù)組織都在努力挖掘機(jī)器學(xué)習(xí)的潛力，以優(yōu)化其運(yùn)營流程，并使數(shù)據(jù)科學(xué)家、分析師和業(yè)務(wù)團(tuán)隊(duì)使用相同的語言。

此外，機(jī)器學(xué)習(xí)模型必須基于歷史數(shù)據(jù)進(jìn)行訓(xùn)練。需要?jiǎng)?chuàng)建預(yù)測數(shù)據(jù)管道，這是個(gè)需要多個(gè)任務(wù)的活動(dòng)，包括數(shù)據(jù)處理、特性工程和優(yōu)化。每項(xiàng)任務(wù)(從數(shù)據(jù)庫的版本更新到丟失值的處理)都必須從開發(fā)環(huán)境精確地復(fù)制到生產(chǎn)環(huán)境。有時(shí)，開發(fā)和生產(chǎn)中使用的技術(shù)的差異會(huì)導(dǎo)致部署機(jī)器學(xué)習(xí)模型中遇到困難。

組織可以使用機(jī)器學(xué)習(xí)管道來創(chuàng)建和管理將機(jī)器學(xué)習(xí)階段結(jié)合在一起的工作流。例如，機(jī)器學(xué)習(xí)管道可能包括數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、模型部署以及推理/評分階段。每個(gè)階段可以包含多個(gè)步驟，而每個(gè)步驟都可以在無人參與的各種計(jì)算目標(biāo)中運(yùn)行。其管道步驟是可重用的，并且如果該步驟的輸出未更改，則可以在不再運(yùn)行后續(xù)步驟的情況下運(yùn)行它們。機(jī)器學(xué)習(xí)管道還允許數(shù)據(jù)科學(xué)家在機(jī)器學(xué)習(xí)工作流的各個(gè)區(qū)域工作時(shí)進(jìn)行協(xié)作。

如何選擇合適的工具來成功部署模型?

對于正在尋求通過人工智能轉(zhuǎn)變運(yùn)營方式的組織來說，構(gòu)建、培訓(xùn)、測試以及最終部署機(jī)器學(xué)習(xí)模型通常是一個(gè)繁瑣乏味的過程。而且，即使經(jīng)過數(shù)月的開發(fā)，它可以提供基于單一算法的機(jī)器學(xué)習(xí)模型，管理團(tuán)隊(duì)通常并不知道他們的數(shù)據(jù)科學(xué)家是否創(chuàng)造了一個(gè)偉大的模型，或者如何對其進(jìn)行擴(kuò)展和操作。

以下分享一些有關(guān)組織如何選擇合適的工具成功進(jìn)行部署模型的準(zhǔn)則。將使用Azure機(jī)器學(xué)習(xí)服務(wù)來說明此工作流，但它也可以與組織選擇的機(jī)器學(xué)習(xí)產(chǎn)品一起使用。

模型部署工作流應(yīng)基于以下三個(gè)簡單步驟：

1.注冊模型

已經(jīng)注冊的模型是構(gòu)成模型的一個(gè)或多個(gè)文件的邏輯容器。例如，如果組織擁有存儲在多個(gè)文件中的模型，則可以在工作空間中將它們注冊為一個(gè)模型。在注冊之后，可以下載或部署已注冊的模型，并接收所有已注冊的文件。

創(chuàng)建Azure機(jī)器學(xué)習(xí)工作區(qū)時(shí)可以注冊機(jī)器學(xué)習(xí)模型。該模型可以來自Azure機(jī)器學(xué)習(xí)，也可以來自其他地方。

2.準(zhǔn)備部署(指定資產(chǎn)、用途、計(jì)算目標(biāo))。

要將模型部署為Web服務(wù)，必須創(chuàng)建一個(gè)推理配置和一個(gè)部署配置。推理或模型評分是將部署的模型用于預(yù)測的階段，通常用于生產(chǎn)數(shù)據(jù)。在推理配置中，組織指定服務(wù)模型所需的腳本和依賴項(xiàng)。在部署配置中，指定有關(guān)如何在計(jì)算目標(biāo)上提供模型的詳細(xì)信息。

輸入腳本接收提交到已部署的Web服務(wù)的數(shù)據(jù)，并將其傳遞給模型。然后可以獲取模型返回的響應(yīng)，并將其返回給客戶端。該腳本特定于組織的模型，它必須了解模型期望并返回的數(shù)據(jù)。

該腳本包含兩個(gè)用于加載和運(yùn)行模型的函數(shù)：

• init()：通常情況下，這一函數(shù)將模型加載到全局對象中。這一函數(shù)僅在Web服務(wù)的Docker容器啟動(dòng)時(shí)運(yùn)行一次。
• run(input_data)：這一函數(shù)使用模型基于輸入數(shù)據(jù)預(yù)測值。要運(yùn)行的輸入和輸出通常使用JSON進(jìn)行序列化和反序列化。組織也可以使用原始的二進(jìn)制數(shù)據(jù)，可以在將數(shù)據(jù)發(fā)送到模型之前或在將其返回給客戶端之前轉(zhuǎn)換數(shù)據(jù)。

在注冊模型時(shí)，需要在注冊表中提供用于管理模型的模型名稱。組織將此名稱用于模型。 get_model_path()檢索本地文件系統(tǒng)上模型文件的路徑。如果注冊文件夾或文件集合，則這一API會(huì)將路徑返回到包含這些文件的目錄。

3.將模型部署到計(jì)算目標(biāo)

最后，在部署之前，組織必須定義部署配置。部署配置特定于將托管Web服務(wù)的計(jì)算目標(biāo)。例如在本地部署時(shí)，必須指定服務(wù)接受請求的端口。

結(jié)論

以上介紹了機(jī)器學(xué)習(xí)模型部署的一些常見挑戰(zhàn)，還討論了成功部署模型對于釋放人工智能的潛力至關(guān)重要，組織在部署模型方面遇到的困難，以及選擇正確的工具成功部署模型。

原文標(biāo)題：How to Tackle Challenges Deploying ML Models，作者：Rajasekhar Reddy Polu

【51CTO譯稿，合作站點(diǎn)轉(zhuǎn)載請注明原文譯者和出處為51CTO.com】