機(jī)器學(xué)習(xí)操作（簡稱MLOps）是機(jī)器學(xué)習(xí)(ML)工程的一個(gè)關(guān)鍵方面，專注于簡化和加速將ML模型交付到生產(chǎn)以及維護(hù)和監(jiān)控它們的過程。MLOps涉及不同團(tuán)隊(duì)之間的協(xié)作，包括數(shù)據(jù)科學(xué)家、DevOps工程師、IT專家等。

MLOps可以幫助組織創(chuàng)建和提高其AI和機(jī)器學(xué)習(xí)解決方案的質(zhì)量。采用MLOps允許機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)科學(xué)家通過實(shí)施持續(xù)集成和持續(xù)部署(CI/CD)實(shí)踐來協(xié)作提高模型性能。它通過整合ML模型的適當(dāng)監(jiān)控、治理和驗(yàn)證來加速M(fèi)L模型開發(fā)過程。

什么是DevOps？　　

DevOps結(jié)合了開發(fā)和運(yùn)營的概念，描述了一種協(xié)作方法來執(zhí)行通常與單獨(dú)的應(yīng)用程序開發(fā)和IT運(yùn)營團(tuán)隊(duì)相關(guān)的任務(wù)。從最廣泛的意義上說，DevOps是一種哲學(xué)，它鼓勵(lì)組織內(nèi)這些（和其他）團(tuán)隊(duì)之間改進(jìn)溝通與合作。

在最狹義的意義上，DevOps是指采用能夠部署和維護(hù)迭代應(yīng)用程序開發(fā)、自動(dòng)化和可編程基礎(chǔ)架構(gòu)的實(shí)踐。它還包括工作場所文化的變化，例如開發(fā)人員、系統(tǒng)管理員和其他團(tuán)隊(duì)成員之間的信任建立和聯(lián)系。DevOps使技術(shù)與業(yè)務(wù)目標(biāo)保持一致，可以改變軟件交付鏈、工作職能、服務(wù)、工具和最佳實(shí)踐。

MLOps對(duì)比DevOps：主要差異　　

以下是MLOps和傳統(tǒng)DevOps之間的一些主要區(qū)別。

開發(fā)

開發(fā)的概念是指每個(gè)模型中的不同事物，CI/CD管道略有不同。

開發(fā)運(yùn)維：

• 通常，代碼會(huì)創(chuàng)建一個(gè)接口或應(yīng)用程序。
• 在使用一組檢查進(jìn)行部署和測(cè)試之前，將代碼包裝到可執(zhí)行文件或工件中。
• 理想情況下，這個(gè)自動(dòng)化循環(huán)將一直持續(xù)到最終產(chǎn)品準(zhǔn)備好。

MLOps：

• 該代碼使團(tuán)隊(duì)能夠構(gòu)建或訓(xùn)練機(jī)器學(xué)習(xí)模型。
• 輸出工件包括可以接收數(shù)據(jù)輸入以生成推理的序列化文件。
• 驗(yàn)證包括根據(jù)測(cè)試數(shù)據(jù)檢查訓(xùn)練模型的性能。
• 這個(gè)循環(huán)也應(yīng)該一直持續(xù)到模型達(dá)到指定的性能閾值。

版本控制　　

開發(fā)運(yùn)維：

• 版本控制通常只跟蹤代碼和工件的更改。
• 需要跟蹤的指標(biāo)很少。

MLOps：

• MLOps管道通常有更多要跟蹤的因素。構(gòu)建和訓(xùn)練ML模型涉及一個(gè)迭代實(shí)驗(yàn)周期，需要跟蹤每個(gè)實(shí)驗(yàn)的各種指標(biāo)和組件（對(duì)于以后的審計(jì)至關(guān)重要）。
• 要跟蹤的其他組件包括訓(xùn)練數(shù)據(jù)集、模型構(gòu)建代碼和模型工件。
• 指標(biāo)包括超參數(shù)和模型性能指標(biāo)，例如錯(cuò)誤率。

可重用性

開發(fā)運(yùn)維：

• DevOps管道專注于可重復(fù)的流程。
• 團(tuán)隊(duì)可以混合和匹配流程，而無需遵循特定的工作流程。

MLOps：

• MLOps管道重復(fù)應(yīng)用相同的工作流?？珥?xiàng)目的通用框架有助于提高一致性并允許團(tuán)隊(duì)更快地取得進(jìn)展，因?yàn)樗麄儚氖煜さ牧鞒涕_始。
• 項(xiàng)目模板提供結(jié)構(gòu)，支持定制以滿足每個(gè)用例的獨(dú)特需求。
• 使用集中式數(shù)據(jù)管理來整合組織的數(shù)據(jù)，以加速發(fā)現(xiàn)和培訓(xùn)過程。集中化的常見方法包括單一事實(shí)來源和數(shù)據(jù)倉庫。

持續(xù)監(jiān)控　　

監(jiān)控對(duì)于DevOps和MLOps都是必不可少的，但原因略有不同。

開發(fā)運(yùn)維：

• 站點(diǎn)可靠性工程(SRE)在過去幾年一直是趨勢(shì)，強(qiáng)調(diào)從開發(fā)到生產(chǎn)部署監(jiān)控軟件的必要性。
• 軟件不會(huì)像ML模型那樣退化。

MLOps：

• 機(jī)器學(xué)習(xí)模型會(huì)迅速退化，需要持續(xù)監(jiān)控和更新。
• 生產(chǎn)環(huán)境中的條件會(huì)影響模型的準(zhǔn)確性。部署到生產(chǎn)環(huán)境后，模型開始根據(jù)來自現(xiàn)實(shí)世界的新數(shù)據(jù)生成預(yù)測(cè)。這些數(shù)據(jù)不斷變化和適應(yīng)，降低了模型性能。
• MLOps通過合并程序以促進(jìn)持續(xù)監(jiān)控和模型再培訓(xùn)，確保算法保持生產(chǎn)就緒。

基礎(chǔ)設(shè)施　　

DevOps和MLOps都嚴(yán)重依賴云技術(shù)，但有不同的操作要求。

DevOps依賴于基礎(chǔ)設(shè)施，例如：

• 基礎(chǔ)設(shè)施即代碼（IaC）
• 構(gòu)建服務(wù)器
• CI/CD自動(dòng)化工具

MLOps依賴于以下基礎(chǔ)設(shè)施：

• 深度學(xué)習(xí)和機(jī)器學(xué)習(xí)框架
• 大型數(shù)據(jù)集的云存儲(chǔ)
• 用于深度學(xué)習(xí)和計(jì)算密集型ML模型的GPU

DevOps和MLOps趨勢(shì)　　

以下是推動(dòng)DevOps和MLOps發(fā)展的一些主要趨勢(shì)。

GitOps

作為DevOps工作流程的新演變，GitOps是一種用于控制和自動(dòng)化基礎(chǔ)架構(gòu)的新范例。面向Kubernetes的范例使開發(fā)人員和運(yùn)營團(tuán)隊(duì)能夠使用Git管理Kubernetes集群并交付容器化應(yīng)用程序。為運(yùn)營和開發(fā)團(tuán)隊(duì)實(shí)施Git工作流程允許開發(fā)人員利用Git拉取請(qǐng)求來管理軟件部署和基礎(chǔ)設(shè)施。

GitOps整合了現(xiàn)有的開發(fā)工具，通過CI/CD管理云原生和基于集群的應(yīng)用程序。它使用Git存儲(chǔ)庫作為單一事實(shí)來源，自動(dòng)部署、監(jiān)控和維護(hù)云原生應(yīng)用程序。

GitOps是一種在Kubernetes中實(shí)現(xiàn)和維護(hù)集群的方法。持續(xù)交付和部署允許開發(fā)人員通過增量發(fā)布更快地構(gòu)建、測(cè)試和部署軟件。Kubernetes持續(xù)集成和運(yùn)行時(shí)管道必須能夠讀取和寫入文件、更新容器存儲(chǔ)庫以及從Git加載容器。GitOps通過版本控制、實(shí)時(shí)監(jiān)控和配置更改警報(bào)來幫助企業(yè)管理其基礎(chǔ)架構(gòu)。

綜合數(shù)據(jù)　　

合成數(shù)據(jù)是人工生成的任何信息，而不是從真實(shí)事件中收集的信息。算法生成合成數(shù)據(jù)，用作操作和生產(chǎn)測(cè)試數(shù)據(jù)集的替代品。合成數(shù)據(jù)集也可用于驗(yàn)證數(shù)學(xué)模型和訓(xùn)練機(jī)器學(xué)習(xí)模型。

合成數(shù)據(jù)的好處包括：

• 盡量減少與使用敏感和受監(jiān)管數(shù)據(jù)相關(guān)的限制。
• 根據(jù)實(shí)際數(shù)據(jù)中不可用的特定要求和條件自定義數(shù)據(jù)。
• 為DevOps團(tuán)隊(duì)生成用于測(cè)試軟件質(zhì)量和性能的數(shù)據(jù)。

無代碼機(jī)器學(xué)習(xí)和人工智能　　

機(jī)器學(xué)習(xí)通常涉及計(jì)算機(jī)代碼來設(shè)置和處理模型訓(xùn)練，但情況并非總是如此。無代碼機(jī)器學(xué)習(xí)是一種編程方法，它消除了ML應(yīng)用程序通過耗時(shí)過程的需要。

CodelessML消除了專家開發(fā)系統(tǒng)軟件的需要。它的部署和實(shí)施也更簡單、更便宜。在機(jī)器學(xué)習(xí)過程中使用拖放輸入可以通過以下方式簡化培訓(xùn)工作：

• 評(píng)估結(jié)果。
• 拖放訓(xùn)練數(shù)據(jù)。
• 創(chuàng)建預(yù)測(cè)報(bào)告。
• 使用純文本查詢。

Codeless ML使開發(fā)人員可以輕松訪問機(jī)器學(xué)習(xí)應(yīng)用程序，但它不能替代高級(jí)、細(xì)致入微的項(xiàng)目。這種方法適用于缺乏資金來維持內(nèi)部數(shù)據(jù)科學(xué)團(tuán)隊(duì)的小型企業(yè)。

TinyML　　

TinyML是一種機(jī)器學(xué)習(xí)和人工智能模型開發(fā)的新方法。它涉及在具有硬件限制的設(shè)備上運(yùn)行模型，例如為智能汽車、冰箱和電表供電的微控制器。這種策略最適合這些用例，因?yàn)樗涌炝怂惴ǖ乃俣取獢?shù)據(jù)不需要在服務(wù)器上來回傳輸。它在大型服務(wù)器上尤為重要，可以加快整個(gè)ML開發(fā)過程。

在物聯(lián)網(wǎng)邊緣設(shè)備上運(yùn)行TinyML程序有很多好處：

• 更低的能源消耗。
• 減少延遲。
• 用戶隱私保證。
• 降低帶寬要求。

使用TinyML提供了更大的隱私，因?yàn)橛?jì)算過程完全是本地的。它消耗更少的功率和帶寬，從而降低延遲，因?yàn)樗恍枰獙?shù)據(jù)發(fā)送到中央位置進(jìn)行處理。正在利用這一創(chuàng)新的行業(yè)包括農(nóng)業(yè)和醫(yī)療保健。他們通常使用嵌入了TinyML算法的物聯(lián)網(wǎng)設(shè)備，使用收集到的數(shù)據(jù)來監(jiān)控和預(yù)測(cè)現(xiàn)實(shí)世界的事件。

結(jié)論

本文介紹了MLOps和DevOps之間的主要區(qū)別：

• 開發(fā)——DevOps管道專注于開發(fā)新版本的軟件產(chǎn)品，而MLOps專注于提供有效的機(jī)器學(xué)習(xí)模型。
• 版本控制——DevOps主要關(guān)注跟蹤二進(jìn)制文件和軟件工件，而MLOps跟蹤其他因素，如超參數(shù)和模型性能。
• 可重用性——DevOps和MLOps都努力創(chuàng)建可重用的流程和管道，但使用不同的策略來實(shí)現(xiàn)可重復(fù)性。
• 持續(xù)監(jiān)控——監(jiān)控對(duì)DevOps很重要，但在MLOps中更為重要，因?yàn)槟Ｐ秃蛿?shù)據(jù)漂移會(huì)導(dǎo)致模型性能下降。

最后介紹了一些將在不久的將來改變DevOps和MLOps的關(guān)鍵趨勢(shì)。我希望這將有助于您在新的、令人興奮的開發(fā)生態(tài)系統(tǒng)中發(fā)現(xiàn)自己的位置。