云計算成本優(yōu)化:人工智能時代的新戰(zhàn)略
探索人工智能時代云成本優(yōu)化的新策略,包括Stacklet公司首席技術(shù)官Kapil Thangavelu對FinOps、開源和自動化的見解。
在當(dāng)今動蕩的經(jīng)濟(jì)環(huán)境中,企業(yè)比以往任何時候都更仔細(xì)地審查他們的云賬單。平臺團(tuán)隊處于這一挑戰(zhàn)的前沿,他們的任務(wù)是尋找創(chuàng)新的方法來優(yōu)化使用并降低成本。為了深入了解這個不斷發(fā)展的領(lǐng)域, Kapil Thangavelu是Stacklet公司聯(lián)合創(chuàng)始人兼首席技術(shù)官,也是CloudCustodian的創(chuàng)建者和首席維護(hù)者。他闡述了對云成計算本優(yōu)化最新趨勢的看法。
不斷變化的云成本格局
問:在您看來,與近幾年相比,今天的云成本前景有什么不同?
答:近年來使云計算成本復(fù)雜化并經(jīng)常增加的幾個基本變化:
1.復(fù)雜性增加:隨著組織在云原生時代的擴展,不同的應(yīng)用程序團(tuán)隊利用各種云服務(wù),使得使用變得越來越復(fù)雜。
2.混合云和多云方法:許多組織正在采用這些策略,這使得管理不同領(lǐng)域的資源具有挑戰(zhàn)性,并將云服務(wù)與現(xiàn)有的本地系統(tǒng)集成在一起。
3.人工智能應(yīng)用的崛起:這些應(yīng)用從根本上依賴于云基礎(chǔ)設(shè)施,并且資源密集。它們通常需要高性能gpu,這比標(biāo)準(zhǔn)CPU實例更昂貴。此外,人工智能應(yīng)用程序所需的數(shù)據(jù)量推高了處理和存儲成本。
4.提高效率的壓力:業(yè)務(wù)領(lǐng)導(dǎo)者在提高效率、減少浪費和更好地了解云使用方面面臨越來越大的壓力。
5.過度供應(yīng):這仍然是成本失控的一個重要因素,但賬單不透明使得將成本追溯到特定資源變得具有挑戰(zhàn)性,特別是在部署增長和涉及人工智能的情況下。
6.焦點轉(zhuǎn)移:雖然組織以前急于采用云提供商的最新功能,但現(xiàn)在更加強調(diào)改進(jìn)的護(hù)欄和最佳實踐,以消除和防止云浪費。
現(xiàn)代建筑中成本關(guān)聯(lián)的挑戰(zhàn)
問:為什么在當(dāng)今的現(xiàn)代云原生系統(tǒng)和應(yīng)用程序架構(gòu)中關(guān)聯(lián)云成本如此具有挑戰(zhàn)性?團(tuán)隊在哪些方面需要幫助來降低云成本?
答:強調(diào)了成本相關(guān)性具有挑戰(zhàn)性的幾個因素:
1.不斷增長的服務(wù)復(fù)雜性:云中可用的應(yīng)用程序和服務(wù)的絕對數(shù)量在不斷增加,這使得優(yōu)化和控制使用變得困難,特別是在跨多個工程團(tuán)隊的規(guī)模下。
2.臨時組件:云原生系統(tǒng)通常使用臨時組件和動態(tài)擴展微服務(wù),這使得很難跟蹤成本并將其歸因于特定的資源或服務(wù)。
3.分布式系統(tǒng):當(dāng)組織運行帶有相互連接的微服務(wù)的分布式系統(tǒng)時,理解單個組件的成本含義變得異常具有挑戰(zhàn)性。
4.使用優(yōu)化:雖然許多組織都有某種形式的基于費率的優(yōu)化,但他們需要使用優(yōu)化方面的幫助。有效地采取行動需要對服務(wù)有更好的洞察力,并與工程團(tuán)隊進(jìn)行更深入的接觸。
5.缺乏早期實現(xiàn):如果一個組織從一開始就沒有實現(xiàn)成本管理工具和過程,那么隨著系統(tǒng)的增長,理解支出模式將變得越來越具有挑戰(zhàn)性。
6.實時可見性:目標(biāo)是提供對公司云平臺、資源和配置的實時、全面可見性,以優(yōu)化支出,但實現(xiàn)這一目標(biāo)是一個重大挑戰(zhàn)。
開源解決方案和趨勢
問:你在開源社區(qū)中看到了哪些令人鼓舞的趨勢/模式/新技術(shù)方法,這些趨勢/模式/新技術(shù)方法使云成本方程得到了更好的控制?
答:在開源社區(qū)看到了幾個積極的發(fā)展:
1.策略標(biāo)準(zhǔn):像CloudCustodian和FOCUS這樣的項目為跨提供商管理云成本提供了統(tǒng)一的框架。
2.自動化:開源工具正在興起,它們可以在整個基礎(chǔ)設(shè)施生命周期中自動化云使用和控制,以消除浪費并實現(xiàn)良好的“成本衛(wèi)生”。
3.社區(qū)驅(qū)動的創(chuàng)新:蓬勃發(fā)展的開源社區(qū),如CloudCustodian,擁有超過450名活躍貢獻(xiàn)者,可以比單個組織更快地提供更先進(jìn)的成本管理解決方案。
4.跨提供商支持:像CloudCustodian這樣的工具支持所有主要的云提供商,允許組織跨不同的環(huán)境實現(xiàn)一致的治理。
5.實時執(zhí)行:例如,CloudCustodian允許用戶定義可以跨各種云資源實時自動執(zhí)行的策略。
FinOps運動和跨團(tuán)隊溝通
問:你對FinOps運動的總體看法是什么?“財務(wù)”和“工程師”今天的溝通是好是壞?什么壞了?需要改進(jìn)的是什么?
答:注意到進(jìn)展和持續(xù)的挑戰(zhàn):
1.傳統(tǒng)孤島:在使用和提供云資源的工程團(tuán)隊和控制預(yù)算的財務(wù)團(tuán)隊之間,通常仍然存在脫節(jié)。
2.缺乏理解:工程師可能需要立即掌握其決策的成本含義,而財務(wù)需要深入了解這些技術(shù)選擇的原因。
3.相互沖突的動機:工程師們往往把創(chuàng)新和上市時間放在財務(wù)審慎之上。
4.積極的發(fā)展:像FinOps基金會這樣的組織已經(jīng)獲得了突出的地位,并在教育和推動不同團(tuán)體之間更好的合作方面做得很好。
5.改進(jìn)的空間:仍然需要在規(guī)模上更好地采用治理和自動化,特別是在云使用的成本治理方面,包括上下文信息和自動修復(fù)工作流。
6.行為改變:改進(jìn)的治理和自動化可以在工程團(tuán)隊中推動行動并加強成本意識行為。
云成本優(yōu)化的Stacklet方法
問:Stacklet如何適應(yīng)云成本和FinOps的趨勢?Stacklet在節(jié)省成本、利用率、減少移動部件以及不將錢浪費在閑置資源上方面有什么新的和不同的地方?
答:概述了Stacklet解決云成本挑戰(zhàn)的方法:
1.專注于使用優(yōu)化:雖然許多團(tuán)隊從速率優(yōu)化開始,但Stacklet強調(diào)使用優(yōu)化,這需要與內(nèi)部工程團(tuán)隊密切合作,以使云資源與業(yè)務(wù)需求保持一致。
2.解決共同的挑戰(zhàn):Stacklet旨在解決諸如碎片化的可見性、手工過程、不一致的組織目標(biāo)以及對及時工程行動的需求等問題。
3.全面可見性:該平臺實時提供所有云資源和配置的清單,并將其與策略執(zhí)行數(shù)據(jù)相結(jié)合,以獲得云基礎(chǔ)設(shè)施管理的準(zhǔn)確、情境化視圖。
4.最佳實踐策略:Stacklet提供了預(yù)定義的策略來處理常見的安全性、操作和成本優(yōu)化用例。
5.以開發(fā)人員為中心的方法:該平臺專注于開發(fā)人員的體驗,與現(xiàn)有的工作流和協(xié)作工具集成,以減少變更管理的負(fù)擔(dān)。
6.自動化工作流:以工程師為中心的工作流可以更快地消除浪費,使團(tuán)隊能夠?qū)W⒂趧?chuàng)新。
7.智能通信:平臺自動將相關(guān)通知分組,并將其路由給正確的涉眾。
8.防止再次發(fā)生:Stacklet的自動護(hù)欄旨在防止再次發(fā)生浪費。
給企業(yè)的建議
問:對于那些認(rèn)為云計算提供商在成本方面對他們的影響太大的企業(yè),您有什么建議?企業(yè)能做些什么來使自己處于更好的位置?
答:為企業(yè)提供了以下幾點建議:
1.考慮多云:采用一種策略來增強談判能力、優(yōu)化定價并減少對單個提供商的依賴。
2.比較產(chǎn)品:分析不同的云平臺,為特定用例找到最具成本效益和最有效的服務(wù)組合。
3.工作負(fù)載優(yōu)化:認(rèn)識到基于技術(shù)需求、遵從性需求和性能標(biāo)準(zhǔn)的工作負(fù)載可能更適合不同的云環(huán)境。
4.實現(xiàn)健壯的治理:使用能夠?qū)崟r檢測和可視化策略違反并自動觸發(fā)補救工作流的工具。
5.利用自動化:實現(xiàn)簡化和自動化復(fù)雜的使用優(yōu)化和治理過程的解決方案。
結(jié)論
隨著云原生架構(gòu)和人工智能應(yīng)用不斷重塑技術(shù)格局,云成本優(yōu)化仍然是平臺工程師面臨的關(guān)鍵挑戰(zhàn)。通過采用開源解決方案,促進(jìn)財務(wù)和工程團(tuán)隊之間的協(xié)作,以及利用自動化,組織可以更有效地駕馭這個復(fù)雜的領(lǐng)域。
關(guān)鍵在于平衡創(chuàng)新和財務(wù)審慎,確保云資源得到有效利用,而不會扼殺技術(shù)進(jìn)步。隨著企業(yè)不斷擴展其云操作,提供實時可見性、自動化策略執(zhí)行和優(yōu)化使用的工具和策略將在推動創(chuàng)新的同時管理成本。