麥肯錫合伙人:生成式AI有助于解決云遷移中的各種難題
麥肯錫公司合伙人Bhargs Srivathsan近日在新加坡召開的會(huì)議上表示,只要運(yùn)用得當(dāng),生成式AI技術(shù)有望將云遷移工作量減少30%到50%。
Srivathsan認(rèn)為,“目前的進(jìn)度只能說才剛剛邁出第一步。隨著大語言模型(LLM)的發(fā)展成熟,將工作負(fù)載遷移至公有云的時(shí)間表將不斷縮短、遷移過程效率也能隨之提升?!?/p>
她建議組織先使用大語言模型對系統(tǒng)內(nèi)的基礎(chǔ)設(shè)施進(jìn)行摸底,解析其中的短板與優(yōu)勢,再在工作負(fù)載轉(zhuǎn)移完成后繼續(xù)應(yīng)用AI工具查看遷移是否切實(shí)有效。
另外,還可以利用大語言模型完成更多相關(guān)工作,例如編寫架構(gòu)審查委員會(huì)指南等說明材料。
這位合伙人表示,盡管不少企業(yè)才剛剛開始考慮采用AI技術(shù),但麥肯錫所投資的企業(yè)中已經(jīng)有40%在更新其IT投入。
Srivathsan認(rèn)為,生成式AI與云之間屬于“共生”關(guān)系。
“必須承認(rèn),如果沒有公有云的普及、就不可能把生成式AI真正帶入生活。而與之對應(yīng),生成式AI也能切實(shí)加快公有云遷移、并幫助用戶從原有公有云中解鎖脫離。”
在Srivathsan看來,生成式AI的四大核心用例分別是內(nèi)容生成、客戶參與、創(chuàng)建合成數(shù)據(jù)、以及編寫代碼。當(dāng)然,這里的編寫代碼并非從零開始完成軟件開發(fā)。生成式AI的編碼能力主要體現(xiàn)在接手員工離職后無人熟悉的遺留代碼,或者是將原有代碼轉(zhuǎn)換為新的語言形式。
她還強(qiáng)調(diào),之所以說公有云比嘗試內(nèi)部自建模型更加靠譜,是因?yàn)槠髽I(yè)用戶往往不具備充足的GPU儲(chǔ)備。而且市面上現(xiàn)成商用模型的成本也比自行訓(xùn)練更加低廉。
Srivathsan指出,對于身處受監(jiān)管行業(yè)、掌握大量專有數(shù)據(jù)或者擔(dān)心知識(shí)產(chǎn)權(quán)遭到侵犯的用戶,還可以設(shè)置相應(yīng)的護(hù)欄。
在她看來,大語言模型在未來五、六年時(shí)間內(nèi)將主要運(yùn)行在超大規(guī)?;A(chǔ)設(shè)施環(huán)境當(dāng)中,直到模型發(fā)展成熟。而且跟很多人想象中不同,其實(shí)生成式AI的實(shí)現(xiàn)并不一定壓根那么夸張的算力儲(chǔ)備,畢竟很少有用例會(huì)對延遲提出如此嚴(yán)苛的要求。
也就是說,除非是特斯拉上運(yùn)行的自動(dòng)駕駛功能、或者負(fù)責(zé)指揮制造車間實(shí)時(shí)運(yùn)行的軟件,否則確實(shí)沒必要把硬件堆得太滿。
另外,多數(shù)情況下也沒必要使用定制或大規(guī)模模型。
這位麥肯錫合伙人評論稱,“很多企業(yè)都以為自己需要買輛超級跑車來送披薩。當(dāng)然用不著嘍,真正符合需求的模型往往沒那么復(fù)雜、也沒那么大。舉例來說,生成客服支持腳本肯定沒必要?jiǎng)佑?50億參數(shù)的大體量模型?!?/p>
但她同時(shí)給出建議,如果開發(fā)人員正在訪問自己本不該接觸到的非專有模型或數(shù)據(jù),則務(wù)必要在組織內(nèi)外之間添加API網(wǎng)關(guān)來建立起“實(shí)時(shí)警報(bào)”機(jī)制。