生成式AI正在大規(guī)模地為企業(yè)敞開創(chuàng)新的大門，但在這個(gè)新時(shí)代，高管層必須仔細(xì)監(jiān)督對(duì)生成式AI的采用，以保證代碼質(zhì)量并減輕技術(shù)債務(wù)。

生成式AI在起步階段就已經(jīng)改變組織并且給IT戰(zhàn)略帶來了深刻的影響。但是，雖然大型語言模型加速了工程敏捷性，但也打開了一道閘門帶來了前所未有的技術(shù)債務(wù)。分析公司Red Monk首席分析師、聯(lián)合創(chuàng)始人Stephen O’Grady表示：“生成式系統(tǒng)可能會(huì)加速生成的代碼量，因此僅在這個(gè)基礎(chǔ)上，技術(shù)債務(wù)就會(huì)增加。”

但這不應(yīng)該阻止CIO們探索和實(shí)施AI，Salesforce公司高級(jí)副總裁、首席信息官Juan Perez 補(bǔ)充說。他把AI視為一種需要適當(dāng)治理、安全控制、維護(hù)和支持以及生命周期管理的應(yīng)用。他表示，由于AI產(chǎn)品的數(shù)量不斷增加，選擇最合適的模型和底層數(shù)據(jù)對(duì)于支持AI之旅至關(guān)重要。

如果實(shí)施得當(dāng)，生成式AI就能夠以更低的成本生產(chǎn)更高質(zhì)量的產(chǎn)品。Walgreens Boots Alliance首席信息官Neal Sample表示：“問題不是AI是否會(huì)對(duì)整體業(yè)務(wù)產(chǎn)生積極影響，而是影響程度和速度的問題?！钡赋?，要實(shí)現(xiàn)負(fù)責(zé)任的AI發(fā)展，政府監(jiān)管和公司治理都是必要的。

生成式AI：IT戰(zhàn)略的核心

機(jī)器學(xué)習(xí)模型有潛力實(shí)現(xiàn)更快速的IT迭代。代碼測試平臺(tái)Sonar公司首席信息官Andrea Malagodi表示，至少這些模型可以自動(dòng)執(zhí)行那些日常的、重復(fù)性的任務(wù)，從而釋放軟件開發(fā)人員的帶寬，讓他們能夠?qū)Ｗ⒂诟邉?chuàng)造性、更高級(jí)別的工作。他說：“投資生成式AI工具來支持這些團(tuán)隊(duì)就是對(duì)他們的成長、生產(chǎn)力和總體滿意度的投資?！?/p>

Palo Alto Networks公司首席信息官M(fèi)eerah Rajavel補(bǔ)充說，生成式AI將極大地促進(jìn)開發(fā)，尤其是Java、Python和C++ 等成熟編程語言的代碼生成，但它的力量還不止于此。她認(rèn)為，AI有助于將代碼測試左移，以協(xié)助單元測試、調(diào)試和識(shí)別軟件開發(fā)周期早期的錯(cuò)誤配置?！白鳛镃IO，為我們的開發(fā)人員提供幫助他們成功的最佳工具，這是我工作的一個(gè)關(guān)鍵組成部分，而AI無疑將有助于提高效率?！?/p>

AI還可以顯著推進(jìn)跨部門的運(yùn)營。對(duì)于無代碼自動(dòng)化平臺(tái)公司W(wǎng)orkato的首席信息官Carter Busse來說，AI是該公司今年IT戰(zhàn)略的核心。但AI的好處不僅限于IT方面，它還可以為客戶支持、提高生產(chǎn)力和推動(dòng)跨團(tuán)隊(duì)創(chuàng)新等方面提供幫助。他說：“CIO的任務(wù)是幫助業(yè)務(wù)高效發(fā)展，而AI是我們向前推進(jìn)的一種方式。”

因此，代碼生成并不是受益于最新AI浪潮的唯一領(lǐng)域。云數(shù)據(jù)倉庫公司Snowflake的首席信息官和首席數(shù)據(jù)官Sunny Bedi表示，員工生產(chǎn)力受到的影響最大。他預(yù)測，未來所有員工都將與AI助手展開密切合作，有助于個(gè)性化的新員工入職體驗(yàn)、協(xié)調(diào)內(nèi)部溝通以及制作創(chuàng)新想法原型等工作。他補(bǔ)充說，企業(yè)通過利用大型語言模型開箱即用的功能，還可以減少對(duì)搜索、文檔提取、內(nèi)容創(chuàng)建和審查、以及聊天機(jī)器人等操作的第三方依賴。

AI如何減輕技術(shù)債務(wù)

生成式AI模型本身并不是造成IT債務(wù)的最大決定性因素，而是在實(shí)踐中的應(yīng)用方式。Sample表示：“需要仔細(xì)考慮在組織中哪些方面實(shí)施AI，以及如何實(shí)施AI，避免產(chǎn)生技術(shù)債務(wù)?！彼a(bǔ)充說，當(dāng)把AI模型應(yīng)用于現(xiàn)有技術(shù)生態(tài)系統(tǒng)的時(shí)候（例如修改連接和在使用舊堆棧的同時(shí)集成生成式AI）積累技術(shù)債務(wù)的風(fēng)險(xiǎn)會(huì)更高。

另一方面，如果使用得當(dāng)，生成式AI可以通過重寫遺留應(yīng)用和自動(dòng)化積壓任務(wù)來幫助消除舊的技術(shù)債務(wù)。也就是說，如果沒有正確的云環(huán)境和戰(zhàn)略，CIO不應(yīng)該一頭扎進(jìn)去?！叭绻M織過早地實(shí)施生成式AI，現(xiàn)有的技術(shù)債務(wù)可能會(huì)繼續(xù)增長，或者在某些情況下變成長期的技術(shù)債務(wù)，”企業(yè)管理軟件套件OnBase開發(fā)公司Hyland首席信息官Steve Watt這樣示。因此他建議，制定一項(xiàng)計(jì)劃來解決現(xiàn)有的技術(shù)債務(wù)，這樣新的AI驅(qū)動(dòng)的計(jì)劃就不會(huì)崩潰。

起初，企業(yè)在嘗試AI和大型語言模型的時(shí)候可能會(huì)增加IT債務(wù)。但Busse認(rèn)為，從長遠(yuǎn)來看，大型語言模型會(huì)減少債務(wù)，但這要取決于AI動(dòng)態(tài)響應(yīng)不斷變化需求的能力。他說：“通過將AI嵌入到你的業(yè)務(wù)流程中，你將能夠更快地適應(yīng)流程變化，從而減少技術(shù)債務(wù)?！?/p>

評(píng)估AI代碼的質(zhì)量

最近，人們對(duì)AI生成的代碼質(zhì)量提出了質(zhì)疑，有報(bào)告強(qiáng)調(diào)，自AI助手出現(xiàn)以來，代碼改動(dòng)和代碼重用的情況有所增加。Red Monk公司的O’Grady表示，AI生成的代碼質(zhì)量取決于很多因素，包括部署的模型、手頭的用例、以及開發(fā)人員的技能?！熬拖袢祟愰_發(fā)人員一樣，AI系統(tǒng)確實(shí)會(huì)輸出有缺陷的代碼，而且未來還將如此。”

例如，Sonar的Malagodi引用了微軟研究院最近的一項(xiàng)研究，該研究評(píng)估了22個(gè)模型，發(fā)現(xiàn)這些模型在基準(zhǔn)測試中普遍表現(xiàn)不佳，暗示了訓(xùn)練設(shè)置中存在基本盲點(diǎn)。該報(bào)告解釋說，雖然AI助手可以生成功能代碼，但并不總是超越功能正確性的范疇，考慮到效率、安全性和可維護(hù)性等其他環(huán)境，更不用說遵守代碼約定了。

Malagodi認(rèn)為，這方面還有很大的改進(jìn)空間。他說：“雖然生生成式AI可以更快地生成更多行的代碼，但如果質(zhì)量不好，這個(gè)過程可能會(huì)變得非常耗時(shí)?！彼卮貱IO和CTO采取必要措施，確保AI生成的代碼是干凈的?！斑@意味著AI生成的代碼是一致的、有意的、適應(yīng)性強(qiáng)且負(fù)責(zé)任的，從而打造安全的、可維護(hù)的、可靠且可訪問的軟件?！?/p>

這些模型根源的質(zhì)量問題可能會(huì)對(duì)代碼輸出產(chǎn)生不利影響。云技術(shù)智能平臺(tái)Snow Software公司首席信息官Alastair Pooley表示，雖然生成式AI有潛力產(chǎn)生卓越的技術(shù)成果，但數(shù)據(jù)質(zhì)量、模型架構(gòu)和訓(xùn)練程序都可能導(dǎo)致結(jié)果不佳。他說：“訓(xùn)練不足的模型或者不可預(yù)見的邊緣情況都可能導(dǎo)致輸出質(zhì)量下降，帶來運(yùn)營風(fēng)險(xiǎn)并損害系統(tǒng)可靠性。”所有這些都需要對(duì)輸出和質(zhì)量進(jìn)行持續(xù)的審查和驗(yàn)證。

Palo Alto Networks公司的Rajavel補(bǔ)充說，AI就像其他任何工具一樣，結(jié)果取決于你使用哪種工具以及如何使用它。對(duì)她來說，如果沒有適當(dāng)?shù)腁I治理，你選擇的模型可能會(huì)產(chǎn)生不符合產(chǎn)品架構(gòu)和預(yù)期結(jié)果的低質(zhì)量工件結(jié)果。她補(bǔ)充說，另一個(gè)重要因素是你要為手頭的工作選擇哪種AI，因?yàn)闆]有一種模型是放之四海而皆準(zhǔn)的。

AI潛在風(fēng)險(xiǎn)清單

除了IT債務(wù)和代碼質(zhì)量之外，部署生成式AI時(shí)還需要考慮一系列潛在的不利結(jié)果?！斑@些問題可能涉及數(shù)據(jù)隱私和安全、算法偏見、工作替代、人工智能生成內(nèi)容的道德困境等，”Pooley說。

其中一個(gè)方面，是惡意個(gè)人利用生成式AI發(fā)起攻擊。Rajavel指出，網(wǎng)絡(luò)犯罪分子已經(jīng)開始利用這項(xiàng)技術(shù)進(jìn)行大規(guī)模攻擊，因?yàn)樯墒紸I能夠起草令人信服的網(wǎng)絡(luò)釣魚活動(dòng)并傳播虛假信息。攻擊者還可以針對(duì)生成式AI工具和模型本身，導(dǎo)致數(shù)據(jù)泄露或毒害內(nèi)容輸出。

O’Grady表示：“生成式系統(tǒng)有可能加速并幫助攻擊者，然而可以說，很多企業(yè)最大的擔(dān)憂就是私有數(shù)據(jù)從封閉的廠商系統(tǒng)中泄露出去?！?/p>

這些技術(shù)可以產(chǎn)生非常令人信服的結(jié)果，但結(jié)果可能也是充滿錯(cuò)誤的。除了模型中的錯(cuò)誤之外，還需要考慮成本影響，并且很容易在不知不覺中或者是不必要的情況下，在AI上花費(fèi)了大量的資金，無論是使用錯(cuò)誤的模型，不了解消耗成本，還是沒有有效地使用。

Perez表示：“AI并非沒有風(fēng)險(xiǎn)，它需要從頭開始構(gòu)建，由人類控制各個(gè)領(lǐng)域，以確保任何人都可以信任其結(jié)果——從最基本的用戶到最有經(jīng)驗(yàn)的工程師。”對(duì)Perez來說，另一個(gè)懸而未決的問題是AI開發(fā)和維護(hù)所有權(quán)，這也給IT團(tuán)隊(duì)帶來了跟上創(chuàng)新需求的壓力，因?yàn)樵S多IT員工缺乏時(shí)間來實(shí)施和訓(xùn)練AI模型和算法。

不容忽視的問題：就業(yè)

然后就是引起主流媒體關(guān)注的結(jié)果：AI取代人類勞動(dòng)力。但生成式AI將如何影響IT行業(yè)的就業(yè)情況還有待確定?！澳壳昂茈y預(yù)測對(duì)就業(yè)的影響，因此這是一個(gè)潛在的擔(dān)憂，”O(jiān)’Grady說。

盡管這場辯論中無疑存在多種觀點(diǎn)，但Walgreen公司的Sample并不認(rèn)為AI對(duì)人類構(gòu)成生存威脅。相反，他對(duì)生成式AI改善員工生活的潛力持樂觀態(tài)度。他說：“消極的觀點(diǎn)認(rèn)為，AI將會(huì)影響很多工作，但積極的觀點(diǎn)認(rèn)為，AI會(huì)讓人類變得更好。最終，我認(rèn)為AI將讓人們不必再做那些重復(fù)性的、本可以自動(dòng)化的任務(wù)，可以專注于更高級(jí)別的工作?！?/p>

如何緩解AI帶來的擔(dān)憂

可以采用多種方法來緩解AI帶來的擔(dān)憂。對(duì)于Perez來說，生成式AI的質(zhì)量取決于這些模型攝取的數(shù)據(jù)。他說：“如果你想要高質(zhì)量的、可信的AI，你就需要高質(zhì)量的、可信的數(shù)據(jù)。”然而，問題是數(shù)據(jù)常常充滿錯(cuò)誤，需要工具來集成來自不同來源的、不同格式的非結(jié)構(gòu)化數(shù)據(jù)。他還強(qiáng)調(diào)不要局限在“參與其中”，而要讓人類更多地處于駕駛座的位置上?！拔覍I視為一種值得信賴的顧問，但不是唯一的決策者?！?/p>

為了維護(hù)軟件質(zhì)量，還需要進(jìn)行嚴(yán)格的測試，以檢查AI生成的代碼是否準(zhǔn)確無誤。為此，Malagodi鼓勵(lì)企業(yè)采用“代碼干凈”的方法（包括靜態(tài)分析和單元測試），以確保恰當(dāng)?shù)馁|(zhì)量檢查?！爱?dāng)開發(fā)人員專注于干凈代碼的最佳實(shí)踐時(shí)，他們就可以確信他們的代碼和軟件是安全的、可維護(hù)的、可靠的且可訪問的。”

Bedi補(bǔ)充說，和任何新技術(shù)一樣，最初的熱情是需要適當(dāng)謹(jǐn)慎心態(tài)來調(diào)和的。因此，IT領(lǐng)導(dǎo)者應(yīng)該考慮有效使用AI能助手的步驟，例如可觀察性工具，這些工具能夠檢測架構(gòu)漂移，并支持為應(yīng)用需求做好準(zhǔn)備。

圍繞AI的采用展開治理

Pooley表示：“生成式AI代表了技術(shù)進(jìn)步邁向了一個(gè)新的時(shí)代，如果管理得當(dāng)，它有可能帶來巨大的好處?！辈贿^他建議，CIO們應(yīng)該在創(chuàng)新和固有風(fēng)險(xiǎn)之間進(jìn)行平衡，尤其是必須采取控制措施和利用指南來限制因不受控制地使用這些工具而導(dǎo)致的數(shù)據(jù)泄露?！昂秃芏嗉夹g(shù)機(jī)會(huì)一樣，如果出現(xiàn)問題，CIO們發(fā)現(xiàn)他們自己是要承擔(dān)責(zé)任的。”

對(duì)于Sample來說，監(jiān)管機(jī)構(gòu)有責(zé)任充分解決AI給社會(huì)帶來的風(fēng)險(xiǎn)。例如，他提到了拜登政府最近發(fā)布的一項(xiàng)行政命令，旨在建立新的AI安全標(biāo)準(zhǔn)。另一方面是帶頭制定企業(yè)指導(dǎo)方針來管理這種快節(jié)奏的技術(shù)，例如，Walgreens已經(jīng)開始圍繞AI制定治理框架了，其中包括公平、透明、安全和可解釋性等考慮因素。

Workato的Busse同樣主張制定內(nèi)部指令，優(yōu)先考慮安全和治理。他建議對(duì)員工進(jìn)行培訓(xùn)、制定內(nèi)部行動(dòng)手冊(cè)、以及實(shí)施AI實(shí)驗(yàn)的審批流程。Pooley指出，很多企業(yè)已經(jīng)成立了AI工作組，以幫助應(yīng)對(duì)風(fēng)險(xiǎn)并利用生成式AI的優(yōu)勢。一些具有安全意識(shí)的組織正在采取更WEI 嚴(yán)格的措施。O’Grady補(bǔ)充說，為了防止?jié)B透，很多買方還是會(huì)優(yōu)先考慮本地系統(tǒng)。

Perez表示：“CIO們應(yīng)該帶頭確保他們的團(tuán)隊(duì)擁有恰當(dāng)?shù)呐嘤?xùn)和技能，以有利于組織的方式識(shí)別、構(gòu)建、實(shí)施和使用生成式AI。”他描述了Salesforce公司的產(chǎn)品和工程團(tuán)隊(duì)是如何在AI輸入和輸出之間建立信任層，最大限度地降低使用這種強(qiáng)大技術(shù)所帶來的風(fēng)險(xiǎn)。

也就是說，有意采用AI和對(duì)其進(jìn)行治理是同樣重要的。Hyland公司的Watt表示：“各個(gè)組織都在急于實(shí)施AI，但并不清楚它的作用以及如何為他們的業(yè)務(wù)帶來最大利益?！盇I并不能解決所有問題，因此，了解這項(xiàng)技術(shù)可以解決哪些問題、不能解決哪些問題，這對(duì)于了解如何最大限度地解決問題來說是至關(guān)重要的。

對(duì)業(yè)務(wù)產(chǎn)生積極影響

通過適當(dāng)?shù)臋z查，生成式AI將在無數(shù)領(lǐng)域提高敏捷性，CIO們預(yù)計(jì)，生成式AI將被用來實(shí)現(xiàn)切實(shí)的業(yè)務(wù)成果，例如用戶體驗(yàn)。Perez表示：“生成式AI將讓企業(yè)能夠?yàn)榭蛻魟?chuàng)造曾經(jīng)感覺不可能的體驗(yàn)，AI不再只是小眾團(tuán)隊(duì)的工具，每個(gè)人都將有機(jī)會(huì)利用它來提高生產(chǎn)力和效率?！?/p>

但用戶體驗(yàn)的好處并不僅僅限于外部客戶。Rajavel補(bǔ)充說，內(nèi)部員工體驗(yàn)也將從中受益。她預(yù)測，經(jīng)過內(nèi)部數(shù)據(jù)培訓(xùn)的AI助手只需立即獲取企業(yè)內(nèi)部頁面上已有的答案，就可以將IT請(qǐng)求減少一半。

Sample表示，Walgreens還通過生成式AI驅(qū)動(dòng)的語音助手、聊天機(jī)器人和短信來改善客戶體驗(yàn)。通過減少呼叫量和提高客戶滿意度，團(tuán)隊(duì)成員可以更好地關(guān)注店內(nèi)客戶。此外，該公司還部署了AI來優(yōu)化店內(nèi)運(yùn)營，例如供應(yīng)鏈、占地面積和庫存管理，幫助領(lǐng)導(dǎo)者做出有關(guān)業(yè)務(wù)營收和利潤的決策。但保持警惕是關(guān)鍵。

O’Grady表示：“與之前所有的技術(shù)浪潮一樣，AI無疑會(huì)帶來重大的負(fù)面影響和附帶損害?？偟膩碚f，AI將加速發(fā)展并增強(qiáng)人類的能力，但同時(shí)會(huì)極大地?cái)U(kuò)大各種問題的范圍。”