近日，隨著OpenAI發(fā)布突破性的多模態(tài)機(jī)器學(xué)習(xí)模型GPT-4o，關(guān)于人工智能引發(fā)全球性失業(yè)潮的報道再次占據(jù)各大媒體頭條。

國際貨幣基金組織董事總經(jīng)理克里斯塔利娜·格奧爾基耶娃博士警告稱，隨著企業(yè)大量采用人工智能技術(shù)，全球勞動力市場將遭遇“海嘯”，人工智能可能會消滅全球近一半（40%）的工作崗位以及美國和英國等發(fā)達(dá)經(jīng)濟(jì)體一半以上（60%）的工作崗位。

英特爾首席執(zhí)行官帕特·基辛格上個月表示，人工智能有一天可能會催生單人獨(dú)角獸公司（估值超過10億美元的只有一名員工的企業(yè)）。如果你認(rèn)為“單人獨(dú)角獸”特指腦力工作者中的“卷王“那就大錯特錯了，因為特斯拉、Figure/OpenAI以及大量中國企業(yè)的“具身智能”人形機(jī)器人市場已經(jīng)爆發(fā)，未來護(hù)理、司機(jī)、工人、士兵等體力工作者同樣面臨失業(yè)風(fēng)險。

目前，業(yè)界普遍認(rèn)為醫(yī)生、律師、教師、程序員（包括網(wǎng)絡(luò)安全人才）等知識工作者是AI大潮最先面對失業(yè)風(fēng)險的人群，但事實真的如此嗎？

以近年來全球科技行業(yè)裁員的重災(zāi)區(qū)——程序員職業(yè)為例，AI確實帶來了巨大的編碼效率提升，但與此同時，AI也產(chǎn)生了兩個極為嚴(yán)重且難以解決的新難題，使其不但無法完全替代人類程序員，甚至?xí)屲浖_發(fā)/網(wǎng)絡(luò)安全行業(yè)陷入危險境地。這兩個問題分別是：

• AI屎山。AI編寫的代碼質(zhì)量不佳且不安全，比人類編寫的代碼漏洞多。
• AI污染。AI編寫的代碼已經(jīng)“決堤”并快速污染在線代碼庫和搜索引擎（搜索結(jié)果）。

AI屎山

根據(jù)Veracode最新發(fā)布的軟件安全報告，AI生成代碼的激增將導(dǎo)致安全債務(wù)問題惡化并對軟件供應(yīng)鏈構(gòu)成重大風(fēng)險。報告指出：“盡管人工智能為軟件開發(fā)帶來了速度和效率，但在代碼安全方面表現(xiàn)不佳，GitHub Copilot生成的代碼中有36%存在安全漏洞?！?/p>

斯坦福大學(xué)的一項研究（論文鏈接在文末）發(fā)現(xiàn)，使用人工智能助手編寫的代碼比“手工代碼”的安全性差很多，而且人工智能工具還會導(dǎo)致用戶對其代碼中的安全性過于自信。

例如，在SQL注入漏洞測試中，使用AI助手的測試參與者編寫的代碼安全性明顯較差。36%的使用人工智能助手的測試參與者編寫了容易受到SQL注入攻擊的代碼，而不使用AI助手的對照組的比例僅為7%。

不可否認(rèn)，類似Github Copilot這樣的人工智能代碼助手能大大提高開發(fā)人員的開發(fā)效率和生產(chǎn)力，并降低開發(fā)技術(shù)門檻。然而，缺乏經(jīng)驗的開發(fā)人員可能會輕易相信人工智能助手的輸出內(nèi)容，從而引入安全漏洞風(fēng)險。

Veracode的報告指出，人工智能生成代碼更傾向于滿足“正確性”而不是安全性，并且在某些情況下，可能會創(chuàng)建無意中使用戶感到困惑的代碼。

AI污染

如果說AI屎山影響的只是具體項目，那么“AI污染”對整個軟件開發(fā)生態(tài)來說則是災(zāi)難性的。所謂AI污染，是指AI生成的劣質(zhì)代碼污染代碼庫和搜索引擎結(jié)果。例如，近日大量開發(fā)人員投訴稱谷歌搜索引擎的搜索結(jié)果被來自Pulumi AI（一種在線人工智能編碼問答工具）的AI生成的錯誤代碼“霸榜”。

開發(fā)人員Arian van Putten在上周末的社交媒體帖子中寫道：“事情發(fā)生了。排名第一的谷歌搜索結(jié)果居然是Pulumi大語言模型編寫的（頁面上也包含免責(zé)聲明），并且憑空捏造了一個不存在的AWS功能。這簡直是災(zāi)難的開始?！?/p>

該問題最早由開發(fā)者Pete Nyk?nen發(fā)現(xiàn)，他在2024年3月21日在GitHub Issues報告中指出Pulumi AI代碼倉庫在某些代碼關(guān)鍵詞的搜索結(jié)果中排名正快速提升：“今天我搜索了各種與基礎(chǔ)設(shè)施代碼相關(guān)的關(guān)鍵詞，并注意到一個令人擔(dān)憂的趨勢，即Pulumi AI的答案被谷歌抓取并獲得較高排名，這種情況在多次搜索中復(fù)現(xiàn)，并且隨著時間的推移可能會變得更加糟糕?！?/p>

其實，AI污染的不僅僅是代碼，還包括文字、圖片、視頻等所有AI可以批量生產(chǎn)/偽造的內(nèi)容。密碼學(xué)家布魯斯施奈爾近日撰文指出，隨著生成式人工智能技術(shù)的野蠻生長和泛濫，互聯(lián)網(wǎng)的原生優(yōu)質(zhì)內(nèi)容生態(tài)正在被大規(guī)模生產(chǎn)的人工智能合成內(nèi)容充斥和占領(lǐng)，如果互聯(lián)網(wǎng)巨頭不及時采取行動，我們可能會失去我們所知的互聯(lián)網(wǎng)，并陷入一個由AI生成的垃圾內(nèi)容主導(dǎo)的黑暗時代。

結(jié)論

“AI屎山”和“AI污染”這兩大難題意味著，AI消滅一部分初級和重復(fù)性開發(fā)崗位的同時，將創(chuàng)造大量新的崗位，例如AI開發(fā)、AI應(yīng)用、AI安全、AI監(jiān)管和治理。此外，軟件架構(gòu)師、系統(tǒng)工程師、DevOps工程師、物聯(lián)網(wǎng)解決方案架構(gòu)師、全棧開發(fā)人員等高級IT人才的能力和薪酬有望因AI的加持而持續(xù)上漲。

總之，對于開發(fā)人員來說，這是最壞的時代，也可能是最好的時代。