過度依賴GenAI開發(fā)軟件會危及安全
根據(jù)Legit Security的說法,GenAI正在迅速改變軟件開發(fā)流程,它自動化了那些曾經(jīng)需要開發(fā)人員花費數(shù)小時乃至數(shù)天才能完成的任務,從而提高了效率和生產(chǎn)力。
Legit的首席技術官Liav Caspi表示:“隨著GenAI改變軟件開發(fā),并日益嵌入開發(fā)生命周期中,開發(fā)者和安全團隊之間存在一些真正的安全問題擔憂。我們的研究發(fā)現(xiàn),團隊在平衡GenAI的創(chuàng)新和它所帶來的風險方面面臨挑戰(zhàn),因為這些風險會使他們的應用程序和軟件供應鏈暴露于新的漏洞之中。雖然GenAI無疑是軟件開發(fā)的未來,但企業(yè)必須留意其帶來的新風險,并確保他們對其使用有足夠的可見性和控制力?!?/p>
GenAI在軟件開發(fā)中的使用增加
88%的開發(fā)人員報告稱在其開發(fā)企業(yè)中使用GenAI,這反映了開發(fā)團隊如何利用AI增強自身能力以應對緊張工期和復雜項目需求方面的廣泛轉變。盡管采用率很高,但安全仍然是一個關鍵問題。例如,Legit之前的研究顯示,大型語言模型(LLM)和AI模型包含錯誤和漏洞,可能導致AI供應鏈攻擊。
96%的安全和軟件開發(fā)專業(yè)人員表示,他們的公司使用基于GenAI的解決方案來構建或交付應用程序。在這些受訪者中,79%表示其全部或大多數(shù)開發(fā)團隊經(jīng)常使用GenAI。
84%的安全專業(yè)人員對使用代碼助手表示擔憂,并指出未知和/或惡意代碼是他們的主要擔憂。
98%的人認為安全團隊需要更好地掌握GenAI解決方案在開發(fā)中的使用情況。94%的人表示,他們需要更有效的方法來管理公司在研究和開發(fā)工作中對GenAI的使用。85%的開發(fā)人員和75%的安全人員對過度依賴GenAI解決方案來開發(fā)軟件表示擔憂。
開發(fā)人員擔心AI對批判性思維的影響
相比安全專業(yè)人員(3%),更多開發(fā)人員(8%)報告稱擔心在開發(fā)中使用AI會導致批判性思維喪失。95%的受訪者預測,在未來五年內,軟件開發(fā)人員將更加依賴GenAI,沒有人預見依賴程度會降低。
關于GenAI如何與開發(fā)人員協(xié)同工作,56%的受訪者認為未來GenAI將在人類監(jiān)督下處理大多數(shù)任務,29%的人相信人類與AI將協(xié)作工作,15%的人預測GenAI最終將取代開發(fā)人員。只有1%的人認為GenAI作為一種工具將會消失。
安全專業(yè)人員和開發(fā)人員之間的觀點存在顯著差異。61%的安全專業(yè)人員認為GenAI將在人類監(jiān)督下完成大部分工作,而持此觀點的開發(fā)人員比例為51%。
另一方面,36%的開發(fā)人員認為GenAI與開發(fā)人員將密切協(xié)作,而持此觀點的安全專業(yè)人員比例為23%。