在開源社區(qū)開發(fā)的應(yīng)用程序往往面臨很大的安全挑戰(zhàn)，因?yàn)樗鼈兪敲赓M(fèi)的、廣泛可用的，并且由志愿者支持。即使一個(gè)主要的開源AI項(xiàng)目尚未被入侵，也只是時(shí)間問題而已。

因此，讓我們探討為什么開源AI缺乏安全性，以及安全專業(yè)人員可以采取哪些措施來改善這一情況。

回到未來：AI即軟件

首先，必須承認(rèn)AI并不是與軟件不同的東西;它本質(zhì)上是軟件。因此，它是IT系統(tǒng)操作的一部分，也屬于軟件供應(yīng)鏈的一部分。AI應(yīng)該像對(duì)待任何其他代碼或工件一樣對(duì)待。

同樣值得注意的是，軟件供應(yīng)鏈安全不僅僅是關(guān)于Web應(yīng)用程序、命令行工具或其他通常被認(rèn)為是軟件的東西，它保護(hù)企業(yè)在開發(fā)、分發(fā)和部署軟件時(shí)的每一個(gè)組件和過程，可以將其視為應(yīng)用于系統(tǒng)交付生命周期(SDLC)的網(wǎng)絡(luò)安全。軟件開發(fā)的每個(gè)階段，從編碼和構(gòu)建到生產(chǎn)、部署和維護(hù)，都涉及其中，并且需要確保安全。

AI軟件供應(yīng)鏈中可能出錯(cuò)的地方

AI供應(yīng)鏈中的挑戰(zhàn)與更廣泛的軟件供應(yīng)鏈中的挑戰(zhàn)相似，但在將大型語言模型(LLM)或機(jī)器學(xué)習(xí)(ML)模型集成到企業(yè)的框架中時(shí)，增加了復(fù)雜性。

例如，考慮一個(gè)金融機(jī)構(gòu)希望利用AI模型進(jìn)行貸款風(fēng)險(xiǎn)評(píng)估的場景，這個(gè)應(yīng)用程序需要仔細(xì)審查AI模型的軟件供應(yīng)鏈和訓(xùn)練數(shù)據(jù)來源，以確保符合監(jiān)管標(biāo)準(zhǔn)，例如禁止在貸款審批過程中使用受保護(hù)類別。

舉例來說，讓我們看看銀行如何將AI模型整合到其貸款風(fēng)險(xiǎn)評(píng)估程序中。法規(guī)要求嚴(yán)格遵守貸款審批標(biāo)準(zhǔn)，禁止使用種族、性別、國籍等人口統(tǒng)計(jì)數(shù)據(jù)作為決定性因素。因此，銀行必須考慮和評(píng)估AI模型的軟件和訓(xùn)練數(shù)據(jù)供應(yīng)鏈，以防止可能導(dǎo)致法律或監(jiān)管問題的偏見。

這個(gè)問題超出了個(gè)別企業(yè)的范圍。更廣泛的AI技術(shù)生態(tài)系統(tǒng)面臨著令人擔(dān)憂的趨勢(shì)。最近的研究表明，開源AI軟件工具的安全狀態(tài)與其受歡迎程度呈反比。簡而言之，開源AI工具或模型的采用越廣泛，其可能存在的安全漏洞就越多。

此外，基于潛在非法或不道德數(shù)據(jù)訓(xùn)練的開源AI模型的普遍存在，給用戶帶來了重大的法律和監(jiān)管風(fēng)險(xiǎn)，這種風(fēng)險(xiǎn)突顯了在AI供應(yīng)鏈中采取加強(qiáng)措施以確保安全使用的必要性。盡管AI的未來充滿希望，但解決這些挑戰(zhàn)對(duì)其負(fù)責(zé)任的采用和持續(xù)成功至關(guān)重要。

安全專業(yè)人員可以采取的措施

確保開源安全需要在多個(gè)方面進(jìn)行關(guān)注，包括：

• 安全規(guī)范：倡導(dǎo)在開源社區(qū)內(nèi)實(shí)現(xiàn)更大的透明度和責(zé)任制，要求提供必要的安全元數(shù)據(jù)，例如軟件物料清單(SBOM)、SLSA(軟件工件供應(yīng)鏈級(jí)別)和SARIF(靜態(tài)分析結(jié)果交換格式)。
• 開源安全工具：與支持安全項(xiàng)目的公司合作，如Allstar、GUAC和in-toto聲明，以分擔(dān)一些責(zé)任，同時(shí)仍然從開源創(chuàng)新中受益。
• 行業(yè)貢獻(xiàn)和開源資金：支持像開源安全基金會(huì)(OpenSSF)這樣的組織，該基金會(huì)開發(fā)規(guī)范、工具和倡議以確保關(guān)鍵開源項(xiàng)目的安全性。

CISO及其安全團(tuán)隊(duì)需要了解其企業(yè)環(huán)境中的軟件信息，以確保其安全性，有了這些信息，CISO可以就集成到環(huán)境中的軟件組件做出明智的、基于風(fēng)險(xiǎn)的決策。僅依賴志愿者的安全努力而不進(jìn)行貢獻(xiàn)或投資是不可持續(xù)且無效的。