鑒于復(fù)雜的網(wǎng)絡(luò)攻擊越來(lái)越多，網(wǎng)絡(luò)安全如今已成為微軟的首要問(wèn)題。正因?yàn)槿绱耍④浺苍诓粩喔缕浒踩A(chǔ)設(shè)施，以保護(hù)自己免受網(wǎng)絡(luò)安全的威脅。近日，微軟通過(guò)發(fā)布一個(gè)名為 Counterfit 的新工具來(lái)解決 AI 系統(tǒng)安全性的問(wèn)題。

Counterfit 是微軟開(kāi)發(fā)的一個(gè)開(kāi)源工具，用于對(duì)企業(yè)或組織的人工智能系統(tǒng)進(jìn)行自動(dòng)化的安全測(cè)試。鑒于人工智能系統(tǒng)在各行業(yè)中廣泛運(yùn)用，其最終目標(biāo)是讓企業(yè)對(duì)其人工智能系統(tǒng)的穩(wěn)健性和可靠性有很高的信心。微軟指出，在它調(diào)查的 28 個(gè)企業(yè)/組織中，有 25 個(gè)認(rèn)為他們沒(méi)有正確的機(jī)制來(lái)保護(hù)人工智能系統(tǒng)，他們的安全專業(yè)人員也沒(méi)有很好地處理針對(duì)它們的威脅。

Counterfit 最初是一套可用于攻擊 AI 模型的腳本。微軟首先在自己的內(nèi)部測(cè)試中使用它，但現(xiàn)在，Counterfit 已經(jīng)發(fā)展成為一個(gè)自動(dòng)化工具，可以大規(guī)模地攻擊多個(gè) AI 模型。該公司表示，它已經(jīng)成為微軟的人工智能業(yè)務(wù)的主要工具，可以用它來(lái)執(zhí)行和自動(dòng)化目前正在開(kāi)發(fā)和生產(chǎn)的人工智能服務(wù)的對(duì)抗性安全測(cè)試。

使用 Counterfit 的好處是它與環(huán)境、模型和數(shù)據(jù)無(wú)關(guān)。這意味著，它可以在企業(yè)內(nèi)部、邊緣和云端使用，以測(cè)試任何類型的人工智能模型，這些模型依賴于幾乎任何形式的輸入數(shù)據(jù)，包括文本和圖像。

微軟表示，Counterfit 對(duì)于使用 Metasploit 或 PowerShell Empyre 的安全團(tuán)隊(duì)來(lái)說(shuō)很容易使用。它可以用于滲透測(cè)試和漏洞掃描，它還可以記錄對(duì)人工智能模型的攻擊，因此數(shù)據(jù)科學(xué)家可以利用其遙測(cè)技術(shù)進(jìn)一步加強(qiáng)其人工智能系統(tǒng)的安全性。

你可以前往該開(kāi)源項(xiàng)目的 GitHub 頁(yè)面：https://github.com/Azure/counterfit，了解更多關(guān)于 Counterfit 的信息以及如何在企業(yè)中部署它。