翻譯：布加迪

策劃：千山　　

大多數(shù)公司每年都對記錄數(shù)據(jù)系統(tǒng)進(jìn)行IT審核。但審核人工智能和大數(shù)據(jù)，同時(shí)確保它們符合足夠的安全和治理要求卻是一項(xiàng)有待完善的工作。

　　好消息是，許多公司已經(jīng)有諸多實(shí)踐成果可運(yùn)用于AI和大數(shù)據(jù)。這些實(shí)踐體現(xiàn)在可適用于AI和大數(shù)據(jù)的IT政策和程序中。在專業(yè)審核公司提供的AI和大數(shù)據(jù)服務(wù)很有限時(shí)，這一切極其有幫助。

　　以下是公司可以用來自我審核AI和大數(shù)據(jù)的九個(gè)問題和方法：

　　1. 您知道自己的數(shù)據(jù)來自哪里嗎？

　　許多公司從業(yè)務(wù)運(yùn)營獲取自己的數(shù)據(jù)，但也從外部供應(yīng)商處購買和使用數(shù)據(jù)，用于AI和分析。在將數(shù)據(jù)用于AI和分析之前，應(yīng)評估來自外部的所有數(shù)據(jù)的可信度和數(shù)據(jù)質(zhì)量。審核來自第三方的數(shù)據(jù)應(yīng)該是每份采購需求表（RFP）的一部分。

　　2. 您是否解決了數(shù)據(jù)隱私？

　　您可能與客戶談妥了自己的數(shù)據(jù)隱私規(guī)則和協(xié)議，但是面對可能沒有同樣數(shù)據(jù)隱私標(biāo)準(zhǔn)的外部業(yè)務(wù)合作伙伴時(shí)，這些數(shù)據(jù)隱私權(quán)會面臨問題。在這種情況下，不僅IT部門應(yīng)該有確保數(shù)據(jù)隱私的政策和程序，公司法務(wù)和合規(guī)部門也應(yīng)該有這類政策和程序，以確保其數(shù)據(jù)可能被使用、匿名或共享的客戶了解這一事實(shí)。

　　3. 您有鎖定程序嗎？

　　物聯(lián)網(wǎng)和邊緣計(jì)算設(shè)備將日益為系統(tǒng)帶來非結(jié)構(gòu)化大數(shù)據(jù)。由于這些是移動(dòng)的分布式設(shè)備，它們很容易丟失、中招或放錯(cuò)地方。至少，IT部門應(yīng)該有一種方法來跟蹤這些設(shè)備及使用情況，一旦被報(bào)告丟失或放錯(cuò)地方就鎖起來。

　　4. 所有IT系統(tǒng)是否都符合您的安全設(shè)置？

　　許多邊緣計(jì)算和物聯(lián)網(wǎng)設(shè)備以及路由器和集線器都有廠商的默認(rèn)安全設(shè)置，它們不符合企業(yè)安全標(biāo)準(zhǔn)。作為安裝過程的一部分，IT部門應(yīng)添加這一步：檢查默認(rèn)安全設(shè)置，然后將其設(shè)為企業(yè)安全設(shè)置之后再部署。

　　5. 您的數(shù)據(jù)有多干凈？

　　適當(dāng)級別的數(shù)據(jù)清理應(yīng)落實(shí)到位，可能涉及數(shù)據(jù)丟棄、數(shù)據(jù)規(guī)范以及使用ETL（提取轉(zhuǎn)換加載）工具等。這是為了確保進(jìn)入您的分析和AI系統(tǒng)的數(shù)據(jù)盡可能“干凈”、準(zhǔn)確。

　　6. 您的AI有多準(zhǔn)確？

　　AI系統(tǒng)中使用的算法和數(shù)據(jù)在不斷變化，因此對AI而言今天正確的假設(shè)明天可能不適用了。AI 還可能含有無法立即檢測到的偏誤。因此，監(jiān)控和修改AI算法、查詢和數(shù)據(jù)的流程必須是持續(xù)不斷的。應(yīng)落實(shí)一套AI程序，用于定期“調(diào)整”AI數(shù)據(jù)和操作。

　　7. 誰有權(quán)接觸您的大數(shù)據(jù)和AI？

　　所有大數(shù)據(jù)存儲庫以及AI和分析系統(tǒng)都應(yīng)進(jìn)行24/7全天候監(jiān)控，以確保只有授權(quán)使用數(shù)據(jù)和系統(tǒng)的用戶才能訪問它們。

　　8. 您的AI是否在履行使命？

　　至少應(yīng)每年評估一次AI系統(tǒng)，以確認(rèn)它們滿足業(yè)務(wù)的需求和使命。如果未滿足，應(yīng)修改或丟棄它們。

　　9. 如果AI出現(xiàn)故障，您可以進(jìn)行故障切換嗎？

　　如果您將AI操作嵌入到業(yè)務(wù)流程中，災(zāi)難恢復(fù)計(jì)劃應(yīng)考慮到這些系統(tǒng)無法運(yùn)行的情況。如果系統(tǒng)出現(xiàn)停機(jī)，您會怎么做？會有快速上線的備份系統(tǒng)嗎？還是一套手動(dòng)程序（以及知道如何執(zhí)行這些程序的員工）可以接過任務(wù)，直至AI系統(tǒng)恢復(fù)過來？公司能否將AI做出的決策推遲到系統(tǒng)恢復(fù)正常？要為IT和業(yè)務(wù)部門明確列出停機(jī)后應(yīng)采取的一套程序。

　　原文標(biāo)題：9 questions to ask when auditing your AI systems，作者：Mary Shacklett