我們已經(jīng)開(kāi)始習(xí)慣人工智能的存在，也可以看到人工智能對(duì)世界的影響是如何隨著生成式人工智能(GenAI)的火爆而增長(zhǎng)的。人工智能多年來(lái)一直被用來(lái)幫助企業(yè)“猜你喜歡”，希望加快分析并做出更好、更快、更智能決策的企業(yè)越來(lái)越多。但如果人工智能在不知不覺(jué)中做出了糟糕的決定呢?

當(dāng)人工智能推薦一本你不感興趣的書(shū)或一種你討厭的蔬菜時(shí)，這并不是什么大不了的事。但是，當(dāng)涉及到投資者的財(cái)務(wù)指導(dǎo)或特色產(chǎn)品的新功能時(shí)，不正確的分析可能會(huì)導(dǎo)致一個(gè)糟糕的決定，影響企業(yè)的業(yè)績(jī)或聲譽(yù)，使用戶(hù)或企業(yè)都面臨風(fēng)險(xiǎn)或傷害。

這就提出了一個(gè)問(wèn)題：我們真的能相信人工智能做出重要決策嗎?尤其是，隨著更復(fù)雜的深度學(xué)習(xí)(DL)和GenAI模型被訓(xùn)練和部署用于日常使用。

答案在于理解數(shù)據(jù)和數(shù)據(jù)質(zhì)量在機(jī)器學(xué)習(xí)生命周期中的關(guān)鍵作用。

數(shù)據(jù)質(zhì)量的影響

當(dāng)談到可信任人工智能時(shí)，用于推動(dòng)其決策的數(shù)據(jù)質(zhì)量具有巨大意義。有缺陷的數(shù)據(jù)，無(wú)論是不完整的、不正確的還是有偏見(jiàn)的，都會(huì)扭曲人工智能預(yù)測(cè)的準(zhǔn)確性。在人工智能系統(tǒng)中依賴(lài)不可靠數(shù)據(jù)的后果可能會(huì)變得災(zāi)難性。

想象一下，你是一個(gè)尋求財(cái)務(wù)指導(dǎo)的投資者，求助于一個(gè)人工智能平臺(tái)來(lái)幫助你做出投資決策。這種人工智能依賴(lài)于歷史財(cái)務(wù)數(shù)據(jù)來(lái)分析市場(chǎng)趨勢(shì)，識(shí)別潛在機(jī)會(huì)，并提供建議。然而，如果人工智能使用的數(shù)據(jù)不完整或有偏見(jiàn)，也許是因?yàn)樗鼜奈赐耆傻较到y(tǒng)中，那么它提供的指導(dǎo)可能會(huì)有缺陷，導(dǎo)致你走上錯(cuò)誤的投資道路。

比如，人工智能只能從有限的來(lái)源獲取財(cái)務(wù)數(shù)據(jù)，而忽略了某些部門(mén)或地理區(qū)域的關(guān)鍵信息。因此，人工智能的分析可能會(huì)忽視重大的市場(chǎng)變化或新興趨勢(shì)，使你無(wú)法利用有利可圖的投資機(jī)會(huì)。

此外，有偏見(jiàn)的數(shù)據(jù)對(duì)人工智能決策過(guò)程的不利影響。偏見(jiàn)可能滲透到數(shù)據(jù)收集方法中，或者是數(shù)據(jù)本身固有的，導(dǎo)致見(jiàn)解和建議出現(xiàn)偏差。例如，如果人工智能系統(tǒng)使用的財(cái)務(wù)數(shù)據(jù)主要代表特定的人口統(tǒng)計(jì)數(shù)據(jù)，或者未能考慮到各種經(jīng)濟(jì)因素，那么由此產(chǎn)生的投資建議可能無(wú)法反映更廣泛市場(chǎng)的現(xiàn)實(shí)。

僅僅依賴(lài)基于不完整或有偏見(jiàn)的數(shù)據(jù)的預(yù)測(cè)可能會(huì)導(dǎo)致誤導(dǎo)性的投資決策，對(duì)財(cái)務(wù)成功產(chǎn)生不利影響，阻礙業(yè)務(wù)增長(zhǎng)。當(dāng)我們認(rèn)識(shí)到人工智能系統(tǒng)在訓(xùn)練和部署人工智能模型時(shí)所做的決策只能與可用數(shù)據(jù)一樣可靠時(shí)，數(shù)據(jù)質(zhì)量的重要性就變得顯而易見(jiàn)了?！袄M(jìn)，垃圾出”是永恒的經(jīng)典。

正如堅(jiān)實(shí)的基礎(chǔ)對(duì)建筑的結(jié)構(gòu)完整性至關(guān)重要一樣，可靠和高質(zhì)量的數(shù)據(jù)構(gòu)成了值得信賴(lài)的人工智能運(yùn)行的基石。正如受損的建筑材料或薄弱的基礎(chǔ)會(huì)危及結(jié)構(gòu)的穩(wěn)定性和安全一樣，有缺陷的數(shù)據(jù)也會(huì)破壞人工智能決策的準(zhǔn)確性和可靠性。

為了減輕這些風(fēng)險(xiǎn)，組織必須優(yōu)先考慮數(shù)據(jù)收集過(guò)程，以確保完整性、準(zhǔn)確性和無(wú)偏見(jiàn)。他們應(yīng)該努力收集多樣化和全面的數(shù)據(jù)集，這些數(shù)據(jù)集涵蓋了各個(gè)部門(mén)、人口統(tǒng)計(jì)和地理區(qū)域。采用數(shù)據(jù)驗(yàn)證技術(shù)，如交叉引用多個(gè)來(lái)源和采用數(shù)據(jù)清理算法，可以幫助識(shí)別和糾正錯(cuò)誤，確保更準(zhǔn)確地表示現(xiàn)實(shí)。

穩(wěn)健模型的重要性

對(duì)數(shù)據(jù)質(zhì)量同樣至關(guān)重要的是用于使用數(shù)據(jù)進(jìn)行預(yù)測(cè)見(jiàn)解的模型。人工智能驅(qū)動(dòng)決策的可靠性在很大程度上取決于這些模型的穩(wěn)健性、準(zhǔn)確性和透明度，以及使用正確的數(shù)據(jù)和數(shù)據(jù)集來(lái)構(gòu)建它們。

讓我們想象一下人工智能在醫(yī)療保健行業(yè)中被用來(lái)幫助醫(yī)生診斷疾病。該人工智能模型采用復(fù)雜的神經(jīng)網(wǎng)絡(luò)來(lái)分析患者癥狀并提供診斷建議。雖然神經(jīng)網(wǎng)絡(luò)在識(shí)別疾病方面可能表現(xiàn)出很高的準(zhǔn)確性，但它在解釋如何得出結(jié)論方面缺乏透明度。

如果你是一名醫(yī)生，使用這一預(yù)測(cè)來(lái)幫助診斷患者，你將能夠得到快速診斷，但不了解導(dǎo)致這一結(jié)論的因素。在沒(méi)有透明度的情況下，盲目信任人工智能變得風(fēng)險(xiǎn)巨大，因?yàn)樗赡軙?huì)忽視關(guān)鍵癥狀或無(wú)法考慮重要的醫(yī)療考慮。這些挑戰(zhàn)在高度監(jiān)管的行業(yè)中很常見(jiàn)，在這些行業(yè)中，信任和透明度是必不可少的。

另一方面，如果醫(yī)療AI工具使用了決策樹(shù)算法模型。決策樹(shù)以其可解釋性而聞名，因?yàn)樗鼈兲峁┝藳Q策過(guò)程的逐步分解。在這種情況下，當(dāng)人工智能系統(tǒng)推薦診斷時(shí)，你可以很容易地追蹤決策的路徑，了解哪些癥狀和因素導(dǎo)致了這個(gè)結(jié)論。這種透明度使醫(yī)生能夠?qū)θ斯ぶ悄艿慕ㄗh做出更明智的判斷。

再舉一個(gè)例子，想象一下你面前有兩個(gè)復(fù)雜的謎題;一個(gè)有明確的指示和透明的步驟，而另一個(gè)缺乏任何指導(dǎo)或解釋。在第一個(gè)謎題中，你可以很容易地理解邏輯進(jìn)展，使你能夠有效地解決它。然而，第二個(gè)難題會(huì)讓你感到困惑和不確定，很難相信自己的決定，也很難確定自己是否找到了正確的解決方案。猜測(cè)、假設(shè)和試錯(cuò)成為決策過(guò)程的一部分。穩(wěn)健透明的模型使用戶(hù)能夠更好地理解人工智能的決策過(guò)程，從而對(duì)其建議灌輸更大的信心。

語(yǔ)義層的作用

語(yǔ)義層在創(chuàng)建一個(gè)通用數(shù)據(jù)層以提高人工智能決策的可信度方面發(fā)揮著至關(guān)重要的作用。它解決了數(shù)據(jù)定義不一致和缺乏上下文的挑戰(zhàn)，正如我們?cè)谏厦娴睦又锌吹降哪菢?，這可能會(huì)極大地破壞人工智能的利用價(jià)值和可信度。通過(guò)建立一個(gè)單一的真相來(lái)源，語(yǔ)義層可以確保所有人工智能應(yīng)用程序都在一個(gè)公共數(shù)據(jù)源中工作，該數(shù)據(jù)源可以查看數(shù)據(jù)經(jīng)過(guò)的每一步的轉(zhuǎn)換。

當(dāng)一個(gè)組織中的不同團(tuán)隊(duì)或個(gè)人使用不同的測(cè)量單位或?qū)?shù)據(jù)有不同的解釋時(shí)，可能會(huì)阻礙合作并導(dǎo)致相互矛盾的結(jié)論。語(yǔ)義層通過(guò)提供共享的理解來(lái)幫助克服這個(gè)問(wèn)題。它捕捉數(shù)據(jù)中的關(guān)系、概念和上下文，從而實(shí)現(xiàn)一致的解釋和分析。通過(guò)對(duì)整個(gè)組織的數(shù)據(jù)有一個(gè)共同的理解，可以得出更值得信賴(lài)的結(jié)論，因?yàn)樗鼈兓谙嗤目煽啃畔?lái)源。

語(yǔ)義層有助于確保數(shù)據(jù)得到準(zhǔn)確理解、解釋和一致使用，培養(yǎng)人們對(duì)人工智能系統(tǒng)見(jiàn)解的信任。

在人工智能中建立信任

真正的問(wèn)題是：我們?nèi)绾未_保人工智能系統(tǒng)做出值得信賴(lài)的決策?

為了提高對(duì)人工智能的信任，組織必須優(yōu)先開(kāi)發(fā)和利用具有穩(wěn)健性、準(zhǔn)確性和透明度的模型。這需要使用可解釋人工智能等技術(shù)，使模型的內(nèi)部工作變得可理解和可解釋。此外，組織可以采用模型評(píng)估方法，利用敏感性分析或性能指標(biāo)等技術(shù)來(lái)評(píng)估模型的可靠性和有效性。通過(guò)創(chuàng)建語(yǔ)義數(shù)據(jù)層，人工智能決策可以變得更加可靠、透明和知情，因?yàn)橛辛斯餐膩?lái)源。如果沒(méi)有這些舉措，人工智能將永遠(yuǎn)不會(huì)被視為可靠和值得信賴(lài)的決策伙伴。

除了仔細(xì)審查外，提出正確的問(wèn)題對(duì)于建立與人工智能的信任至關(guān)重要。通過(guò)向任何人工智能提出相關(guān)詢(xún)問(wèn)，我們可以確定其在代表我們做出關(guān)鍵決策時(shí)的可靠性。

以下是一些需要考慮的重要問(wèn)題：

• 哪些數(shù)據(jù)被用來(lái)訓(xùn)練和指導(dǎo)人工智能?它是否完整、準(zhǔn)確、公正?
• 如何構(gòu)建用于數(shù)據(jù)分析的模型?它們是否準(zhǔn)確、穩(wěn)健和透明?
• 作為反饋回路的一部分，人工智能的決策與人類(lèi)專(zhuān)家的決策相比如何?

只有確保數(shù)據(jù)完整、準(zhǔn)確、公正，并利用準(zhǔn)確、穩(wěn)健和透明的模型，我們才能真正開(kāi)始相信人工智能會(huì)做出正確的決策。值得信賴(lài)的人工智能可以成為進(jìn)步的催化劑，但前提是我們必須采取必要的行動(dòng)來(lái)幫助它發(fā)展。生成式人工智能只會(huì)放大這一挑戰(zhàn)，這就是為什么堅(jiān)實(shí)的數(shù)據(jù)基礎(chǔ)現(xiàn)在比以往任何時(shí)候都至關(guān)重要。