最近幾個月，AI已經(jīng)成為每個人最喜歡的流行語。隨著AI的穩(wěn)步發(fā)展，硅谷的初創(chuàng)公司和《財富》500強公司紛紛加入這場行業(yè)革命。但亢奮、進(jìn)步和AI Washing等危險信號也在同等程度上發(fā)展。有些企業(yè)不顧一切地想要利用炒作賺錢，所以他們夸大了自己的AI能力，而事實上，他們使用的AI很少或根本不存在。

(*AI Washing：它是某些企業(yè)為了改善自己的產(chǎn)品形象，迎合大眾口味，而進(jìn)行的一種虛假營銷手段。Gartner對外發(fā)布了一份“新興技術(shù)炒作周期圖”，顯示某些軟件公司正在利用人工智能這波熱浪，夸大AI在其產(chǎn)品中的能力，不加區(qū)分地給自己的產(chǎn)品貼上人工智能的標(biāo)簽。“機器學(xué)習(xí)”“認(rèn)知專家顧問”“軟件定義安全”“自動駕駛汽車”“區(qū)域塊”等概念正處于炒作頂峰。Gartner公司把這種現(xiàn)象叫做“AI washing”。)

與非AI初創(chuàng)公司相比，這種有問題的營銷策略可以幫助他們獲得更多的種子輪、A輪和B輪融資。根據(jù)GlobalData的數(shù)據(jù)，僅去年一年，AI初創(chuàng)公司就籌集了超過500億美元的風(fēng)險投資資金，考慮到ChatGPT的盛行，預(yù)計今年這一數(shù)字還會增長。

考慮到大量資金涌入這些初創(chuàng)公司，AI washing現(xiàn)象只會愈演愈烈。美國聯(lián)邦貿(mào)易委員會(FTC)充分意識到了這種危險，并警告供應(yīng)商在宣傳其AI能力時要透明和誠實。

FTC廣告業(yè)務(wù)部門的律師Michael Atleson在一篇博文中寫道，“一些聲稱有AI技術(shù)的產(chǎn)品可能根本就沒有廣告宣傳的那么有效。在某些情況下，這種缺乏功效的情況可能仍然存在，并將造成其他潛在危害。營銷人員應(yīng)該知道，關(guān)于產(chǎn)品功效的虛假或未經(jīng)證實的聲明是我們堅決打擊的?！?/p>

不過，在這種復(fù)雜的情況下，很難區(qū)分合法的AI解決方案和營銷噱頭。

德勤全球人工智能研究所執(zhí)行董事Beena Ammanath表示，“面對供應(yīng)商對其AI產(chǎn)品的宣傳，企業(yè)需要保持基本的懷疑態(tài)度。就像任何事情一樣，如果一件事聽起來好得令人難以置信，那它很可能就是陷阱?！?/p>

紐約大學(xué)CIO Donald Welch表示，如果CIO和他們的公司掉入這種虛假宣傳的陷阱，那么他們可能會面臨包括項目失敗或延遲、經(jīng)濟(jì)損失、法律訴訟、聲譽風(fēng)險，甚至最終被解雇等后果。

幸運的是，他們可以使用一些策略來避免錯誤。

AI驅(qū)動的企業(yè)需要技能嫻熟的員工

審查這些聲稱使用AI技術(shù)的企業(yè)可能是一個漫長而耗時的過程。然而，一些簡單的事情，比如在LinkedIn上搜索，就可以發(fā)現(xiàn)一些有價值的見解。

Ammanath解釋稱，“審查供應(yīng)商員工的AI經(jīng)驗和教育水平是個好主意。正在開發(fā)AI解決方案的公司應(yīng)該具備這樣的人才，這意味著他們在AI、機器學(xué)習(xí)、算法開發(fā)等方領(lǐng)域擁有豐富經(jīng)驗的數(shù)據(jù)科學(xué)家和數(shù)據(jù)工程師?！?/p>

除了審查員工，CIO還可以尋找與外部AI專家和研究機構(gòu)合作的證據(jù)。這一類別包括與大學(xué)的合作，參與行業(yè)會議和活動，以及對開源AI計劃的貢獻(xiàn)。如果供應(yīng)商有類似項目或應(yīng)用程序的經(jīng)驗，這也是一個好跡象，因為這表明它可以交付高質(zhì)量的結(jié)果。

美國初創(chuàng)公司MacPaw的首席技術(shù)和創(chuàng)新官Vira Tkachenko補充道，“還可以仔細(xì)檢查供應(yīng)商的歷史。如果一家公司是AI領(lǐng)域的專家，它很可能在這個領(lǐng)域或其他AI產(chǎn)品上發(fā)表過研究論文?！?/p>

尋找一個精心設(shè)計的數(shù)據(jù)策略

真正將AI集成到產(chǎn)品中的公司也需要一個深思熟慮的數(shù)據(jù)策略，因為AI算法需要它。他們需要處理高質(zhì)量的數(shù)據(jù)，數(shù)據(jù)越豐富、越相關(guān)，結(jié)果就越好。

Ammanath解釋稱，“AI系統(tǒng)是由大量數(shù)據(jù)驅(qū)動的，因此這些公司也應(yīng)該有一個構(gòu)建良好的數(shù)據(jù)策略，并能夠解釋收集了多少數(shù)據(jù)以及從哪些來源收集數(shù)據(jù)。”

另一件值得關(guān)注的事情是，這些公司是否在遵守監(jiān)管要求方面付出了足夠的努力，并保持了較高的數(shù)據(jù)隱私和安全標(biāo)準(zhǔn)。隨著《歐盟通用數(shù)據(jù)保護(hù)條例》和《加州消費者隱私法》等數(shù)據(jù)隱私法規(guī)的興起，企業(yè)必須對其數(shù)據(jù)實踐保持透明，并為個人提供對其個人數(shù)據(jù)的控制權(quán)。如果這種情況沒有發(fā)生，那就應(yīng)該是一個危險信號。

請求證據(jù)來支持這些主張

雖然流行語可能很誘人，但耐心地詢問證據(jù)會有所幫助。Ammanath建議稱，“提出正確的問題，并要求提供產(chǎn)品聲明的證據(jù)，對于厘清營銷和銷售語言，以確定產(chǎn)品是否真的由AI驅(qū)動至關(guān)重要?！?/p>

評估特定產(chǎn)品或服務(wù)的CIO可以詢問模型是如何訓(xùn)練的，使用了什么算法，以及AI系統(tǒng)將如何適應(yīng)新數(shù)據(jù)。

Tkachenko補充道，“你應(yīng)該詢問供應(yīng)商，他們使用什么庫或人工智能模型。他們可能會把一切都建立在一個簡單的OpenAI API調(diào)用上。”

管理和技術(shù)咨詢公司BearingPoint的合伙人和全球技術(shù)主管Matthias Roeser對此表示贊同，并補充道，CIO還應(yīng)該徹底理解組成部分和框架，評估應(yīng)該包括“道德、偏見、可行性、知識產(chǎn)權(quán)和可持續(xù)性”等因素。

這種調(diào)查可以幫助CIO更多地了解該產(chǎn)品的真實功能和局限性，從而幫助他們決定是否購買該產(chǎn)品。

關(guān)注初創(chuàng)公司

初創(chuàng)公司將自己定位在創(chuàng)新的前沿。然而，雖然他們中的許多確實在AI領(lǐng)域突破了可能的界限，但有些可能只是夸大了他們的能力，以獲得關(guān)注和金錢。

美國初創(chuàng)公司Claid. ai的聯(lián)合創(chuàng)始人兼首席技術(shù)官Vlad Pranskevi?ius表示，“作為一家機器學(xué)習(xí)公司的首席技術(shù)官，我經(jīng)常遇到AI washing的情況，尤其是在創(chuàng)業(yè)社區(qū)。而且，最近這種情況變得更加嚴(yán)重。這種現(xiàn)象在像目前這樣的炒作周期中尤為危險，因為AI正被視為新的淘金熱。”

不過，Pranskevi?ius也認(rèn)為，隨著圍繞AI的監(jiān)管變得更加嚴(yán)格，AI washing將在不久的將來得到控制。

建立技術(shù)專業(yè)的聲譽

公司購買可疑的AI解決方案其實并不罕見，在這種情況下，并非都是CIO的錯。相反地Welch認(rèn)為，“這可能是公司領(lǐng)導(dǎo)力低下的一個癥狀。業(yè)務(wù)部門被營銷炒作所迷惑，并越過了IT團(tuán)隊購買有問題的AI解決方案，最后IT團(tuán)隊來收拾殘局?！?/p>

為了防止這樣的情況發(fā)生，企業(yè)需要培養(yǎng)一種協(xié)作文化，在這種文化中，技術(shù)專業(yè)人士的意見受到重視，他們的觀點會被充分尊重。

與此同時，CIO和技術(shù)團(tuán)隊?wèi)?yīng)該在公司內(nèi)部建立自己的聲譽，這樣他們的意見才更容易被納入決策過程。要做到這一點，他們應(yīng)該表現(xiàn)出專業(yè)知識、專業(yè)精神和軟技能。

西格瑪軟件集團(tuán)的首席創(chuàng)新官Max Kovtun表示，“我認(rèn)為，對CIO來說，檢測AI washing不是太大的問題。更大的問題可能是業(yè)務(wù)利益相關(guān)者或企業(yè)家推動以任何形式使用AI，因為他們希望看起來創(chuàng)新和前沿?！?/p>

超越流行語

在比較產(chǎn)品和服務(wù)時，必須以開放的心態(tài)來評估它們，徹底查看它們的屬性。

Tkachenko認(rèn)為，“如果一個產(chǎn)品或服務(wù)對你來說唯一的優(yōu)勢就是AI，你應(yīng)該在訂閱之前仔細(xì)考慮一下。最好研究一下它的價值主張和特點，只有當(dāng)你了解這個項目在AI之外的好處時，才能開始合作。”

Welch對此表示贊同并補充道，“思考一下，你會因為一個系統(tǒng)是用C、c++或Java編寫的而購買它嗎?作為盡職調(diào)查的一部分，你可能還需要了解他們是否能夠維護(hù)代碼、公司的生存能力等等?！?/p>

做一個徹底的評估可以幫助企業(yè)確定他們計劃購買的產(chǎn)品或服務(wù)是否符合他們的目標(biāo)，是否有可能提供預(yù)期的結(jié)果。

Kovtun表示，“技術(shù)越復(fù)雜，非專業(yè)人士就越難以理解它，以至于無法驗證該技術(shù)的應(yīng)用是否正確、是否合理。如果你決定為你的公司利用AI技術(shù)，你最好聘請在AI領(lǐng)域有經(jīng)驗的知識淵博的專家。否則，你的努力可能不會為你帶來期望的好處?！?/p>

關(guān)注AI相關(guān)新聞

了解與AI相關(guān)的產(chǎn)品及其相關(guān)問題的最新情況，也可以幫助CIO做出明智的決策。通過這種方式，他們可以發(fā)現(xiàn)自己可能犯的潛在錯誤，同時利用新的想法和技術(shù)。

底特律市CIO Art Thompson表示，“我認(rèn)為目前公眾對AI的了解程度還不夠”。

他建議CIO們進(jìn)行充分的研究，以避免落入新技術(shù)或?qū)嶒炐约夹g(shù)的陷阱，這些技術(shù)所承諾的遠(yuǎn)遠(yuǎn)超過了它的實際能力。他表示，如果發(fā)生這種情況，重新投標(biāo)和挑選更換產(chǎn)品的時間，真的會讓員工無法跟上任何變化。更不用說人們投入時間學(xué)習(xí)新技術(shù)的困難了。

此外，了解最新的AI相關(guān)事項可以幫助CIO預(yù)測監(jiān)管變化和新興行業(yè)標(biāo)準(zhǔn)，這可以幫助他們實現(xiàn)合規(guī)性并保持競爭優(yōu)勢。

不僅僅是CIO需要與時俱進(jìn)。BearingPoint的Roeser建議稱，“教育你的團(tuán)隊或聘請專家，將相關(guān)能力添加到你的投資組合中?！?/p>

圍繞AI的額外監(jiān)管行動

即將出臺的新法規(guī)可能會簡化CIO們判斷產(chǎn)品或服務(wù)是否采用了真正的AI技術(shù)的任務(wù)。白宮最近發(fā)布了一項AI權(quán)利法案，其中包括負(fù)責(zé)任地設(shè)計AI系統(tǒng)的指導(dǎo)方針。未來幾年可能還會出臺更多法規(guī)。

Ammanath表示，“這些行動背后的前提是保護(hù)消費者權(quán)利和人類免受技術(shù)的潛在傷害。為了降低風(fēng)險，我們需要預(yù)測技術(shù)的潛在負(fù)面影響?！?/p>

道德不應(yīng)該是事后考慮事項

企業(yè)傾向于強調(diào)新技術(shù)的潛在好處，同時往往淡化潛在的負(fù)面后果。

瑞士圣加侖大學(xué)博士后研究員Philip Di Salvo表示，“當(dāng)一項技術(shù)成為流行語時，我們往往會忽視它對社會可能產(chǎn)生的潛在有害影響。研究表明，企業(yè)正在推動圍繞AI的討論，而技術(shù)決定論的論點仍然占主導(dǎo)地位?！?/p>

這種認(rèn)為“技術(shù)是社會和文化變革背后的主要驅(qū)動力”的觀點，可能會掩蓋圍繞道德和政治影響的討論，而更傾向于以營銷為導(dǎo)向的論點。正如Di Salvo所說，這造成了“一種爭論的迷霧，使這些技術(shù)及其生產(chǎn)者更加模糊和不可問責(zé)?！?/p>

為了解決這個問題，有一個關(guān)鍵的挑戰(zhàn)是向公眾傳達(dá)人工智能實際上不是什么，它不能做什么。

Di Salvo解釋稱，“我們今天看到的大多數(shù)AI應(yīng)用——包括ChatGPT——基本上都是圍繞大規(guī)模應(yīng)用統(tǒng)計和數(shù)據(jù)分析構(gòu)建的。這可能聽起來像是一個無聊的定義，但它有助于避免對‘人工智能’定義中‘智能’所指的任何誤解。我們需要關(guān)注現(xiàn)實問題，如偏見、社會分類和其他問題，而不是假設(shè)的、推測的長期情景?！?/p>