作者 | Rebecca Parsons

從數(shù)百萬(wàn)美元的勒索軟件賠款，到數(shù)億用戶私人信息的數(shù)據(jù)泄露，圍繞惡意技術(shù)的頭條新聞一直很吸引眼球，但它們并不能說(shuō)明全部問(wèn)題。

真實(shí)情況是，惡意技術(shù)遠(yuǎn)不止蓄意的、有針對(duì)性的破壞系統(tǒng)或竊取用戶數(shù)據(jù)。盡管黑客攻擊、勒索軟件攻擊、數(shù)據(jù)泄露和 DDoS 攻擊在這類新聞敘述中占據(jù)著主導(dǎo)地位，也的確造成了嚴(yán)重?fù)p害，但實(shí)際上它們只是滄海一粟。

認(rèn)識(shí)所有形式的惡意技術(shù)行為

首先要擺正心態(tài)，不要對(duì) "惡意技術(shù) "一詞感到過(guò)于恐慌。這里談?wù)摰牟粌H是技術(shù)攻擊本身，我們需要更廣泛地思考這一問(wèn)題。

惡意技術(shù)并不單純指非法行為，我們甚至不是在談?wù)撃切┍厝皇菒阂獾氖虑椤＠?，有些人完全?lè)于接受在線監(jiān)控，因?yàn)檫@可以幫助他們獲得更精準(zhǔn)、更具個(gè)性化的推薦。與此同時(shí)也有另外一些人會(huì)不遺余力地躲避任何數(shù)字監(jiān)控的追蹤，因?yàn)檫@在他們看來(lái)是不道德的。

有些技術(shù)看似惡意，其出發(fā)點(diǎn)卻并不如此。例如，圖像識(shí)別軟件的開(kāi)發(fā)者不會(huì)刻意讓軟件在識(shí)別到黑人婦女面孔時(shí)提供不一致的結(jié)果，只是由于軟件現(xiàn)階段有一個(gè)糟糕的數(shù)據(jù)集，才會(huì)呈現(xiàn)出看似有偏見(jiàn)的結(jié)果，而這些并非開(kāi)發(fā)者的本意。這些都不是惡意的項(xiàng)目，當(dāng)然也不歸屬于惡意的品牌。在許多情況下，它們甚至不是設(shè)計(jì)或規(guī)劃上的失敗，而是團(tuán)隊(duì)沒(méi)有充分考慮到一項(xiàng)技術(shù)決定會(huì)對(duì)所有潛在的利益相關(guān)者群體產(chǎn)生怎樣不同的影響。

這是一個(gè)關(guān)鍵點(diǎn)。在設(shè)計(jì)之初，軟件通常有一個(gè)特定的利益相關(guān)者群體，設(shè)計(jì)者試圖直接服務(wù)或滿足這一群體的需求，卻常常忽視了該產(chǎn)品對(duì)其他利益相關(guān)者的影響。比如訓(xùn)練一個(gè)自然語(yǔ)言處理模型所產(chǎn)生的二氧化碳排放足跡，與紐約和北京之間往返125次航班相同——很少有人考慮到這種環(huán)境上的影響。除此之外還有很多人忽視的公平、公正問(wèn)題。例如，疫情期間很多教育轉(zhuǎn)入線上，一些家庭沒(méi)有良好的網(wǎng)絡(luò)情況，根本無(wú)法同時(shí)支撐幾個(gè)孩子共同參與線上課程，更不用說(shuō)父母也要同時(shí)在家辦公。許多人看到的是數(shù)字教育的精彩革命，但他們沒(méi)有看到那些因數(shù)字不平等而被落下的人。

為什么現(xiàn)在是擁抱道德技術(shù)的正確時(shí)機(jī)？

疫情所暴露的數(shù)字不平等和正在發(fā)生的氣候危機(jī)只是原因之二。現(xiàn)如今，技術(shù)幾乎深深扎根于我們生活的各個(gè)方面——醫(yī)療決定、信貸決定、緩刑或判刑決定，所有這些對(duì)個(gè)人生活有巨大影響的事情，都受到技術(shù)選擇的巨大影響。這其中的利害關(guān)系是非常真實(shí)的，而技術(shù)決策者在做這些決定時(shí)卻很少做到全面考慮。這就是為什么對(duì)各種組織來(lái)說(shuō)，樹(shù)立負(fù)責(zé)任的技術(shù)思維是如此重要。

負(fù)責(zé)任技術(shù)的定義

負(fù)責(zé)任技術(shù)——有時(shí)也被稱為道德技術(shù)或公平技術(shù)——是一個(gè)總括性的術(shù)語(yǔ)，包含了多種概念，總之就是用技術(shù)做正確的事情——這可能意味著任何事情，從采取措施使更容易獲得一個(gè)應(yīng)用程序，到實(shí)施政策以幫助持續(xù)提供公平的技術(shù)體驗(yàn)。

從字面上看，這是一個(gè)相對(duì)簡(jiǎn)單的概念，但仍然被誤解所籠罩。我最近讀到一些信息，說(shuō)“責(zé)任”在土木工程等領(lǐng)域很容易定義，你的責(zé)任是確保建筑物穩(wěn)定，不倒塌，不對(duì)相關(guān)居民的生活產(chǎn)生負(fù)面影響。其隱藏的含義是，在軟件或技術(shù)領(lǐng)域，這一點(diǎn)很難定義。

是的，我們并不像醫(yī)療行業(yè)那樣受到任何形式的“希波克拉底誓言”的約束。但是，當(dāng)涉及到用技術(shù)做出道德以及負(fù)責(zé)任的決定時(shí)，我們常常給自己留了過(guò)多的余地。

我們可以采取哪些措施來(lái)變得更加負(fù)責(zé)？

為了減少技術(shù)所附帶的無(wú)意傷害并做出負(fù)責(zé)任的決定，今天的企業(yè)需要著重關(guān)注的是，識(shí)別可能受到特定技術(shù)決定影響的潛在利益相關(guān)者。這意味著需要關(guān)注：

• 受測(cè)群體——他們是否真正代表了預(yù)期中將使用該產(chǎn)品的終端用戶群體?這個(gè)過(guò)程是否涵蓋了所有利益相關(guān)群體，他們是否有發(fā)聲渠道？
• 服務(wù)所需數(shù)據(jù)集的質(zhì)量和準(zhǔn)確性——是否沒(méi)有偏見(jiàn)，是否能夠提供真實(shí)、全面的反饋和包容性體驗(yàn)？
• 設(shè)計(jì)中是否考慮到了平等和易用性——以及復(fù)雜的特征或功能是否以整體可用性和可及性為代價(jià)？
• 這一決策是否會(huì)對(duì)人類社會(huì)產(chǎn)生更廣義的負(fù)面影響?例如，它是否與我們的可持續(xù)發(fā)展目標(biāo)相一致，是否有可能破壞環(huán)境？

我希望鼓勵(lì)組織做的另一件事是，明確聲明組織關(guān)心什么，以及希望所采用的技術(shù)能幫助實(shí)現(xiàn)什么。正如《數(shù)學(xué)毀滅武器》的作者Cathy O'Neil所說(shuō)，有些時(shí)候，你必須在公平和利潤(rùn)之間進(jìn)行交易。

這取決于你想在這個(gè)光譜上處于什么位置，但重要的是要明確目標(biāo)和意圖。我曾與一個(gè)組織合作，該組織制定了一個(gè)框架，表達(dá)了他們?cè)谑褂每蛻魯?shù)據(jù)方面的價(jià)值觀和原則，清楚地闡述了他們打算如何操作這些數(shù)據(jù)，以及為什么會(huì)做出這個(gè)決定。這花了幾個(gè)月的時(shí)間，但這使他們的意圖和道德立場(chǎng)十分清晰，并且容易保持一致。

減輕技術(shù)的無(wú)意識(shí)傷害

技術(shù)所產(chǎn)生的無(wú)意識(shí)傷害有多種形式，可能潛伏在任何技術(shù)決策中。作為技術(shù)管理者，我們有責(zé)任提出正確的問(wèn)題，并考慮這些技術(shù)將如何被每個(gè)人使用，以及可能對(duì)使用者的生活和經(jīng)歷產(chǎn)生怎樣的影響。

轉(zhuǎn)向這種負(fù)責(zé)任的方法和心態(tài)在理論上相對(duì)簡(jiǎn)單，但在看到有意義的結(jié)果之前，整個(gè)行業(yè)的組織和專業(yè)人士需要作出真正的奉獻(xiàn)。正如我們有責(zé)任保護(hù)客戶數(shù)據(jù)免受惡意威脅一樣，我們也有道德責(zé)任盡我們所能減少技術(shù)所產(chǎn)生的負(fù)面影響，并為所有人建立一個(gè)平等、可訪問(wèn)的數(shù)字世界。