假冒，算法偏見和其他問題如何影響我們的日常生活

在過去的幾年中，人工智能以驚人的速度提升了我們的技術(shù)。 從完全自動化的勞動密集型工作到診斷肺癌，人工智能已經(jīng)實現(xiàn)了以前認(rèn)為不可能的壯舉。 但是，如果使用不當(dāng)，算法可能是破壞性武器。 為確保惡意行為者不會對我們的社會造成破壞，我們必須解決幾個關(guān)鍵挑戰(zhàn)。

[[323182]]
Source: Skitterphoto via Pexels

AI的真正危險不是像SkyNet這樣的有感覺的算法接管世界。 即使這種情況完全是科幻小說，也存在一些合理的問題。 不要懼怕技術(shù)，我們應(yīng)該仔細(xì)識別它們并負(fù)責(zé)解決它們。 在這篇文章中，我將收集五個特別重要的領(lǐng)域，這些領(lǐng)域已經(jīng)每天影響著我們的生活。

1. Deepfake

在我們的現(xiàn)代社會中，信息是無限的。 通過打開瀏覽器并瀏覽網(wǎng)絡(luò)半小時，您遇到的信息比中世紀(jì)一生中遇到的普通人要多。 信息就是力量。 您會立即收到有關(guān)地球另一端發(fā)生的事件的通知，但有一個陷阱：您如何知道該相信什么以及哪些來源可信?

在下面觀看此視頻。

當(dāng)然，這完全是假的，但是對于一個隨意的觀察者來說，可能很難檢測到。 這些稱為"深度偽造"，起源于技術(shù)術(shù)語"深度學(xué)習(xí)"，是一類算法，能夠生成像這樣的逼真的偽造圖像。 盡管這一特定行為只是該技術(shù)的精心展示，但如果新聞源中出現(xiàn)的偽造品比例達(dá)到一定閾值，它們就會變得非常危險。 在這種情況下，將不可能檢測到哪些信息是真實的，哪些不是。

毫不奇怪，打擊深層假貨的一種非常有前途的工具是AI本身。 DARPA的MediFor計劃或Google的Deepfake檢測挑戰(zhàn)賽等多項引人注目的計劃旨在開發(fā)出過濾錯誤信息的方法。

盡管在我們的生活中不存在深層的假貨，但肯定是最具破壞力的假貨之一。

2.算法偏差

如果您過去幾年曾申請過工作，那么您可能受到了算法偏見的影響，無論是正面的還是負(fù)面的。 開發(fā)基于AI的算法以篩選求職申請的候選人可能是一個好主意，但是，這存在很多問題。 機器學(xué)習(xí)需要歷史數(shù)據(jù)來了解哪些候選人值得招聘。 問題在于，過去接受和拒絕的數(shù)據(jù)受到人類固有的偏見的嚴(yán)重影響，這些偏見主要針對婦女和代表性不足的少數(shù)民族。 該算法只是從呈現(xiàn)的內(nèi)容中學(xué)習(xí)，并且如果以前的招聘做法具有區(qū)別性(通常是這種情況)，則該算法的行為將類似。

最好的健身教育網(wǎng)絡(luò)游戲的生存就是這種現(xiàn)象的絕佳發(fā)人深省的例證，值得一試。

此問題影響許多其他應(yīng)用程序領(lǐng)域，例如信用評分估算，執(zhí)法等。由于這些因素在涉及人員的生活中產(chǎn)生了巨大影響，因此除非我們可以保證公平性，否則這些決策不應(yīng)涉及算法。 為此，人們產(chǎn)生了一個新的，非?；钴S的研究領(lǐng)域。 除了確保預(yù)測不受變量(如性別，種族和受負(fù)面偏見影響的相似變量)的獨立性之外，關(guān)鍵是要生成不存在這些變量的數(shù)據(jù)。 為了解決這個問題，需要付出更大的努力。 要從數(shù)據(jù)中完全消除偏見，我們還需要消除思維中的偏見，因為最終，數(shù)據(jù)是我們行動的結(jié)果。

3.群眾監(jiān)督

那些放棄基本的自由以購買一點臨時安全的人，既不應(yīng)該自由也不應(yīng)該安全。 - 本杰明·富蘭克林

幾十年來，面部識別一直是計算機視覺中的關(guān)鍵問題。 但是，自從深度學(xué)習(xí)革命以來，我們不僅可以更準(zhǔn)確地識別人臉，而且還可以立即做到。 如果您的智能手機隨處可見，請嘗試打開相機應(yīng)用程序并進(jìn)行自拍照：它將立即在您的臉部周圍放置一個邊界框，表明已成功檢測到它。 如果您擁有最新的iPhone，甚至可以用臉作為手機密碼。

如果將本技術(shù)用于錯誤的目的，則會有其自身的危險。 在中國，它被用于前所未有的大規(guī)模監(jiān)視。 結(jié)合最近引入的社會信用系統(tǒng)，您可以對自己的行為進(jìn)行評分，并且可以通過例如亂穿馬路或僅僅參加某些活動來得分，沒有什么可以隱藏在天空中。

4.推薦引擎

每次您打開YouTube，F(xiàn)acebook或任何其他社交媒體網(wǎng)站時，他們的目標(biāo)都是盡可能讓您參與其中。 簡而言之，在這種情況下，您就是產(chǎn)品：如果偶爾觀看廣告，則可以免費使用該網(wǎng)站。 因此，目的不是要為用戶提供高質(zhì)量的內(nèi)容，而是要使他們無限地滾動和自動播放。

鑒于人腦的進(jìn)化方式，不幸的是，互動是由強烈的情感反應(yīng)驅(qū)動的。 事實證明，例如政治激進(jìn)的內(nèi)容特別適合于此。 推薦引擎不僅學(xué)會了呈現(xiàn)極端的內(nèi)容，而且還使每個用戶慢慢變得激進(jìn)，一旦用戶的喜好發(fā)生變化，它的工作就變得容易。 這被稱為激化管道。

有具體的科學(xué)依據(jù)。 例如，最近的一篇論文研究了YouTube上特定用戶的數(shù)百萬條評論，以顯示他們?nèi)绾沃饾u遷移到極端激進(jìn)的內(nèi)容。

其影響是如此嚴(yán)重，以至于可以對民主選舉產(chǎn)生重大影響。 在2016年美國大選期間，《華爾街日報》對此主題進(jìn)行了廣泛調(diào)查。 他們的發(fā)現(xiàn)可以在這里找到：藍(lán)色飼料，紅色飼料。 從本質(zhì)上講，用戶有意識地陷入了知識泡沫，從不質(zhì)疑自己對外部世界的看法。 思考困難，內(nèi)臟反應(yīng)容易。

5.隱私權(quán)和有針對性的廣告

您是否曾經(jīng)發(fā)現(xiàn)自己購買了不需要的東西，之后又后悔呢? 也許進(jìn)入一家超市，進(jìn)入收銀臺時，一捆糖果就引起了您的注意，毫不猶豫地將它們放到了籃子里。 您并不是真的需要它，但是您還是買了它。 這可能使您感到驚訝，但是整個方案都是經(jīng)過精心設(shè)計的，因此您被操縱去執(zhí)行此操作。 聽起來很奇怪，購物實際上需要您的智力資源，這些資源最終將耗盡。 用更少的資源來控制自己的欲望，您更有可能沖動地購買自己知道對自己不利的東西(例如糖果)，但無論如何都想要。 但這與AI有什么關(guān)系?

超市是通過考慮上述基本心理原理而設(shè)計的。 這些設(shè)計原則適用于平均水平。 任何設(shè)計都無法為其每個用戶提供個性化且完美簡化的體驗。 但是，當(dāng)市場轉(zhuǎn)移到網(wǎng)上時，情況發(fā)生了變化。 虛擬市場不僅可以為您提供量身定制的購物之旅，還可以收集非常具體的數(shù)據(jù)。 根據(jù)您的瀏覽習(xí)慣和社交網(wǎng)絡(luò)，可以高度準(zhǔn)確地預(yù)測您的行為。

這有幾種潛在的誤用。 首先是向您展示您可能會在在線市場上購買的商品。 統(tǒng)計算法確定向您呈現(xiàn)的商品的種類，位置和方式，以最大程度地從您那里獲取利潤。 但是，這會影響個人規(guī)模。 一個更大的問題是，何時使用個人數(shù)據(jù)通過政治廣告來定位您，從而可能影響民主選舉的結(jié)果。 這正是Cambridge Analytica所做的，其效果在全球范圍內(nèi)仍可感受到。

結(jié)論

近年來，基于人工智能的技術(shù)無疑改變了我們的生活。 盡管它正在慢慢滲透到我們周圍的所有事物中，但其大多數(shù)媒體表現(xiàn)都是有偏差的。 無論是通過粉紅色的炒作迷霧還是通過天網(wǎng)的可怕異象消滅人類。 他們都不是真實的。 但是，為了確保其應(yīng)用程序安全，我們必須清楚地看到AI可能帶來的實際問題。 這些問題并不神秘，它們已經(jīng)存在于我們的生活中。 通過適當(dāng)?shù)恼J(rèn)識，準(zhǔn)備和社區(qū)努力，可以解決這些問題。