[[338194]]

科技向來是一把雙刃劍，它在推進(jìn)人類文明進(jìn)步的同時(shí)，有時(shí)也會(huì)給人類帶來災(zāi)難。人工智能亦是如此，人工智能技術(shù)被好人掌控時(shí)能澤被蒼生，如果被壞人控制則有可能禍患無窮。先來看兩個(gè)例子：

1、 人工智能用于作惡的案例：Deepfake合成音頻應(yīng)用于詐騙

最近，據(jù)美國(guó)的科技媒體報(bào)道說，網(wǎng)絡(luò)詐騙犯正在利用Deepfake技術(shù)仿制公司高管的語音合成語音郵件發(fā)到公司員工，針對(duì)大型公司進(jìn)行經(jīng)濟(jì)詐騙，敲詐者將一份模仿公司CEO語音的Deepfake音頻以郵件方式前不久就發(fā)送給了一家公司的員工，要求員工立即提供幫助，以完成緊急商業(yè)交易。但值得慶幸的是這次詐騙并沒有成功。員工在收到語音郵件之后認(rèn)為其可疑，并且將其登記到了公司的法律部門，但在此之前已經(jīng)有很多利用Deepfake進(jìn)行詐騙的案例了。

比如：2019年的9月，犯罪分子使用語音克隆軟件對(duì)英國(guó)一家能源公司的高管的聲音進(jìn)行模仿。這家公司的執(zhí)行董事在接聽詐騙電話之后，毫不猶豫的就把24萬美元匯入了一個(gè)海外賬戶。而前不久網(wǎng)絡(luò)安全公司賽門鐵克報(bào)告了三起Deepfake音頻詐騙案例，犯罪分子通過電話會(huì)議、社交媒體TED的演講，獲得了公司高管的音頻，然后用機(jī)器學(xué)習(xí)技術(shù)復(fù)制了高管的聲音，致電財(cái)務(wù)部門要求緊急匯款。

不過Deepfake音頻創(chuàng)作者為了創(chuàng)建更逼真的音頻通常需要克服如下幾個(gè)因素，比如捕獲幾乎沒有背景噪音的高質(zhì)量音頻，比如大領(lǐng)導(dǎo)的演講，在不需要回電的情況下，對(duì)音頻進(jìn)行傳送，因?yàn)閷?duì)話起來容易露餡，平時(shí)都是以留言的形式避免與音頻接收者實(shí)時(shí)交流，也許不過腦子的人聽到領(lǐng)導(dǎo)的聲音一緊張，就會(huì)像上面那幾個(gè)案例一樣，乖乖打錢了。而更可怕的是未來如果Deepfake音頻加視頻合成更加成熟，騙子的成功率就可能大大提高，我們可要提高警惕了。如何才能提高警惕呢?說到底可能還是要借助科技的力量。

2、人工智能向善的案例：Fawkes給照片“隱身衣”，讓人臉識(shí)別系統(tǒng)失靈

眾所周知，社交媒體平臺(tái)有可能泄露我們的個(gè)人隱私，有時(shí)候一張自拍照所包含的信息就有可能把自己給“出賣”了，因?yàn)槊娌孔R(shí)別技術(shù)可以抓取到很多信息。也就是說只要能獲取照片數(shù)據(jù)，面部識(shí)別技術(shù)就可以輕松的獲取個(gè)人的敏感信息。此前，美國(guó)的面部識(shí)別公司就創(chuàng)建了一個(gè)大概有30億張圖像的超大容量人臉數(shù)據(jù)庫(kù)，而這些數(shù)據(jù)都是從Facebook 、YouTube甚至國(guó)內(nèi)的微博上抓取過來的，而這些無處不在的面部識(shí)別技術(shù)對(duì)我們的隱私構(gòu)成了不小的威脅。

在芝加哥大學(xué)有個(gè)團(tuán)隊(duì)就提出了一種新的解決思路，可以為我們的照片添加一層隱身衣，這就是他們推出的軟件——Fawkes。這款軟件已經(jīng)讓曠視、微軟、亞馬遜等公司的面部識(shí)別算法失靈了，而這款軟件的研發(fā)者是一位來自北京的年僅23歲的小伙子。一張普通電子照片在用Fawkes給原圖稍加處理之后，就可以屏蔽任何人臉識(shí)別算法。但是我們?nèi)搜蹘缀鯚o法察覺到任何的細(xì)節(jié)，也就是說Fawkes軟件對(duì)人臉圖像進(jìn)行了像素級(jí)的細(xì)微修改，讓肉眼無法察覺，但是AI圖像識(shí)別的算法就能看得清清楚楚，但是其識(shí)別結(jié)果會(huì)高度失真，把圖片看成完全不一樣的人。以后經(jīng)過Fawkes快速處理的圖片，可以在不改變?cè)驳幕A(chǔ)上，隨意的分享在各大社交媒體平臺(tái)，也不擔(dān)心被其他的算法公司抓取用作非法途徑。這是個(gè)人工智能技術(shù)用于保護(hù)個(gè)人隱私方面的成功嘗試。

該研究團(tuán)隊(duì)表示，他們希望Fawkes能夠被廣泛的部署和使用，以降低個(gè)人隱私泄露的風(fēng)險(xiǎn)。目前，用戶可在該項(xiàng)目官網(wǎng)免費(fèi)使用Fawkes。技術(shù)論文已經(jīng)在網(wǎng)上開放(論文地址：https://www.shawnshan.com/files/publication/fawkes.pdf)。同時(shí)，研究團(tuán)隊(duì)已開發(fā)Windows和Mac版本的軟件，并希望社交媒體公司在其平臺(tái)直接部署該軟件。不過略有可惜的是，我們之前已經(jīng)泄露在網(wǎng)上的照片，怕是沒機(jī)會(huì)再修改了。

3、 關(guān)于人工智能應(yīng)用的幾點(diǎn)感想

①人類一方面在利用人工智能技術(shù)為自身的工作與生活帶來便利和效率，另一方面又在不停的與人工智能技術(shù)帶來的負(fù)面影響進(jìn)行抗?fàn)?

②人工智能技術(shù)的進(jìn)步已經(jīng)在挑戰(zhàn)人類感官的靈敏度了，眼見不一定為實(shí)，聲音不一定可靠，甚至你看到的人臉照片都可能是被AI換臉技術(shù)處理過的。長(zhǎng)此以往，人們對(duì)人工智能產(chǎn)生的將會(huì)有怨恨和恐懼;

③在享受人工智能技術(shù)發(fā)展帶來的各種福祉的同時(shí)，人工智能所產(chǎn)生的倫理問題也日益突出，正成為全社會(huì)關(guān)注的焦點(diǎn)。人性是不完美的，一旦這些人工智能技術(shù)被不法分子利用，那么對(duì)社會(huì)而言將會(huì)是一場(chǎng)災(zāi)難。如何規(guī)避人工智能帶來的倫理問題，已經(jīng)成為人工智能發(fā)展無法回避的重要問題。

人工智能本沒有善與惡之分別，關(guān)鍵在于掌控它的人如何應(yīng)用它。請(qǐng)銘記：人工智能技術(shù)是沒有罪的，但是，請(qǐng)正確對(duì)使用人工智能技術(shù)。技術(shù)無罪，善惡之道，存乎一心。