作者 | 王瑞平

5月30日，一封由非營利組織人工智能安全中心（Center for AI Safety）發(fā)布的簡短聲明轟動了AI界，導致人工智能的地位可能會被動搖。

我們在該組織的官網(wǎng)上找到了這份聲明。聲明中僅有22個單詞，卻飽含了專家對AI的“控訴”：需要減輕人工智能可能導致的人類滅絕風險，并將其放在與流行病、核戰(zhàn)等社會問題的同一高度，并作為全球優(yōu)先事項推進。

倡議已獲得多位AI行業(yè)大佬支持，截至目前，已有超過350位AI領域高管和專家簽署了這份聲明。其中的主要簽署者包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）、“AI教父”杰弗里·辛頓（Geoffrey Hinton）、2018年圖靈獎得主約書亞·本希奧（Youshua Bengio）、Anthropic的首席執(zhí)行官達里奧·阿莫代（Dario Amodei）。

ChatGPT引發(fā)了AI熱，也造成人們對該項技術潛在風險的擔憂持續(xù)增加。其實，今年早些時候，包括特斯拉CEO馬斯克在內(nèi)的1000多名行業(yè)高管和專家就簽署了公開信，呼吁6個月內(nèi)暫停高級AI的開發(fā)。此事件在當時對AI造成了一定的沖擊。

1、AI可能造成人類滅絕

AIGC、AGI以勢如破竹的速度席卷幾乎每一個領域，但是，狂熱過后，人們也開始理性的思考AI是否會干擾人類活動。上述高管和專家們的聲明也并非空穴來風，他們主要的目的是警告：AI可能為人類帶來滅絕風險。

人工智能安全中心執(zhí)行主任丹·亨德里克斯（Dan Hendrycks）在接受《紐約時報》采訪時表示：“聲明很簡潔，沒有提出減輕人工智能威脅的潛在方法，旨在避免分歧。”

簽署聲明的專家則認為，如果人工智能發(fā)展失控、缺乏相應的對策與管理措施，很可能導致人類滅絕。這需要相關企業(yè)與人類保持警惕，需要采取必要措施以確保其安全發(fā)展。

由人類滅絕問題，我們也可以引申到如何平衡個人利益與社會利益問題，特別是AI企業(yè)與研究機構(gòu)，需要避免過于片面的追求利益，忽視可能造成的影響。

2、AI失控、過度替代人工

如果AI失控，超出了人類的理解與管理范圍，將可能造成災難性后果，這是最嚴重的情況。此外，由AI失控引發(fā)的技術被惡意利用或者出于非理性目的使用，也可能造成毀滅性的結(jié)果。

再有就是AI過度替代人工。如果人工智能過快并廣泛地替代人類勞動，那么可能導致大規(guī)模失業(yè)與社會動亂，這同樣具有毀滅性風險。

在戰(zhàn)爭方面，當人工智能作為武器使用也可能導致滅絕級后果，這需要嚴格限制與管理。而當人工智能技術被判斷失誤、產(chǎn)生偏差的時候，也可能導致災難性結(jié)果。這也需要在開發(fā)過程中增加必要的控制與監(jiān)督。

3、AI詐騙層出不窮

針對AI造成的另一種負面影響，當屬最近發(fā)生的AI詐騙事件。近日，包頭警方發(fā)布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

4月20日中午，郭先生的好友突然通過微信視頻聯(lián)系他，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。

基于對好友的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上。郭先生撥打好友電話才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。

繼此前“10分鐘被AI換臉騙走430萬元”事件引發(fā)關注之后，5月22日，又一起AI換臉詐騙發(fā)生，此次金額高達132萬，且整個詐騙過程時間只有9秒鐘。

5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。

“因為打了視頻電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了?！焙蜗壬貞洷或_經(jīng)歷時說。

4、面對AI詐騙，我們能做些什么？

面對AI詐騙，我們能做些什么來應對呢？可以參考如下措施：減少自己照片與音視頻的曝光度，防止被騙子收集用于AI換臉或擬聲。此外，在與對方溝通時，可以詢問共同知曉的信息，真信息中摻假信息，讓對方多與你溝通，看是否有破綻。

視頻時讓對方多做一些面部表情或肢體語言，看是否有失真現(xiàn)象。觀察視頻通話中對方的眼睛，多數(shù)假臉都是使用睜眼照片合成，假臉極少甚至不會眨眼，缺少眨眼是判斷一個視頻真假的好方法。注意語音和嘴唇運動的同步狀況、情緒不符合、模糊的痕跡、畫面停頓或變色等異?，F(xiàn)象，這些可能是AI換臉的痕跡。

總之，防范人工智能風險需要全社會共同努力。政府、企業(yè)與個人都需要各自發(fā)揮作用，通過科學管理、安全防范、認知提高與人類發(fā)展來確保人工智能的安全與可控發(fā)展。

5、用戶評價：AI界又一次集體刷存在感

對于此事，有的網(wǎng)友認為，人類最終有可能被自己創(chuàng)造的機器人滅絕，也有的網(wǎng)友認為這絕不可能，既然人類早有預料，那一定有預防措施。

客觀、清醒的網(wǎng)友則認為，這是AI界又一次集體刷存在感、博人眼球，大家也別太當真，至少國內(nèi)的研究如果真停下來，那才是掉進坑里了。

有網(wǎng)友指出，研究可控制、可解釋、可信賴、安全的人工智能當然是值得關注的事情，但將AI滅絕人類嚴重程度和流行病、核武器提升到一個層面真是一個可笑的比喻。

但是，也有網(wǎng)友認為，這個聲明的發(fā)布總體來說是好事，讓更多的人意識到AI的潛在風險，需要盡快制定監(jiān)管政策。

6、寫在最后：專家怎么認為？

前天，谷歌首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會晤討論AI政策，他的觀點比較中立：“需要對技術進行適當監(jiān)管且不會扼殺創(chuàng)新?！?/p>

微軟（Microsoft）聯(lián)合創(chuàng)始人比爾·蓋茨（Bill Gates）則警告稱，人工智能助手可能很快就會徹底改變用戶的在線行為，從而淘汰谷歌等搜索引擎和亞馬遜。

據(jù)美國全國廣播公司財經(jīng)頻道（CNBC）報道，蓋茨本周在舊金山舉行的高盛人工智能活動上表示：“獲得了AI個人助理（personal agent），你不會再去搜索網(wǎng)站，也不會瀏覽亞馬遜?！?/p>

他說，人工智能助手可以“閱讀你沒有時間閱讀的東西”，讓用戶無需使用谷歌等搜索引擎就能獲取信息。

觀網(wǎng)小伙伴，對于這項聲明你怎么看？你覺得AI會導致人類滅絕嗎？

參考資料：

https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon

https://www.zhihu.com/question/603797685

https://www.wired.com/story/runaway-ai-extinction-statement/

https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon