“數(shù)據(jù)引導(dǎo)你的行為”:大數(shù)據(jù)背后的權(quán)力與不公
大數(shù)據(jù)時代個人的信息安全,正成為國內(nèi)外輿論關(guān)注的焦點。
國內(nèi)有網(wǎng)友發(fā)現(xiàn),同樣的商品或服務(wù),老客戶看到的價格反而比新客戶要貴出許多,在機票、酒店、電影、電商、出行等多個價格有波動的平臺都存在類似情況。這在互聯(lián)網(wǎng)行業(yè)被稱作“大數(shù)據(jù)殺熟”。另外,李彥宏在中國高層發(fā)展論壇上就個人信息利用問題發(fā)表的觀點——“我想中國人可以更加開放,對隱私問題沒有那么敏感。如果他們愿意用隱私交換便捷性,很多情況下他們是愿意的,那我們就可以用數(shù)據(jù)做一些事情。”此言一出,李彥宏成為眾矢之的。
國外,F(xiàn)acebook也遭遇了數(shù)據(jù)泄露丑聞。根據(jù)一名劍橋分析公司員工的爆料,該公司在用戶不知情的情況下,秘密分析了大約5000萬臉書用戶的個人資料,以此制定個人化的政治宣傳,預(yù)測并影響選民投票,幫助美國總統(tǒng)特朗普贏得2016年的大選。
Facebook很快遭到了市場的懲罰,股價蹭蹭往下掉,市值蒸發(fā)500多億美元。這一丑聞愈演愈烈,國外發(fā)起了#delete Facebook(刪除Facebook)運動,埃隆·馬斯克站出來當起了表率,注銷了自己兩家公司SpaceX和Tesla在Facebook的官方主頁,越來越多的網(wǎng)友參與其中。并且,因為影響選舉,數(shù)據(jù)泄露還上升為政治事件,引起了英美等國政要的“強烈不安”。
很長一段時間以來,我們享受到了大數(shù)據(jù)時代帶來的種種便利,而忽視個人信息被攫取和利用的巨大風(fēng)險。我們本以為逃匿在網(wǎng)絡(luò)空間是為了“隱身”,可在互聯(lián)網(wǎng)企業(yè)眼里,我們其實是在“裸奔”。人們關(guān)于個人信息安全的保護意識,開始蘇醒。
數(shù)據(jù)引導(dǎo)你的作為
此次涉及非法收集用戶信息的數(shù)據(jù)公司“劍橋分析”由共和黨大金主、對沖基金億萬富豪羅伯特·默瑟投資,美國總統(tǒng)特朗普前***戰(zhàn)略顧問班農(nóng)擔(dān)任董事,與特朗普有著千絲萬縷關(guān)系。
在紐約的一次公開演講中,劍橋分析的CEO 亞歷山大·尼克斯曾分享過這個公司的運作“秘密”:他們會對成千上萬名調(diào)查者進行心理分析,并將他們分為32種不同的人格,然后融入選民的Facebook足跡、消費足跡和投票記錄等,最終分析并影響他們的投票行為。也就是說,根據(jù)數(shù)據(jù)對每一個用戶畫像的捕捉,它就可以比用戶的朋友更了解他。
在劍橋分析網(wǎng)站的首頁,一行大字醒目而跳脫,Data drives all that we do(數(shù)據(jù)引導(dǎo)你的作為);而劍橋分析政治服務(wù)部門的廣告語是:“我們定位你的選民,打動他們讓他們采取行動。”在官網(wǎng)上,劍橋分析列出了自己的光榮業(yè)績:“為五大洲超過100場競選提供支持;僅在美國,我們就為贏得總統(tǒng)選舉、國會選舉和各州選舉發(fā)揮了關(guān)鍵作用。”
數(shù)據(jù)在引導(dǎo)你的作為——表面上看這有些危言聳聽,但當你足夠多的數(shù)據(jù)被收集合并歸納之后,數(shù)據(jù)的確可以做到。
數(shù)據(jù)是社交媒體的生命線。為了提供準確的定制化、個人化信息服務(wù),讓資訊的推送與用戶的偏好吻合,都需要對用戶進行畫像。而畫像的基礎(chǔ)數(shù)據(jù),就是個人的身份信息、瀏覽習(xí)慣等。一旦你在互聯(lián)網(wǎng)上有任何行為,比如進入某個APP,購買某樣?xùn)|西,閱讀某篇文章,其實都在被記錄、被分析。你的一切信息都會成為別人的數(shù)據(jù)庫,被用來給你畫像。
過去,這一切被統(tǒng)稱為大數(shù)據(jù),一直以來,輿論對大數(shù)據(jù)時代多持一種樂觀態(tài)度。的確,數(shù)據(jù)潛藏著豐富的價值,比如大數(shù)據(jù)分析是更好的決策工具,很大程度便利了我們的生活……但對于數(shù)據(jù)對個體行為的引導(dǎo),則缺乏足夠的重視和警覺。
國際網(wǎng)絡(luò)安全專家施奈爾(Bruce Schneier)在《隱形帝國》一書里寫道:“臉書(facebook)只是根據(jù)按贊的動作,就可以推測一個人的種族、個性、性向、政治意識形態(tài)、感情狀態(tài)和藥物使用情形……”
谷歌公司研究員François Chollet在泄露事件后發(fā)表了一系列推文,警告說Facebook的問題不僅僅是隱私泄露或缺乏信任,而是由AI驅(qū)動的Facebook很快就會成為“極權(quán)主義的圓形監(jiān)獄”。他在抨擊Facebook的文章中寫道:“不透明的社交媒體算法正在越來越多地決定我們閱讀哪些文章,我們與誰保持聯(lián)系,我們閱讀誰的觀點,獲得誰的反饋。經(jīng)過多年的訓(xùn)練,算法對我們所消費信息的處理使得這些系統(tǒng)在我們的生活中掌握了相當大的權(quán)力,決定了我們成為什么樣的人。”
凱文·凱利認為,技術(shù)狂熱是我們的一種自然狀態(tài),我們喜愛我們的東西,并且由它們引導(dǎo)?;ヂ?lián)網(wǎng)公司先是大量收集你的數(shù)據(jù),巨細無遺地捕捉、收集進云端數(shù)據(jù)庫,對你進行數(shù)據(jù)畫像,再根據(jù)你的畫像不斷向你投遞個性化的信息流和廣告,你習(xí)慣了這種信息接收方式,成為被種種信息喂養(yǎng)的你——技術(shù)瓦解了“自我的真實”。久而久之,互聯(lián)網(wǎng)公司推送的信息就能夠影響你的決策,“數(shù)據(jù)引導(dǎo)你的作為”成為一種現(xiàn)實。
無處不在的信息泄露
劍橋分析是如何攫取個人信息的?
2013年,當時在劍橋大學(xué)工作的研究者科根做了個性格測試軟件,除了受訪者本人之外,該應(yīng)用還能收集受訪者Facebook好友的數(shù)據(jù)資料。一共有約32萬名美國選民參與了此次測試,但加上每人的Facebook好友,科根一共收集到了超過5000萬Facebook用戶的數(shù)據(jù)。后來,這些收集時號稱被用作學(xué)術(shù)研究的信息,被轉(zhuǎn)手給了劍橋分析。
Facebook的核心問題在于,它輕易地將用戶數(shù)據(jù)分享給第三方??聘饲氨辉试S收集Facebook用戶信息,但僅限于學(xué)術(shù)目的,但它順走了其他4000多萬用戶的信息,未得到用戶許可,且在未經(jīng)允許下將個人數(shù)據(jù)賣給另外的第三方,這才是最令人憤怒之處。
但環(huán)球同此涼熱,未經(jīng)允許被竊取信息并被利用的現(xiàn)象,在國內(nèi)也非常普遍。支付寶在“年度賬單”的首頁讓不少用戶默認勾選了“我同意《芝麻服務(wù)協(xié)議》”以套取用戶數(shù)據(jù),他們的信息將“被同意”分享給第三方。騰訊方面,不少人質(zhì)疑微信偷看用戶聊天記錄。今日頭條被質(zhì)疑利用手機麥克風(fēng)獲取用戶數(shù)據(jù)隱私。“手機百度”、“百度瀏覽器”兩款手機APP涉嫌在消費者安裝前,在未告知用戶、未取得用戶同意的情況下,獲取“監(jiān)聽電話、定位、讀取短彩信、讀取聯(lián)系人、修改系統(tǒng)設(shè)置”等各種權(quán)限……
不少評論者建議,互聯(lián)網(wǎng)企業(yè)應(yīng)當自覺與用戶建立隱私保護的契約,以文字證據(jù)提供權(quán)益保障。然而認真閱讀超長的隱私政策的人寥寥可數(shù),即便認真讀了,用戶也未必能發(fā)現(xiàn)其中暗藏的玄機;即便發(fā)現(xiàn)了其中的玄機,用戶也沒有什么說“不”的底氣和權(quán)力。目前很多情況下,各種APP對個人信息的獲取和使用有不對等的霸權(quán),個人如果不通過授權(quán),很多最重要的功能就無法使用。
就比如很多人已經(jīng)習(xí)慣了使用支付寶和微信,習(xí)慣了“無現(xiàn)金”的生活狀態(tài);很多人也習(xí)慣了將微博和微信作為獲取信息和人際交流的工具;很多人習(xí)慣了在淘寶、京東網(wǎng)購……但這些APP得以使用的前提,無一例外是你在注冊之后必須同意它們設(shè)定的種種條款,即便這些其中有不少不平等、不合理,可能造成個人信息被泄露和濫用的條目,一旦你點擊“不同意”,就意味著你無法使用這些工具?;谏缃恍枰蜕畋憷枰?,你很難對這些APP說“不”,不得不“讓渡”出個人信息——即便你明明知道它正處在風(fēng)險之中。
總之,那些讓人們感到便捷舒適的服務(wù),多半都以公眾出讓隱私為前提的。
避免“數(shù)據(jù)極權(quán)”
中國互聯(lián)網(wǎng)企業(yè)的發(fā)展走在世界前列,其中一個很大的原因就是,我們對個人信息的保護持比較開放態(tài)度或者說保護力度較弱,互聯(lián)網(wǎng)企業(yè)獲取個人信息的成本很低。這可能是彎道超車必須承擔(dān)的風(fēng)險成本。但有風(fēng)險,更凸顯對風(fēng)險管控的重要性,而非放任風(fēng)險的存在,并最終像Facebook這樣,被指“操控大眾心理”,直接威脅美國的民主根基。
應(yīng)該看到,數(shù)據(jù)并非是數(shù)據(jù)那么簡單,數(shù)據(jù)還是一種權(quán)力。英國哲學(xué)家杰里米·邊沁提出的全景監(jiān)獄設(shè)想,在??逻@里衍生出了一種全新的權(quán)力運作方式。??略f:“***的規(guī)訓(xùn)機構(gòu)應(yīng)能使一切都一目了然。中心點應(yīng)該既是照亮一切的光源,又是一切需要被了解的事情的匯聚點,應(yīng)該是一只洞察一切的眼睛,又是一個所有的目光都轉(zhuǎn)向這里的中心……這里發(fā)號施令,記錄各種活動,察覺和裁決一切過錯。而做到這一切僅僅需要一種精密的幾何學(xué)的直接幫助。”而今,我們在網(wǎng)絡(luò)上的行為受到了互聯(lián)網(wǎng)公司全天候的監(jiān)視,“全景敞視”成為一種現(xiàn)實。任何人在互聯(lián)網(wǎng)上的蹤跡和信息,都被數(shù)據(jù)公司所觀看,并且這種觀看無時不刻在進行。一方面你的確具備了使用互聯(lián)網(wǎng)的權(quán)利,但另一方面你也賦予互聯(lián)網(wǎng)公司掌控你的信息的權(quán)力,你的隱私權(quán)、自主權(quán)等輕易被剝奪。
羅素在《權(quán)力論》中指出:“我相信,機械權(quán)力必然產(chǎn)生一種新思想,這使得控制政府比以往任何時代都更為重要。由于技術(shù)的發(fā)展,民主或許會變得更為困難,但它也會變得更為重要。那擁有巨大的機械指揮權(quán)的人,如果得不到控制,也許會覺得自己是神——不是基督徒的愛神,而是異教的雷神會火神。”也即,數(shù)據(jù)權(quán)力不僅造成個人信息被濫用成為常態(tài),并且,數(shù)據(jù)權(quán)力還可能變成一種“數(shù)據(jù)極權(quán)”,通過監(jiān)視數(shù)據(jù),進而監(jiān)視思想、控制思想,輕而易舉地“形塑人們對政治角色的體認、挑戰(zhàn)既有的政治認同、解構(gòu)大眾的政治心理”。
因此,解決問題的關(guān)鍵在于,應(yīng)該將互聯(lián)網(wǎng)公司的數(shù)據(jù)權(quán)力關(guān)在籠子里,避免數(shù)據(jù)被濫用。一方面要打破全景敞視,賦予用戶知情權(quán)。不僅應(yīng)讓用戶知曉,哪些數(shù)據(jù)被監(jiān)測,哪些數(shù)據(jù)被利用,被利用在什么地方;還應(yīng)讓用戶知曉具體的分析算法是什么,以及該算法如何具體使用其數(shù)據(jù)。并且,應(yīng)賦予用戶信息使用事先的同意權(quán),以及事后的撤回權(quán)、刪除權(quán)。
除此之外,還應(yīng)迅速構(gòu)建起對搜集個人信息的行為的限制與監(jiān)管體系。應(yīng)該從法律的高度上保護數(shù)據(jù)隱私,打破互聯(lián)網(wǎng)公司與用戶之間不對等的權(quán)力關(guān)系,對涉及數(shù)據(jù)的采集及其目的使用進行必要的限制,同樣需要對數(shù)據(jù)的使用過程有清晰、明確的邊界和能夠被嚴格理解的基本要求。
我們已經(jīng)進入了一個大數(shù)據(jù)時代,它具有不可逆轉(zhuǎn)的趨勢,并讓我們的社會生活實現(xiàn)了里程碑式的跨越;但也應(yīng)該看到,人們在享受大數(shù)據(jù)提供的種種便利的同時,某些失控的行為正在發(fā)生。我們對此應(yīng)有足夠的重視和警惕——畢竟一旦科技用以作惡,后果比什么都可怕。