機(jī)器學(xué)習(xí)系統(tǒng)的弱點(diǎn):需要保護(hù)它們的5個(gè)原因
我們每日辛勤工作的最終目標(biāo)就是能讓生活更輕松方便,人類歷史就是這樣發(fā)展的。機(jī)器學(xué)習(xí)就是這樣一種提升便利性的力量,它能從Spotify根據(jù)我們以前的播放列表提供的推薦,過濾垃圾郵件和網(wǎng)絡(luò)釣魚郵件。
雖然機(jī)器學(xué)習(xí)是一個(gè)先進(jìn)技術(shù)帶來的天才禮物,但總是屈服于臭名昭著的惡意軟件和攻擊。每個(gè)企業(yè)的發(fā)展都離不開客戶和投資者的信任。只有在客戶的數(shù)據(jù)不被泄露和隱私得到維護(hù)的情況下,這種信任才得以維持。
然而,隨著數(shù)據(jù)成為新的“燃料”,這已成為一項(xiàng)艱巨的任務(wù)。每一個(gè)大大小小的組織都在爭(zhēng)分奪秒地保護(hù)自己和客戶不受數(shù)據(jù)泄露的影響。這篇文章將帶你了解機(jī)器學(xué)習(xí)系統(tǒng)需要保護(hù)的5個(gè)原因。
數(shù)據(jù)盜竊
我們預(yù)計(jì)電子商務(wù)很快將突破萬億美元大關(guān),這顯然也將導(dǎo)致數(shù)字欺詐激增。據(jù)Juniper Research的報(bào)告稱,預(yù)計(jì)到2023年,“無卡交易詐騙”(CNP)的規(guī)模將達(dá)到1300億美元。另一個(gè)令人擔(dān)憂的消息是,近50%的電子商務(wù)公司已經(jīng)成為它的受害者。
知識(shí)產(chǎn)權(quán)盜竊
專利就像是你的創(chuàng)造力和技藝的“合法壟斷”(美國(guó)專利和商標(biāo)法長(zhǎng)達(dá)20年)。在企業(yè)環(huán)境中,知識(shí)產(chǎn)權(quán)戰(zhàn)爭(zhēng)可能會(huì)比Eminem和IggyAzalea之間的斗爭(zhēng)更嚴(yán)重。以下這些都是在不同行業(yè)所存在的知識(shí)產(chǎn)權(quán)被侵犯的形式:
- 技術(shù)人員:雇員竊取計(jì)算解決方案或外包他們的工作,以賺取雙倍薪水。
- 醫(yī)療保?。横t(yī)護(hù)人員和藥劑師開出超出其授權(quán)能力的處方。
- 教育:申請(qǐng)?zhí)摷僦鷮W(xué)貸款的人。
- 財(cái)務(wù):偽造虛假交易的發(fā)票。
不合規(guī)
網(wǎng)絡(luò)安全法的實(shí)施無異于公司的責(zé)任,而公司的責(zé)任則伴隨著大量的制衡。
- 完整的隱私政策:根據(jù)2004年《加利福尼亞州在線隱私保護(hù)法》(California Online Privacy Protection Act),在加利福尼亞州(現(xiàn)在幾乎覆蓋整個(gè)美國(guó))經(jīng)營(yíng)在線業(yè)務(wù)和網(wǎng)站或收集客戶信息(跟蹤或研究目的)的公司必須在網(wǎng)站上盡可能詳細(xì)說明其隱私政策。該法解釋了所收集信息的范圍,以及第三方共享的目的。
- 個(gè)人數(shù)據(jù)與個(gè)人信息或個(gè)人可識(shí)別信息有很大區(qū)別(可以互換使用它們,但每種都有特定的法律分類),甚至聯(lián)邦貿(mào)易委員會(huì)(FTC)也需要提出隱私法并予以支持。
- 計(jì)劃把視野擴(kuò)展到美國(guó)以外,但是記住要和你的律師預(yù)約。美國(guó)以外的數(shù)據(jù)隱私法與美國(guó)法律并不一致,比如歐盟的GDPR賦予其公民收集、刪除公司獲取的信息的權(quán)利;而中國(guó)的數(shù)據(jù)保護(hù)法允許政府干預(yù)并保存軟件包的源代碼副本。
服務(wù)質(zhì)量(QoS)下降
服務(wù)質(zhì)量揭示了計(jì)算服務(wù)的完整性能,攻擊者可以利用該服務(wù)輕松地在系統(tǒng)中傳輸大量?jī)?yōu)化的授權(quán)。由此,攻擊者可以降低服務(wù)質(zhì)量或強(qiáng)制向人工操作人員升級(jí)。
支持QoS的網(wǎng)絡(luò)容易受到另一種形式的攻擊——QoS攻擊。支持QoS的網(wǎng)絡(luò),例如差別化服務(wù)網(wǎng)絡(luò),以不同的成本提供不同類別的服務(wù)。這種收費(fèi)差異可能會(huì)刺激一些用戶竊取帶寬或任何其他與網(wǎng)絡(luò)相關(guān)的資源。
中毒分析
數(shù)據(jù)中毒是金融業(yè)最大的潛在威脅,因?yàn)樗梢詫?dǎo)致任何基于人工智能的安全系統(tǒng)漏洞。它具有很強(qiáng)的操縱性,在持續(xù)損害數(shù)據(jù)和破壞客戶信任的同時(shí),也容易被忽視。取證專家還發(fā)現(xiàn),追蹤如此復(fù)雜但易受攻擊的狀態(tài)向量極為困難,這表明基于云的基礎(chǔ)設(shè)施還需要熟練的安全模塊。
除了享受服務(wù)之外,還需要警惕潛在威脅。要始終保護(hù)和過濾潛在威脅的安全性,這有點(diǎn)像現(xiàn)代的數(shù)據(jù)角斗士。希望你現(xiàn)在可以更加意識(shí)到保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)的緊迫性。
本文轉(zhuǎn)載自微信公眾號(hào)「讀芯術(shù)」,可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請(qǐng)聯(lián)系讀芯術(shù)公眾號(hào)。