算法基于人的行為而產(chǎn)生“鎖定效應(yīng)”。雖然立法也賦予了用戶拒絕個性化推薦的權(quán)利，但對許多用戶而言，完全拒絕算法追蹤，可能會影響平臺內(nèi)其他功能的使用。因此，還需對算法進(jìn)行場景化和精細(xì)化治理。

“大數(shù)據(jù)殺熟”升級、個性化推送固化思維……前不久，上海市消費者權(quán)益保護(hù)委員會透露，隨著人工智能等新技術(shù)的應(yīng)用，算法快速更迭，再加上平臺對消費者個人信息的全方位收集，算法“殺熟”方式升級，轉(zhuǎn)向基于被平臺充分掌握個人信息的“殺熟”，比如平臺會根據(jù)消費者使用的手機型號等個人信息匹配相關(guān)的產(chǎn)品、廣告或不同的優(yōu)惠券。

面對越來越多的算法套路、越來越精準(zhǔn)的營銷和個性化推送，用戶能否徹底拒絕或者脫離算法?又該如何對算法進(jìn)行規(guī)制?近日，專家學(xué)者接受民主與法制社記者采訪時，從技術(shù)和立法層面對這些問題進(jìn)行了剖析。

算法技術(shù)會固化、放大偏見

上海大學(xué)法學(xué)院大數(shù)據(jù)與人工智能法治研究中心執(zhí)行主任陳吉棟表示，狹義上的算法可以視為純粹的技術(shù)，但隨著人工智能技術(shù)及大數(shù)據(jù)的發(fā)展，它被應(yīng)用于更多領(lǐng)域。廣義上的算法是一種以構(gòu)建社會秩序等目標(biāo)而設(shè)定的一系列步驟。

“我們常說的人工智能從某種意義上講，就是一種能學(xué)習(xí)、判斷和決策的算法。”陳吉棟說，算法是一種人機交互場景下決策的新形態(tài)，在算法技術(shù)下，人類可以通過代碼設(shè)置、數(shù)據(jù)運算與機器自動化判斷進(jìn)行決策。這個過程人機共同參與，既有人的決策也有機器的自動化決斷。

既然如此，算法歧視到底是人為還是機器所為?對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣說，這應(yīng)從算法技術(shù)架構(gòu)原理說起。

“導(dǎo)致算法歧視的原因很多，有模型設(shè)計原因，有數(shù)據(jù)本身存在歧視的問題。”張欣說，算法本身是一項純粹的技術(shù)，但如今算法技術(shù)深度嵌入平臺經(jīng)濟(jì)，依據(jù)不同場景運行，有些是完全自動化決策，有些需要人為干預(yù)，但最終產(chǎn)生的算法結(jié)果是批量、大規(guī)模、系統(tǒng)性的決策，這可能會使傳統(tǒng)世界中存在的偏見和歧視問題被系統(tǒng)性放大。

陳吉棟也表示，運用算法技術(shù)進(jìn)行決策可能會固化和放大偏見。這是由于算法數(shù)據(jù)采集于人類，其不可避免地在數(shù)據(jù)中會摻雜人的情感認(rèn)知偏見。這些數(shù)據(jù)輸入終端后使得算法在模型更新迭代過程中讓偏見因素進(jìn)一步固化，加深偏見和歧視，例如求職類App對應(yīng)聘者進(jìn)行篩選時可能包含一些性別和地域偏好。

這種基于人為偏見而導(dǎo)致的算法模型在多個場景深度嵌入后，會出現(xiàn)用戶在多個場景中被屢次歧視的“鎖定效應(yīng)”。張欣舉例稱，如果某個用戶不恰當(dāng)?shù)乇淮蛏狭?ldquo;信譽低”的數(shù)據(jù)標(biāo)簽，通過數(shù)據(jù)標(biāo)簽的共享，就可能產(chǎn)生歧視“鎖定效應(yīng)”。如用戶在免押租金使用共享單車的場景下因為“信譽低”被拒絕，轉(zhuǎn)而發(fā)現(xiàn)在保險費率核定、銀行貸款等更多場景下，也會遇到類似情形。

陳吉棟說，因為算法機器學(xué)習(xí)和自身的復(fù)雜性，加之部分商業(yè)平臺算法的商業(yè)秘密特征，使得大多數(shù)人無法理解算法的工作原理，由此導(dǎo)致算法使用者處于事實上的支配地位。

法律賦予用戶拒絕個性化推薦的權(quán)利

除算法歧視問題外，近年來，個性化推薦、精準(zhǔn)營銷等引發(fā)公眾對個人信息安全的擔(dān)憂。同時，算法在用戶畫像越來越精準(zhǔn)的同時，也讓人們擔(dān)心同質(zhì)化內(nèi)容會固化甚至引發(fā)人的思維退化，會阻礙人們通過網(wǎng)絡(luò)獲取多元化的信息。

陳吉棟說，算法的精準(zhǔn)推薦使得個人信息自主選擇受限，加劇“信息繭房”現(xiàn)象。網(wǎng)絡(luò)的開放性給予了人們更多的信息選擇機會，借助算法可以為人們量身打造符合自身喜好App內(nèi)容，但也使用戶陷于自身編織的“信息繭房”之中。

陳吉棟表示，目前，算法可能引發(fā)的法律風(fēng)險在于其基于社會因素對個人進(jìn)行分類、排序和決策，主要包括搜索結(jié)果競價排序、精準(zhǔn)廣告營銷、個性化推薦、保險或貸款評定、信用評級、圖像識別和數(shù)據(jù)畫像等活動場景。

張欣說，實際上，我國立法賦予了用戶拒絕個性化推薦的權(quán)利，例如《中華人民共和國電子商務(wù)法》第十八條明確規(guī)定，電子商務(wù)經(jīng)營者根據(jù)消費者的興趣愛好、消費習(xí)慣等特征向其提供商品或者服務(wù)搜索結(jié)果的，應(yīng)當(dāng)同時向該消費者提供不針對其個人特征的選項，尊重和平等保護(hù)消費者合法權(quán)益。

陳吉棟表示，電子商務(wù)法第十八條規(guī)定了網(wǎng)絡(luò)平臺算法個性化推薦結(jié)果的消費者保護(hù)義務(wù)，并明確平臺的推薦算法搜索結(jié)果應(yīng)提供非個性化推薦的一般結(jié)果，即不針對消費者個人的普通搜索結(jié)果。但此條規(guī)定的立法目的不是限制定向提供搜索結(jié)果的行為和定向結(jié)果推送，僅對其加以限制。

此外，我國民法典、網(wǎng)絡(luò)安全法、消費者權(quán)益保護(hù)法都從個人信息和數(shù)據(jù)處理的層面對算法進(jìn)行了間接規(guī)制。比如網(wǎng)絡(luò)安全法第四章“網(wǎng)絡(luò)信息安全”中，對網(wǎng)絡(luò)運營者收集、使用個人信息進(jìn)行了詳細(xì)的規(guī)定和嚴(yán)格的限制。其中，該法第四十一條規(guī)定，網(wǎng)絡(luò)運營者收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。網(wǎng)絡(luò)運營者不得收集與其提供的服務(wù)無關(guān)的個人信息，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個人信息，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定與用戶約定處理其保存的個人信息。同時該法第四十三條賦予了公民發(fā)現(xiàn)網(wǎng)絡(luò)運營者違規(guī)使用個人信息時對其信息進(jìn)行刪除或更正的權(quán)利。

基于此，陳吉棟認(rèn)為，App應(yīng)設(shè)置用戶拒絕接收精準(zhǔn)營銷等選項，為用戶提供選擇退出項。

應(yīng)開展場景化和精細(xì)化治理

用戶能否徹底拒絕“算法”?張欣說，正在制定中的《數(shù)據(jù)安全管理辦法(征求意見稿)》試圖解決該問題。

《數(shù)據(jù)安全管理辦法(征求意見稿)》第二十三條規(guī)定，“網(wǎng)絡(luò)運營者利用用戶數(shù)據(jù)和算法推送新聞信息、商業(yè)廣告等，應(yīng)當(dāng)以明顯方式標(biāo)明‘定推’字樣，為用戶提供停止接收定向推送信息的功能;用戶選擇停止接收定向推送信息時，應(yīng)當(dāng)停止推送，并刪除已經(jīng)收集的設(shè)備識別碼等用戶數(shù)據(jù)和個人信息。”

張欣分析稱，該規(guī)定可以在技術(shù)上保證用戶拒絕個性化精準(zhǔn)推薦的權(quán)利。“每一臺移動設(shè)備中都有一個設(shè)備識別碼，設(shè)備識別碼一旦從算法系統(tǒng)中刪除，那么系統(tǒng)再也不能追蹤這臺設(shè)備的數(shù)據(jù)，也就不能再對用戶進(jìn)行畫像，進(jìn)而推送精準(zhǔn)營銷廣告和個性化推薦內(nèi)容。”

但張欣認(rèn)為，對許多用戶而言，完全拒絕算法的追蹤在生活中是不現(xiàn)實的。因為如果采用刪除設(shè)備識別碼的方法拒絕算法推薦，可能會影響用戶平臺內(nèi)其他功能的使用，比如難以獲得具有針對性的評分高的美食店鋪的推薦信息。同時，互聯(lián)網(wǎng)平臺負(fù)有許多法律上的責(zé)任和義務(wù)，一旦刪除設(shè)備識別碼，平臺難以通過識別設(shè)備對設(shè)備上的賬號進(jìn)行風(fēng)險控制。

如何解決上述矛盾?有觀點認(rèn)為，應(yīng)當(dāng)通過算法公開、提高算法的透明度，來對算法進(jìn)行規(guī)制。對此，陳吉棟表示，技術(shù)層面的算法公開是算法應(yīng)用者公布算法運算數(shù)據(jù)和編程源代碼，算法公開也能夠在一定程度上促進(jìn)算法治理。

算法公開的目的是抹平消費者和平臺方之間力量對比關(guān)系的失衡，通過公開達(dá)到可治理和可規(guī)制，通過對算法的可接觸反向驗證算法是否存在妨害。但由于技術(shù)鴻溝的存在，這樣的公開對普通用戶而言并無意義。陳吉棟說，礙于算法和機器學(xué)習(xí)技術(shù)的復(fù)雜性，算法公開能實現(xiàn)的效果可能有限。因此，對算法進(jìn)行治理，還需要更廣泛的配套制度，如算法認(rèn)證、算法查驗等。

張欣也表示，目前，算法公開還涉及商業(yè)秘密和知識產(chǎn)權(quán)保護(hù)問題，如何公開、公開到何種程度需要進(jìn)行合理規(guī)制。目前，國際上比較成熟的算法治理方式是對算法開展影響評估，通過成立專門的監(jiān)管機構(gòu)或者評估工作組，對算法在個人隱私權(quán)、公平權(quán)、平等權(quán)及社會經(jīng)濟(jì)等多方面可能產(chǎn)生的影響進(jìn)行系統(tǒng)評估。

陳吉棟說，這在《中華人民共和國個人信息保護(hù)法(草案)》(以下簡稱《草案》)中也有體現(xiàn)，包括事前的算法影響評估、事中的算法審計和事后的算法決策要求說明及拒絕制度。

張欣表示，目前《草案》規(guī)定，算法影響的評估只要求對用戶個人進(jìn)行評估，且規(guī)定評估的依據(jù)是“法律法規(guī)”，但法律可能存在滯后性，應(yīng)當(dāng)引入算法倫理規(guī)范一并作為評估依據(jù)，并開展多方面的評估。

張欣說，實踐中對算法公開或者算法透明的呼吁主要集中在公共事業(yè)領(lǐng)域。“目前，我國立法對算法規(guī)制主要集中在電商領(lǐng)域，但實踐中，許多領(lǐng)域都已經(jīng)使用了算法技術(shù)，包括行政領(lǐng)域。一旦公共領(lǐng)域的算法適用出現(xiàn)問題，可能會對公民權(quán)利造成不利影響。因此，應(yīng)制定科學(xué)合理的規(guī)制議程，按照風(fēng)險等級，優(yōu)先對公共事業(yè)領(lǐng)域的算法進(jìn)行規(guī)制。

張欣建議，對算法進(jìn)行場景化和精細(xì)化治理，立法機關(guān)應(yīng)在起草涉及不同場景的法律法規(guī)時，具有系統(tǒng)化、場景化的算法規(guī)制意識。