破解二代大數(shù)據(jù)殺熟,需要算法公平性
在大數(shù)據(jù)場景中,交易越來越多依靠算法完成?;ヂ?lián)網(wǎng)平臺通過不斷進階的算法和算力,向消費者提供更為高效、豐富、精準的全領域優(yōu)質服務。但在提高交易效率的同時,算法的不透明性與難解釋性也給消費者權益保護與反不正當競爭帶來了新的挑戰(zhàn)。
上海市消費者權益保護委員會呼吁,健全數(shù)字規(guī)則,盡快出臺算法規(guī)制,促進平臺算法公平,保護消費者合法權益。
“熟客賣高價”是初代大數(shù)據(jù)殺熟的典型特征
初代的大數(shù)據(jù)殺熟,依靠算法的簡單判斷。比較典型的就是“熟客賣高價”——平臺對新客展示低價,對老顧客展示高價。和“熟客賣高價”相類似的還有“新人插隊”,比如打網(wǎng)約車時,算法會判斷你是不是購買了代金券,而且會讓沒買過券的乘客“插隊”。
差別定價不一定是“錯事”,多年前洋快餐經(jīng)常在店門口發(fā)優(yōu)惠券,對價格比較敏感的顧客會收藏優(yōu)惠券以確保“便宜兩塊錢”。“插隊”也不一定就錯,比如銀行的VIP客戶就有權優(yōu)先辦理業(yè)務。消費者之所以現(xiàn)在對大數(shù)據(jù)殺熟如此反感,源于平臺的欺騙:老顧客不奢望打折,但也不愿意被套路;購買代金券的乘客一直打不到車,將其歸因于高峰期影響,基于欺騙達成的交易沒有公平性可言。
個性化推送下的“千人千面”與“千人千價”
由于人工智能等新技術的運用,算法快速迭代,再加上平臺對消費者個人信息的全方位收集,個性化推送成為平臺主要的營銷手段,而競爭的核心變成推送精準度。
其一是內容推送,基本方法就是投其所好。算法如果更聰明些,還能潛移默化地固化或是改變消費者認知。比如,消費者曾搜索過“白芝麻黑芝麻”,那么他會在很多App里接收到關于芝麻的信息推文。如果他曾在網(wǎng)上買過兩次白芝麻,那么大概率能看到“白芝麻比黑芝麻好”的文章,如果他剛滿40歲,可能會看到“40歲以后應該吃白芝麻”的“知識科普”。
其二是產品匹配,就是根據(jù)個人信息匹配相關的廣告或產品。去年下半年,市消保委曾使用多個手機終端模擬不同收入群體的消費者使用相同的App,并進行一段時間的虛擬人設操作。測試發(fā)現(xiàn),不同手機接收到的廣告差異度極大,模擬低收入人群的手機高頻度收到各類低價劣質商品和網(wǎng)絡貸款廣告。
其三是價格組合,相較于初代大數(shù)據(jù)殺熟顯而易見的欺騙性差異化定價而言,基于復雜算法的價格組合更為隱蔽,也更能被合理化解釋。市消保委在不同平臺測試了訂房、買菜等業(yè)務,不同賬號的價格差異比以前更大。值得一提的是,現(xiàn)在的“千人千價”是由原價與各種優(yōu)惠券所組成的。而這些券大部分是算法臨時生成的,算法也為這些優(yōu)惠券陳述了不同理由,比如“上個月你打過車”“前天你買過菜”等等。
算法公平性是消費者權益保護的核心問題
在數(shù)字經(jīng)濟時代,“數(shù)據(jù)賦能”已成為最主要的經(jīng)濟驅動力。隨著數(shù)據(jù)競爭日趨白熱化,也暴露出不少問題,比如二代大數(shù)據(jù)殺熟。二代大數(shù)據(jù)殺熟中的“熟”,已經(jīng)不是“熟客”,而是被平臺充分掌握個人信息的“熟人”。殺熟的方法就是歧視性算法,殺熟的結果就是以消費者的權益換取平臺數(shù)據(jù)價值的最大化兌現(xiàn)。
首先,基于算法的個性化內容推送客觀上會擴大個體間的認知偏差,而平臺出于商業(yè)目的的算法歧視,可能打造信息繭房,侵害了消費者的知情權。其次,基于歧視性算法的產品匹配,本質上是平臺對算法權力的濫用。消費者因為缺乏免受算法決策支配的“退出”權利,從某種程度上被剝奪了依法享有的選擇權。其三,基于歧視性算法的價格組合,究其實質就是對消費者公平交易權的侵害。算法從接受輸入數(shù)據(jù)到輸出決策結果的全過程,形成外界無法獲知的“黑箱”,算法在其中進行數(shù)據(jù)的處理、評估及分析,并根據(jù)具體場景作出決策。算法“黑箱”的非透明性導致二代大數(shù)據(jù)殺熟行為更加隱蔽、難以察覺。
去年12月召開的中央經(jīng)濟工作會議將強化反壟斷和防止資本無序擴張作為今年我國經(jīng)濟工作的八項重點任務之一,明確要依法規(guī)范發(fā)展,健全數(shù)字規(guī)則,完善平臺企業(yè)壟斷認定、數(shù)據(jù)收集使用管理、消費者權益保護等方面的法律規(guī)范。為此,市消保委呼吁,健全數(shù)字規(guī)則,盡快出臺算法規(guī)制。