算法應(yīng)用領(lǐng)域消費(fèi)者面臨維權(quán)難 網(wǎng)絡(luò)消費(fèi)領(lǐng)域算法應(yīng)用不公如何規(guī)制

隨著平臺(tái)經(jīng)濟(jì)快速發(fā)展,網(wǎng)絡(luò)購物、交通出行、旅游住宿、訂餐外賣、網(wǎng)絡(luò)游戲等網(wǎng)絡(luò)平臺(tái)逐步興起,這些網(wǎng)絡(luò)平臺(tái)通過大數(shù)據(jù)、人工智能等手段為消費(fèi)者提供了更豐富的產(chǎn)品或服務(wù),與此同時(shí),一些侵害消費(fèi)者權(quán)益的行為如影隨形。

“大數(shù)據(jù)殺熟”,也只是冰山一角。近幾年,網(wǎng)絡(luò)游戲抽獎(jiǎng)概率不明、網(wǎng)絡(luò)消費(fèi)促銷規(guī)則繁復(fù)、網(wǎng)絡(luò)搜索競(jìng)價(jià)排名推薦、網(wǎng)絡(luò)直播推送違反法律規(guī)定和公序良俗、刷好評(píng)隱差評(píng)使評(píng)價(jià)結(jié)果呈現(xiàn)失真、平臺(tái)采用算法限制交易等侵害消費(fèi)者權(quán)益的行為屢禁不絕、備受詬病。

“這些問題的背后,核心是互聯(lián)網(wǎng)平臺(tái)對(duì)算法技術(shù)的應(yīng)用。”中國消費(fèi)者協(xié)會(huì)近日召開網(wǎng)絡(luò)消費(fèi)領(lǐng)域算法規(guī)制與消費(fèi)者保護(hù)座談會(huì),中國消費(fèi)者協(xié)會(huì)秘書長(zhǎng)朱劍橋坦言,技術(shù)進(jìn)步和應(yīng)用總體上有利于增進(jìn)人類福利,同時(shí)也會(huì)造成新的困擾和傷害。在網(wǎng)絡(luò)消費(fèi)領(lǐng)域,可能會(huì)減少消費(fèi)者選擇的時(shí)間成本,但是也會(huì)讓消費(fèi)者面臨信息安全、歧視對(duì)待等消費(fèi)風(fēng)險(xiǎn)。

“流量至上”“利潤(rùn)至上”的算法應(yīng)用,可能會(huì)使經(jīng)營者行為有悖法律、有失道德、有違倫理。“網(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)嚴(yán)格遵守法律規(guī)定,誠信應(yīng)用算法,反對(duì)利用技術(shù)手段,欺騙、隱瞞真實(shí)情況,欺凌消費(fèi)者。”中消協(xié)呼吁,在算法應(yīng)用中,網(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)加強(qiáng)自律,守法經(jīng)營,承擔(dān)應(yīng)盡義務(wù)和責(zé)任,同時(shí),各行業(yè)組織應(yīng)加強(qiáng)引領(lǐng)和督導(dǎo),使網(wǎng)絡(luò)經(jīng)營者合理合規(guī)地應(yīng)用算法,凈化行業(yè)風(fēng)氣,促進(jìn)良性發(fā)展,有效維護(hù)消費(fèi)者合法權(quán)益。

此外,應(yīng)加強(qiáng)算法應(yīng)用的有效規(guī)制。中消協(xié)建議,有關(guān)行政部門加強(qiáng)相互協(xié)調(diào),細(xì)化監(jiān)管職責(zé);完善執(zhí)法依據(jù),做好規(guī)章廢改銜接;加強(qiáng)對(duì)算法應(yīng)用的分級(jí)標(biāo)識(shí)和分類管理,對(duì)涉及公共利益、生命健康、財(cái)產(chǎn)權(quán)利等的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)具有市場(chǎng)支配地位的平臺(tái)經(jīng)營者的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)涉及價(jià)值觀、道德觀特別是未成年人教育的算法應(yīng)用強(qiáng)化監(jiān)管。

大數(shù)據(jù)殺熟維權(quán)難

建立集體救濟(jì)機(jī)制

2019年3月,北京市消協(xié)發(fā)布的《大數(shù)據(jù)“殺熟”問題調(diào)查報(bào)告》(以下簡(jiǎn)稱《報(bào)告》)顯示,88.32%的被調(diào)查者認(rèn)為大數(shù)據(jù)“殺熟”現(xiàn)象普遍或很普遍,沒有被調(diào)查者認(rèn)為大數(shù)據(jù)“殺熟”現(xiàn)象不存在。有56.92%的被調(diào)查者表示有過被大數(shù)據(jù)“殺熟”的經(jīng)歷。

其中,被調(diào)查者在購物類、在線旅游類和打車類App或網(wǎng)站經(jīng)歷大數(shù)據(jù)“殺熟”最為常見,其他依次為外賣類、視頻類和電影類App或網(wǎng)站。其中,經(jīng)歷過前三類App或網(wǎng)站大數(shù)據(jù)“殺熟”的被調(diào)查者分別達(dá)到44.14%、39.5%和37.17%。

北京市消協(xié)副秘書長(zhǎng)陳鳳翔指出,表面上是通過數(shù)據(jù),針對(duì)消費(fèi)者推送服務(wù),但從深層次看,大數(shù)據(jù)“殺熟”的本質(zhì)是部分經(jīng)營者對(duì)消費(fèi)者個(gè)人信息過度采集和隨意使用,使消費(fèi)者的知情權(quán)、選擇權(quán)、公平交易權(quán)以及個(gè)人信息保護(hù)權(quán)利未得到充分尊重和保證。

短期來看,大數(shù)據(jù)“殺熟”或許能給企業(yè)賺取更多利潤(rùn),但從長(zhǎng)遠(yuǎn)來看卻透支消費(fèi)者對(duì)品牌的信任。專家認(rèn)為,大數(shù)據(jù)“殺熟”背離最基本商業(yè)倫理和企業(yè)價(jià)值,違背誠信經(jīng)營原則。

究其原因,陳鳳翔分析說,一方面是算法本質(zhì)是互聯(lián)網(wǎng)的一個(gè)編程技術(shù),這種編程技術(shù)由人為參與和輸入,有的編程者并不懂得法律,編制過程中會(huì)觸及消費(fèi)者的底線,或者侵害消費(fèi)者權(quán)利。

另一方面,技術(shù)演算出來造成消費(fèi)者的傷害。這種傷害可能是初期算法的歧視,或者算法在計(jì)算機(jī)背后所產(chǎn)生的副作用。

《報(bào)告》顯示,遭遇大數(shù)據(jù)“殺熟”后,26.72%的被調(diào)查者選擇向消協(xié)或市場(chǎng)監(jiān)管部門投訴,25.56%的被調(diào)查者選擇不再去這個(gè)商家消費(fèi),17.43%的被調(diào)查者選擇忍氣吞聲、自認(rèn)倒霉,11.71%的被調(diào)查者選擇與商家理論并要求賠償,10.46%的被調(diào)查者選擇卸載商家App或刪除網(wǎng)址,8.13%的被調(diào)查者選擇在社交網(wǎng)站或向媒體曝光。

大數(shù)據(jù)“殺熟”具有隱蔽性,維權(quán)往往難以舉證。陳鳳翔建議,通過公益訴訟方式,推動(dòng)社會(huì)各界協(xié)同共治。

中國政法大學(xué)副校長(zhǎng)時(shí)建中教授同樣認(rèn)為,大數(shù)據(jù)殺熟,是商家濫用數(shù)據(jù)優(yōu)勢(shì)的一種典型行為。商家是數(shù)據(jù)絕對(duì)優(yōu)勢(shì)占有者,濫用數(shù)據(jù)絕對(duì)優(yōu)勢(shì),損害消費(fèi)者的利益行為并不鮮見。大數(shù)據(jù)一旦“殺熟”,針對(duì)是該種消費(fèi)模式的所有消費(fèi)者,而非具體消費(fèi)者。

解決大數(shù)據(jù)“殺熟”需要建立集體救濟(jì)機(jī)制。時(shí)建中坦言,對(duì)于個(gè)體消費(fèi)者而言,不一定能夠發(fā)現(xiàn)“殺熟”,而且發(fā)現(xiàn)之后又不一定能夠保存證據(jù),即便保存之后也不一定會(huì)尋求救濟(jì),因?yàn)榫葷?jì)成本太高。

大數(shù)據(jù)殺熟是價(jià)格歧視的一種。中消協(xié)披露,有些經(jīng)營者利用算法進(jìn)行的價(jià)格歧視還包括對(duì)不同地區(qū)的消費(fèi)者制定不同價(jià)格;多次瀏覽頁面的用戶面臨價(jià)格上漲;利用繁復(fù)促銷規(guī)則和算法,實(shí)行價(jià)格混淆設(shè)置,吸引計(jì)算真實(shí)價(jià)格困難的消費(fèi)者。

不公平算法有隱蔽性

消費(fèi)者面臨算法壓榨

算法本身是一種技術(shù)手段,經(jīng)營者可以利用算法提升經(jīng)營效率,為消費(fèi)者提供更豐富、更優(yōu)良的產(chǎn)品和服務(wù)。

“算法從技術(shù)角度來說,的確對(duì)于互聯(lián)網(wǎng)經(jīng)濟(jì)的發(fā)展是有很大的貢獻(xiàn)。”對(duì)外經(jīng)貿(mào)大學(xué)法學(xué)院教授蘇號(hào)朋認(rèn)為,要客觀認(rèn)識(shí)到的是,算法對(duì)于商家來說,是一種重要的營銷或者銷售工具;對(duì)消費(fèi)者來說,亦不能否認(rèn)算法,尤其是推薦算法給消費(fèi)者帶來的便利。

在蘇號(hào)朋看來,算法的正面意義在于,一是降低復(fù)雜定價(jià)成本;二是降低頻繁改價(jià)的成本;三是顯著提高定價(jià)決策的質(zhì)量。

當(dāng)然,商家也可以利用算法鉆法律的漏洞,實(shí)施違法違規(guī)行為,侵害消費(fèi)者的合法權(quán)益。由于商家存在對(duì)算法權(quán)利的壟斷,如果這種算法壟斷被濫用,消費(fèi)者基本無能為力,因?yàn)闊o論是取證本身,還是舉證,以及證據(jù)被相關(guān)執(zhí)法機(jī)構(gòu)采納的可能性,目前都存在巨大難度。

“商家借助于算法這種技術(shù)手段擴(kuò)大了商家和消費(fèi)者之間的技術(shù)鴻溝,使得消費(fèi)者知情機(jī)會(huì)難度越來越高。”蘇號(hào)朋坦言,不公平的算法對(duì)消費(fèi)者所造成的侵害,不僅損害消費(fèi)者的公平交易權(quán),而且侵害了自主選擇權(quán)和知情權(quán)。

中消協(xié)此前根據(jù)消費(fèi)者投訴、有關(guān)調(diào)查和相關(guān)報(bào)道,梳理出網(wǎng)絡(luò)領(lǐng)域涉及消費(fèi)者權(quán)益的算法應(yīng)用問題包括推薦算法、評(píng)價(jià)算法、排名算法等不公問題。

比如通過監(jiān)測(cè)分析消費(fèi)者的消費(fèi)行蹤軌跡,如瀏覽過的頁面、廣告、商品服務(wù)、話題等,有針對(duì)性的對(duì)消費(fèi)者進(jìn)行商業(yè)營銷。朱劍橋坦言,這類推薦算法利用消費(fèi)者的數(shù)據(jù)畫像,實(shí)施所謂精準(zhǔn)推送。許多消費(fèi)者誤以為自己看到的與旁人無異,導(dǎo)致知情、選擇不足。有些經(jīng)營者通過算法應(yīng)用推送的商品、服務(wù)內(nèi)容,甚至違背法律和公序良俗。

還有部分平臺(tái)及平臺(tái)內(nèi)經(jīng)營者為獲得好評(píng),運(yùn)用刷單等方式,編造虛假高分評(píng)價(jià),或者隱匿中評(píng)、差評(píng),使真實(shí)評(píng)價(jià)無法顯現(xiàn)。“虛假評(píng)價(jià)、評(píng)價(jià)失實(shí)呈現(xiàn),不僅破壞經(jīng)營者之間的公平競(jìng)爭(zhēng),也對(duì)消費(fèi)者購買決策產(chǎn)生誤導(dǎo)。”朱劍橋認(rèn)為。

此外,平臺(tái)經(jīng)營者制定各類排名榜,聲稱基于消費(fèi)者好評(píng)率、銷量等,對(duì)各行業(yè)或商品服務(wù)類別進(jìn)行排序,引導(dǎo)消費(fèi)者選擇,但具體如何計(jì)算得出的難以知曉。

一些線上經(jīng)營者開展有獎(jiǎng)銷售、抽獎(jiǎng)兌換,特別是部分網(wǎng)絡(luò)游戲公司經(jīng)常性推送游戲道具抽獎(jiǎng)活動(dòng),雖然公示中獎(jiǎng)(掉落)概率,但是其算法程序不透明,實(shí)際中獎(jiǎng)概率缺乏管控,屢遭消費(fèi)者詬病;還有一些平臺(tái)利用所處優(yōu)勢(shì)地位通過算法在流量分配、搜索排名等方面設(shè)置障礙和限制,控制平臺(tái)內(nèi)經(jīng)營者開展交易,影響公平競(jìng)爭(zhēng)和消費(fèi)者選擇。

“一些常見的網(wǎng)絡(luò)消費(fèi)領(lǐng)域不公平算法應(yīng)用,具有技術(shù)性和隱蔽性,潛移默化地影響著消費(fèi)者的購買決策,消費(fèi)者很難通過個(gè)體力量與之抗衡。”朱劍橋指出,如果任其無序發(fā)展,一方面不利于市場(chǎng)經(jīng)濟(jì)的公平有序競(jìng)爭(zhēng),不利于經(jīng)濟(jì)可持續(xù)發(fā)展;另一方面也會(huì)使消費(fèi)者面臨數(shù)據(jù)算法壓榨,成為技術(shù)欺凌的對(duì)象,甚至被算法扭曲價(jià)值取向和道德觀念,淪為平臺(tái)經(jīng)營者的掌中“玩物”。

設(shè)立算法倫理專門機(jī)構(gòu)

加強(qiáng)監(jiān)管協(xié)作機(jī)制建設(shè)

中消協(xié)認(rèn)為,互聯(lián)網(wǎng)條件下,由于信息占有、技術(shù)應(yīng)用等原因,網(wǎng)絡(luò)經(jīng)營者處于更為強(qiáng)勢(shì)的地位。在算法應(yīng)用中,網(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)加強(qiáng)自律,守法經(jīng)營,承擔(dān)應(yīng)盡義務(wù)和責(zé)任,維護(hù)好消費(fèi)者的合法權(quán)益。

時(shí)建中認(rèn)為,算法公平監(jiān)管或者公平治理,必須要解決誠信、透明和公平問題。此外,除對(duì)應(yīng)用算法的企業(yè)所實(shí)施行為進(jìn)行道德評(píng)價(jià)、法治評(píng)價(jià)外,強(qiáng)化企業(yè)社會(huì)責(zé)任的評(píng)價(jià)也是一個(gè)重要路徑。

清華大學(xué)法學(xué)院副院長(zhǎng)程嘯指出,算法問題可以通過技術(shù)解決。比如鼓勵(lì)針對(duì)市場(chǎng)有壟斷地位企業(yè)的算法采取反制措施的算法研究,用算法針對(duì)算法,讓算法之間形成競(jìng)爭(zhēng)關(guān)系,從而重塑市場(chǎng)競(jìng)爭(zhēng)機(jī)制。

中消協(xié)建議,加強(qiáng)算法應(yīng)用的有效規(guī)制,并呼吁社會(huì)各界通過力所能及的方式,共同做好社會(huì)監(jiān)督,促進(jìn)算法應(yīng)用的公平、合理,防止經(jīng)營者利用算法作惡。一方面,加強(qiáng)機(jī)構(gòu)設(shè)立和立法規(guī)制。在個(gè)人信息保護(hù)法、反壟斷法、反不正當(dāng)競(jìng)爭(zhēng)法、價(jià)格法等相關(guān)法律中,建議增加算法應(yīng)用的相關(guān)規(guī)定。

一是國家設(shè)立算法倫理專門機(jī)構(gòu),負(fù)責(zé)算法應(yīng)用倫理、規(guī)則、標(biāo)準(zhǔn)制定,不公平算法應(yīng)用調(diào)查、處理等,并指定相關(guān)政府部門負(fù)責(zé),加強(qiáng)對(duì)算法應(yīng)用的有效監(jiān)管。

二是明確算法應(yīng)用結(jié)果一致性要求。規(guī)定算法搜索結(jié)果應(yīng)同時(shí)呈現(xiàn)公共選項(xiàng),即所有用戶運(yùn)用同樣的搜索方式,應(yīng)可得到相同的結(jié)果。且相關(guān)結(jié)果應(yīng)作為優(yōu)先選項(xiàng)推送,保障消費(fèi)者有效便捷獲取。

三是保障算法應(yīng)用的透明、公平、誠信。明確經(jīng)營者使用算法應(yīng)做到可知、可查、可逆。發(fā)生爭(zhēng)議,負(fù)有向有關(guān)行政部門、司法機(jī)關(guān)、第三方機(jī)構(gòu)提供算法、后臺(tái)數(shù)據(jù)、相關(guān)資料及進(jìn)行說明的義務(wù)。做到算法應(yīng)用的可驗(yàn)證、可解釋、可追責(zé)。

四是明確舉證責(zé)任倒置規(guī)定,強(qiáng)化算法實(shí)施方的舉證責(zé)任,明確其偽造、篡改證據(jù)的責(zé)任和后果,解決消費(fèi)者舉證難、鑒定難。

另一方面,加強(qiáng)監(jiān)管協(xié)作和機(jī)制建設(shè)。朱劍橋說,互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用十分廣泛,建議有關(guān)行政部門加強(qiáng)相互協(xié)調(diào),細(xì)化監(jiān)管職責(zé);完善執(zhí)法依據(jù),做好規(guī)章廢改銜接;加強(qiáng)對(duì)算法應(yīng)用的分級(jí)標(biāo)識(shí)和分類管理,對(duì)涉及公共利益、生命健康、財(cái)產(chǎn)權(quán)利等的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)具有市場(chǎng)支配地位的平臺(tái)經(jīng)營者的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)涉及價(jià)值觀、道德觀特別是未成年人教育的算法應(yīng)用強(qiáng)化監(jiān)管。

朱劍橋指出,要加強(qiáng)對(duì)算法的事前、事中、事后監(jiān)管,通過對(duì)算法應(yīng)用進(jìn)行必要的目的審核、法律審核、道德審核,以及建立黑名單制度等措施進(jìn)行有效管理;建立算法投訴審評(píng)機(jī)制,保障消費(fèi)者和社會(huì)各界的投訴、監(jiān)督權(quán);培育第三方技術(shù)鑒定機(jī)構(gòu),強(qiáng)化對(duì)算法應(yīng)用的技術(shù)審核力量;保障互聯(lián)網(wǎng)經(jīng)濟(jì)持續(xù)健康發(fā)展,有力維護(hù)消費(fèi)者合法權(quán)益。

與此同時(shí),建議有關(guān)司法機(jī)關(guān)加強(qiáng)對(duì)算法應(yīng)用案件的分析研究,推動(dòng)出臺(tái)有關(guān)司法解釋,充分發(fā)揮司法機(jī)關(guān)的審判和監(jiān)督作用,強(qiáng)化經(jīng)營者舉證責(zé)任,加強(qiáng)對(duì)算法應(yīng)用問題的實(shí)質(zhì)審查,通過司法判例弘揚(yáng)公平正義,強(qiáng)化對(duì)消費(fèi)者權(quán)益的保護(hù)。

算法應(yīng)用不公針對(duì)的是普遍的社會(huì)大眾,每個(gè)人都可能成為潛在的受害者,要加強(qiáng)消費(fèi)維權(quán)和社會(huì)監(jiān)督。中消協(xié)建議,消費(fèi)者加強(qiáng)個(gè)人信息保護(hù)和依法維權(quán)意識(shí)。對(duì)于非法或過度索取個(gè)人信息的行為,勇于說“不”;對(duì)于網(wǎng)絡(luò)經(jīng)營者實(shí)行的推薦算法、價(jià)格算法、評(píng)價(jià)算法、排名算法、概率算法、流量算法中存在的不公問題提高警惕,加強(qiáng)監(jiān)督,通過維權(quán)行動(dòng),加強(qiáng)共同治理。（法治日?qǐng)?bào)全媒體記者 侯建斌）