數(shù)字經(jīng)濟(jì)時(shí)代,看不見(jiàn)摸不到的算法時(shí)刻左右消費(fèi)者的選擇。
近年來(lái),隨著互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)的快速發(fā)展,從網(wǎng)絡(luò)購(gòu)物、交通出行、旅游住宿、訂餐外賣到網(wǎng)絡(luò)游戲等生活消費(fèi)領(lǐng)域,都出現(xiàn)了大型的互聯(lián)網(wǎng)平臺(tái)企業(yè)。
一些平臺(tái)通過(guò)大數(shù)據(jù)、人工智能等手段為消費(fèi)者提供了更豐富的產(chǎn)品或服務(wù),為社會(huì)創(chuàng)造了價(jià)值。
但與此同時(shí),也存在一些侵害消費(fèi)者權(quán)益行為:大數(shù)據(jù)殺熟、網(wǎng)絡(luò)游戲抽獎(jiǎng)概率不明、網(wǎng)絡(luò)直播推送違反法律規(guī)定內(nèi)容、刷好評(píng)隱差評(píng)……
這些問(wèn)題的背后,是不公平的算法技術(shù)對(duì)消費(fèi)者的“算計(jì)”。
在大數(shù)據(jù)殺熟上消費(fèi)者需要集體救濟(jì)機(jī)制
2020年,安徽省一家網(wǎng)絡(luò)科技有限公司在一年內(nèi)被大量消費(fèi)者投訴,有關(guān)部門接到投訴舉報(bào)953件。
其中,反映該公司在網(wǎng)絡(luò)游戲抽獎(jiǎng)概率及規(guī)則設(shè)置上存在問(wèn)題的舉報(bào)數(shù)量最多,占總數(shù)的40.8%。
安徽省消費(fèi)者權(quán)益保護(hù)委員會(huì)在調(diào)查時(shí)發(fā)現(xiàn),對(duì)于抽獎(jiǎng)概率的合法合規(guī)問(wèn)題并不好判斷。當(dāng)?shù)叵NM織召開了市區(qū)兩級(jí)市場(chǎng)監(jiān)管部門、文旅部門、公安部門等相關(guān)部門的聯(lián)合處理推進(jìn)會(huì),共同對(duì)這家公司存在的概率等問(wèn)題進(jìn)行調(diào)查核實(shí)。
因?yàn)閷?duì)概率規(guī)則等問(wèn)題缺乏專業(yè)的認(rèn)定能力,找不到權(quán)威第三方機(jī)構(gòu)進(jìn)行認(rèn)定,調(diào)查受到一定阻礙。
“這個(gè)問(wèn)題目前也沒(méi)有得到很好的解決。”在日前中國(guó)消費(fèi)者協(xié)會(huì)(以下簡(jiǎn)稱“中消協(xié)”)舉辦的網(wǎng)絡(luò)消費(fèi)領(lǐng)域算法規(guī)制與消費(fèi)者保護(hù)座談會(huì)上,安徽省消費(fèi)者權(quán)益保護(hù)委員會(huì)秘書長(zhǎng)丁濤正苦惱于如何找到解決辦法。
抽獎(jiǎng)概率的背后包含著一套算法的執(zhí)行。中消協(xié)根據(jù)消費(fèi)者投訴、有關(guān)調(diào)查和相關(guān)報(bào)道,歸納了六種當(dāng)前網(wǎng)絡(luò)領(lǐng)域涉及消費(fèi)者權(quán)益的算法應(yīng)用問(wèn)題,包括推薦算法、價(jià)格算法、評(píng)價(jià)算法、排名算法、概率算法和流量算法。
其中,概率算法的問(wèn)題體現(xiàn)在:一些線上經(jīng)營(yíng)者開展有獎(jiǎng)銷售、抽獎(jiǎng)兌換,特別是部分網(wǎng)絡(luò)游戲公司經(jīng)常性推送游戲道具抽獎(jiǎng)活動(dòng),雖然公示了中獎(jiǎng)(掉落)概率,但是其算法程序不透明,實(shí)際中獎(jiǎng)概率缺乏管控,屢遭消費(fèi)者詬病。
在北京市消費(fèi)者協(xié)會(huì)副秘書長(zhǎng)陳鳳翔看來(lái),算法本質(zhì)是互聯(lián)網(wǎng)的一種編程技術(shù),這種編程技術(shù)有一定的人為參與和輸入,有的編程者不懂得法律,編制過(guò)程中侵害消費(fèi)者權(quán)利。
北京計(jì)算機(jī)學(xué)會(huì)數(shù)字經(jīng)濟(jì)專委會(huì)秘書長(zhǎng)王娟前不久在乘坐網(wǎng)約車時(shí)發(fā)現(xiàn),當(dāng)車輛駛進(jìn)日常她很熟悉的路線時(shí),網(wǎng)約車平臺(tái)導(dǎo)航卻給出一條又堵又長(zhǎng)的路線。
中國(guó)政法大學(xué)副校長(zhǎng)時(shí)建中也有類似遭遇,在他看來(lái),平臺(tái)導(dǎo)航給出一條繞遠(yuǎn)的行駛路線,算法背后存在某種動(dòng)機(jī),但消費(fèi)者很難取證,有時(shí)也沒(méi)有辦法保存相關(guān)證據(jù)。
“大數(shù)據(jù)一旦殺熟,針對(duì)的是該種消費(fèi)模式下的所有消費(fèi)者,而不是針對(duì)具體的消費(fèi)者。”時(shí)建中認(rèn)為,在大數(shù)據(jù)殺熟問(wèn)題上的消費(fèi)者權(quán)益保護(hù),更需要集體救濟(jì)機(jī)制。
應(yīng)針對(duì)有壟斷行為的企業(yè)進(jìn)行反制措施的算法研究
“十四五”規(guī)劃中提出,改善消費(fèi)環(huán)境,強(qiáng)化消費(fèi)者權(quán)益保護(hù)。
在對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授蘇號(hào)朋看來(lái),不公平的算法對(duì)消費(fèi)者所造成的侵害,體現(xiàn)在三方面——公平交易權(quán)的侵害、選擇權(quán)的侵害和知情權(quán)的侵害。
他認(rèn)為,在特定領(lǐng)域,如侵害消費(fèi)者權(quán)益的“二選一”問(wèn)題、大數(shù)據(jù)殺熟問(wèn)題上,可以通過(guò)加強(qiáng)對(duì)個(gè)案的監(jiān)管,引導(dǎo)更多企業(yè)在算法領(lǐng)域提高消費(fèi)者保護(hù)水平。
此外,算法在某種程度上看也是商家壟斷的一種權(quán)利,可以考慮設(shè)置權(quán)限,從技術(shù)上讓消費(fèi)者有權(quán)關(guān)閉算法,并且將這樣一種權(quán)利在法律中作出規(guī)定,從技術(shù)角度實(shí)現(xiàn)商家和消費(fèi)者之間的平衡。
在清華大學(xué)法學(xué)院副院長(zhǎng)、教授程嘯看來(lái),維護(hù)消費(fèi)者權(quán)益,很多問(wèn)題可以通過(guò)技術(shù)解決。如針對(duì)有市場(chǎng)壟斷行為的企業(yè),進(jìn)行反制措施的算法研究,“用算法針對(duì)算法,算法之間就會(huì)產(chǎn)生相互的競(jìng)爭(zhēng)關(guān)系,從而重塑市場(chǎng)競(jìng)爭(zhēng)機(jī)制”。
對(duì)于侵害消費(fèi)者權(quán)益的算法,他還建議,要采取事先預(yù)防措施。針對(duì)大數(shù)據(jù)殺熟、價(jià)格歧視類的問(wèn)題,監(jiān)管部門可以要求平臺(tái)標(biāo)識(shí)出對(duì)用戶所顯示的定價(jià),是否為針對(duì)消費(fèi)者個(gè)人推送的個(gè)性化定價(jià)。
北京工商大學(xué)法學(xué)院教授、商法研究中心主任呂來(lái)明指出,提高監(jiān)管技術(shù)水平已經(jīng)迫在眉睫。但對(duì)于算法的規(guī)制,是事前監(jiān)管還是事中、事后監(jiān)管,要不要進(jìn)行倫理審查,目前社會(huì)上還存在分歧。
在他看來(lái),首先應(yīng)確立一個(gè)原則,在事前規(guī)范上或者事中規(guī)范上,對(duì)于算法的目標(biāo)進(jìn)行規(guī)制,同時(shí)要進(jìn)行倫理審查。但也要對(duì)不同的算法,進(jìn)行分層監(jiān)管,從而確定不同的監(jiān)管等級(jí)和尺度。
中消協(xié)指出,如果任由不公平的算法應(yīng)用無(wú)序發(fā)展,一方面不利于市場(chǎng)經(jīng)濟(jì)的公平有序競(jìng)爭(zhēng),不利于經(jīng)濟(jì)可持續(xù)發(fā)展;另一方面也會(huì)使消費(fèi)者面臨數(shù)據(jù)算法壓榨,成為技術(shù)欺凌的對(duì)象,甚至被算法扭曲價(jià)值取向和道德觀念,淪為平臺(tái)經(jīng)營(yíng)者的掌中“玩物”。
“算法應(yīng)用不公針對(duì)的是普遍的社會(huì)大眾,每個(gè)人都可能成為潛在的受害者。”中消協(xié)副秘書長(zhǎng)栗元廣提出,下一步應(yīng)加強(qiáng)算法應(yīng)用的有效規(guī)制。
“在個(gè)人信息保護(hù)法、反壟斷法、反不正當(dāng)競(jìng)爭(zhēng)法、價(jià)格法等相關(guān)法律中,建議增加算法應(yīng)用的相關(guān)規(guī)定。”栗元廣建議,國(guó)家應(yīng)設(shè)立算法倫理專門機(jī)構(gòu),負(fù)責(zé)算法應(yīng)用倫理、規(guī)則、標(biāo)準(zhǔn)制定,不公平算法應(yīng)用調(diào)查、處理等,并指定相關(guān)政府部門負(fù)責(zé),加強(qiáng)對(duì)算法應(yīng)用的有效監(jiān)管。
同時(shí),應(yīng)明確經(jīng)營(yíng)者使用算法應(yīng)做到可知、可查、可逆。一旦發(fā)生爭(zhēng)議,負(fù)有向有關(guān)行政部門、司法機(jī)關(guān)、第三方機(jī)構(gòu)提供算法、后臺(tái)數(shù)據(jù)、相關(guān)資料及進(jìn)行說(shuō)明的義務(wù),做到算法應(yīng)用的可驗(yàn)證、可解釋、可追責(zé),強(qiáng)化算法實(shí)施方的舉證責(zé)任,明確其偽造、篡改證據(jù)的責(zé)任和后果,解決消費(fèi)者舉證難、鑒定難的問(wèn)題。
“要加強(qiáng)監(jiān)管協(xié)作和機(jī)制建設(shè)。”栗元廣指出,互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用十分廣泛,建議有關(guān)行政部門加強(qiáng)相互協(xié)調(diào),細(xì)化監(jiān)管職責(zé);完善執(zhí)法依據(jù),做好規(guī)章廢改銜接;加強(qiáng)對(duì)算法應(yīng)用的分級(jí)標(biāo)識(shí)和分類管理,對(duì)涉及公共利益、生命健康、財(cái)產(chǎn)權(quán)利等的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)具有市場(chǎng)支配地位的平臺(tái)經(jīng)營(yíng)者的算法應(yīng)用強(qiáng)化監(jiān)管,對(duì)涉及價(jià)值觀、道德觀,特別是未成年人教育的算法應(yīng)用強(qiáng)化監(jiān)管。
栗元廣建議,應(yīng)建立算法投訴審評(píng)機(jī)制,保障消費(fèi)者和社會(huì)各界的投訴、監(jiān)督權(quán),“培育第三方技術(shù)鑒定機(jī)構(gòu),強(qiáng)化對(duì)算法應(yīng)用的技術(shù)審核力量”。
同時(shí),栗元廣認(rèn)為,有關(guān)司法機(jī)關(guān)應(yīng)加強(qiáng)對(duì)算法應(yīng)用案件的分析研究,推動(dòng)出臺(tái)有關(guān)司法解釋,加強(qiáng)對(duì)算法應(yīng)用問(wèn)題的實(shí)質(zhì)審查,通過(guò)司法判例強(qiáng)化對(duì)消費(fèi)者權(quán)益的保護(hù)。
乘坐網(wǎng)約車網(wǎng)絡(luò)購(gòu)物等隨時(shí)生成數(shù)據(jù)權(quán)屬歸誰(shuí)如何收集仍缺專門規(guī)定專家分析國(guó)家大數(shù)據(jù)立法需邁過(guò)哪些障礙無(wú)論是網(wǎng)絡(luò)安全法,還是消費(fèi)者權(quán)益保更多
2018-06-12 11:40:13以尖端科技概念為噱頭,包裝普通商品欺騙消費(fèi)者這些偽科技 一定要當(dāng)心人民日?qǐng)?bào) 本報(bào)記者 吳月輝核心閱讀量子養(yǎng)生衣、防引力波輻射服、能更多
2018-10-18 09:04:09快遞企業(yè)紛紛上調(diào)派件費(fèi)消費(fèi)者的快遞費(fèi)會(huì)漲價(jià)嗎?距離雙11還有不到一個(gè)月的時(shí)間,屆時(shí),不僅電商平臺(tái),快遞公司也將迎來(lái)業(yè)務(wù)高峰期。然而對(duì)更多
2018-10-24 09:54:58國(guó)家市場(chǎng)監(jiān)管總局近日印發(fā)通知,在今年4月至9月期間,在全國(guó)范圍內(nèi)部署開展守護(hù)消費(fèi)暨打擊侵害消費(fèi)者個(gè)人信息違法行為專項(xiàng)執(zhí)法行動(dòng),重點(diǎn)打更多
2019-04-11 10:40:38同一房型價(jià)格不同,同一路線打車卻比其他人高出不少,同一家店的外賣吃得總比別人貴……近年來(lái),平臺(tái)經(jīng)濟(jì)快速發(fā)展,大數(shù)據(jù)為消費(fèi)者提供更具更多
2021-01-22 14:28:51假期去哪兒逛?看個(gè)展覽、吃頓下午茶、公園里拍拍照……涵蓋吃住行游購(gòu)?qiáng)矢鱾€(gè)環(huán)節(jié)的網(wǎng)紅打卡地,成為不少人節(jié)假日和周末休閑出行的主要目的更多
2021-02-18 08:37:53MUJI無(wú)印良品開始了新一輪調(diào)價(jià),部分商品降價(jià)幅度達(dá)1000元,調(diào)價(jià)商品涉及沙發(fā)、日用品、掃除用品、廚具等。4月12日,對(duì)于商品降價(jià)的原因,M更多
2021-04-13 09:17:20自熱火鍋、半成品拉面、速食螺螄粉……近期,眾多網(wǎng)紅食品品牌強(qiáng)勢(shì)崛起,備受年輕消費(fèi)者青睞。數(shù)據(jù)顯示,受一人食與宅經(jīng)濟(jì)等影響,加之電商更多
2021-04-19 08:59:25下館子本來(lái)是一件挺愜意的事情,但近兩年許多消費(fèi)者發(fā)現(xiàn),走進(jìn)餐廳想要點(diǎn)餐卻不是那么容易的事情。服務(wù)員不是熱情地遞上傳統(tǒng)菜單,而是湊上更多
2021-05-17 09:46:176月份美國(guó)消費(fèi)者價(jià)格漲幅超過(guò)了接受調(diào)查的所有經(jīng)濟(jì)學(xué)家的預(yù)期,表明經(jīng)濟(jì)重新開放帶來(lái)的大宗商品和勞動(dòng)力成本上升繼續(xù)加劇通脹壓力。根據(jù)美更多
2021-07-14 08:48:13