近年來，隨著互聯(lián)網(wǎng)經(jīng)濟(jì)的高速發(fā)展，大數(shù)據(jù)技術(shù)不僅為平臺(tái)優(yōu)化服務(wù)和精準(zhǔn)營銷提供了動(dòng)力，也因“大數(shù)據(jù)殺熟”現(xiàn)象飽受詬病。這一行為，涉及利用消費(fèi)者數(shù)據(jù)進(jìn)行差異化定價(jià)和服務(wù)，嚴(yán)重侵害消費(fèi)者權(quán)益。
為此，國家網(wǎng)信辦等四部門近日聯(lián)合發(fā)文，針對(duì)包括“大數(shù)據(jù)殺熟”在內(nèi)的算法濫用問題開展專項(xiàng)整治，標(biāo)志著國家對(duì)這一問題的治理邁入更系統(tǒng)化階段。
熟客比生客價(jià)格更高？
“大數(shù)據(jù)殺熟”引發(fā)信任危機(jī)
大數(shù)據(jù)技術(shù)的應(yīng)用提升了購物體驗(yàn)，也引發(fā)了深刻的信任危機(jī)。
今年初，“飛豬被曝3人買同趟航班價(jià)格不同”話題沖上熱搜。根據(jù)網(wǎng)友爆料，其預(yù)訂的2月7日由河南鄭州飛往廣東珠海的航班CZ6489，由三部不同手機(jī)、不同賬號(hào)來搜索該航班，顯示出不同的價(jià)格：400元、481元和1330元。
這并非孤例。據(jù)上游新聞4月報(bào)道，湖南長沙消費(fèi)者注意到，WPS系統(tǒng)推給她的升級(jí)花費(fèi)比同事更多�！拔彝率恰�(jí)會(huì)員’，只需多花8.3元/月就升級(jí)成‘大會(huì)員’。我是‘超級(jí)會(huì)員Pro’每月已經(jīng)比‘超級(jí)會(huì)員’多交5元會(huì)費(fèi)，現(xiàn)在還要多花5元/月才能升級(jí)成‘大會(huì)員’，算下來合計(jì)要比同事多花1.7元/月。我就氣不過，沒有升級(jí)。我同事立馬升級(jí)成‘大會(huì)員’了�！�
上述消費(fèi)者還反映稱：“在金山辦公軟件WPS購買‘超級(jí)會(huì)員’，不久又加錢購買了可用AI功能的‘超級(jí)會(huì)員Pro’，現(xiàn)在又彈窗叫交錢，若要繼續(xù)使用AI功能需要繳錢升級(jí)成‘大會(huì)員’�！�
“這不就是套娃式收費(fèi)嗎？今后是不是每增加一個(gè)新功能，就加一項(xiàng)收費(fèi)？”消費(fèi)者表示。
據(jù)北京市消費(fèi)者協(xié)會(huì)、天津市消費(fèi)者協(xié)會(huì)、河北省消費(fèi)者權(quán)益保護(hù)委員會(huì)三地聯(lián)合調(diào)查顯示，近40%的消費(fèi)者明確遭遇過“大數(shù)據(jù)殺熟”，例如“多次瀏覽后價(jià)格上漲”“熟客比生客付出更高價(jià)格”等。
體驗(yàn)調(diào)查中顯示，雖然平臺(tái)讓消費(fèi)者認(rèn)為擁有眾多選擇和優(yōu)惠，但實(shí)際上其選擇可能已經(jīng)被平臺(tái)的算法所限制。例如：
對(duì)外賣類平臺(tái)標(biāo)價(jià)22元的糖烤板栗米麻薯進(jìn)行購買體驗(yàn)，結(jié)算價(jià)格出現(xiàn)了4元至22元的波動(dòng)，價(jià)格差異超過售價(jià)的80%；
結(jié)合短視頻/直播平臺(tái)11位消費(fèi)者的親身體驗(yàn)，對(duì)售價(jià)79元的蘇泊爾電熱水壺304不銹鋼1.7升全自動(dòng)安全超大容量燒水壺電熱水壺進(jìn)行調(diào)查，結(jié)算價(jià)格呈現(xiàn)出49元至79元的波動(dòng)，價(jià)格差異接近售價(jià)的40%；
對(duì)在線民宿類平臺(tái)進(jìn)行調(diào)查，結(jié)算價(jià)格呈現(xiàn)8%的價(jià)格差異。
商業(yè)機(jī)密？
算法治理需求迫在眉睫
當(dāng)下，“大數(shù)據(jù)殺熟”治理仍面臨算法“黑箱”問題、成本收益不對(duì)等、監(jiān)管滯后與標(biāo)準(zhǔn)不一等難點(diǎn)。
其中，算法的復(fù)雜性和不透明性是消費(fèi)者維權(quán)的主要障礙。平臺(tái)常以“商業(yè)機(jī)密”為由拒絕公開算法規(guī)則，這使消費(fèi)者很難證明價(jià)格差異是因“殺熟”導(dǎo)致。
北京消協(xié)的調(diào)研顯示，多數(shù)消費(fèi)者即使感受到不公平定價(jià)，也因取證難而放棄維權(quán)。以某短視頻平臺(tái)為例，售價(jià)79元的電熱水壺，不同消費(fèi)者的最終價(jià)格在49元至79元之間浮動(dòng)。這種差異雖明顯，但消費(fèi)者因金額較小，通常選擇忍氣吞聲。
法律界已經(jīng)開始關(guān)注“大數(shù)據(jù)殺熟”引發(fā)的糾紛。一則判例中，北京一消費(fèi)者發(fā)現(xiàn)其購買的打車服務(wù)比新用戶貴10%以上，法院認(rèn)定平臺(tái)違反《消費(fèi)者權(quán)益保護(hù)法》中關(guān)于公平交易的規(guī)定，并判決其退還差價(jià)并支付賠償金。
類似案例說明，在消費(fèi)者舉證不足的情況下，法律通過推動(dòng)算法透明化、加強(qiáng)信息披露，已開始對(duì)“大數(shù)據(jù)殺熟”進(jìn)行規(guī)制。
7月1日，《中華人民共和國消費(fèi)者權(quán)益保護(hù)法實(shí)施條例》(以下簡稱《條例》)正式施行，對(duì)大數(shù)據(jù)“殺熟”“自動(dòng)續(xù)費(fèi)”等問題進(jìn)行治理規(guī)范�！稐l例》第九條第二款規(guī)定，經(jīng)營者不得在消費(fèi)者不知情的情況下，對(duì)同一商品或者服務(wù)在同等交易條件下設(shè)置不同的價(jià)格或收費(fèi)標(biāo)準(zhǔn)。
不過，盡管法規(guī)逐步完善，但行業(yè)缺乏算法合規(guī)審計(jì)的統(tǒng)一標(biāo)準(zhǔn)，使得監(jiān)管落地困難。
清華大學(xué)人工智能國際治理研究院副院長、人工智能治理研究中心（清華大學(xué)）主任梁正表示，算法治理面臨多重挑戰(zhàn)，包括技術(shù)固有的“黑箱”特征，即隨著模型的日趨復(fù)雜、數(shù)據(jù)日趨多元，算法的不可解釋、不可控性有增加的傾向。
梁正認(rèn)為，如何在效率和公共利益最大化之間的權(quán)衡，是算法治理時(shí)要考慮的重要部分。以及針對(duì)算法合規(guī)審計(jì)，缺乏獨(dú)立專業(yè)的第三方機(jī)構(gòu)和成熟統(tǒng)一的評(píng)估標(biāo)準(zhǔn)，同樣是目前國內(nèi)算法治理存在的困境。許多平臺(tái)都是自主做相關(guān)工作，但平臺(tái)是否能夠完全承擔(dān)相應(yīng)責(zé)任，無論從意愿還是能力上都有待商榷。
提升算法安全能力
四部門聯(lián)合治理
11月24日，國家網(wǎng)信辦、工信部等四部門發(fā)布《關(guān)于開展“清朗網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)的通知》（下文簡稱《通知》），有關(guān)工作方案主要任務(wù)包括：重點(diǎn)整治同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點(diǎn)問題，督促企業(yè)深入對(duì)照自查整改，進(jìn)一步提升算法安全能力。
此次《通知》內(nèi)容具體包括：第一，深入整治“信息繭房”、誘導(dǎo)沉迷問題。嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽，不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息，不得超范圍收集用戶個(gè)人信息用于內(nèi)容推送。第二，提升榜單透明度打擊操縱榜單行為，嚴(yán)管不法分子惡意利用榜單排序規(guī)則操縱榜單、炒作熱點(diǎn)行為。第三，嚴(yán)防一味壓縮配送時(shí)間導(dǎo)致配送超時(shí)率、交通違章率、事故發(fā)生率上升等問題。第四，嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”。第五，增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益。第六，落實(shí)算法安全主體責(zé)任。
《通知》要求此次專項(xiàng)行動(dòng)自即日起至2025年2月14日，組織企業(yè)自查自糾，簡單問題立即整改，復(fù)雜問題明確整改舉措和期限。積極落實(shí)屬地管理責(zé)任，對(duì)照《算法專項(xiàng)治理清單指引》（附件），對(duì)企業(yè)自查自糾情況進(jìn)行深入評(píng)估。對(duì)自查不認(rèn)真、整改不徹底的企業(yè)，及時(shí)組織技術(shù)力量進(jìn)行核查并督促整改。
同時(shí)，《通知》要求各地網(wǎng)信部門要發(fā)揮統(tǒng)籌協(xié)調(diào)作用，牽頭開展專項(xiàng)行動(dòng)。加強(qiáng)與屬地電信、公安、市場監(jiān)管等相關(guān)部門聯(lián)動(dòng)，細(xì)化工作分工，壓實(shí)工作責(zé)任。運(yùn)用好央地各方有效技術(shù)支撐力量，積極有效推動(dòng)各項(xiàng)任務(wù)落實(shí)，確保取得工作成效。
至于此次《通知》對(duì)行業(yè)算法治理的影響，工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林表示，此次通知后，行業(yè)將有一輪具體行動(dòng)，僅靠平臺(tái)自查不可行，第三方機(jī)構(gòu)和成熟統(tǒng)一的評(píng)估標(biāo)準(zhǔn)可能在此次指導(dǎo)文件發(fā)布后逐步完善。該過程需要時(shí)間，也需要政府側(cè)配備相關(guān)人才等資源。
(來源：時(shí)間財(cái)經(jīng)綜合觀察者網(wǎng)、中國消費(fèi)者報(bào)、第一財(cái)經(jīng)等）
