“付費會員價格比普通用戶高”“新人一天三四個紅包，消費數(shù)萬元的老客戶三四天拿不到一個紅包”“同一套餐不同價，老客戶被用力‘宰’”……新華每日電訊記者在某投訴平臺搜索發(fā)現(xiàn)，有近1.8萬條投訴中包含“殺熟”關(guān)鍵詞，有的年輕人也想通過“哭窮”的方式“馴化”算法。

近期，算法不透明和大數(shù)據(jù)“殺熟”再次引起關(guān)注。對于平臺經(jīng)濟(jì)發(fā)展，市場監(jiān)管部門也明確表態(tài)，要督促平臺企業(yè)提高算法透明度，優(yōu)化算法規(guī)則。

算法如同“讀心術(shù)”，用好了能為消費者和商家精準(zhǔn)提供個性化服務(wù)，讓買賣雙方享受到技術(shù)紅利，但若“心術(shù)”不正，算法便會淪為算計，成為網(wǎng)絡(luò)生態(tài)的破壞者。業(yè)內(nèi)專家建議，要更加完善算法監(jiān)管體系，避免本應(yīng)享受“算法紅利”的消費者掉入“算計陷阱”。

“算法殺熟”套路屢見不鮮

近期，隨著機(jī)票預(yù)訂高峰的來臨，“罵機(jī)票貴”再次翻熱，矛頭指向大數(shù)據(jù)“殺熟”。

記者在網(wǎng)絡(luò)平臺搜索發(fā)現(xiàn)，一些“罵機(jī)票專用貼”熱度攀升，相關(guān)話題討論量高達(dá)70萬次，參與者覆蓋多個城市，以“哭窮”的方式倒逼機(jī)票降價。

在一些“反復(fù)評論罵機(jī)票，兩天驟降五六百”“哭窮砍價套路話術(shù)”等分享攻略的評論區(qū)，有網(wǎng)友跟帖評論基本都有針對性地點出航空公司和訂票平臺名稱精準(zhǔn)“開罵”。有網(wǎng)友曬出“戰(zhàn)果”：從北京飛濟(jì)州島，罵之前870元，罵之后369元，并將成功經(jīng)驗分享。

“訂酒店用不同品牌手機(jī)搜出差價上百元的房價”“放在購物車?yán)锏纳唐范帱c幾次就會漲價”……新老用戶被“差別對待”、紅包發(fā)放“看人下菜”、同一商品百人千價。

記者梳理發(fā)現(xiàn)，近年來，先低價吸引客戶，等生客變熟之后，再利用大數(shù)據(jù)算法變相抬高價格的“殺熟”套路在酒店訂房、外賣團(tuán)購、出行訂票等網(wǎng)購平臺屢見不鮮。隨著技術(shù)不斷迭代，消費者反映大數(shù)據(jù)“殺熟”也變得更加“先進(jìn)”。

上海計算機(jī)軟件技術(shù)開發(fā)中心主任、研究員蔡立志表示，前兩年大數(shù)據(jù)“殺熟”行為有當(dāng)時的算法技術(shù)不成熟的可能，而從去年開始，國內(nèi)生成式人工智能大模型不斷涌現(xiàn)，在數(shù)據(jù)的匯聚能力和理解推理能力上明顯更強(qiáng)。

“懂你”的算法緣何淪為“坑你”的算計

“‘大數(shù)據(jù)殺熟’頻現(xiàn)”成為中消協(xié)公布的2024年上半年十大消費維權(quán)輿情熱點之一。四川省消委會去年下半年發(fā)布的《網(wǎng)絡(luò)消費者知情權(quán)保護(hù)調(diào)查報告》也顯示，在經(jīng)歷過網(wǎng)購商品和服務(wù)的消費者中，39.64%的受訪者遇到過“大數(shù)據(jù)殺熟”的情況。

甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮介紹，對商家來說，客戶信息是最有含金量的銷售參考，而算法能幫助商家精準(zhǔn)獲取最直接全面的客戶數(shù)據(jù)，其為消費者打上的標(biāo)簽?zāi)軌驗樯唐肪_、高效地找到潛在客戶群體提供便利，提升成功交易的訂單數(shù)與訪客數(shù)。

蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻分析，大數(shù)據(jù)“殺熟”的本質(zhì)在于運用算法針對消費者購買習(xí)慣、經(jīng)濟(jì)實力進(jìn)行精準(zhǔn)畫像，精準(zhǔn)地為用戶“貼標(biāo)簽”。

“在實際操作中，一些平臺和商家確實存在為了銷量而利用算法‘算計’消費者的情況，通過用戶年齡、職業(yè)、消費水平等特征，對相同商品實施差異化定價?！蓖跹┥彵硎荆@樣的行為雖然短期來看利于盈利，但不利于長遠(yuǎn)發(fā)展，久而久之會讓用戶產(chǎn)生信任危機(jī)，破壞網(wǎng)購生態(tài)。

受訪專家表示，如果“哭窮”反“殺熟”成立，說明算法對評論有效信息進(jìn)行了抓取，但應(yīng)對大數(shù)據(jù)“殺熟”，不能僅靠消費者“哭窮”。

“一時‘哭窮’成功不意味著一直都會成功，要看到其背后對規(guī)范算法的迫切需求?！眲⑿谜f，“哭窮”砍價并非治本之策，甚至有可能還會讓大數(shù)據(jù)在掌握更多個人信息后進(jìn)一步完善“殺熟”機(jī)制。

甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華坦言，大數(shù)據(jù)“殺熟”問題屢禁難止，一方面在于消費者舉證難、維權(quán)成本高，很難有力維護(hù)自身合法權(quán)益；更重要的是算法大模型備案尚在“成長期”，缺乏成熟規(guī)則指引，在責(zé)任主體上未對“服務(wù)提供者”等概念進(jìn)行明確劃分，不足以應(yīng)對實踐中的復(fù)雜角色定位，造成監(jiān)管難、問責(zé)難。

多措并舉破解算法“數(shù)縛”

業(yè)內(nèi)人士和法律專家認(rèn)為，人工智能隱藏的消費陷阱，有些惡意行為屬于價格歧視，違反市場交易的公平原則，嚴(yán)重的已經(jīng)涉嫌大數(shù)據(jù)欺詐。如何在促進(jìn)大數(shù)據(jù)賦能市場發(fā)展的同時，更好完善人工智能算法治理體系，提升監(jiān)管手段和能力，對大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展和消費者權(quán)益保護(hù)都很重要。

目前，有關(guān)法律法規(guī)已對大數(shù)據(jù)殺熟問題作出規(guī)范。2024年11月，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布通知，開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動，提出嚴(yán)禁利用算法實施大數(shù)據(jù)“殺熟”，各地陸續(xù)開展相關(guān)算法治理專項行動。

前不久，市場監(jiān)管部門明確提出，要對大數(shù)據(jù)“殺熟”加強(qiáng)綜合治理，提高算法透明度，優(yōu)化算法規(guī)則，保障消費者合法權(quán)益。

劉忻表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領(lǐng)域?qū)儆诤诵馁Y產(chǎn)，查看算法模型對執(zhí)法者來說需要一定門檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術(shù)角度看，需盡快完善大數(shù)據(jù)算法模型制定依據(jù)和檢測辦法；從管理角度看，需加強(qiáng)監(jiān)管機(jī)制，明晰市場準(zhǔn)入制度，讓大數(shù)據(jù)走出技術(shù)“暗房”。

2023年，上海計算機(jī)軟件技術(shù)開發(fā)中心籌建生成式人工智能質(zhì)檢中心，2024年驗收通過，專門研究、控制和解決生成式人工智能帶來的潛在風(fēng)險。受訪專家建議，未來亟需進(jìn)一步加快推廣設(shè)立第三方檢測機(jī)構(gòu)，對應(yīng)用程序中的人工智能大模型開展安全性檢測。

受訪專家建議，要持續(xù)完善平臺算法規(guī)則的解釋機(jī)制，同時探索個人數(shù)據(jù)“所有權(quán)”保護(hù)問題。蔡立志認(rèn)為，個人數(shù)據(jù)是極為重要的資源類型，各類App采集到的消費者數(shù)據(jù)如何使用和管理，是破解大數(shù)據(jù)“殺熟”的關(guān)鍵問題之一。

“個人在使用各類App時，可視為將個人數(shù)據(jù)交于App程序管理，應(yīng)更加明晰其相關(guān)各方的權(quán)利義務(wù)。如果個人決定不再使用某款A(yù)pp，有權(quán)要求該App抹去此前的所有數(shù)據(jù)記錄?！辈塘⒅菊f。

盛玉華表示，人工智能技術(shù)迭代快，其在市場及消費領(lǐng)域的應(yīng)用也在快速多樣化，設(shè)立統(tǒng)一的算法監(jiān)管機(jī)構(gòu)，對于提升算法常態(tài)化治理水平很有必要。（記者姜偉超 馬莎 王銘禹）