算法淪為算計，消費者如何反“殺熟”

“付費會員價格比普通用戶高”“新人一天三四個紅包，消費數(shù)萬元的老客戶三四天拿不到一個紅包”“同一套餐不同價，老客戶被用力‘宰’”……新華每日電訊記者在某投訴平臺搜索發(fā)現(xiàn)，有近1.8萬條投訴中包含“殺熟”關鍵詞，有的年輕人也想通過“哭窮”的方式“馴化”算法。

近期，算法不透明和大數(shù)據“殺熟”再次引起關注。對于平臺經濟發(fā)展，市場監(jiān)管部門也明確表態(tài)，要督促平臺企業(yè)提高算法透明度，優(yōu)化算法規(guī)則。

算法如同“讀心術”，用好了能為消費者和商家精準提供個性化服務，讓買賣雙方享受到技術紅利，但若“心術”不正，算法便會淪為算計，成為網絡生態(tài)的破壞者。業(yè)內專家建議，要更加完善算法監(jiān)管體系，避免本應享受“算法紅利”的消費者掉入“算計陷阱”。

“算法殺熟”套路屢見不鮮

近期，隨著機票預訂高峰的來臨，“罵機票貴”再次翻熱，矛頭指向大數(shù)據“殺熟”。

記者在網絡平臺搜索發(fā)現(xiàn)，一些“罵機票專用貼”熱度攀升，相關話題討論量高達70萬次，參與者覆蓋多個城市，以“哭窮”的方式倒逼機票降價。

在一些“反復評論罵機票，兩天驟降五六百”“哭窮砍價套路話術”等分享攻略的評論區(qū)，有網友跟帖評論基本都有針對性地點出航空公司和訂票平臺名稱精準“開罵”。有網友曬出“戰(zhàn)果”：從北京飛濟州島，罵之前870元，罵之后369元，并將成功經驗分享。

“訂酒店用不同品牌手機搜出差價上百元的房價”“放在購物車里的商品多點幾次就會漲價”……新老用戶被“差別對待”、紅包發(fā)放“看人下菜”、同一商品百人千價。

記者梳理發(fā)現(xiàn)，近年來，先低價吸引客戶，等生客變熟之后，再利用大數(shù)據算法變相抬高價格的“殺熟”套路在酒店訂房、外賣團購、出行訂票等網購平臺屢見不鮮。隨著技術不斷迭代，消費者反映大數(shù)據“殺熟”也變得更加“先進”。

上海計算機軟件技術開發(fā)中心主任、研究員蔡立志表示，前兩年大數(shù)據“殺熟”行為有當時的算法技術不成熟的可能，而從去年開始，國內生成式人工智能大模型不斷涌現(xiàn)，在數(shù)據的匯聚能力和理解推理能力上明顯更強。

“懂你”的算法緣何淪為“坑你”的算計

“‘大數(shù)據殺熟’頻現(xiàn)”成為中消協(xié)公布的2024年上半年十大消費維權輿情熱點之一。四川省消委會去年下半年發(fā)布的《網絡消費者知情權保護調查報告》也顯示，在經歷過網購商品和服務的消費者中，39.64%的受訪者遇到過“大數(shù)據殺熟”的情況。

甘肅慧聯(lián)信息科技發(fā)展有限責任公司總經理王雪蓮介紹，對商家來說，客戶信息是最有含金量的銷售參考，而算法能幫助商家精準獲取最直接全面的客戶數(shù)據，其為消費者打上的標簽能夠為商品精確、高效地找到潛在客戶群體提供便利，提升成功交易的訂單數(shù)與訪客數(shù)。

蘭州大學信息科學與工程學院副教授劉忻分析，大數(shù)據“殺熟”的本質在于運用算法針對消費者購買習慣、經濟實力進行精準畫像，精準地為用戶“貼標簽”。

“在實際操作中，一些平臺和商家確實存在為了銷量而利用算法‘算計’消費者的情況，通過用戶年齡、職業(yè)、消費水平等特征，對相同商品實施差異化定價。”王雪蓮表示，這樣的行為雖然短期來看利于盈利，但不利于長遠發(fā)展，久而久之會讓用戶產生信任危機，破壞網購生態(tài)。

受訪專家表示，如果“哭窮”反“殺熟”成立，說明算法對評論有效信息進行了抓取，但應對大數(shù)據“殺熟”，不能僅靠消費者“哭窮”。

“一時‘哭窮’成功不意味著一直都會成功，要看到其背后對規(guī)范算法的迫切需求。”劉忻說，“哭窮”砍價并非治本之策，甚至有可能還會讓大數(shù)據在掌握更多個人信息后進一步完善“殺熟”機制。

甘肅政法大學民商經濟法學院副教授盛玉華坦言，大數(shù)據“殺熟”問題屢禁難止，一方面在于消費者舉證難、維權成本高，很難有力維護自身合法權益；更重要的是算法大模型備案尚在“成長期”，缺乏成熟規(guī)則指引，在責任主體上未對“服務提供者”等概念進行明確劃分，不足以應對實踐中的復雜角色定位，造成監(jiān)管難、問責難。

多措并舉破解算法“數(shù)縛”

業(yè)內人士和法律專家認為，人工智能隱藏的消費陷阱，有些惡意行為屬于價格歧視，違反市場交易的公平原則，嚴重的已經涉嫌大數(shù)據欺詐。如何在促進大數(shù)據賦能市場發(fā)展的同時，更好完善人工智能算法治理體系，提升監(jiān)管手段和能力，對大數(shù)據產業(yè)的發(fā)展和消費者權益保護都很重要。

目前，有關法律法規(guī)已對大數(shù)據殺熟問題作出規(guī)范。2024年11月，中央網信辦等四部門聯(lián)合發(fā)布通知，開展“清朗·網絡平臺算法典型問題治理”專項行動，提出嚴禁利用算法實施大數(shù)據“殺熟”，各地陸續(xù)開展相關算法治理專項行動。

前不久，市場監(jiān)管部門明確提出，要對大數(shù)據“殺熟”加強綜合治理，提高算法透明度，優(yōu)化算法規(guī)則，保障消費者合法權益。

劉忻表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領域屬于核心資產，查看算法模型對執(zhí)法者來說需要一定門檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術角度看，需盡快完善大數(shù)據算法模型制定依據和檢測辦法；從管理角度看，需加強監(jiān)管機制，明晰市場準入制度，讓大數(shù)據走出技術“暗房”。

2023年，上海計算機軟件技術開發(fā)中心籌建生成式人工智能質檢中心，2024年驗收通過，專門研究、控制和解決生成式人工智能帶來的潛在風險。受訪專家建議，未來亟需進一步加快推廣設立第三方檢測機構，對應用程序中的人工智能大模型開展安全性檢測。

受訪專家建議，要持續(xù)完善平臺算法規(guī)則的解釋機制，同時探索個人數(shù)據“所有權”保護問題。蔡立志認為，個人數(shù)據是極為重要的資源類型，各類App采集到的消費者數(shù)據如何使用和管理，是破解大數(shù)據“殺熟”的關鍵問題之一。

“個人在使用各類App時，可視為將個人數(shù)據交于App程序管理，應更加明晰其相關各方的權利義務。如果個人決定不再使用某款App，有權要求該App抹去此前的所有數(shù)據記錄。”蔡立志說。

盛玉華表示，人工智能技術迭代快，其在市場及消費領域的應用也在快速多樣化，設立統(tǒng)一的算法監(jiān)管機構，對于提升算法常態(tài)化治理水平很有必要。（記者姜偉超 馬莎 王銘禹）