当前位置: 首页 > 科技观察

破解二代大数据查杀系统需要算法公平性

时间:2023-03-22 10:08:31 科技观察

在大数据场景下,越来越多的交易是由算法完成的。互联网平台通过不断进步的算法和算力,在各个领域为消费者提供更加高效、丰富、精准的优质服务。然而,在提高交易效率的同时,算法的不透明性和解释难度也给消费者权益保护和反不正当竞争带来了新的挑战。上海市消费者权益保护委员会呼吁,完善数字规则,尽快出台算法法规,促进平台算法公平,保护消费者合法权益。“熟客卖高价”是第一代大数据采集的典型特征。第一代大数据的获取依赖于算法的简单判断。比较典型的是“老客卖高价”——平台向新客展示低价,向老客展示高价。类似于“老客卖高价”,也有“新人插队”。比如你在网上叫车,算法会判断你是否购买了代金券,让没有购买代金券的乘客“插队”。差异化定价不一定是“错误的事情”。很多年前,洋快餐经常在店门口发优惠券。对价格更敏感的顾客会收集优惠券,以确保“便宜两”。“插队”不一定是错的。例如,银行的贵宾客户有优先办理业务的权利。现在消费者之所以对大数据如此反感,是因为平台的欺骗:老顾客不期待优惠,但又不愿意被骗;购买代金券的乘客一直打不到车,归咎于高峰期的影响,基于欺骗的交易没有公平性。个性化推送下的“千人千面”“千人千价”由于人工智能等新技术的应用,算法的快速迭代,消费者个人信息的全面收集平台方面,个性化推送已经成为平台主要的营销方式,竞争的核心变成了推送精准度。一种是内容推送,最基本的方法就是匹配你喜欢的内容。如果算法更智能,它可以巧妙地巩固或改变消费者的看法。例如,如果消费者搜索了“白芝麻和黑芝麻”,他将在许多应用程序中收到有关芝麻的信息推文。如果他在网上买过两次白芝麻,他很有可能会看到《白芝麻比黑芝麻好》的文章,而如果他刚满40岁,他可能会看到《你应该吃白芝麻》的文章40后”。“知识普及”。二是产品匹配,即根据个人信息匹配相关广告或产品。去年下半年,市消保委利用多个移动终端模拟不同收入群体的消费者使用同一款App,进行了一段时间的虚拟人设操作。测试发现,不同手机收到的广告差异很大,模拟低收入人群的手机收到各种低价劣质商品和网贷广告的频率很高。三是价格组合。与第一代大数据明显的欺骗性差异化定价相比,基于复杂算法的价格组合更具隐蔽性和合理性。市消保委对不同平台的订房、买菜等服务进行了测试,不同账户之间的价格差异较以往更大。值得一提的是,目前的“千千价”是由原价和各种优惠券组成的。这些优惠券大部分是算法临时生成的,算法也会说明这些优惠券的不同原因,比如“你上个月打车了”、“你前天买了菜”等等。算法公平是消费者保护的核心问题数字经济时代,“数据赋能”成为最重要的经济驱动力。随着数据竞争的加剧,许多问题也暴露出来,比如对第二代大数据的熟悉程度。二代大数据杀戮中的“熟人”不再是“熟人”,而是个人信息被平台全面掌握的“熟人”。杀熟的方法是一种歧视性算法,杀熟的结果是以消费者的利益换取平台数据价值的最大化实现。首先,基于算法推送个性化内容,客观上会扩大个体之间的认知偏差,平台出于商业目的的算法歧视可能会制造信息茧,侵犯消费者的知情权。其次,基于歧视性算法的产品匹配本质上是平台对算法能力的滥用。消费者在某种程度上被法律剥夺了选择权,因为他们无权“选择退出”算法决策。第三,基于歧视性算法的价格组合,本质上是对消费者公平交易权的侵犯。算法从接收输入数据到输出决策结果的整个过程形成了一个外界无法知晓的“黑匣子”,算法在其中对数据进行处理、评估和分析,并根据具体场景进行决策。算法“黑匣子”的不透明性,使得二代大数据查杀行为更加隐蔽,难以察觉。去年12月召开的中央经济工作会议,将加强反垄断、防止资本无序扩张作为今年我国经济工作的八项重点工作之一。使用管理、消费者权益保护等法律规范。为此,市消保委呼吁尽快完善数字规则,出台算法法规。