当前位置: 首页 > 科技观察

淘宝抖音推出算法“关闭按钮”!315之后,隐私、科技、监管上演“三国杀”

时间:2023-03-16 20:57:22 科技观察

一年一度的打假晚会如期举行,“隐私数据”成为核心关键词。无论是免费Wi-Fi窃取位置信息,还是儿童智能手表成为窃听工具,都在揭示科技的进一步扩张正在压缩人们隐私边界的事实。当事人又举了一个例子:用户只需要浏览网页,科技公司就可以抓取MAC地址,然后与手机号码进行匹配,方便营销公司进行精准营销。在利益驱动下,科技成为灰色产业链中的淘金铲。用户浏览的产品信息、浏览时间、爱好等非生物识别信息是该技术的“原材料”,成为隐私泄露的又一重灾区。这其实是去年“人脸识别”话题的延续,只是隐私数据从人脸等生物识别信息变成了非生物识别信息,但本质上是又一次技术侵犯隐私的曝光。长期以来,围绕技术和隐私的讨论不胜枚举。人们对两者的首要性质如何尚未达成共识,但基本承认两者不是零和博弈。关键在于如何划分技术和隐私数据。和商业行为的“界限”。数据失控2021年3月15日晚会,央视披露多家企业违规采集人脸数据,宝马、科勒卫浴等品牌被点名批评。半年后,便利蜂布下摄像头收集数据,进而将数据隐私推上了舆论的制高点。这两起事件只是众多企业收集的数据的一个缩影。在人们的生产生活中,这样的例子比比皆是:上下班需要刷脸签到,进小区需要刷脸开锁,摄像头的“监控”必不可少在购物中心购物。.这些只是在离线场景下收集的数据。在网上,用户的个人信息、爱好等数据也会被抓取,以推荐更合适的产品、文章、图片、视频等内容。在大数据和互联网技术组成的数字时代,人们已经无法避免个人数据的收集,但线下收集的数据多为个人生物特征信息(人脸、指纹等),更容易吸引人们的注意力。关注,而在线收集的个人数据尚未引起足够的重视。但目标是一样的。收集数据不是目的,让数据产生价值才是企业的追求。无论线上还是线下,围绕数据产生的利益链条已经深入到众多企业的血管中。在这个利益链条中,有的被称为灰色交易,比如私人数据的直接倒卖,有的则在法律监管之外,比如收集数据优化推荐算法,通过推送个性化产品和广告来达成交易。“数据越有效,价值就越大。”某数据公司数据中心VP告诉掘金,现在很多算法都需要大量的数据进行训练和优化,从而实现更智能的推送。这就是为什么许多公司冒险收集包括人脸在内的数据:使用数据来调整营销策略、接触更有效的用户、达成交易并产生收入。举个简单的例子:商家开业初期,数据分析发现女性消费者比较多,那么其商品在后续的供货清单中也会趋向于女性。另一个有趣的现象是,之前有很多APP不提供个人信息就无法使用。在很多APP的解释中,收集个人信息数据的目的是为了更好地推荐内容,但“不给就不能用”其实暴露了其真实目的:满口诚意,但实际上这完全是为了生意。“一方面,更好的推荐内容有利于增强用户粘性;另一方面,APP需要收集用户数据,构建用户画像,便于与广告商洽谈合作。”一位广告业务负责人表示,在结算方式相同的情况下,一个合适的平台可以为三方带来双赢:“广告主可以降低有效用户的获客成本,APP主获得广告收入,用户获得更多优质好看的内容。”但这种“赢??”其实是建立在用户数据之上的。也就是说,这场数据交易的受益者只有两个:广告主获得精准曝光,获客成本进一步降低。并且可以由其他产品转化而来;APP端获得广告收入。对于用户来说,除了被卖数据,还可能通过广告消费商品。虽然用户可能不会花钱购买产品,也不会产生任何直接的经济损失,但通过他们的数据交易,其他两方都会获益,而自己的一方也会承担“交易成本”,即使这种成本不是可见的。这正如纪录片《监视资本主义:智能陷阱》所说:“如果你不花钱购买产品,那么你就是待售商品。”一位业内人士告诉掘金,由于相关方以提供服务为借口收集数据,消费者实际上处于弱势地位。即使消费者有一定的警惕和保护意识,在拒绝收集数据、无法享受基本服务的情况下,也不得不捂着鼻子签下这样的“不平等条约”。在这种不对等的关系中,生产者的强势和消费者的弱势导致了越来越多的数据交易。除了缺乏有效的监管措施外,个人隐私数据的收集也越来越猖獗,并逐渐失控。膨胀的“信息茧”对于很多人来说,生物识别信息比非生物识别信息具有更高级别的隐私保护。一般情况下,生物识别信息(人脸、指纹等)与资金账户、社会关系等密切相关,一旦发生泄露,由此造成的风险损失在一定程度上是“可预见的”,损失相对“可预见””。以人脸数据为例,发生数据泄露后,用户可以先预判账户的安全性,然后通过各种手段冻结账户。非生物识别信息(兴趣、爱好等)由于风险损失的“不可预测性”,普通用户很难有直观的认识。例如,在注册APP时,需要用户填写基本信息、个人爱好等信息。在这个过程中,用户只需要付出时间成本,没有直接的利益损失,可以获得更精准的信息推送服务。但命运赐予的礼物,早已暗暗标好了价格。这些数据虽然不会直接造成损失,但危害可能更大。在这些数据的支持下,各种推荐算法应运而生,封闭的“信息茧房”相继建成。茧房内的使用者,纷纷成为被收割的对象。大数据查杀可以说是一种比较明显的收割方式。系统抓取用户在线时间、消费记录等特征值,通过标签对用户进行分组,然后推送不同的折扣,给新用户打折,老用户则尊贵。人们常说的消费主义也与此有关。很多用户在购物平台购买商品,系统会根据用户的浏览记录、时长、输入的标签、好友等推送他们可能喜欢的商品,不可控。最后,用户可能会买到很多不实用的产品。这两种都比较常见,但商家只是想赚取更多的利润。虽黑,但至少在法制监管之内。但从另一个角度来看,如果基于数据的推荐算法得不到有效引导,就会带来一场“社会灾难”。品牌传播中有一个常用的技巧,叫做培养用户心智。最典型的例子就是“钻石恒久远,一颗恒久”的广告,把钻石等同于爱情,成为婚姻不可或缺的东西。其实,钻石本身并没有黄金那么值钱,但还是让无数男男女女为之倾倒。罗马的建设不是一蹴而就的,更不可能一夜之间培养出用户的心智,但它是潜移默化、潜移默化的。以最近热议的豆瓣为例:豆瓣在2012年推出了“豆瓣猜猜”功能,按照官方的定义,这个功能是这样的:“根据你的喜好自动获取你的个人推荐,每个人的推荐列表都不一样,你的收藏和评论越多,豆瓣给你的推荐就越准确和丰富越来越准确了。”毫无疑问,这个功能的初衷是为了给用户提供更好的内容,其中就包括很多?的APP。使用推荐算法的时候,直接的目的就是增强用户粘性,然后通过广告变现。但这种推荐实际上会形成“信息茧”,即用户沉浸在某一类内容中的时间过长,难以接收到其他跨行业的内容,造成信息拥塞。在这个“茧房”里的用户每天都在受到同质化内容的冲击,思维也会受到影响,趋于单一甚至偏激。对豆瓣的研究表明,由于豆瓣是一个群组机制,群组内的信息交流相对封闭,并且受推荐算法的影响,群组成员收到的内容更加单一(准确)。整个群就像一个房子,只接受推荐算法的喂食,拒绝跨行业交流,所以豆瓣上一些偏激的言论不难理解。如果将这种推荐算法用在舆论战中,比如在俄乌事件中,Facebook允许用户发表任何对俄乌领导人的仇恨言论,那么很多人可能会收到更多类似的言论,这将带来严重的社会后果。问题。所以,看似不那么重要的数据,会被推荐算法放大,影响会被放大无数倍。即使推荐算法一开始是善意的,如果没有有效的监督,最终也会导致恶果。技术、监管与商业行为“技术只是一种手段,没有好坏之分,全看人从中得到什么,它为人服务的目的是什么,人给什么条件。”德国存在主义哲学家雅斯贝斯如是说。互联网、大数据、人工智能等新技术确实给生产生活带来了变革,同时也重塑了商业模式,但科技与人的关系却产生了“滞后效应”。所谓滞后效应,就是法律监管和公众意识的觉醒滞后于新技术的演进。这种时间差异造成的认知差异很可能引发纠纷,而这种纠纷由于利益相关者的态度完全不同。以人脸识别为例,这项技术已经广泛应用于视频监控、消费电子等场景,但对于不同的采集主体,人们的看法不一。比如,疫情防控需要采集人脸信息,几乎没有人表示反对,但店内采集人脸信息却千方百计。“说服公权力让人相信公权力为了公众的安全和福祉而收集人脸信息。”一位法律界人士表示,这种信任在商业层面恰恰相反:当利用人脸识别技术开展业务时,人们对生物识别信息相当敏感,甚至可以说是抗拒.由于前者属于利益共享,有政府背书,人们认为前者有能力保护个人数据安全。但后者是一种纯粹的商业行为,消费者无法从中获得利益,存在较大的信任危机。这段时间,由于缺乏针对性的法律规范,隐私、技术、商业、监管之间的界限模糊,成为灰色产业链滋生的沃土。《个人信息保护法》和《数据安全法》的出台在一定程度上规范了行业,但从监管的角度来看,隐私、技术和商业行为之间的界限还不够清晰。以生物识别信息为例,哪些信息可以采集,哪些信息不能采集,什么时候可以用,什么时候不能用,在国家层面还没有正式的法律依据支持。例如,现在很多科技公司都在做“智能商务”,即收集数据为商家提供营销服务。《个人信息保护法》中明确规定了人脸信息,企业私自采集人脸用于商业用途属于违法行为。科技公司已经可以通过数据脱敏等技术手段,避开人脸信息,收集性别、年龄、衣着、用户行为等其他信息,这部分数据其实就是前面提到的灰色地带。这些数据可以收集吗?这是一个问题。另一个问题是是否限制在线用户推荐算法收集数据的范围和类型?一位数据公司的VP告诉掘金,目前的大数据其实正处于线上线下融合发展的阶段,任何一端的监管缺失都会造成严重的问题。虽然在2022年1月引入了《互联网信息服务算法推荐管理规定》来规范推荐算法,但在数据收集方面仍然缺乏约束。比如今年315之后,淘宝、抖音、微博等APP推出算法关闭按钮,允许用户关闭“个性化推荐”,但实际影响可能有限。一位业内人士表示,关闭“个性化推荐”有弹性:一是只是降低了内容的相关性;二是降低了内容的相关性。第二,仍然可以通过其他算法(如最近邻算法)来感知消费者的偏好;第三,APP隐私数据仍然可以被收集。当然,这并不意味着该功能毫无用处。在他看来,数据已经成为现代商业不可或缺的一部分,是数字经济发展的基础“资源”。数据和业务之间的联系几乎不可能分开。“如果要划分隐私数据、技术和商业行为之间的界限,需要企业、消费者、监管机构、媒体等各方的参与。”而这将是一场持久的“利益游戏”。本文转载自雷锋网。如需转载,请在雷锋网官网申请授权。