你是否有过类似的经历：在求职网站上填写一份关于工作偏好的调查，网站会自动推送匹配的职位；打开购物软件，发现大部分页面都是最近搜索或浏览过的商品；通过APP阅读一条健康信息，然后经常会收到健康知识和健康产品的广告……随着信息技术的飞速发展和大数据的广泛应用，算法推荐技术正在把人们带入一个更加个性化、定制化、智能化的世界。信息传播时代。因为算法推荐，互联网平台越来越能抓住用户的心，帮助人们更方便、更准确地获取信息，牢牢吸引用户的眼球。据不完全统计，目前基于算法的个性化内容推送已经占到整个互联网信息内容分发的70%左右。在算法推荐逐渐成为各平台“基础运营”的同时，精准推送低俗低质信息、“大数据杀熟”等乱象也随之出现。算法作为数字经济的重要驱动力，如何实现更高质量的发展？移动互联网时代，我们真正需要什么样的“算法”？互联网平台是不是越来越“懂”用户了？看完一个短视频平台会自动推荐很多相关视频，很方便。在北京某公司工作的陈辉是某款网络对战游戏的“发烧友”，平时喜欢在手机上观看相关的短视频，以提高自己的操作水平。他发现，随着冲浪短视频的频率增加，平台推荐的相关视频也越来越多。推荐功能使用了一种称为算法推荐的技术。这是一种通过人工智能分析过滤机制，对海量数据进行深度分析，完成信息内容与用户的精准匹配的技术。自1994年美国明尼苏达大学课题组推出第一个自动推荐系统以来，算法推荐技术现已渗透到信息、社交、电子商务、短视频、搜索引擎等平台和互联网应用中。互联网平台越来越“懂”用户。在方便用户获取信息的同时，也容易造成部分用户，尤其是青少年不同程度的上瘾。“说好只看5分钟，结果看了几个小时。”贵州省贵阳市的林中新说，他12岁的儿子最近开始沉迷于一些恶搞的♂，不仅影响学习成绩，还和同龄人一起玩耍。户外活动的时间也少了。从去年5月底开始，青少年防沉迷系统在全国各大网络短视频平台推广。“青春模式”下，多数平台主要推送教育、知识等有益内容。但是，在没有监护人监督的情况下，防沉迷系统的效果很容易打折扣。有受访者反映，一些新闻信息、网络社交平台等平台的个性化推送存在“泛娱乐信息多、低俗内容多、未经核实的内容多”的现象；一些网络社交平台等平台防沉迷手段较少，容易导致青少年沉迷和盲目模仿。北京大学中国社会与发展研究中心主任邱泽奇告诉记者，偏好自我是人类认知偏好的一部分，“偏好”阅读可能会加速“信息茧”效应的形成，“情绪传染”效应。局限性，后者容易使个人情绪感染他人。一些喜欢网购的人，也可能因为遭遇“大数据杀戮”而蒙受损失。一些平台利用算法技术对不同类型的消费者数据进行“画像”，判断其偏好、用户粘性、价格敏感度等，让不同的用户看到不同的价格或搜索结果。通常老用户看到的价格比新用户贵，或者搜索结果比新用户少。今年“双11”期间，北京消费者韩女士发现，自己通过APP预订酒店，“同一时间，不同手机”，差价在1000元左右。9月中旬，在微博上发起的一项民意调查显示，有15000人认为他们遇到了明显的价格差异，占所有投票者的近80%。“算法”是中性的，问题出在人。算法技术的意义在于，将以往以人为基础的“人找信息”转变为以计算机自动化计算为基础的“信息找人”，极大地解放了人力。更高效地完成人与信息的匹配。2012年以来，互联网平台今日头条率先将算法推荐系统应用到信息领域的产品中，实现了系统的自动学习和推荐。据今日头条算法架构师曹欢欢介绍，推荐系统综合考虑内容特征、用户特征、环境特征等因素进行决策。例如，环境特征包括用户在工作中、上班途中、下班后等不同场景下的兴趣偏好信息。为帮助用户发现更多兴趣点，今日头条不断引入各领域优质内容生产者，并通过算法推荐给用户；还推出了“灵狗”反低俗助手，消除低俗信息。推荐系统还添加了重复数据删除和分散策略。前者旨在消除推荐内容相似的文章，后者降低同一领域或主题文章的推荐频率。然而，在头部互联网平台严格自律的同时，仍然存在部分网络社交媒体和新闻客户端在业务导向方面采编流程不规范、管理不严。主要表现在：——向用户推荐劣质信息。一些平台为留住用户，不断向已关注的用户推荐类似内容，其中包含低俗、低俗、色情暴力、真假难辨、缺乏深度、价值取向紊乱等信息。为了增加点击率和流量，一些互联网平台还会进行人工推荐，主动推荐“吸睛”、“吸睛”的信息。不少网友直呼“辣眼睛”。这反映出部分平台缺乏社会责任感，甚至忽视价值观建设。——加大用户权益保护难度。一些算法推荐内容过度提升用户偏好，影响用户自主选择信息内容的权利，加剧“信息茧”效应。由于依赖于用户浏览记录等数据，如果算法推荐设计不当，也可能侵犯用户的个人隐私。——开展“大数据杀熟”。中国传媒大学大数据研究中心教授沈浩表示，对于算法来说，很容易根据用户数据量来判断用户是“新客户”还是“老客户”以及数据更新的频率。结果是平台赚大了，商家和消费者的利益受损，容易导致垄断。算法推荐作为一种技术应用，是中性的，问题在于设计者和运营者。一方面，奉行“流量至上”的单一价值取向。为了应对竞争，一些平台将用户的停留时间作为重要的考核指标，忽视了自身的“守门人”角色。“守门人”必须用符合公序良俗的积极健康的价值观来指导算法推荐的设计和应用，确保推送内容的价值取向是正确的。另一方面，过分追求“利益至上”，利用其信息不对称，侵害消费者的合法权益。这是一个需要引起足够重视的法律问题。“一些算法的顶层设计思路存在问题。”中国社科院信息研究中心主任姜启平告诉记者，英国著名数学家、逻辑学家图灵等学者在描绘人工智能图景时提出，人与机器是对立的。等等，双向相互推进的关系，但是现在一些算法设计表明人和机器之间的关系是单向的。比如在大数据方面，迷信关联分析，忽视因果分析。在算法效率的定义上，只有专业化效率才被定义为效率，但实际上多元化效率也是一种效率。大数据和算法推荐应该更“暖”一点。近日，有网友在某问答平台发帖称，在某社交平台与好友聊天时提到扫地机，随后该平台出现了扫地机器人的广告。跟帖中，不少网友提问：“平台是否可以通过算法等技术抓取用户聊天记录进行精准投放？”App多批次检测未发现“窃听”行为。但是，应用程序“窃听”在技术上是可行的。相关部门有必要出台规定，明确企业在进行大数据“人像”时是否可以使用个人语音信息，让用户更安心。从另一个角度来看，舆论的质疑其实指向了大数据、算法等技术应用的价值取向。如何规范大数据和算法技术的使用，让其更“温暖”、更让人放心？需要建立有效的监督体系和评价体系，确保算法设计者和操作者以健康、正确、正向的价值观指导算法推荐的设计和应用。相关立法和监管亟待加强，尤其是算法推荐本身的法律监管。例如，目前正在征求意见的《个人信息保护法(草案)》规定个人认为自动化决策对其权益有重大影响的，有权拒绝个人信息处理者仅通过自动化决策进行决策.11月10日，国家市场监督管理总局发布的《关于平台经济领域的反垄断指南(征求意见稿)》规定，以大数据和算法为基础，根据交易对方的支付能力、消费偏好、使用习惯等，实行差异化交易价格或其他交易条件；交易对方实行差异化交易价格或者其他交易条件的；实施差异化的标准、规则和算法；实施差异化支付条款和交易方式等，可能被认定为“大数据杀熟”等不正当竞争行为。更严格的监管。北京大学电子商务法研究中心主任薛军告诉记者，应根据算法的使用场景及其对公民基本权益的影响，对算法进行不同程度的监管。除了需要更明确的法律规定外，还可以建立某种社会化的审查机制来评估平台使用算法的后果，并要求平台基于公共价值进行优化。压实平台的社会责任。曹欢欢表示，今日头条不再完全依靠算法推荐，而是一个集“算法+热点+搜索+关注”为一体的综合信息平台，帮助用户拓展兴趣。用户也可以选择关闭“个性化推荐”按钮或“永久清除历史行为”，自主选择获取信息的方式。“算法技术应强调价值伦理，应将人的一面视为技术本身，鼓励企业在商业行为中履行社会责任。”蒋启平认为，算法推荐技术和平台的监管应确保公平高效、个人信息开发与保护、个人信息与平台信息等，从促进数字经济服务业态健康发展的角度考虑，政策调整可个性化信息服务按照收支平衡的原则进行。他建议确保消费者对信息采集者的服务质量有判断权，让消费者始终处于主动地位。有专家认为，监管部门应督促企业调整业务逻辑，将积极的价值导向和对用户的高质量追求作为算法顶层设计的关键标签；政府、学校、家长、平台应共同承担责任，不断完善青少年网络。扫盲。
