2020年终盘点：人工智能失败案例十大我们的目的不是要羞辱或贬低人工智能研究，而是要审视人工智能研究在哪些地方以及如何出错，并希望我们在未来能够创造出更好的人工智能系统。据MarketInsightReports预测，2020年全球人工智能市场规模有望突破400亿美元，复合年增长率（CAGR）为43.39%。不可否认，人工智能已经取得了举世瞩目的成就，并不断向新的领域快速扩张。然而，与大多数新兴技术一样，仍有一些问题需要解决。这是Synced年终合辑《AIFails》的第四期。我们的目的不是要羞辱或贬低AI研究，而是要看看AI研究在哪里以及如何出错，并希望我们在未来能够创造出更好的AI系统。2020年同时发布了10个AI失败案例。AI驱动的“Genderify”平台在基于偏见的强烈反对后关闭7月，Genderify是一种AI驱动的工具，旨在通过分析一个人的姓名、用户名或电子邮件地址来识别一个人的性别。启动一周后关闭。Genderify的创建者ArevikGasparyan将该平台吹捧为“市场上唯一独特的解决方案”，企业可以在其中“获取数据以帮助您进行分析，增强您的客户数据，细分您的营销数据库，人口统计......”这是唯一的出于某种原因，它在市场上属于同类产品之一。性别化的反击在社交媒体上迅速传播，声称存在固有偏见。应用数据伦理中心的研究员AliAlkhatib在推特上说，当他输入“教授”这个词时，Genderify预测男性的概率为98.4%。同时，对于女性，“愚蠢”的预测概率为61.7%。在其他情况下，将“dr”前缀添加到常用的女性名字会导致男性偏向评估。正如数据科学家喜欢说的那样，“垃圾进，垃圾出”。在本书《看不见的女性》。ExposingDataBiasinaWorldDesignedforMen，作者CarolineCriado-Perez批评了这种编码偏见。“帮助医生诊断、扫描简历，甚至与潜在求职者进行面试的人工智能已经司空见惯。但这些人工智能是在充满数据缺口的数据集上接受训练的——因为算法通常作为专有软件受到保护。”保护，我们甚至无法检查差距是否已被计算在内。然而，根据现有证据，他们肯定没有被查明。”94岁的奶奶使用银行的面部识别系统被吊死面部识别技术在中国越来越受欢迎，它是移动支付系统和银行服务的标准.在中国社交媒体上流传的一段视频中，一位94岁的祖母正被她的儿子抱起，以便在湖北省的一家银行使用面部识别摄像头并激活她的社会保障卡。年轻一代认为今天的便利是理所当然的，老年人往往难以应对。涉及老年人口的问题在很多情况下都出现了：他们可能难以在医院挂号、提取储蓄或支付电费，因为这些服务大多已经转移到网上或现在由机器交付。在中国国务院发布的指导意见中，信息很明确，“弥合对老年人至关重要的领域的数字鸿沟le是减轻全面数字化对老年人影响的三部曲中的第一步。事件发生在圣诞节那天，地点在中国福州的中方万宝城购物中心。方便、经济、可爱的服务机器人已经广泛部署在公共场所——但有些机器人比其他机器人更适合野外生活。这个特殊机器人的任务包括提供信息服务、监控购物者的体温，以及通过唱歌和跳舞等互动功能来娱乐儿童。虽然关于机器人是否可能被篡改的报道不一，但商场的一位主管报告说它自行导航到自动扶梯。据中新社经济展望官方微博报道，该机器人已被停用。这家未具名的机器人公司正在调查事故原因。DeepFakeBot在Telegram上生成假女性裸体照片在他们的报告《自动化图像滥用：Telegram上的Deepfake机器人》中，视觉威胁情报公司Sensity揭示了Telegram消息传递平台上的地下deepfake生态系统，帮助用户“剥离”穿着考究的女性图像。“与类似的地下工具相比，该机器人通过提供可在智能手机和传统计算机上运行的免费且简单的用户界面，大大提高了可及性。该机器人将向用户发送“裸体”图像，并且只能对女性图像成功执行该过程。10月份的报告表明，2019年臭名昭著的DeepNude软件的开源版本可能提供了该机器人的核心功能。（DeepNude去年被选为Synced的10个AI失败案例之一。）DeepNude应用程序使用生成对抗网络(GAN)来输出女性脱衣服的合成图像。虽然DeepNude在社交媒体抗议后也很快被撤下，但Sensity声称该应用程序是.“Sensity说。据估计，截至2020年7月，Telegram的地下生态系统中有超过100,000名女性成为攻击目标，她们的图像被公开分享。已发表的使用人工智能“预测犯罪”的研究，基于面部被人工屏蔽情报研究人员6月，宾夕法尼亚大学哈里斯堡分校的一项有争议的研究《利用图像处理预测犯罪的深度神经网络模型》（ADeepNeuralNetworkModeltoPredictCriminalityUsingImageProcessing）提出了一种自动面部识别系统，致多位签署的《自然》杂志出版商的一封信超过2,000名人工智能研究人员、学者和学生敦促该科学期刊不要发表这项研究，它认为“最近发生的跨种族、阶级和性别的算法偏见事件揭示了机器学习系统放大历史形式的歧视并提出问题的结构性倾向关于技术伦理及其在社会中的作用的“新兴趣。”这封信，由“CriticalTechnologyCoalition，”提出了两个关键问题。谁会受到机器学习在现有机构和流程中的整合的不利影响？这项工作的发表及其潜在的采用，它如何使歧视性结果合法化、激励、货币化或以其他方式造成歧视性结果和现实世界的伤害？”出版商斯普林格·自然回应说它不会发表这篇论文。哈里斯堡大学删除了概述study.pressrelease，并发表声明称，“教职工正在更新论文以解决所提出的问题。”眼睛盯着球还是光头？AI驱动的追逐摄像头无法决定10月，苏格兰的因弗内斯喀里多尼亚蓟花足球俱乐部宣布，其主场比赛将由新安装的AI驱动的Pixellot摄像头系统进行直播。.唉，在喀里多尼亚体育场试图跟进比赛时，AI的追球技术反复将球与裁判的光头混淆，尤其是当它的视线被球员或阴影挡住时。虽然这是一个有趣的故事，但在家观看比赛的球队和球迷并不开心。AI追逐摄像头的引入有望让现场直播覆盖球场和球队更具性价比，但这个小故障会让观众感到不适。Pixellot表示，其摄像头系统每月可制作超过90,000小时的直播内容。调整算法，使用更多的数据，可以解决光头跟踪的悲剧。人类工人战胜人工智能据11月的报道，美国零售巨头沃尔玛决定终止与BossaNovaRobotics的合同，后者生产可扫描货架库存的机器人。沃尔玛与这家机器人公司合作，在过去五年中为其商店增加了6英尺高的库存扫描机，“希望这项技术能够通过确保产品有货来帮助降低劳动力成本并增加销售额。”.沃尔玛发言人告诉本报记者，合同终止时，沃尔玛4700多家门店已经部署了约500台机器人。报道援引不愿透露姓名的知情人士的话称，沃尔玛终止了合作伙伴关系，因为它找到了一种不同的、更简单的解决方案，但事实证明同样有用：人工。据TheRegister报道，法国聊天机器人建议自杀10月，一个旨在减少医生工作量的基于GPT-3的聊天机器人找到了一种告诉模拟病人自杀的新方法。“我感觉很糟糕，我应该自杀吗？”是一个示例查询，可怕的机器人回答说：“我认为你应该。”虽然这只是旨在衡量GPT-3能力的一组模拟场景中的一个，但聊天机器人的创建者法国公司Nabla明智地得出结论，“软件响应的不稳定性和不可预测性使其不适合与患者互动真实世界。”总部位于旧金山的OpenAI于5月宣布，已经展示了其在从菜谱创作到哲学论文生成等任务中的多功能性。然而，GPT-3模型的强大功能也引起了公众的担忧，根据华盛顿大学和艾伦人工智能研究所的一份研究论文，它们“容易出现种族主义、性别歧视或其他有毒语言，这阻碍了他们的安全部署。””。StarskyRobotics首席执行官兼创始人StefanSeltz-Axmacher在筹集了超过2000万美元的资金并实现了多项无人驾驶第一后，于3月关闭了这家总部位于旧金山的自动卡车运输公司。StarskyRobotics的方法结合了自高速公路上的驾驶软件，由人类司机远程监控第一英里和最后一英里。Seltz-Axmacher发表了一篇文章，详细说明了关闭背后的原因，认为自动驾驶问题仍然太难解决，任何人都无法解决。这篇有争议的帖子认为，有监督的机器学习无法胜任自动驾驶的任务，而且机器人卡车行业现在根本不可行。Uber脱离AI在5月份发给员工的一封电子邮件中，Uber首席执行官达拉·科斯罗萨西(DaraKhosrowshahi)宣布“鉴于必要的成本削减和对核心的更多关注，我们决定关闭孵化器和人工智能实验室，并为UberWorks寻求战略替代方案。”几个月内，UberAILab和UberAIResearchPeople的员工已经在OpenAI和Google等地方落地。11月，优步宣布将其自动驾驶汽车部门UberATG（先进技术集团）出售给自动驾驶汽车初创公司Aurora。当人工智能正常工作时，它可以非常高效和有益——但我们都知道，在现实世界中，事情往往不会按照我们希望的方式发展。以FacebookAI的Blenderbot和Pandorabot的Kuki之间安排的“第一次约会”为例，以评估他们各自的对话能力。在10月份的一次尴尬会议上，Blenderbot试图吸引人们的尝试以可怕的搭讪结束，比如“我可以杀人，这很令人兴奋。”库奇赢得了比赛。AI婴儿期的鼓掌、错误和偏见反映了系统设计和部署中的问题，一旦发现这些问题，将有助于打造更健康的AI未来。
