当前位置: 首页 > 科技观察

人工智能可以确认匿名棋手的身份,对隐私构成威胁

时间:2023-03-19 20:47:44 科技观察

人工智能技术已经可以通过语音和手写来确认个人的身份。现在,人工智能算法可以通过下棋的方式来标记个人。这项技术是“笔线”领域的一项重要进步,可以帮助计算机成为更好的国际象棋老师,或者在人机对战中更像人类。令人惊讶的是,这些系统还可以用于帮助识别和跟踪那些认为自己的在线行为是匿名的人。“对隐私的威胁正在迅速增加,”哈佛大学伯克曼克莱因互联网与社会中心的律师亚历山德拉伍德说。她说,这样的研究,如果以负责任的方式进行,可能对社会有用,“因为它们阐明了隐私丢失的重要方式。”DeepBlue和AlphaZero等国际象棋程序早已远远超出人类。多伦多大学计算机科学家、该项目的首席研究员阿什顿·安德森认为,大多数下棋机器人都具有“外星人风格”,这些下棋机器人不适合想要学习和提高自身能力的人。技能。很有启发性,所以如果他们能提供个性化的指导建议会很有帮助。然而,这首先要求机器人能够捕捉到棋手的独特风格。为了设计和训练人工智能,研究人员利用了一个巨大的资源:Lichess网站,该网站拥有超过5000万个人类游戏。他们从玩过1,000多局游戏的玩家那里收集游戏,从中他们抽取了将近32个连续动作。他们对每个棋步进行编码,并将其输入神经网络进行训练。每个棋局都是神经网络多维空间中的一个点,每个棋手的所有棋局组成一个簇。.研究人员训练网络以最大化每个玩家的集群密度和玩家之间的可变性。这就要求系统能够识别出每个球员风格的独特性。研究人员通过为模型提供来自3,000名已知玩家的100款游戏和来自未知玩家的100款游戏来测试系统区分用户的程度。为了增加测试任务的难度,他们隐藏了每局游戏的前15步。研究人员在神经信息处理系统会议(NeurIPS)上报告说,模型识别参赛者的准确率达到了86%。“我们发现结果令人难以置信,”安德森的实验室和主要作者ReidMcIlroy-Young说。非人工智能方法只能达到28%的准确率。“这项研究非常有趣。Meta(Facebook的母公司)的研究科学家诺姆·布朗(NoamBrown)说,他开发了一个超人扑克机器人。他对可以模仿世界国际象棋冠军马格努斯卡尔森棋步的国际象棋机器人感到兴奋,并认为它能够区分个人风格。人工智能可以改变计算机交互的其他方式。他说:“聊天机器人有很多有趣的方面。例如,你可以制作一个像爱因斯坦或其他人一样说话的聊天机器人。这项研究的研究人员意识到,该模型可以用来识别在线匿名棋手,这可能会构成隐私问题。McIlroy-Young说,通过对模型进行微调,该技术也可以应用于扑克。如果数据集正确,研究人员认为这种模型理论上可以根据驾驶习惯或何时何地使用手机来识别个人NeuralInformationProcessingSystemsConference的组织者认可了这个想法。作为一项研究的技术成果,它被认为在伦理上存在缺陷,因此会议仅在研究人员强调隐私风险的情况下才接受该论文(一位审稿人评论说这篇文章“对营销人员来说是一个巨大的挑战,法律部门也很感兴趣”)。安德森说他们决定暂时不发布该模型的代码。