当前位置: 首页 > 科技观察

机器学习很难面对“房间里的大象”

时间:2023-03-19 02:05:08 科技观察

AI没有人类的能力,既能感到难以置信又能冷静接受异常现象,比如房间里突然出现一头大象。根据预印本网站arxiv.org上发布的一项研究(PDF),计算机科学家发现深度学习并不是真正的“深度”,而且AI在发现令人难以置信的事物后“变得疯狂”。在计算机视觉领域,人工智能系统试图识别和分类对象。在这项研究中,研究人员向计算机视觉系统展示了一个客厅场景,该系统正确识别了椅子、人和书架上的书籍。研究人员随后在场景中引入了一个异常物体:一头大象的图像。然后AI系统就发疯了,它忘记了自己识别过的物体,把椅子认成沙发,把大象认成椅子,对之前识别的其他物体视而不见。该论文的合著者AmirRosenfeld表示,该研究表明当前的物体识别系统是多么脆弱。研究人员仍在试图理解为什么计算机视觉系统如此容易出错。他们推测人工智能缺乏人类冷静处理海量信息的能力。