当前位置: 首页 > 科技观察

人工智能既需要实用主义者,也需要蓝天梦想家

时间:2023-03-13 15:10:24 科技观察

人工智能思想家似乎来自两个社区。一种是我所说的蓝天梦想家,他们推测技术的未来可能性,唤起乌托邦式的幻想来产生兴奋。蓝天愿景令人信服,但常常被不切实际的愿景和对可以和应该建造的东西的道德挑战所笼罩。相比之下,我称之为泥靴实用主义者的人以问题和解决方案为中心。他们希望减少广泛使用的人工智能系统可能造??成的危害。他们专注于修复有偏见和有缺陷的系统,例如经常错误地将人识别为罪犯或侵犯隐私的面部识别系统。实用主义者希望减少人工智能可能造成的致命医疗错误,并引导自动驾驶汽车成为安全驾驶汽车。他们还旨在改进基于人工智能的抵押贷款、大学入学、工作招聘和假释批准决策。作为一名在设计已广泛实施的创新应用程序方面拥有悠久历史的计算机科学教授,我相信那些有远见的人会从MudbootRealist的深思熟虑的信息中受益。将两个阵营的工作结合起来更有可能产生有益的结果,从而导致下一代技术的成功。虽然蓝天投机者的未来主义思想激发了我们的敬畏并获得了我们的大部分资金,但泥靴思维提醒我们,一些人工智能应用程序威胁隐私、传播错误信息,并且是公然的种族主义、性别歧视和其他道德问题。不可否认,机器是我们未来的一部分,但它们会平等地为所有未来的人类服务吗?我认为泥浆训练营的审慎和实用性将通过确保越来越多地影响我们日常生活的算法开发的多样性和平等,在短期和长期内造福于人类。如果天马行空的思想家将泥靴现实主义者的担忧纳入他们的设计中,他们就可以创造出更有可能提升人类价值观、权利和尊严的未来技术。蓝天思维始于人工智能发展的早期。文学由开创技术并预示其不可避免的社会变革的作家主导。人工智能之父通常被认为是麻省理工学院的马文·明斯基和约翰·麦卡锡以及卡内基梅隆大学的艾伦·纽厄尔和赫伯·西蒙。他们在会议上的聚会,例如1956年的达特茅斯会议,激发了西蒙1965年的预测:“机器将能够在20年内完成人类可以完成的任何工作。”人工智能还有许多其他贡献者,包括2018年的三位图灵奖获得者:GeoffreyHinton、YoshuaBengio和YannLeCun。他们在深度学习算法方面的工作是一项重要贡献,但他们对AI的重要性和必然性的持续庆祝包括Hinton令人不安的2016年引用“人们现在应该停止培训放射科医生。显然,五年内深度学习将能够做得更好比放射科医生的工作。”更以人为本的观点是,深度学习算法将成为另一种工具,就像乳房X线照片和血液测试一样,使放射科医生和其他临床医生能够做出更准确的诊断并提供更合适的治疗计划。2013年牛津大学报告使机器人取代人类导致广泛失业的主题合法化,声称47%的工作可以自动化。未来学家马丁福特2015年的书《机器人的崛起》抓住了这个想法,描绘了一幅令人不安的画面,低技能和高技能工作变得如此完全自动化政府将不得不提供普遍的基本收入,因为剩下的工作很少积极创造新的就业机会,这有助于导致美国和其他一些国家目前的高就业水平。是的,一些作者们提供了警示性的故事和不同的愿景,例如麻省理工学院教授约瑟夫·魏岑鲍姆(JosephWeizenbaum)在他1976年的著作《计算机能力和人类理性》中,但这些都是例外。Mudboot实用主义者掀起了新一波深思熟虑的AI批评浪潮。他们将讨论从狂热的乐观主义转变为明确表达对人类尊严、公平和民主的威胁。专栏文章和2016年白宫座谈会是有益的举措,数学家凯茜奥尼尔2016年的书《数学毁灭武器》扩大了受众范围。她专注于不透明的AI算法在大规模应用于决定假释、抵押贷款和工作申请时会产生怎样的危害。奥尼尔的有力榜样促进了以人为本的思想。其他书籍,如RuhaBenjamin的RaceAfterTechnology:NewJimCode的废奴主义工具,以及如何改变算法以增加经济机会和减少种族偏见。社会心理学家ShoshannaZuboff的2019年著作《监视资本主义时代》展示了谷歌从早期的“不作恶”座右铭转变为有计划地努力“混淆这些过程及其影响”。Zuboff的解决方案要求改变商业模式、民主监督和隐私保护。学者凯特·克劳福德(KateCrawford)在她2021年出版的著作《人工智能地图集》中进行了另一项毁灭性的泥鞋分析,重点关注人工智能对工作、环境、人际关系和民主的榨取和破坏力。她在美国国家工程院的精彩演讲中进一步完善了这一点,描述了AI研究人员和实施者在鼓励政府监管和个人努力保护隐私的同时可以采取的建设性行动。泥靴活动家因其积极的研究贡献而受到认可,这些贡献导致了造福于人们的巧妙设计。2021年10月,辛西娅·鲁丁(CynthiaRudin)获得了人工智能促进协会颁发的价值100万美元的AIforGood奖。她在AI的可解释形式方面的工作是对不透明黑盒算法令人眼花缭乱的复杂性的回应,这些算法使人们难以理解为什么他们被拒绝假释、抵押贷款或工作。许多泥靴思想家都是女性,但男性也谈到需要人道监督。技术先驱JaronLanier在他的《立即删除社交媒体帐户的十个论点》中也提出了担忧,该文件指出社交媒体的危险并建议用户更好地控制他们对社交媒体的使用。法律学者FrankPasquale的NewLawsofRobotics解释了为什么人工智能开发者应该重视人类的专业知识,避免技术军备竞赛,并对他们创造的技术负责。然而,通过以人为本的设计确保人为控制将需要对国家政策、商业实践、研究议程和教育课程进行重大改变。这个营地的不同工作人员——包括女性、非二元性别者、残疾人和有色人种——传达了一个重要信息,即确保蓝天梦想转化为可实现的产品和服务,造福于人类和保护环境。