当前位置: 首页 > 科技观察

人脸识别技术的伦理原则

时间:2023-03-14 21:40:14 科技观察

人脸识别技术在各个领域的巨大潜力几乎是难以想象的。但是,在使用之前,需要解决其功能中常见的某些错误和一些道德问题。面部识别系统使用生物识别技术从照片或视频中映射面部特征,然后将该信息与已知面部数据库进行比较以找到匹配项。面部识别可以帮助验证一个人的身份,但也会引发隐私问题。与其他人工智能技术一样,使用面部识别系统时也需要遵循一些道德原则。这些原则包括:1.面部识别的公平性首先,面部识别技术的发展必须确保系统完全防止或至少最小化基于种族、性别、面部特征、畸形或其他原因对任何个人或群体的偏见。现在,有充分的证据表明面部识别系统在其操作中不能100%公平。因此,开发该技术的公司通常会花费数百小时来消除其中发现的所有偏见痕迹。组织必须加倍努力消除面部识别系统的偏见,为此,用于机器学习和标记的数据集必须多样化。最重要的是,一个公平的面部识别系统的输出质量将非常高,因为它可以在世界任何地方无缝工作,没有任何偏见。为保证人脸识别系统的公平性,开发者还可以在测试阶段让终端客户参与进来。2.人工智能运营的开放性将面部识别系统纳入工作场所和网络安全系统的组织需要了解机器学习数据的存储位置。这些组织在实施之前需要了解技术的局限性和功能。提供人工智能技术的公司必须在这些细节上对客户完全透明。此外,服务提供商还必须确保客户可以根据自己的方便在任何地点使用他们的面部识别系统。并且只有在获得客户的有效批准后才能对系统进行任何更新。3.利益相关者责任如前所述,面部识别系统部署在多个领域。开发此类系统的组织必须对其负责,尤其是在技术可能直接影响任何个人或团体(执法、监视)的情况下。此类系统中的责任旨在防止系统可能导致的身体或健康伤害、财务挪用或其他系统问题。为了在过程中引入控制元素,需要有合格人员负责组织中的系统以做出正确的决策。除此之外,将面部识别系统纳入日常运营的组织必须立即解决客户对该技术的不满。4.监控前的同意和通知在正常情况下,任何个人、团体或其他人不得在未经本人同意的情况下被监视使用人脸识别系统。某些机构,例如欧盟,有一套标准化的法律(GDPR)来防止未经授权的组织监视个人。拥有此类系统的组织必须遵守该国的所有数据保护和隐私法规。5.避免侵犯人权的合法监控除非国家或政府决策管理机构出于涉及国家安全或其他重要情况的目的授权,否则组织不得使用面部识别系统监控任何个人或团体。基本上,严禁使用该技术侵犯受害者的人权和自由。6.购物时的身份验证错误如前所述,面部识别系统正被整合到数字支付应用程序中,以便用户可以使用该技术来验证交易。使用这种技术进行支付,很可能会发生面部身份盗用和借记卡欺诈等犯罪。客户之所以选择面部识别系统,是因为它为用户提供了极大的便利。然而,此类系统中可能出现的一个错误是同卵双胞胎可以使用彼此的银行账户进行未经授权的支付。7.执法应用不准确面部识别系统用于在罪犯被捕之前对其进行识别。虽然作为一种概念的技术在执法中无疑是有用的,但它的工作存在一些突出的问题,例如有偏见的人工智能为执法提供了不准确的结果,因为系统有时无法区分有色人种。通常,此类系统是在包含白人图像的数据集上进行训练的。结果,在识别其他种族的人时,该系统的工作充满了错误。正如我们所见,与面部识别技术相关的主要问题和错误源于技术缺乏进步、数据集缺乏多样性以及组织对系统的低效处理。可以预见,未来随着技术的进一步进步,与技术相关的问题将得到解决;与人工智能算法中的偏差相关的问题最终将被消除。然而,为了使这项技术在不违反任何道德原则的情况下完美运行,组织必须对此类系统保持严格的治理水平。