作者：RebeccaParsons从数百万美元的勒索软件赔款到数亿用户私人信息的数据泄露，围绕恶意技术的头条新闻总是引人注目，但他们并不解释所有问题。事实是，恶意技术远不止蓄意、有针对性地破坏系统或窃取用户数据。虽然黑客攻击、勒索软件攻击、数据泄露和DDoS攻击主导了新闻报道并确实造成了严重破坏，但它们实际上只是沧海一粟。要识别所有形式的恶意技术行为，首先要有正确的心态，不要对“恶意技术”一词过于恐慌。我们在这里不是在谈论技术攻击本身，我们需要更广泛地考虑这个问题。恶意技术不仅仅指非法行为，我们甚至不是在谈论必然是恶意的事情。例如，有些人对在线监控完全满意，因为它可以帮助他们获得更准确和个性化的建议。与此同时，还有其他人会竭尽全力逃避任何数字监控，因为在他们看来，这是不道德的。有些技术可能看起来是恶意的，但它们的意图并非如此。例如，图像识别软件的开发者并没有刻意让软件在识别黑人女性的人脸时提供不一致的结果，而只是呈现看似有偏见的结果，因为该软件目前的数据集很差，而这些都不是开发者的本意.这些不是恶意物品，当然也不能归因于恶意品牌。在许多情况下，他们甚至不是设计或规划失败，而是团队没有充分考虑技术决策如何以不同方式影响所有潜在利益相关者群体。这是一个关键点。在设计之初，软件通常有一个特定的利益相关者群体，设计者试图直接服务或满足这个群体的需求，但往往忽略了产品对其他利益相关者的影响。例如，训练自然语言处理模型的二氧化碳足迹与乘坐纽约和北京之间的125次往返航班相同——很少有人考虑到这种环境影响。此外，还有很多人忽视的公平正义问题。比如疫情期间，很多教育都转移到了线上，有些家庭网络条件不好，根本无法支持几个孩子同时参加网络课程，更不用说家长了。同时在家工作。许多人看到了数字教育的一场精彩革命，却看不到那些因数字不平等而落在后面的人。为什么现在是拥抱道德技术的合适时机？大流行病和持续的气候危机暴露出的数字不平等只是两个原因。如今，技术几乎深入到我们生活的方方面面——医疗决定、信用决定、缓刑或量刑决定，所有这些对个人生活产生巨大影响的事情，都深受技术选择的影响。利害关系是非常真实的，技术决策者在做出这些决定时很少全面考虑它们。这就是为什么对于各种组织而言，培养负责任的技术思维方式如此重要。负责任技术的定义负责任技术-有时称为道德技术或公平技术-是一个包含各种概念的总称，总而言之是关于使用技术做正确的事情-这可以意味着任何事情，从采取措施做到这一点更容易获得应用程序，实施政策以帮助继续提供公平的技术体验。在纸面上，这是一个相对简单的概念，但它仍然笼罩在误解之中。最近看到一些资料说，在土木工程等领域，“责任”是很容易定义的，你的责任是确保建筑物稳固，不倒塌，不影响居民的生活。隐藏的含义是，在软件或技术世界中，这很难定义。是的，我们不像医学界那样被任何一种“希波克拉底誓言”所束缚。但当谈到用技术做出符合道德和负责任的决定时，我们往往给自己太多的回旋余地。我们可以采取哪些步骤来变得更加负责任？为了减少技术带来的意外伤害并做出负责任的决策，当今??的企业需要专注于识别可能受特定技术决策影响的潜在利益相关者。这意味着要查看：接受测试的受众-他们是否真正代表了预期使用该产品的最终用户群体？该过程是否涉及所有利益相关者群体，他们是否有发言权？服务所需数据集的质量和准确性——是否没有偏见，是否提供真实、全面的反馈和包容性体验？设计中是否设计了平等和易用性——复杂的特性或功能是否以牺牲整体可用性和可访问性为代价？这一决定是否会对人类社会产生更广泛的负面影响？例如，它是否符合我们的可持续发展目标，是否有可能破坏环境？我想鼓励组织做的另一件事是清楚地说明组织关心什么以及它希望采用的技术帮助实现什么。正如《数学毁灭武器》的作者CathyO'Neil所说，有时候你必须在公平和利润之间做出权衡。这取决于你想在这个范围内的哪个位置，但重要的是要有明确的目标和意图。我曾与一家组织合作，该组织开发了一个框架，阐明了他们在使用客户数据方面的价值观和原则，清楚地阐明了他们打算如何操纵这些数据，以及他们做出该决定的原因。这花了几个月的时间，但这让他们的意图和道德立场变得清晰且易于对齐。减轻技术的意外伤害技术造成的意外伤害有多种形式，并且可能潜伏在任何技术决策中。作为技术管理者，我们有责任提出正确的问题，并考虑每个人将如何使用这些技术，以及它们可能如何影响使用这些技术的人的生活和体验。转向这种负责任的方法和思维方式在理论上相对简单，但需要整个行业的组织和专业人士的真正奉献，才能看到有意义的结果。正如我们有责任保护客户数据免受恶意威胁一样，我们也有道德责任尽我们所能减少技术的负面影响并为所有人建立一个公平和可访问的数字世界。
