当用户体验成为过去时，AI需要站在公民乃至社会、全球股市乃至每个人命运的角度思考问题。目前，各大数字平台的建设者，以及各种人工智能系统的设计者和开发者，仍然将个人视为用户、客户或数据点，却往往忽视了个人作为公民的角色和权利。结果是个人用户和客户完全脱离了他们的社交环境，带来了可怕的后果。这些人可能在不知不觉中成为错误信息的携带者；没有第一手正确信息的用户可能会被招募为暴力叛乱分子；用户在申请工作或续签保险订单时也可能成为目标。有偏见的人工智能系统的不公平对待。为什么要推动公民体验设计？今天，随着AI解决方案的社会影响变得更加明显，我们需要从公民甚至社会的角度考虑AI技术和设计/开发原理的影响。我们已经通过所有现实世界的证据认识到，有偏见的人工智能系统正在医疗保健、科学研究、刑事司法甚至金融服务等不同领域产生严重后果。此外，我们一直在见证有关数据权利和实践的积极发展。但仅仅从GDPR或数据治理计划的角度来规范高科技企业显然是不够的。同样，新兴算法的审计方法还不够成熟，无法直接影响人工智能的发展及其实践。目前的人工智能伦理委员会甚至不具备快速、大规模调整人工智能发展具体方向的能力。只有确保以公民为中心的价值观和原则指导AI解决方案的设计和开发，才有可能有效和可持续地在AI领域发挥正确的影响。过去，“公民体验”仅被归类为纯粹的公共服务领域，仅此而已。今天，我们需要一种更全面、更以公民为中心的方法来为每个AI设计师和开发人员构建一个通用工具箱。具体来说，我们需要像公民一样思考和行动的人工智能公司、数据科学家和设计师。我们还需要将社会意识带入产品概念、设计和开发核心的公民体验专家。如何构想人工智能的公民体验设计问题那么，我们如何才能为公民体验设计的可持续实践创建人工智能解决方案框架，真正将个人视为公民并融入更广泛的社会结构？首先，公民体验设计需要跨学科的努力，包括结合社会科学、数据科学和设计思维。公民体验设计也对数据素养和算法素养提出了更高的要求，包括需要了解不同数据的优劣、评估应用、不同算法的潜在影响等。而这个目标必须通过跨学科的形式来实现。其次，公民体验设计应该帮助设计师和开发商将个人视为公民用户和公民消费者。公民体验设计还需要提供特定的工具来帮助开发人员将个人视为真实的个人和公司，以在更广泛的社会背景下评估他们的产品决策。这些工具还有望在用户体验和客户体验层面提供对数据科学设计和实践的更深入洞察。第三，公民体验设计应涵盖产品设计和开发的所有要素，包括用例和目标设定、应用指标和用户界面设计、数据管道和人工智能技术选择，甚至用户研究和分析等。第四，基本原则公民体验设计必须与公民共同开发。这些共同创立的实践将产生新的见解，并使公民成为这场人工智能转型的核心力量。公民体验设计的基本原则从这里开始：人工智能从业者首先应该承认个体的身份，即成熟公民的身份，并相应地尊重和关爱。AI解决方案永远不应在脱离社交环境的孤立产品或平台中考虑。这里有一些更具体的迭代建议：人工智能系统的设计和开发应该强调公民权利。算法应该以负责任和透明的方式创建，人工智能系统不应根据公民的身份歧视他们，也不应损害他们的免疫力或完整性。以安全和负责任的方式处理公民数据。人工智能系统不应收集不必要的个人数据，或在未经明确同意的情况下使用个人数据。同样，当公民与AI系统交互或受到其影响时，必须明确通知他们。AI系统不应该愚弄或操纵公民，例如在推荐系统中假装是人类，或诱发不健康的行为。从公民的角度考虑人工智能系统时，个人对数据的控制必须被视为数字产品的一个基本特征。将公民的隐私权作为核心利益，可以确保基于人工智能的监管系统不会以任何不必要的方式触及这部分信息。人工智能系统不应促进任何违反现行法律或其他公民权利的行为。人工智能系统必须尊重现行法律、公共秩序和良好风俗。简而言之，AI设计者、开发者或他们的AI解决方案不应该独立地判断它们是好是坏、公平、相称或合法。公民体验设计需要从业者与不同领域的专家保持持续对话，并在社会背景下积极审视他们的解决方案。人工智能解决方案现在被广泛认为是与人类社会无缝结合的社会技术系统，因此必须不断监测、评估、审计和迭代，以尽可能减少潜在问题或利益冲突。人工智能系统还应该允许人们自主学习人工智能技术的使用和效果。当个人被视为完全成熟的公民时，他们要对他们使用的AI解决方案负责。为此，公民需要培养新的公民技能，包括良好的数据素养、算法素养和数字媒体素养。这需要公民和人工智能从业者的共同努力。例如，公民应该能够观察他们的数据足迹是否以易于访问的方式暴露给算法系统。这种教育透明度有助于人们了解人工智能系统及其创造者的动机和意图，并有助于在公民和人工智能开发者之间建立信任。以公民为中心、具有社会意识的设计可以让公民了解情况，同时增强行为和安全机制，例如使有害信息更容易被发现、减轻甚至预防。建立原则理想情况下，将公民体验设计引入AI应该是指导AI解决方案设计和开发的预设原则，而不是回顾性评估或系统内容迭代。从大局来看，很明显，公民体验设计将为人工智能创新带来新机遇，确保现有和未来的解决方案不会忽视个人用户作为公民的作用。公民体验设计的构建和迭代应该是一个核心宗旨，而这条漫漫长路的起点就在这里。
