本文转载自公众号《核心阅读》（ID：AI_Discovery）科技伦理是永恒的话题。作者经常思考诸如计算机科学家如何将道德内容和价值观编码到机器学习算法中，以及机器学习设计师如何更好地理解他们的设计将对社会产生的影响等问题。如果机器学习工程师设计一个更加公平公正的决策系统，他们对公平公正的定义是什么？他们会选择什么评估指标来优化它？选择另一个指标或定义会产生什么社会影响？?作者认为，在设计机器学习系统时，有必要研究算法嵌入社会问题的潜在危害，例如价值权衡和价值冲突的应对方法。这正是作者九个月前申请博士时提出的研究倡议。来自中国国家自然科学基金（GRPF），但不幸的是，申请被拒绝了。哪里有问题？从院士们的回复来看，一切都很好，除了“这更像是社会学研究而不是计算机科学（CS）”。或许申请人类学领域比CS更合适。涉及到另一件事。社会科学与计算机科学的不相关性是计算机领域的象征性历史遗产。反复阅读回复后，我开始思考这句话的含义。我想到了几个问题：社会科学和计算机科学之间的关系是什么？计算机科学应该在社会中扮演什么角色？如果继续将两者分开来看，未来可能会发生什么？什么，技术在我们的生活中扮演什么角色，计算机科学家如何改变和塑造社会？让我们一点点揭开技术的面纱，探索技术与社会的终极奥秘。一、社会科学与计算机科学的区别技术渗透到社会的各个角落，应用也比以往任何时候都更加频繁。今天，社会在线运作。所有连接都将通过宽带进行。群体由0和1连接起来，他们共筑通往未来的道路。那么社会科学和计算机科学之间的关系是什么？“科技不仅会助力人类活动，更是重塑活动和意义的重要力量。”——LangdonWinner数百万年来，人类一直依靠科技攀登到食物链的顶端。技术是在发现问题时诞生的。例如，当我们需要食物来维持生命时，我们就会想到火。这些技术工具将在社会中变得越来越普遍，人们将以意想不到的方式改变和重塑它们。21世纪属于计算技术的时代，我们有了解决问题的新方法，互联网给了我们更多的信息，智能手机给我们带来了更多的旅行机会，社交媒体以前所未有的方式将我们联系在一起。.社会进程因此永久改变。互联网、智能手机和社交媒体只是当前由计算连接在一起的世界中的一小部分，但它们已经改变了人类文化。事实上，社交媒体是人类社会学研究下的一个科学分支，个体之间的关系也存在于这样的社会中。在这种情况下，说计算机科学和社会科学没有关系是无稽之谈，很难想象一个两者完全没有联系的世界。技术不断创造，让世界根据我们的需要不断变化。计算机科学占据主要地位，如机器学习和人工智能，随之而来的社会变革的可能性超乎你的想象。2.计算机科学在社会中扮演什么角色？“必须从各个方面对社会和技术系统进行全面分析，从而全面识别当前存在的问题。”——《计算机在社会变革中的角色》昨天下午我被安排做毕业演讲，讲课时长为75分钟，内容是计算机技术在解决社会问题中的作用。班上的大多数是计算机科学博士生，主题是以人为本的机器学习。看完《计算机在社会变革中的作用》一文后，我问他们是否觉得计算机技术需要为解决社会问题负责。他们的见解很有趣：一位同学提到，技术本身并不一定需要为社会带来积极的变化，真正改变的是人。人既然要创造技术，就必须不断创造，要有造福社会的态度；另一位同学问是否应该用科技来解决社会问题。他觉得科技不应该让歧视、不公平等社会问题持续存在，但他不需要为解决这些潜在问题负责。我们一致认为，计算机技术不应该用来解决社会问题，而应该作为社会的一部分来使用。事实上，计算机科学使问题保持??活力并同时解决它们。我们讨论了计算机科学，尤其是机器学习系统如何随着社会的发展而改变社会。为了获得评估成功的指标，我们选择数据来训练模型，从这些数据中机器学习的设计决策基于社会科学。回到开场白，我并没有花一整天的时间来回头阅读，我问了一些新兴的计算机科学专家，他们如何理解社会科学与计算机科学之间的关系。他们的反应是一致的，他们都认为两者之间存在根本联系。3.如果社会科学和计算机科学仍然分开对待会怎样？在获得软件工程本科学位后，我需要学习一门名为“职业责任”的计算机伦理学课程。这门课程让我第一次了解技术如何帮助和危害社会。它改变了我对技术在我生活中的作用的理解，也改变了我的职业轨迹。在上课之前，我从没想过道德、公平、正义、不平等等社会问题与计算机科学息息相关。我上过很多专业课，但从未听过一个关于职业道德的词。我会花费数百小时来设计算法，而从不考虑边界在哪里。社会科学不是我的计算机课程的主题。尽管身处一个越来越受计算决策影响的世界，但多年来的教导是，社会科学与计算机科学是分开的。当我决定攻读机器学习伦理学博士学位时，我告诉自己，这两者密切相关，少了就会很危险。这就是我担心的地方：如果这两个领域仍然被视为彼此分离，“道德”将成为技术体系中永远存在的问题，而CS课程将继续只有一门“道德/职业责任”课程，有些甚至没有，技术将一如既往地继续给社会带来负面影响。这就是为什么计算机科学家必须学会以对社会负责的方式编码。被拒绝的经历让我进一步认识到了这一点。计算机科学不应该也不能脱离人类指导的热情。是那些不赞成的人提醒我我的工作有多么重要。
