随着数据和AI技能在众多组织中的普及，各种信息数据需要更广泛地共享，以实现价值最大化。但是，这些数据中包含了大量的个人隐私信息，需要在数据使用过程中进行有效保护。智能产品和服务面临着功能和隐私之间的权衡。这种权衡表现为“我们可以从事数据科学，也可以有效保护数据隐私，但我们不能两者兼得”。目前，行业监管机构对个人隐私保护的要求非常严格。如果组织未能有效保护用户的隐私数据，将面临严重的合规处罚。因此，组织需要使用个人数据来构建智能产品，同时保护用户隐私。盘点新一代隐私保护技术在人工智能时代，保障个人隐私安全尤为重要，也更加困难，因为在当今高速计算能力下，即使是匿名化的数据集，也可以通过逆向工程来识别个人身份，推测个人身份。隐私活动信息。传统的数据保护措施难以满足隐私保护要求。组织需要尽快了解和应用新一代隐私保护技术，为智能应用的安全发展保驾护航。联邦学习：这种技术允许使用保存在许多不同设备或服务器上的数据来训练AI模型。因此，该模型无需从单个设备获取或复制数据即可进行学习。这可以被视为“共享模型，而不是共享数据”，创建一个从本地数据学习的全局模型。安全多方计算：该技术主要是让不同的用户处理他们不想与彼此共享的数据。它允许在一组授权和同意的用户之间共享加密数据，并允许他们处理由各方个人数据组成的数据集，而无需访问数据所有者的原始数据。同态加密：该技术允许数据在加密后被处理和利用。例如，可以从可穿戴设备数据集中找到有关关节炎患者的数据，并根据群体层面的洞察力创建有用的模型，所有这些都无需破译个人记录。同态加密越来越受欢迎，研究人员希望有一天能够对加密数据执行几乎所有应用计算。可信执行环境：这是一种特定于硬件的隐私保护技术，它在计算设备上创建一个安全区域，能够自行执行某些批准的功能。智能手机使用此环境进行用户生物识别身份验证，并创建受信任的执行环境以在个人数据上运行AI模型，但用户无法带走该数据。差分隐私：即使建模者看不到原始数据，不良行为者仍有可能对模型的输出进行逆向工程以窥视个人身份。差异隐私有助于解决这个问题，也有助于保持匿名性。它将随机噪声添加到数据中，这会破坏数据点但会保留整个数据集的属性。因为建模者意识到这种随机性，所以他们仍然可以构建准确的队列级别模型来可靠地进行预测。但任何窃取数据的人都不知道任何个人数据记录是否准确。隐私保护技术的应用这些技术不仅仅是学术上的概念，它们已经在实际工作中得到实际应用。MELLODDY是一个由生命科学公司组成的行业联盟，这些公司使用联合学习来共享药物发现数据。最新的美国人口普查数据发布使用差异隐私技术来确保无法识别个人身份，同时提供汇总的人口统计数据。联合国PETS（隐私增强技术）实验室正在测试一系列这些技术，目的是使国家统计局、研究人员和公司能够就共享数据进行协作。然而，人工智能时代开展隐私保护工作并非易事，隐私保护技术的应用也面临诸多挑战。例如，同态加密等技术属于计算密集型技术，对机构的计算能力要求较高，而差分隐私在某些特定场景下难以保证隐藏原始真实数据的过程的准确性。没有一种技术是万能的！组织在开展隐私保护工作时需要综合考虑这些新技术的特点，结合实际使用场景探索真正适合的隐私保护方案。而和所有的数据项目一样，一个好的隐私保护模型也需要足够的底层数据支撑。隐私保护技术要发挥作用，数据所有者需要采用良好的数据管理方法。由于某些建模者看不到原始数据，因此过滤数据以处理匿名查询非常重要。最后，隐私保护技术不应事后添加，而应在业务系统开发过程中同步考虑。任何需要共享个人数据的程序都应该采用隐私优先的方法，首先考虑产品背后的数据对隐私的影响，并从一开始就添加正确的工具，这样组织才能在保护用户隐私的同时获得所需的洞察力.稳定可靠的隐私保护技术措施有助于说服客户共享数据，合理考虑尊重隐私与数据使用之间的平衡。更广泛、更深入和更具代表性的数据使组织能够构建更准确、通用和有用的模型，以支持智能个性化产品和服务。这样做很重要，但也意味着保护和尊重与组织共享数据的用户的隐私和安全。参考链接https://www.capgemini.com/insights/expert-perspectives/the-new-generation-of-privacy-preserving-technologies/。
