人工智能革命渴望个人数据。
在机器智能和监视交叉之前,需要对隐私法规做出承诺。
人工智能可以在很多方面帮助人类。
自动驾驶汽车和智能基础设施兑现了通过促进人们进出城市的流动来减少交通拥堵的承诺。
改进的诊断和治疗正在延长人们的生命。
在企业中,人工智能可以帮助改善招聘决策,使工厂更安全,自动化日常任务,生成更客观的绩效评估并帮助组织了解客户。
新工具频繁出现。
亚马逊已获得两项腕带专利,该腕带可以在工人填写订单时跟踪手部动作。
腕带使用射频来精确跟踪手部动作,当检测到低效活动时,腕带会振动,轻轻触摸工人的手,引导其朝正确方向移动。
Humanyze 销售的徽章可以衡量社交关系并跟踪办公室工作人员的活动,以深入了解他们与同事互动的质量。
欧莱雅的 UV Sense 追踪佩戴者暴露于紫外线的时间和程度,然后将数据传输到用户的手机。
Cogito 可以监控同理心,或者客户服务代理在处理电话时是否能很好地站在客户的角度考虑。
不幸的是,释放这些工具的好处需要大量数据,这也使消费者和员工容易受到监视。
中国的社会信用体系于2016年启动,预计将于2018年全面投入运行。
为了创建档案,该系统汇总了支付记录、医疗信息、法律记录和其他数据。
此外,该系统使用面部识别来跟踪每个人以及与他们互动的人。
摄像头在大城市非常普遍,人们开玩笑说政府可以在七分钟内找到任何人。
事实上,大量数据以意想不到的方式造福社会。
今年4月,约瑟夫·迪安吉洛被指控为“金州杀手”(译注:金州是加州的昵称),涉嫌参与1970年代和1980年代发生的一系列悬而未决的谋杀和强奸案。
警方将嫌疑人的基因图谱与个人网站上的基因表达图谱进行了比较,该网站为人们提供家谱研究服务。
最终,他们的目标是与犯罪者有一定遗传联系的一群人,根据年龄、性别和居住地排除了一些人。
警方确认迪安吉洛为嫌疑人后,从他丢弃的垃圾中提取了DNA样本,发现该样本与犯罪现场的样本相符。
虽然这些基因数据库帮助警方解决了几十年前发生的犯罪问题,但它们的使用引发了隐私问题。
在那些向存储库贡献遗传数据的人中,很少有人希望执法部门对这些文件进行评估。
提供此类信息的人可能没有意识到,他们的行为可能会向当局提供有关未同意公开遗传信息的亲属的信息,或者甚至不知道数据库中存在家庭遗传物质的亲属的信息。
世界正面临着越来越多的隐私问题。
今年5月,欧盟实施了名为“《通用数据保护条例(GDPR)》”的全面隐私保护法规。
其他国家也在颁布立法,例如加拿大的《国家网络安全战略》以保护数字隐私。
印度提出的《个人数据保护法案》强调人工智能伦理、个人隐私、安全和透明度。
这些法规由独立监管机构监督,并对违规行为处以严厉处罚。
据联合国称,已有 100 多个国家实施了数据保护和隐私法。
然而,它承认许多保护法最近没有更新,而且不够严格,不足以让公民相信他们的隐私得到充分保护。
2017 年,亚马逊、苹果、Facebook、谷歌和微软的一些工程师、设计师和其他员工越来越担心监控的潜力,并承诺“不再发生”。
该名称指的是 IBM 技术在第二次世界大战期间所发挥的作用,当时 IBM 的打孔卡帮助美国政府管理日裔美国人,纳粹追踪大屠杀受害者。
签署“停止此”协议的公司承诺不会创建任何允许美国政府收集个人宗教信仰信息的数据库,担心此类数据库可能导致大量人口被驱逐出境。
今年10月在布鲁塞尔举行的国际数据保护和隐私委员会会议上,蒂姆·库克表达了对“数据产业综合体”的担忧。
他警告说,为了创建“持久的数字档案,公司正在收集个人数据并进行综合,以便他们比你更了解你自己。
”他支持《通用数据保护条例》并呼吁美国制定隐私法。
隐私监管七项原则 库克是对的:美国是时候效仿其他国家,制定数字隐私法了。
新法规至少应包括以下原则。
尽量减少要收集的数据 数据收集应限于完成手头任务所需的数据。
应限制收集供将来使用的额外数据。
个人身份信息必须被删除,并且不得出现在用于分析的数据中。
告知用户数??据收集情况 应通知用户何时收集数据以及如何使用数据。
个人必须能够决定是否允许在每次活动期间收集他们的数据。
浏览器和网站的条款和条件必须足够简单,以便消费者能够快速做出明智的决定。
允许个人访问数据个人必须能够复制自己的数据并更正或删除不准确的个人数据。
对于当今的某些企业来说,纠正数据几乎是不可能的。
最近,我的一位同事更新了她的信用报告,因为她搬回了她原来住的地方隔壁的房子。
尽管她找到了更改街道地址最后一位数字的店主,但信用局拒绝删除该条目,称她未能证明自己从未住在另一所房子里。
当她向信用局询问什么构成证据时,信用局没有回应。
决策透明度的需求人工智能越来越多地做出有关法律法规、招聘、大学招生以及其他深刻影响个人生活的领域的决策。
由于人工智能使用大量数据,而这些数据受到大量规则的约束,人们往往无法理解人工智能引擎是如何得出结论的。
虽然人类理解人工智能引擎在工作时使用什么逻辑并不重要,但在某些情况下,偏见或意外后果可能会影响最终结果,这是不可接受的。
Equivant 的工具可以预测个人犯下新犯罪的可能性。
如果法官在量刑时使用这一工具,他们往往会判处得分高的被告服更长时间的刑期。
不幸的是,由于评分机制是专有的,被告无法对其提出质疑。
公共利益调查新闻组织 ProPublica 在 2011 年和 2017 年对佛罗里达州布劳沃德县的 7 名被告进行了介绍。
Equivant 预测了哪些被告将在未来两年内犯罪,ProPublica 将其预测与每个被告实际实施的新犯罪进行了比较。
他们的结论是 Equivant 的风险评分不可靠;它可能预测在这些被告中,黑人未来犯罪的可能性是白人的两倍,但这是错误的。
Equivant 不同意,称 ProPublica 的方法存在缺陷。
显然,对个人生活具有如此巨大的潜在影响,无论是判决还是其他深刻影响个人生活的法律手段,都必须是高度准确且逻辑上站得住脚的。
保护数据 确保数据安全并确保数据得到适当使用是所有收集和存储数据的实体都需要做的事情。
最近发生了一系列数据泄露事件,万豪和Quora是最新的两起,影响了很多人。
对合规行为实施严厉处罚的积极执法方法对于执行有效的新法规至关重要。
各大科技公司赚大钱,小额罚款根本可以忽略不计。
充其量,它们只是很小的运营成本。
制定国家法律新的美国隐私法应涵盖所有收集个人数据的企业,而不仅仅是科技公司。
此外,联邦立法是必要的,否则其他州将效仿加州并颁布自己的法律,这可能是不兼容的。
立法对商业的影响 由于新的隐私法规的出台,一些公司被迫重新考虑其商业模式。
如今,许多消费者提供个人数据以便免费使用搜索引擎、社交媒体和其他工具。
担心隐私问题的消费者可能会支付少量费用来换取真正的匿名。
虽然现在理论上可以不留痕迹地浏览网页,但大多数消费者发现如果没有熟练的技术帮助就不可能做到这一点。
公司部署新工具和员工维护隐私之间必须保持平衡,为此,工作场所需要仔细规划和一些妥协。
新法规可能会造成员工必须同意收集其数据的情况。
根据新立法的说法,许多现有工具会生成所谓的个人信息,使员工无法被跟踪,从而导致他们效率低下。
毫无疑问,遵守新法规将迫使公司更加谨慎地对待员工数据。
主管很可能只能访问与个人绩效直接相关的员工数据,而分析工具只能对匿名数据进行操作。
经营良好的企业可以为想要提高绩效的员工提供个人辅导。
人工智能带来了很多好处,还会带来我们目前无法想象的其他好处。
人工智能与所有新技术一样,既可以造福人类,也可以被滥用。
如何确保我们收集的数据不被用于不当监视。
当我们弄清楚这一点时,斯科特·麦克尼利 (Scott McNealy) 在 2008 年所说的“你根本没有隐私,想都别想”可能不再成立。
思考”。