AI攻击会先确定目标，然后得到反馈不断优化和改进。如果有一天AI能够开发出全新的解决方案，甚至开始优化解决方案，其杀伤力将是巨大的。系统模糊性是当前防御AI黑客的手段。对于像围棋这样的游戏，规则、目标和反馈都是简单而明确的。没有任何外部因素可以扰乱游戏。输赢就是回馈。GPT-3AI可以写出连贯的文章，因为它运行的世界只有文本。正因如此，现在的很多黑客奖励活动都是在模拟环境中进行的，全是人工的，全是约束的，全是为AI准备的规则。系统的模糊性是关键。我们可以将所有全球??税法输入人工智能，因为税法中有公式可以确定欠多少税。即便如此，所有的法律都有歧义。模糊很难转化为代码，AI也很难处理。因此，即使有了人工智能，在可预见的未来仍然需要税务律师。大多数人类系统都比较模糊。人工智能可以成为现实世界体育游戏（如曲棍球）的黑客吗？恐怕很难。人工智能必须了解游戏规则，但这还不够。它还必须了解人体生理学、球杆和球的空气动力学等等。当然，我们不能说绝对不可能，但绝对比对付围棋要困难得多。在短期内，正是因为社会系统极其复杂和模糊，系统对人工智能黑客的防御能力得到加强。未来一段时间内不太可能出现AI运动黑客。如果机器人亲自上场比赛，或者未来的某一天人工智能发达到可以全方位理解广阔的世界，那么说不定就会出现人工智能运动黑客。同样，赌场和法律程序的AI黑客也不容易开发。AI模拟个人或小组工作需要很长时间，暂时还做不到。但不要低估人工智能非线性进化的能力。世界上到处都是AI黑客。这是一个科幻问题，但不是愚蠢的科幻问题。人工智能正在迅速改进，但其进展不稳定且不连贯。我们认为很难的问题可能会很容易，而我们认为很容易的问题可能会变得很难。几十年前，我们可能会嘲笑人工智能，认为不可能征服围棋，因为围棋太复杂了：不是规则复杂，而是可能的走法太多。现在怎么办？人工智能已经赢得了围棋比赛。因此，我们应该提前思考AI黑客问题，早做准备。首先要注意金融系统的AI黑客，因为金融系统的规则很容易被算法利用。一个很好的例子是高频交易算法，它在未来会变得更加复杂。我们可以用全球金融实时信息武装AI，添加全球法律法规，添加新闻信息，添加其他相关信息，然后分配AI去完成一个目标，追求“最大合法利润”或者“获得最大可能利润”.获利”。那个时候，可能会出现一些人类无法理解的黑客活动，也就是说人类不会意识到黑客活动的发生。当然，这样的事情现在看来有点遥远。短期内，AI可能在黑客攻击方面与人类互补。AI可以发现漏洞，经验丰富的会计师或税务律师协作，利用他们丰富的经验判断是否可以利用漏洞谋利。成熟的AI黑客的杀伤力是无法估量的纵观人类历史，黑客攻击一般都是人类行为.如果AI开始进攻，一切都变了。AI不会在某种程度上受到限制，不会像人类一样受到很多限制。AI一点也不休息，它们像外星人一样思考，它可以hack系统以人类无法预测的方式。计算机从四个维度增强攻击：速度、规模、范围和复杂性。AI可以将攻击力提高很多倍。速度：人类可能需要数月甚至数年才能启动攻击。人工智能不需要它。可能是几天、几小时甚至几秒钟。例如，如果你将整个美国税法输入人工智能并告诉它找到一个可以最大限度地减少某人税收的公式会怎么样？如果是跨国公司，可能会让AI分析全球税法，为公司减税。规模：一旦AI发现漏洞，它就有可能大规模利用它。当AI开始闯入金融系统时，它们将统治这个行业。信贷市场、税法和普通法都可能偏向富人。人工智能将加剧不平等。第一个AI金融黑客可能不是由平等主义研究人员开发的，而是由跨国银行、对冲基金、管理顾问开发的。范围：社会确实有一套对付黑客的计划，但主要是对付人类黑客和以人的速度进行的攻击。如果AI能快速找出税法的数百个漏洞，国家将如何应对？税法修改的速度根本跟不上。复杂性：在AI的帮助下，人类黑客可以发起复杂的攻击，超出了独立人类的理解水平。人工智能的复杂统计分析可以揭示变量之间的关系，并找到即使是最好的战略家和专家也可能没有意识到的隐藏漏洞。当人工智能以超快速度、超大规模、超广范围、超高复杂度发起攻击时，社会可能根本无法应对。AI会不会突破人类的局限，甚至统治社会？一些人工智能研究人员确实有顾虑。虽然现在听起来像是猜测，但早期预防对人类来说还是很有必要的。(小哥)
