【.com快考】研究表明，人工智能技术为各行各业的组织业务带来了巨大的发展潜力，但同时也带来了威胁和风险。如果有人或组织通过人工智能技术获取不正当利益或实施犯罪，那么人工智能技术就是他们的武器，会产生各种威胁。在安全方面，人工智能技术并不全是坏消息。例如，人工智能在网络监控和分析方面非常有效。人工智能已成为近来的热门话题，对其用途和可能的风险的误解和困惑也随之而来。一方面，几十年来，文学和电影一直将人工智能技术描绘成反乌托邦式的万能机器人。另一方面，很多人都明白人工智能加速人类社会发展的潜力。尽管计算机系统可以学习、推理和行动，但这些行为仍处于早期阶段。机器学习(ML)需要从大量数据中学习，并根据人类分配给AI的功能将其转化为训练或指导。允许AI访问信息并赋予其完全自主权会带来必须加以控制的严重风险。人工智能的主要风险与其创造者有着内在的联系。因为人类犯错或出现意外偏差，或程序员粗心大意或数据错误，都可能导致人工智能系统产生一系列错误。人工智能系统设计不当也会导致计算系统规模过大或规模过小，从而导致人工智能系统做出不必要的决定或停滞。使用人工监督和严格测试人工智能系统等控制系统可以在设计阶段降低这些风险。因此，必须测量和评估计算系统的决策能力，以确认是否可以快速解决偏差或有问题的决策，并在必要时进行纠正。尽管所描述的AI风险是基于设计和实施中的无意错误和缺陷，但如果个人或组织利用AI系统作恶，AI构成的威胁比犯罪分子手中的武器更大。网络罪犯可能比人们想象的更容易获得人工智能技术，并“训练”人工智能系统以发挥他们的优势。他们可以操纵输入计算机的数据集（数据中毒）来“训练”人工智能，甚至改变控制参数，所有这些都是为了引导它朝着他们的目标前进。如果网络犯罪分子无法访问数据集，则可以使用篡改技术迫使AI系统出现计算错误或难以正确识别数据集。安全人员需要尽一切努力从可靠和经过验证的来源收集数据，即使仅出于财务原因检查数据和输入的准确性可能不可行。在针对网络攻击的防御措施中，值得一提的是在部分或整个人工智能系统中加入了具有自动防御机制的隔离功能。Deepfakes的力量网络犯罪分子还可以使用人工智能来使他们的网络攻击或社交策略更加有效。人工智能可以提供黑客活动的数据集，以研究哪些技术最有效。使用人工智能可以显着改进网络犯罪分子目前正在实施的所有策略。他们采用人工智能的另一个潜在领域包括识别软件、应用程序或网站代码中的新缺陷。在这种情况下，AI系统会为他们提供一系列的潜在攻击点，很像一只训练有素的猎犬。别忘了深度造假的影响，这可能是网络犯罪分子利用社交软件的前沿阵地。例如，2019年在英国发生了一起使用Deepfakes的事件，当时一家公司的财务人员成为基于Deepfake音频通话技术的精心设计的骗局的受害者。让受害人相信他是在与公司首席执行官交谈时毫不犹豫地按照他的订单将250,000美元转移给网络犯罪分子，毫无疑问，电话诈骗是利用deepfake技术谋取不正当利益的方式之一。但正如人们所看到的，深度假货显然可以成功且令人信服地应用。受害人当时表示，他通过“轻微的德国口音”和“说话的节奏”认出了这位首席执行官的声音。现在制作deepfakes音频的过程非常简单。网络罪犯只需要使用机器学习技术来克隆目标的声音，通常使用间谍软件和设备来收集目标的数小时录音。他们能够收集的数据越多，音频文件的质量就越好。事实上，声音被克隆得越准确，造成伤害的可能性就越大。一旦创建了语音模式，AI就开始“学习”模仿目标的声音。然后使用所谓的生成对抗网络(GAN)对其进行改进，该算法在多次试验中以指数方式改进自身。这对高知名度的目标（例如知名公司的首席执行官）来说不是好消息。他们的演讲被在线录制并通过社交媒体分享，而电话、采访和日常对话的音频和视频相对容易获得。有了足够的数据，deepfake音频文件所达到的准确度水平是惊人的，网络犯罪分子可以使用人工智能技术来模仿他们想说的任何话。网络钓鱼的增长当然，如今网络钓鱼事件仍然猖獗，85%的组织发现自己成为网络攻击的目标。然而，deepfake音频能够传播的主要原因之一是它可以绕过大多数安全措施。另一方面，这些人工智能生成的呼叫完全依赖于人为错误和轻信，这使它们成为潜在的风险。不要忽视这样一个事实，即使是永远在线的智能手机也不像人们想象的那么安全，不难看出网络犯罪分子如何以多种方式绕过安全防御。目前的网络钓鱼流行有两个主要障碍。一是尚未达到很高的成本效益比：发送钓鱼邮件的僵尸网络可以在短时间内发送数百万封邮件。而deepfake音频需要一些时间来研究目标和处理时间。在这段时间里，传统的网络攻击方式可以产生更多的收益。第二，虽然人工智能驱动的网络安全措施确实仍处于试验阶段，但已经有一种有效的方法来应对这种威胁：如果用户不确定它是真是假，他们可以挂断电话。大多数deepfake诈骗都是使用VoIP帐户进行的，网络犯罪分子创建这些帐户是为了联系他们的目标。通过回拨，目标应该能够立即判断他们是否在与真人交谈。您如何从AI中受益于组织和个人安全？就安全性而言，这对人们来说并不全是坏消息，人工智能可以非常有效地进行网络监控和分析。事实证明，此类计算系统在检测标准行为和识别可能的异常方面出奇地有效。例如，这可以在分析服务器访问日志或数据流量时使用。通过提前检测入侵，有更多机会将网络攻击的破坏性降至最低。在初始应用程序中，让AI系统报告异常并提醒IT部门进行进一步调查可能很有用。人工智能技术还在不断进步，有可能在不久的将来具备实时消除威胁和防止网络攻击的能力。鉴于公共和私营部门的网络安全漏洞，人工智能系统可以执行其中一些监督任务，让组织的人员腾出时间专注于解决复杂问题。随着组织继续努力削减劳动力成本，人工智能变得越来越有吸引力，并有望在不久的将来取代网络安全人员。这种转变将在结果和成本效率方面为组织带来额外的好处。但精明的组织现在需要制定安全策略，以减轻使用人工智能技术的网络攻击的潜在风险。原标题：人工智能与网络安全：一把双刃剑，作者：PierguidoIezzi
