有一天，也许在几十年内，我们可能会使用人工神经网络来构建以逼真的方式模仿人脑的机器。可到时候，拥有这种力量的造物又如何安全？如何保证人工智能不会像人一样被外力轻易诱导和操纵？机器人也会被催眠吗？人工智能领域的最高圣杯无疑是实现人类认为的智能水平。很多不熟悉这个专业领域的朋友，常常被炒作报道误导，认为现代人工智能已经具备了极高的智能。但事实上，世界上还没有机器人可以在没有外界帮助的情况下，直接走进厨房，冲泡出一杯香喷喷的咖啡。为什么这么简单的工作能难倒AI呢？因为它还没有真正的思考能力。人工智能没有“思维阶段”，也不能根据记忆和动机创造出新奇的想法。相反，它只是根据指令将输入转换为输出。但一些人工智能研究人员认为，除了深度学习之外，还有其他途径可以实现更“自然”的人工智能形式。通向通用人工智能（AGI，被广泛认为是具有人类智能水平的AI）的传统途径之一是使用人工神经网络来模仿人脑的工作方式。但是既然要模拟人脑，那么机器智能会不会也被催眠师俘获呢？有杀手机器人，也有杀手催眠机器人。有些人害怕像“终结者”这样的非人机器会突然闯入他们的家中。但更可怕的可能是机器更“人性化”的一面。作为最具争议的领域之一，催眠术似乎拥有神奇的力量。虽然很多学者都在发表论文质疑催眠的实际效果，但根据最近的研究结论，我们确实可以通过一个特定的词来改变人的意识状态。当然，这种东西也不是百试百灵，有些“技巧”在里面。但如果催眠术的这种特殊效用得到推广，我们可能真的需要担心未来人类建造的高级机器人是否会受到类似的影响。一般开玩笑的催眠当然是无害的，但如果恐怖分子将交通信号灯的控制系统催眠，甚至用它来黑掉数百万辆自动驾驶汽车，后果将不堪设想。那么，是不是有点危言耸听？不完全的。就目前而言，机器学习中的偏见/偏见已成为一个核心问题。当向机器提供大量人工生成或标记的数据时，其中不可避免地存在一些偏差/偏差因素。正因为如此，GPT-3建立了穆斯林的刻板印象，而麻省理工学院也用Reddit数据训练后得到了一个“精神病患者”的AI模型。事实上，人工智能系统采用的学习和思维方式越接近人类，就越容易受到人类思维等外部诱因的影响。威胁是真实的。也许有一天，黑客会通过对传统计算机没有影响的批处理信号对人工智能系统进行攻击来操纵它们。一个理解自然语言的人工智能系统甚至可以被音频操纵，而一个具有计算机视觉的人工智能系统可以被精心制作的图形所愚弄。从理论上讲，具有人类智能的AI，也应该像我们一样在催眠下迷失自我。
