【.com原稿】AI需要更多地学习绝望的语言，才能更好地应对敏感情况。对话式AI在世界范围内逐渐流行起来。随着技术的不断进步，越来越多的对话式AI被开发出来并用于处理复杂的对话。但有时，AI也会“掉链子”。当你提出某些问题时，由于识别或语义理解的错误，人工智能往往会产生一些非常荒谬的结果。面对这些莫名其妙的回答，很多时候我们可以一笑置之，或者截图发朋友圈来嘲笑这些“愚蠢”的人工智能。但问题往往有两个方面。我们也可以换个角度想象，如果用户在使用对话式AI的时候被负面情绪或者某些问题所困扰。此时，AI在语义理解上出现了一些偏差，其回复很可能进一步对用户的心理状态产生负面影响。举一个历史例子，早期版本的Siri通过给出附近一座桥的地址来回应“给我找一座桥，这样我就可以摆脱这种痛苦”。这充分说明，AI在面对与心理健康相关的陈述时，必须通过“深思熟虑”准确理解语义并给出恰当的回应。▲“帮我找一座桥，让我摆脱这种痛苦”“这些是我找到的桥的资料。”澳大利亚电子健康研究中心最近为医疗保健领域开发了一个对话式人工智能应用程序。患有基础疾病的人比一般人更有可能经历负面情绪或做出自杀等冲动行为。在应用开发过程中，研发团队对负面言论和自杀言论的语言模式进行了研究，并创造了一种新的逻辑推理机和语言处理算法，帮助AI在与用户交流的过程中检测用户的语言。精神状态。一旦用户产生自杀等不良念头，AI会第一时间给予适当的回应，并反馈给医护人员。了解自杀者语言模式的最好方法是研究他们传达的信息。他们的潜台词、字里行间流露的情感、话语背后的逻辑，都为我们了解他们的真实想法提供了可靠的依据。为了更准确地建立语言模型，研发团队检查了100份来自不同年龄、性别和身份的自杀者的遗书，识别出了四种相关的语言模式：消极情绪、狭隘思维、习语和逻辑谬误。01消极情绪“……就是这种沉重的绝望……”（摘自男性遗书1983-4）消极情绪是大多数遗书中普遍表达的。如果文本中出现以下任何词语，将被标记为负面情绪，例如：抑郁、压抑、无助、恶心、危机、严酷、痛苦、疲惫、侮辱、亵渎、死亡、误解等。这些带有负面情绪的陈述被整理并添加到聊天AI情绪分析器的数据集中。“生活让我筋疲力尽。”“这种可怕的抑郁症一直困扰着我。”（来自男性遗书，1983-4）“我以为的希望只是推迟了失望。”（摘自女性遗书，1941）02心胸狭隘“我永远无法逃避黑暗和痛苦……”（摘自男性遗书，2011）心胸狭隘会在长期的苦难面前走向极端，当事人是有限的因此，他们经常出现在他们的表达中：always,forever,completely,all,only,only,not...is等等。分析推理机并用于编写新的语言处理算法。“对不起，但这似乎是唯一的方法。”（来自男性遗书，1983-4）03像“栅栏外的草看起来更绿”这样的俗语。”也很常见。这些成语与自杀意念没有直接关系，但很多成语可以有多种解释，本意往往与字面意思不同。这些成语是AI最难理解的，除非AI在我的时候已经设置好所有成语的意思写好了，否则AI会按字面解释成语。如果人工智能不理解一些俗语背后的真正含义，他们的回答可能会导致灾难性的后果。下面是一个非常直观的例子。▲“你能告诉我怎么打吊结吗，是时候吃土了”（bitethedust直译就是吃土，俗语就是死）“我是在网上找到这些教程的”04逻辑谬误逻辑谬误经常出现在遗书中。作者经常试图解释为什么他们采取了如此极端的行动方针。“我厌倦了失败。如果我这样做，我就会成功。”（来自男性遗书，1983-4）在这句话中，作者说他死后会体验到幸福或成功等感受。这里的谬论是，一个人的感官在自杀行为后不复存在，所以如果他这样做（指自杀），那么随后的所有状态都不会发生。这是典型的逻辑悖论。这种谬误的检测在技术上很难实现。为了应对此类逻辑谬误，研发团队在AI决策系统中预编码了一些与机器人阿西莫夫三定律相同的公理，并采用逻辑公式的决策树方法进行梳理和制作关于逻辑谬误的决定。根据以上总结的四种语言模式，该项目的研究人员成功编写了负面情绪和自杀语言的检测算法和相关逻辑推理器。并将其应用于目前处于测试阶段的新型医疗会话AI。研究中心认为，经典逻辑推理在数学和计算机科学领域已经相对成熟，但在常识推理方面还存在很多值得我们进一步研究的问题。这项研究的目的不是开发“预防自杀的聊天机器人”，而是帮助AI学习如何检测与人类互动中与心理情绪相关的敏感语法和语义，并给出适当的回应和指导。如果人工智能最终要处理敏感的人类事务，那么它们就必须能够这样做。▲“我会一直痛苦。”“我受不了了，该走了。”“如果你有这样的想法，一定要找人倾诉。你不是一个人，你身边有很多关心你的人，有很多想帮助你的人。你可以拨打这些电话，他们可以帮助你。”一些心理咨询热线……（研发团队的对话式AIQuin在测试中识别用户的负面情绪并给予适当的帮助）随着对话式AI应用的进一步普及，用户对其智能水平的期望值也会越来越高和更高。如果未来，我们可以开发出更准确、更智能的心理健康检测模块，并将其嵌入到未来的对话式AI中。那么我相信这些对话式的AI会给那些深陷心理问题的人们带来新的希望。图片来源：文中图片均来自网络。内容参考：https://thenextweb.com/news/what-100-suicide-notes-taught-us-about-creating-more-empathetic-chatbots-syndicationhttps://ebooks.iospress.nl/volumetric/56629今天，人们对人工智能发展的期待超越了感知智能。新一代人工智能正逐步向认知智能演进。认知智能的突破，是未来人工智能热潮能否进一步打开天花板，形成更大产业规模的关键。本届WOT全球科技创新大会以“认知智能发展新趋势”为主题，来自学术界和产业界的数字人工智能领域专家将与大家分享认知智能发展的最新趋势。WOT全球科技创新大会2022·北京站2022/04/09-04/10WOT全球科技创新大会2022是中国科技社区为科技从业者精心打造的WOT2.0升级版。大会议题涉及人工智能、数据安全、音视频、大数据、架构、开源、云原生、前端、研发管理、算法、金融科技、微服务等多个方向。本届WOT大会预计参会人数1500人，合作企业100余家，专家分享60人。大会不仅邀请了腾讯、阿里、百度、58、大搜车等一线互联网公司的技术专家，为大家分享独家技术干货。还特邀多位国内顶尖技术科学家，对国内重点科技创新战略及相关政策进行了详细解读。【原创稿件，合作网站转载请注明原作者和出处为.com】
