关于算法:匹配率高达90的问答机器人是如何炼成的

3次阅读

共计 5227 个字符,预计需要花费 14 分钟才能阅读完成。

作者:网易智慧企业自然语言解决专家 天晔

客服机器人的外围工作是无效答复用户各式各样的问题。而答复问题须要常识,通常客服零碎所应用的常识的表现形式是问题 - 答案对 (Question-Answer Pair),这些信息通常由理解理论业务场景的同学整顿而成,在客服零碎里,这些问题 - 答案对的汇合通常被命名为知识库,上面的例子是人力资源共享服务中心场景(HRSSC) 下典型知识库的一个片段。

  • 问题一:员工有多少天带薪年假?

答案:7 天。

  • 问题二:发工资是哪一天?

答案:每月 5 号。

  • 问题三:公司领取的公积金缴纳比例?

答案:缴费基数的 12%。

能够设想,不同的场景会有齐全不一样的知识库,即使某一固定场景下,因每家公司政策不同也会设置不一样的知识库,例如为员工购买了附加商业保险的公司的 HRSSC 零碎知识库可能会有这样的问答对话:

  • 问题四:公司赠送的附加商业保险怎么申请?

答案:退职期间主动失效,毋庸专门申请。

此外通过知识库,能够不便实现附加性能,例如一家电商公司的知识库可能有如下知识点:

  • 问题一:货怎么还没送到,服务太差了!

答案:很道歉,亲,给您带来了不好的购物体验。请您稍安勿躁,物品正向您飞奔而去。

这里的规范问法并非传统意义上的问题,而是投诉和埋怨。通过该知识点的答案,客服机器人提供了情绪安抚性能。

机器人问答匹配率 是掂量客服零碎智能水平的外围指标,它的定义如下:

机器人问答匹配率 = 用户问题被正确匹配到知识库中若干知识点的数量 / 用户输出的所有问题的数量

换言之,机器人问答匹配率表白的是用户收回的问题中,客服机器人能从知识库中抉择正确的问题并给出回答的比率,即机器人本人能正确作答的比率。

不难理解,这个指标间接决定了客服零碎的访客满意度。

这个指标达到较高值对客服零碎是极具挑战的,起因是针对雷同含意,博大精深的汉语具备简直是无穷多种表达方式。例如,咱们来列举一些形容小姐姐漂亮的表白:

炉边人似月,皓腕凝雪霜。
回眸一笑百媚生,六宫粉黛无色彩。
娴静似娇花照水,口头如弱柳扶风。
沉鱼落雁鸟惊喧,羞花闭月花愁颤。
月光下,你带着笑地向我步来,月光与雪色之间,你是第三种绝色。
每当你向我走来,看见了星辰大海。
你把蓝天穿在身上,照亮我心田。

不言而喻,雷同的意思有无穷种表白,无奈事后在知识库里穷举。机器人在查问知识库的时候必须能正确处理当时未遇到,然而知识库中存在类似含意知识点的用户问题。这是问答匹配率晋升关键点和难点。作为具备业内当先 AI 能力的服务营销一体化解决方案专家,网易七鱼的机器人问答匹配率高达 90%,是如何达成的呢?

1 知识库搭建

客服零碎知识库分类体系的合理性和范畴广度是匹配率的最重要根底。依据下面的机器人问答匹配率公式,咱们能够构想两种极其状况:

  • 没有输出任何常识,常识的构建老本为零,同时用户问题被正确匹配的概率为零,即机器人问答匹配率为零;
  • 知识库里的常识数量为无穷大,常识的构建老本为无穷大,即蕴含了用户所有可能提出的问题和答案,那么应用简略的字符串齐全匹配算法,即可失去机器人问答匹配率为百分之百;

理论的知识库介于这两种极其状况之间,适宜客服场景的知识库体系搭建须要业余的常识。大多数客户在第一次尝试智能客服零碎时对知识库搭建并无理论教训,网易七鱼提供了业余的机器人辅助训练师服务。这些训练师解决过多种行业和场景下的知识库冷启动搭建,经验丰富,可辅助客户在我的项目冷启动阶段疾速搭建知识库,从而疾速造成一套可用的客服零碎。下图是一个典型客户的知识库冷启动过程:

咱们再比照一下七鱼训练师团队辅助搭建的知识库,和对于智能机器人没有理论冷启动教训的客户自行创立的知识库:

整顿前的知识库:

训练师整顿后的知识库:

能够看到训练师整顿后的知识库蕴含更多表白丰盛的无效类似问法,同时打消了客户自行搭建知识库状况下蕴含的谬误(比方“员工开介绍信”“工资问谁”被安顿成是同一个知识点)。

2 知识库保护

冷启动阶段实现后,零碎上线开始运行。如何在客服零碎运行中一直晋升知识库则成为放弃和晋升机器人问答匹配率的关键问题。线上零碎的知识库保护须要从存量常识和增量常识两个维度别离思考。

针对存量常识

客服行业因为人员流动性较大,零碎侧的经营同学常常会发生变化。不同的客服经营同学相互之间有信息差,容易产生高度反复知识点被一直退出知识库的状况,最终知识库变得冗余低效。针对此问题,网易七鱼提供了常识查重性能,能无效发现反复度高的知识点,升高零碎自烦扰。下图是一个示例:

能够看到常识查重性能检测出大量类似问法散布在不同的知识点上面的状况,提醒须要对知识库进行整顿。

针对增量常识

针对线上运行状况,七鱼提供了“猜你想问类似问法汇总”和“未知问题聚类”两个性能点来帮忙知识库经营同学进步工作效率。

猜你想问失去的类似问法:

下图是一个“猜你想问”范例,用户发问“食堂啥时候开门”,零碎的知识库里并没有很靠近的知识点,然而算法找到了三个比拟靠近的知识点,作为“猜你想问”候选提交给用户。如果用户做出了抉择,比方示例外面的“1”,那么,用户选中的问题“餐厅开餐工夫”和之前用户输出的问法“食堂啥时候开门”会在后盾被保留下来。之后经营同学能够决定是否须要把“食堂啥时候开门”退出“餐厅开餐工夫”所在的知识点外面。

未知问题发现

零碎运行过程中会一直遇到知识库中无奈解答的问题,这类用户问题称为未知问题。七鱼零碎提供了文本聚类的算法能力,能将这些语义靠近的句子会集到一起,例如:

  • 新冠疫苗哪里能够打?
  • 什么时候能够开始接种新冠疫苗?
  • 如何申请新冠疫苗接种?

这类随着场景变动产生的新增用户发问大概率是不会被已有知识点蕴含的。七鱼的未知问题发现性能能够无效发现并归类这样的未知问题给经营同学,之后经营同学能够决定是否须要在知识库外面新增对应的知识点。同时未知问题发现还具备舆情监控方面的作用,例如文本聚类找到了上面的类似问题:

  • 明天的苹果好多烂的。
  • 苹果品质不行啊。
  • 你们的苹果怎么品质这么差。
  • 苹果不陈腐而且好多都烂了。

下面的未知问法集中呈现提醒商家可能呈现了品控问题,商家依据这个报警信息能够迅速做出治理动作从而解决问题。

3 句子类似度匹配外围算法

有了内容宽泛,结构合理的知识库,下一步骤是算法模块的职责去找到正确匹配用户问法的知识点并将答案返回。针对同一知识点,五千年文化积淀而成的汉语提供了枚举不尽的表达方式。用户问句和知识库中知识点语句的类似度匹配算法是七鱼机器人的外围模块,该模块的能力间接决定了客服零碎的问答匹配率。七鱼客服零碎的问答匹配率之所以放弃在业界当先的 90+% 程度,次要依附继续一直的研发投入,保障七鱼的算法能力始终处于业界前沿。上面列举一部分七鱼客服零碎应用的类似度匹配算法,别离从单个语句的建模(通过数 (number) 去示意单个语句)和两个语句关系的建模(通过数 (number) 去示意待匹配两句话的关联性)两个维度来形容。

示意单个语句的算法

在计算两个句子类似度之前,先要找到适合的数学模型来做句子表征(即应用一定量的数 (number) 来示意句子)。七鱼外部的句子表征办法包含词袋 (bag-of-words) 模型,向量空间 (vector space) 模型,基于动态词向量 (word embedding) 模型,基于预训练 (pre-training based) 模型。

词袋模型用汇合来示意单个句子,每个词都是汇合中的一个元素,词与词之间互相独立,即不思考词语之间的程序和依赖关系。通常咱们会针对汉语事后定义一个词典,词袋模型的句子表征是一个向量,它的长度与该词典的大小雷同,其中的每个元素代表了对应词呈现的次数,例如:

  • 词典:[老王,老张,想去,北京,上海,游览]
  • 例句:老王想去北京游览
  • 句子表征:[1,0,1,1,0,1]

例句中蕴含了“老王”、“想去”、“北京”、“游览”四个词,并且这些词都只呈现了 1 次,这些词在词典中的索引别离为 0、2、3、5,所以句子表征向量中这些地位的元素值为 1,其余元素值为 0。

词袋模型应用词频作为句子向量中元素的值,还能够进一步用语义信息更丰盛的指标来生成句子的向量空间模型表示,例如示意词重要性的 TF-IDF 指标。TF-IDF 是词频(TF: Term Frequency)和逆文档频率(IDF: Inverse Document Frequency)两项指标的乘积,其思维是如果一个词在以后文档中呈现的频率高,而在其余文档中呈现的频率绝对较低,那么阐明这个词具备很好的区分度。词频能够通过统计以后句子失去,而逆文档频率则须要遍历所有文档,依照以下公式计算:

求出每个词的 TF-IDF 值后,相似词袋模型那样构建句向量。

词的语义信息往往体现于它与其余词的关系中,例如与“筷子”相近的词更可能是“吃饭”而非“睡眠”。动态词向量模型是对词与词之间的共现关系建模,从而取得词向量示意的办法。而后对句子中所有词的动态词向量取均匀或者通过其余更简单的神经网络构造(如 CNN,LSTM),就可能取得该句话的向量示意。动态词向量中的“动态”是指对于给定的输出句子,词向量的取值是固定的,与该词对应的上下文无关。换言之,动态词向量模型训练结束后,每个词语的动态词向量就是固定的,不因具体的输出句子扭转而发生变化。

预训练模型通过大规模语料来学习在具体语境下词与词之间的关系,并且失去的词向量个别是动静的,即一个词向量的取值依赖于上下文。换言之,同一个词在不同语句中呈现会对应不同的动静词向量。为了精确地取得语义,预训练模型通常从词法、句法等粒度登程构建学习工作,词法特色的工作次要有:

  • 遮蔽某个词,应用上文信息去预测这个词是什么,例如 GPT。
  • 遮蔽某个词,应用上下文信息去预测这个词是什么,例如 BERT。

句法特色的工作次要有:

  • 给定两句话 S1 和 S2,判断二者在语料中的地位是否是间断的,例如 BERT。
  • 给定两句话 S1 和 S2,判断在语料中哪句话先呈现,例如 ALBERT。
  • 给定两句话 S1 和 S2,判断在聊天的场景下,S2 是否能够作为 S1 的回复,例如 ERNIE 1。
  • 给定一个句子汇合,预测每条句子在语料中呈现的程序,例如 ERNIE 2。

示意两个语句之间关系的算法

计算句子之间的类似度时,除了要思考如何用数学模型示意单个句子之外,还要思考对两句话之间的关联性进行建模,特地是须要思考两个句子的关联形式和关联机会。依据建模时两个句子交互产生机会的不同,类似度算法大体上可划分为双塔模型、单塔模型、交互聚合模型三种构造。

双塔构造是纯正基于单句句子表征的类似度算法,意思是咱们先顺次对两句话做出形象的了解,而后再比照两边的了解是否统一。该类模型应用两个编码器别离对须要匹配的两句话进行编码表示,最初再计算两句话编码后果之间的类似度 (通常是余弦类似度)。双塔的意思是须要比拟的两个语句如两座塔,在输入最初类似度后果之前没有任何交互,例如 QA-LSTM、BCNN 等。

单塔构造强调两句话之间的交互,意思是把待匹配的两句话放到一起当作整体去了解,而后得出类似与否的论断。该类模型将两句话通过某种形式拼接到一起,而后输出到编码器中计算类似度。单塔的意思是待匹配的两句话是一个整体,如同一座孤塔,待匹配的两句话从始至终都在产生信息的交互,例如 MatchPyramid、BERT 等。

交互聚合构造能够认为是上述构造的一种折衷方案,相似于咱们顺次浏览两句话并做出初步的单句了解,基于单句了解的后果在全局层面进行第二步两句话的联结了解,最终得出句子匹配的后果。该类模型首先应用两个编码器别离对须要匹配的两句话进行编码表示,而后通过某种办法交融两局部的信息并做进一步推理,最初输入两句话之间的类似度。交互聚合的含意是整体构造如同存在一条或多条“天桥”的两座塔,上层相互独立,下层产生关联,例如 ESIM、BiMPM 等。

4 总结

在本篇文章中,咱们详述了七鱼机器人问答匹配率高达 90% 以上的秘诀:

  • 冷启动时在七鱼业余人工智能训练师的领导下疾速搭建知识库实现服务上线;
  • 零碎运行中对知识库的无效保护和新知识点发现;
  • 残缺的算法技术栈以服务于各种场景。

在以上三个环节的加持下,七鱼机器人的问题匹配准确率在业内始终占据绝对优势。

不知您是否已经在银行苦苦排队只为缴纳电费,是否在门店期待一小时却未能办好业务而和店员吵架,是否有过在食堂排队很久最初被告知菜卖完了的经验。如果以上这些都不够刻骨铭心的话,您是否已经拖着病体大清早起床挂号,抑或数九寒天忍饥挨饿只为买一张火车票回家。

技术扭转生存,挪动互联网时代,以上这些需要都曾经能够足不出户在手机上实现,而问答机器人在其中表演了要害角色。

作具备业内当先 AI 能力的服务营销一体化解决方案专家,网易七鱼曾经在电商、教育、制作、汽车等各行业落地,助力企业服务的数字化转型。有幸服务千家万户,晋升生活品质,发明美好生活,对这个时代咱们充斥感谢。如果您的企业依然困扰于上述痛点,无妨和七鱼交个敌人,咱们一起共同努力,拥抱星辰大海!

更多技术干货,欢送关注【网易智企技术 +】微信公众号

正文完
 0