1 前言
对话交互是继传统 PC、PC 互联网及挪动互联网之后，下一个时代十分有想象力的关键技术方向，无论是学术界还是工业界都有极高的关注度，同时作为 OPPO 万物互融策略的要害节点之一，承载着平凡而艰巨的使命。
算法是对话交互的外围能力之一，决定了语音助手能达到的智能化程度，具备极高的技术价值。本文将次要从对话交互的指标、算法要解决的关键问题，行业现状与趋势、小布次要实际与停顿，以及挑战与将来几个方面做个介绍。
2 对话交互指标与关键问题
艰深来说，对话交互的指标就是通过语音或文字以天然对话的形式，实现工作执行、信息获取、情感交换等人机交互过程。比方像科幻电影外面的贾维斯、大白等智能助理，代表了人们对于对话交互能力现实状态的期待。
对话交互近年来受到越来越多的关注，其背地的起因到底是什么呢？其实回顾下近 40 年来信息科技倒退的历程，就不难理解。咱们晓得，信息科技先后经验了传统 PC、PC 互联网、挪动互联网几个大时代，其中每一个时代都与设施密切相关，进而催生入口和交互方式的反动。而今咱们正迈向被寄予厚望的 AIoT 时代，对话交互因其在新一代搜索引擎、超级服务散发核心、新型交互方式等方面的微小想象力，恰好承载了这一新时代下一入口级交互改革的使命愿景。
然而，想要达到现实的对话交互成果是十分艰难的，次要是因为它须要逾越目前成熟的感知智能技术，迈向认知智能，当下在认知智能畛域还存在很多尚未基本解决甚至未能清晰定义的问题。典型的认知难题包含如何示意和了解常识，如何使机器具备推理和布局能力，如何使机器有像人一样的想象力和自主性等。在某种程度上，能够说解决了认知智能的问题，基本上就等同于实现了强人工智能，足见对话交互的难度之高。
对话交互的骨干流程如下图所示，从中不难发现简直所有要害节点都与算法相干，算法是获得较好对话交互成果的外围能力。
对于 OPPO 自研的小布助手，其算法能力现状如下表所示，语音唤醒次要由三方和软件工程零碎反对，目前在新机成果上对齐行业 Top 竞品，然而存在老机型技术升级老本高、局部低端机型无奈反对语音唤醒等问题；语音辨认同时应用了三方和 OPPO 研究院的能力，因为语音辨认技术相干成熟，整体成果较好，字错率能管制在 6% 以下，目前的次要问题在于音频品质；语音合成与语音辨认相似，也是由三方和 OPPO 研究院独特反对，在准确性和晦涩度上成果较好，然而天然度、情感化等维度评测十分主观，目前也暂不反对用户个性化；语义了解和对话能力次要有业务技术团队提供，在语义了解方面准确率和召回率都能达到 90% 以上，存在凋谢域长尾 query 了解难度大的问题；在对话能力方面目前反对沉迷式强多轮、自在切换弱多轮、上文推理多轮等，多轮的难点次要是难评测，用户习惯弱、线上渗透率低。
语义了解和对话能力是本文的重点，次要工作是在拿到用户 Query 后，通过先了解用户要什么，再决定给用户什么，最终组装适合资源失当满足用户。由语义了解和对话能力组成语义算法零碎就是为了达成以上指标的，该零碎的波及次要会面临系统性问题和技术类问题两大类，如下图所示。
系统性问题包含面向须要反对全畛域 query、数百项技能、多设施多渠道的简单零碎，如何解耦拆解；面向产品需要多、模块多流程长、算法不确定性大等问题，如何高效迭代；面向无奈穷举的多样化书面语 Query，如何通过成果监控保障体验；如何躲避低级缺点、答非所问、适度兜底等“智障”体验。
技术类问题则包含算法的选型、关键问题的建模求解、多轮对话的管制、性能方面的保障等。
3 行业现状与算法趋势
首先，对话交互在利用场景方面已日趋成熟，涵盖智能家居、车载、生存出行、业余服务等泛滥畛域，方便快捷是自然语言对话交互方式的人造劣势，被越来越多的用户承受，据预估 2020 年将有超过 70 亿部设施搭载语音助手。
另外，发展趋势来看，近十年来顶级科技公司从未放弃在此方向上的投入，国外以苹果、亚马逊、谷歌三家公司作为代表，无一不把对话交互作为他们十分重要的方向；国内状况也相似，百度、小米、阿里巴巴都踊跃布局，旨在抢占对话交互这一将来流量入口。
一个值得关注的趋势是，面向第三方设施的对话交互智能助理逐步淡出，各家次要集中在自有设施上大力发展，除了相干技术与设施耦合严密的起因外，还有一个更重要的起因是这一入口太重要了，没有任何一个头部设施厂商违心将其齐全交给第三方技术方。
对话交互也是学术界钻研的热点，从 ACL 论文的趋势剖析能够看出，近 5 年来对话交互方向异军突起，在 2019 和 2020 年成为以后最热门的钻研方向。
参考：Trends of ACL: https://public.flourish.studi…
在外围的认知了解算法方面，其求解范式由传统的强依赖语言、问题类型和人工定制教训的多模块流水线计划，演变成了更简略、通用、高效的端到端一体化计划。这种范式的演进极大地简化了问题求解流程，不仅可能无效防止累积误差，更使得大数据、大模型、大算力可能落地利用，显著晋升成果。
近两年来，在模型层面以谷歌 BERT 为代表的大规模预训练模型横空出世，横扫各大语言建模工作榜单，为研发更先进的语义了解算法模型开释了微小的潜能，这无疑会给对话交互的倒退提供松软的技术撑持。
总结来看，无论是工业界还是学术界都十分关注对话交互这一方向，这反映了行业对将来趋势的预判。而算法技术的突破性停顿则进一步催化了对话交互产品落地的速度，使得将来将会更早到来。
4 小布算法零碎实际与停顿
如前所述，语义了解和对话能力一起形成了小布外围的语义算法零碎，以下局部将具体出现咱们在这一方向上的实际与要害停顿。
首先，在业务需要方面咱们次要思考业务边界、对话能力、用户体量，以及评估指标这四个维度。在业务边界方面，小布助手属于全场景凋谢域对话交互零碎，须要反对的畛域包含系统控制、信息查问、影音娱乐、生存服务、智能聊天等，共约包含数百项技能，用户 Query 的广度十分大；在对话能力方面，除了简略指令型命令管制和单轮问题，还须要反对面向多轮的工作型、弱多轮、上下文了解等能力，以及对话举荐、被动对话等高阶能力；在用户体量方面，小布须要笼罩欧加团体三品牌手机，以及手表、电视等亿级别设施，千万量级的日活；在评估指标方面，次要思考需要覆盖度、用意召准率、技能满意度、响应工夫等。
详情来讲，小布助手的使命工作是建设一种对话连贯，连贯的一端是欧加团体设施生态宏大的用户群，另一端是优质的对话式服务，借助于这种连贯来实现用户价值、营销价值，以及技术价值。
为了撑持上述业务需要，咱们形象总结了四项设计准则来领导算法零碎的设计：
畛域分治：采纳划分畛域的形式将全畛域简单问题进行合成，转化成更简略的子问题分组求解，升高求解的难度，晋升零碎的可掌控性；
成果优先：为了尽可能防止“智障”体验，不拘泥于任何繁多技术，以成果优先驱动算法方案设计，躲避低级缺点；
闭环监控：建设欠缺的闭环监控机制，在研发阶段通过产品、测试、研发等多方拉通的测试例设计晋升测试覆盖度，在线上采纳实时动静测试集监控和人工评测来保障体验；
平台提效：为了应答泛滥中长尾的技能反对，推动技能平台的建设，以统一、通用的平台化解决方案升高中长尾技能的研发和保护老本。
参考业务需要和设计准则，小布助手目前的算法零碎整体架构如下图所示。首先，在平台与工具方面，根底算法以行业支流的深度学习算法为主，在其上针对不同的问题类型构建算法计划，并进一步封装成 NLU 框架、通用图谱问答、技能平台、开放平台等模块。而后在业务方面，最上层会采纳符号化、结构化、数值化的思路对 query 进行通用解决，再按零碎利用、生存服务、影音娱乐、信息查问、智能聊天几个维度进行业务拆分，各业务线独立迭代。最初再联合对话生成、交融排序优选出最佳的技能去满足用户的诉求。
从解决流程上，又能够分为预处理、用意辨认、多分类 ranking、资源获取和后置解决几个环节，其中前三个节点次要对用意的召准率负责，后两个节点对资源的覆盖度和后果相关性负责，全流程一起为最终的技能执行满意度负责。
语义算法零碎中波及的要害算法模块如下图所示，后续将别离对语义了解、对话治理、对话生成三个外围模块进行介绍。
用意辨认是语义了解的外围模块，其次要工作是通过对用户以后 Query，以及交互历史的剖析，推断用户到底想要干什么，包含关闭域、凋谢域、上下文几种典型的场景。
槽位提取是与用意辨认亲密关联的工作，次要工作是从用户以后 Query 以及交互历史中提取要害信息，辅助精准获取用户所需的答案 / 内容。
用意辨认和槽位提取独特形成语义了解模块，其难点次要在于书面语多样化（亿级别独立 Query）；歧义性（如小猪佩奇是动画片，也是 App）；依赖常识（如“可不可以”居然也是一首歌名）。
对话治理是语义算法零碎的另一要害模块，其工作是依据以后 Query 和对话上下文推导对话状态，并据此推理对话零碎下一步的最佳响应。
实现语义了解和对话治理后，还需联合对话生成能力实现技能的最终失当的执行反馈，对话生成的工作就是依据语义了解的解析后果和要执行的动作，通过失当的形式获取失当的响应话术。
在算法模型方面，小布以强深度学习驱动为主，这类模块一方面成果较好，另外技术计划也曾经比拟成熟，存在十分多胜利的案例。
然而值得强调的是，在这一畛域根本不存在“一招鲜”的繁多模型解决所有技术问题的算法计划，个别基于深度学习的主模型负责保障成果的基本面，仍须要联合定制规定来解决边角的 badcase。
面对零碎利用操控类技能，为了晋升语义了解的成果，咱们次要采纳基于规定和深度学习模型交融的计划，其中反向规定用于疾速回绝畛域外的 Query，正向规定用于笼罩强说法，深度学习模型负责通用 case 的泛化辨认。此外为了晋升用意和槽位的联结准确率，引入了多任务联结学习。
多任务联结学习能使得用意和槽位相互消歧，次要利用在电话、短信、日程等技能上，绝对与单任务独立学习，个别准确率能晋升 1%～3%。联合粗疏的数据驱动优化和规定校验，根本能够做到 95% 以上的召准率。
面向常识强依赖型的技能，如音乐、电台、影视等，咱们次要采纳了交融常识的用意辨认计划，如下图所示。这类技能次要难点是单从句式无奈断定用意，从 Query 中精确提取资源字段十分要害，交融资源关联后果后再进行用意辨认能显著升高问题求解的难度。
不同于关闭域，凋谢域的用意辨认难以建模成分类问题，个别须要采纳语义匹配计划进行求解。针对这类问题，咱们次要采纳深度语义匹配形式，如下图所示。绝对传统基于文本符号的匹配，成果更好，匹配准确率可达到 95% 以上；不过也存在主语辨认、语义蕴含等问题，须要配合上游验证策略管制。目前次要利用在信息查问和闲聊 QA 匹配中。
此外，为了进一步晋升语义了解的成果，咱们也在摸索大规模简单模型的落地计划。在大规模预训练语言模型方向，团队在开源模型根底上进行改良、重训与微调，实现了成果上的疾速晋升，目前排在中文语言了解测评基准（CLUE）总排行榜第六名。
不过这类模型计算复杂度很高，个别难以满足线上推理的时效性要求，须要联合常识蒸馏等减速计划能力落地利用。
常见的常识蒸馏计划能够分为数据蒸馏和模型蒸馏两种，其中数据蒸馏的假如是简略模型是因为标注数据的缺失导致成果不如简单模型，如果利用简单模型提供足够多的伪标注数据，能够帮忙简略模型逐步迫近简单模型的成果；模型蒸馏的假如是简略模型不仅仅是短少足够多的数据，而是不足好的指引，如果通过训练简单模型过程中取得的两头后果来同时指引简略模型的训练过程，则有助于简略模型迫近简单模型的成果。数据蒸馏和模型蒸馏都有在小布助手业务中落地利用。
对话零碎也被认为是下一代搜索引擎，用户对于常识问答类的诉求也十分多，预期是可能取得精准答案，为了满足这类需要，咱们通过数据获取、数据挖掘构建自有知识库，再联合在线语义匹配、KBQA 等提供问答服务。
此外，为了精准答复垂域事实类的问题，咱们还构建了基于常识图谱的通用问答能力，对于精品垂类，通过数据单干和自助爬取构建畛域图谱，再基于模版和图谱进行精准问答。
小布助手目前线上有超过 50% 的头部流量由自建常识问答服务，长尾局部还以来度秘、搜狗等强搜寻公司。
在对话治理方面，罕用的计划包含基于无限状态机的计划、基于 Slot-Filling 的计划，以及端到端的计划，其难点是灵便的流程管制、上下文的继承与忘记、用意跳转、异样解决等，目前次要采纳 Slot-Filling 的模式。
为了在多轮中达到比拟好的上下文了解成果，小布助手实现了基于指代消解的上下文了解计划，用于解决多轮对话中普遍存在的指代和省略问题。
参考：ACL’2019 Improving Multi-turn Dialogue Modelling with Utterance ReWriter
借助于对话治理和上下文了解，小布助手已反对沉迷式强多轮、自在切换弱多轮、上下文推理多轮等模式，笼罩了工作型、信息查问、多轮聊天等业务场景。
在对话生成方面，目前行业里次要有基于模板、基于检索、基于模型三种类型，因为生成式模型可控性弱，目前小布次要采纳基于模版和基于检索的计划，生成式模型仍在预研中。
在算法工程方面，晚期为了疾速上线，提供了基于 Python 的服务框架，通过部署多实例来补救单服务并发能力弱的问题；目前针对计算复杂度高的服务也在摸索算子化工程重构优化，以及联结机器学习平台团队摸索更简略高效的服务模式。
在技能建设方面，晚期为了疾速上线，以技能定制研发为主；去年底开始启动技能平台建设。次要思路是标准化离线模型生成和在线推理流程，将要害算法算子化，通过数据导入和流程配置实现技能研发，升高中长尾技能反对和保护老本。
最初，为了保障对话交互的成果体验，咱们联结数据团队和评测团队构建了全流程的闭环监控计划，先由研发自测保障算法模型成果合乎预期，而后在发版时再进入一轮批测，确保不会引入新的危险；上线当前，会有例行的监控和即时监控来别离保障整体成果和监控要害性能失常；此外，还会引入基于人工的抽样评测和三方评测进一步监控体验。
5 挑战与将来思考
只管对话交互近几年来在算法技术上获得了很大的停顿，然而绝对于用户期待的贾维斯和大白，还存在十分多的挑战。
首先在语义了解方面，目前的模型实质上还是基于数据的统计演绎，遇到极其 case 时不足鲁棒性和齐备性。
其次，作为有后劲代替搜索引擎的候选，势必要承当“百事通”的角色。而后，低频问答存在畛域凋谢、长尾效应显著、十分依赖常识内容等难题，建设难度和老本十分高。
另外，不同于绝对成熟的搜寻和举荐场景，对话交互能力迭代优化次要依赖人工，难以接上大数据驱动的自反馈自学习高速引擎，难以疾速晋升。
将来的挑战还远远不止于此，咱们将继续在更弱小的语义理解能力、更渊博的常识、更晦涩的对话、更畛域的对话治理，以及自反馈、弱监督、自进化学习能力等方面积极探索，为打造中文畛域用户体验最好的智能助理而不懈努力。
欢送对智能助理和对话交互技术感兴趣的共事一起交换探讨！
作者简介
zhenyu OPPO 小布智能核心 NLP 与对话算法负责人
深圳市高层次人才打算入选者，于中国科学技术大学取得计算机学士和博士学位。
近年来专一于对话式 AI 要害算法技术研发与落地，2018 年退出 OPPO 主导小布助手 NLP 与对话算法零碎建设。所从事钻研工作学术论文代表作单篇他引超过 800 次，曾获高等院校（科学技术）科技进步二等奖 1 次、湖南省科技进步二等奖 2 次。
获取更多精彩内容，请扫码关注 [OPPO 数智技术] 公众号