目前，人工智能技术在世界范畴内热度极高，但却呈现了“雷声大、雨点小”的景象。一方面，随着近年来深度学习技术的一直倒退，计算能力的一直进步，更深更简单网络的遍及应用，加上深度学习端到端的个性，看起来如同人工智能就是端到端的标注，一直地做数据荡涤，减少标注数据，加深模型参数，就能够实现计算机像人类一样工作。另一方面，人工智能在理论利用场景落地时常常失败，常听到有“只见人工，不见智能”，“有多少人工就有多少智能”的吐槽。因而，目前许多人工智能技术的实现现阶段还不能脱离人工教训。
人工智能落地须要人工智慧，这里外围在于联合场景和算法特点做正当的设计，而非关注更多标准化的标注或者设计更精湛的算法网络。达观是 ToB 的自然语言解决（NLP）公司，次要做办公文档主动解决。近年来在金融、政务、制造业等行业胜利落地了十分多的 NLP 我的项目。
NLP 也被誉为人工智能皇冠上的明珠，AI 落地特地是 NLP 落地尤其不容易，通过机器解决办公文档远比从一堆图片中找出有猫的图片要简单得多。因为让机器解决办公文档，往往存在短少大量的训练语料状况，不同行业间须要解决的具体问题千差万别，人工都须要专业培训甚至几年工作教训能力解决得当。本文次要联合达观的实际落地教训，探讨在具体 NLP 我的项目落地时，计算机“智能”须要哪些必不可少的“人工”。
“人工”化繁为简，拆解简单问题
人工智能难以落地的次要起因之一是要解决的问题过于简单 ，如果只靠算法模型的自学习，很难学到对应常识，从而作出正确决策，就像用大学生的题目考小学生，不可能考得好。但如果咱们能 人工对负责问题进行拆解，分解成多个简略问题，那每个简略的问题可能通过模型就能解决。但如何拆解？拆解成什么水平模型是能够解决的呢？达观的教训是：当面对一个 NLP 问题，人类看完后立即就能反馈出后果的，这样的问题模型就是咱们定义的“简略问题”，是机器能够解决的。上面以合同文档抽取的场景为例帮忙大家了解。
假如咱们须要构建模型从 PDF 格局的合同中抽取出甲方、乙方、守约条款等字段信息，看看机器是怎么一步步进行拆解的：首先看机器的输出数据。PDF 格局外部只是规定了每个字符或者线条应该在屏幕上什么地位，这些元素自身没有任何语义上的信息，在计算机看来这份文档其实只有字符以及其地位等简略信息，并没有人看渲染好的 PDF 文件的对齐、大小、重要性等更多信息。如果通过端到端的形式，把文字以及坐标一起输出到模型，让模型本人学习文档构造，实践上能够抽取出须要的字段。这种形式乍听之下能够一试，但实际效果是十分差的。因为让人看到一堆字和坐标，心愿判断出抽取的字段，那自身就是非常复杂的事件，所以咱们还须要进一步拆解。
文档解析模型负责解析 PDF 协定，并且通过肯定算法将文档结构化，也就是转成章节、表格、段落等文字流，再输出到字段抽取的模型。这两个模型是否足够简略并能落地呢？
大部分文档下，哪个是文字块，哪个是表格，哪个是图片，人是能够霎时判断进去的。而文字块拆成章节、题目、段落，尤其是有些文档段落开始并没有显著空格，那人还是须要认真看，有时候还要剖析上下文能力剖析进去。所以咱们将文档解析持续拆解成元素辨认模型和段落辨认模型。
对于字段抽取，有些字段比较简单，比方甲方、乙方，人眼就能看出后果，这些字段间接通过模型抽取问题不大；有些字段略微简单一些，比方合同总金额有时候是在文本中的，有时候是在表格外面的，人在看的时候也须要反馈一下能力失去信息，所以能够对字段抽取再进行拆解。表格外面须要专门的表格抽取模型，如果是无线表格，人在看的时候往往还须要将虚线进行对应，所以也能够拆出无线表格辨认的模型。文本抽取中，有些字段是长文本。比方守约条款，人在找的时候往往是通过前后文找到抽取的开始和完结，而短字段则更关注抽取自身以及上下文的内容。通过对每个步骤的复杂度进行剖析，能够进一步拆解为上面构造。
这就是文档抽取常见的模型，但在理论应用中，依据具体数据状况以及剖析字段的特点，可能还会再进行拆解。比方某些字段可能是在固定的某些章节或者段落中，用全局的文本进行训练和预测有很大的烦扰，那咱们就能够再减少一个字段章节预测的模型，定位该字段所在章节。再比方租房合同抽取的字段的文本是比较简单的选择性文本，对于模型来说也有肯定艰难。在销售合同文本中经常呈现：
如果须要退货，采纳 B 进行退货退款：
- 不能退货
- 能够退货，收取 20% 赔偿金
- 能够退货，收取 50% 赔偿金
这样的文本则须要拆成 2 个模型，一个是抽取选择项的模型，另一个是抽取抉择列表的模型。
“人工”模型抉择与优化
模型抉择也是须要“人工”教训的，须要联合标注数据规模、数据特点、模型难度等进行抉择和解决。比方后面提到的章节预测的模型，如果章节题目特色比拟显著，则能够间接通过关键词或者机器学习模型来进行分类解决，如果写法不太标准，须要通过章节题目和章节内容进行判断，则可能思考基于 bert 的深度学习算法。就咱们达观的教训而言，不同模型，如果应用完全相同的数据，调优后成果差距在 5% 以内，如果场景能比拟好的应用上预训练模型，比方 bert，那成果能晋升 10%-15%。
选定模型之后，也能够通过减少一些特色从而进一步升高模型的难度，进步准确度。在垂直畛域文档解决上，业务词典是罕用的办法。业务词典包含了专有名词，也包含了字段的重要要害信息的特色。比方咱们要抽取合同的乙方，对于公司洽购而言，很多都是有供应商库的，或者说能够取得之前与他们签合同的乙方的名称。这个名称形成的词典可能不全，所以不能只靠这个来匹配，但将这个“乙方专有名词”输出模型作为参考特色，是十分有用的。字段的重要要害信息的特色，指的是抽取的这个字段十分要害的上下文。比方抽取“甲方”这个字段，尽管话术能够有多种，比方甲方是 xxx，甲方：xxx，甲方是本次的承办单位 xxxx 等等，但根本都会带“甲方”几个关键字，所以如果把这些专有名词也退出模型，准确度往往会有不小的晋升。上面这个是重要词（专有名词或者业务词）应用的例子。
假如“委员”和“委员会”是重要词。须要对“美国联邦通信委员会最近正式批准苹果开展 5G 通信试验”的每个字生成词向量。这里的办法是通过 2 -gram，3-gram，4-gram 和 5 -gram 对每个字进行编码，编成 8 个位，每种 gram 各 2 个位示意上文是否是重要词和下文是否是重要词。以“委”字为例编码方式为：
- 2-gram，就是“信委”和“委员”，“信委”不是外围词，而“委员”是外围词，所以编码为“01”
- 3-gram，就是“通信委”和“委员会”，“通信委”不是外围词，而“委员会”是外围词，所以编码为“01”
- 4-gram，就是“邦通信委”和“委员会最”都不是外围词，所以编码为“00”
- 5-gram，就是“联邦通信委”和“委员会最近”都不是外围词，所以编码为“00”
其余行业常识也能够用相似的形式生成字向量。把所有的行业向量和原始的字向量进行拼接，作为模型的输出，这样模型就能间接取得行业教训，从而有更好的成果。
“人工”构建常识图谱
有些文本问题有很强的业务性，难以进行拆解，或者业务逻辑太简单，很难让机器学习到对应的常识 。清华大学人工智能研究院院长张钹院士在一次演讲中提到“人的智能没法通过单纯的大数据学习把它学进去，那怎么办？很简略，加上常识，让它有推理的能力，做决策的能力，这样就能解决突发事件。” 达观在落地实际中就是通过常识图谱来解决这种简单的问题。
常识图谱的概念由 Google 在 2012 年正式提出，是一种语义网络知识库，将现有常识的以结构化多关系图（Multi-Relational Graph）的模式进行贮存、应用、展现造成。通过将多个实体关系三元组进行交融，造成蕴含多个不同的实体节点和多种类别的关系边的多关系图，即常识图谱。常识图谱落地也有很多挑战，构建和保护常识图谱的工作量是十分大的，很多我的项目因为构建过程太过简单而最终失败。须要正当设计和使用常识图谱，也须要“人工”教训。达观通过常识图谱辅助智能制作有很多胜利的落地案例，上面结合实际利用场景，谈下外面的一些教训。
生产制作过程中，有很多时候会遇到一些故障，比方手机发热，螺丝拧不上等问题，不疾速解决会影响生产流程。之前遇到这类问题只能通过征询经验丰富的“专家”，但总会存在专家找不到或者专家不肯定有空的状况。咱们心愿通过 NLP 和常识图谱技术能够解决这个问题。
达观通过对外面的数据进行钻研发现，要找到这些问题的答案常常要波及好多文件，比方产品说明书，故障手册等。有些问题容易取得答案，但有些问题可能须要通过一些简单的推理能力取得答案，甚至不肯定能找到答案。面对这个问题，咱们设计了制造业生效图谱。
为了解决专家录入进行构建的老本过高的问题，一方面咱们设计的生效图谱 schema 只和生效自身相干，其余生成过程中的常识并不纳入产品范畴之类，从而缩小生成图谱的工作量。另一方面，咱们在 图谱构建的时候，以人工联合智能。从相干的文档，比方产品说明书，故障培修手册，生效剖析文档等内容中提取相干属性数据，通过人工审核，再录入到图谱中。这种人机联合的形式生成图谱相比于纯人工生成图谱能够大幅缩小工作量。图谱数据的抽取次要采纳基于 pipeline 抽取和联结抽取的办法。
pipeline 抽取，是用 NER 技术先抽取出实体和属性后，再通过分类办法对实体两两进行分类判断。这种办法的长处是灵活性高，不同类型的实体能够用不同的模型进行抽取，关系抽取的分类算法也能够结合实际数据进行优化和调整，毛病在于可能产生谬误流传，实体谬误前面的关系必定是谬误的，以及疏忽了实体属性抽取和关系抽取外部的可能分割。
基于联结抽取的办法是同时抽取实体、属性、关系。针对实体抽取出的实体对，在以后句子对应的依存句法树中找到可能笼罩该实体对的最小依存句法树，并基于 TreeLSTM 生成该子树对应的向量示意，最初，依据子树根节点对应的 TreeLSTM 向量进行关系分类。
一些常识能够通过抽取已有的文档，但有些文档缺失或者抽取难度很高的，则由专家来进行人工录入，从而结构了一个针对生效的常识图谱。有了这个图谱，就造成了计算机的常识。
生效图谱例
基于图谱赋予的常识，企业能够应用基于常识图谱的问答（KBQA）来解决生产中理论碰到的问题，咱们叫“归因剖析”。基于图谱的问答须要能了解各种 query 的实在用意，尤其是 query 可能输错，可能表述不标准，须要还能对应到图谱失去正确的答案。这外面也须要对问题进行拆解，分解成一个个能够解决的模型。
KBQA 解决流程
一般来说，KBQA 分为数据预处理，问句剖析，常识检索，答案生成 4 个阶段。
- 数据预处理，指的是 query 进行根底的 NLP 解决，包含了分词，格局转换，归一化，纠错等过程。这外面和传统搜寻中的数据预处理比拟不同的是，纠错往往能够联合图谱外面的各种名称进行纠错，并且能够保留多个纠错后果，在前面的过程中再联合其余信息判断是否须要纠错，或纠错成哪个后果。
- 问句剖析，外围是要对 query 进行用意辨认，并且进行实体链接。用意辨认指用户的 query 是对于什么的，比方是问解决办法还是问起因。实体链接就是将问句文本的某些字符串映射到知识库中对应的实体上。实体链接是问答零碎的外围问题之一，因为实体链接如果出错，前面的后果会十分不相干。这外面的难点在于用户 query 的名称和图谱中实体的名称并不是完全一致。所以咱们也会加上含糊搜寻以及同义词等形式来解决这个问题。
- 常识检索，须要从图谱中选出合乎该 query 相干的子图，并且对其排序。因为问题可能须要图谱通过多跳取得答案，所以这个步骤外面返回的实体节点可能有多个。
- 答案生成，一方面是依据返回的后果找出最合乎的一个，并且依据问句以及图谱的信息，通过 NLG 的技术生成可能的文字答案。
“人工”进行场景抉择和产品状态设计
针对人工智能产品或解决方案，个别大家都在探讨技术如何晋升，成果如何优化。以达观在过来几年落地的很多 AI 我的项目来说，场景抉择和产品状态的设计其实是落地十分要害的环节。从落地的角度，实质需要是心愿能够更快地高质量实现预计的工作，并不是须要一个多少准确率的模型。而且这里的高质量，在办公文档解决上的落地需要往往是 100% 精确。而目前的算法根本都不能达到 100% 精确，而且算法自身并不知道错在哪里，这也是 AI 落地碰到的最大挑战。因为当须要所有数据进行复核，“疾速”这个需要就会大打折扣。如何“疾速”审核就是须要在场景抉择以及产品状态上做很多工作。
01 比对数据
用第三方数据或者有规定进行校验，就能疾速发现 AI 谬误之处。比方电子合同和图片合同进行文档比对的场景，ocr 的谬误通过比对，能够疾速的找到呈现 ocr 谬误的中央，人工能够疾速进行查看。
文档比对产品 kh
02 业务关系
文档中辨认的元素有些是有业务关系的，能够通过字段的关系来验证辨认是否正确。比方下图总和的值应该是下面列表中数值计算后的后果。如果辨认进去的后果总和公式不正确，那很可能是两头哪个元素辨认呈现了问题，如果辨认进去的后果总和公式正确，那根本辨认自身也是正确的。
财务文档中的勾稽关系
03 高效审核
人工审核过程的产品交互是十分重要的，须要对比拟消耗工夫的环节联合具体业务场景的审核过程进行正当交互设计。审核过程次要是“找到”和“订正”两个动作，达观通过对抽取后果进行高亮，点击字段跳转等性能帮忙审核人员疾速“找到”抽取后果以及上下文，通过划选和快捷键等性能减速人工“订正”的工夫。
人工审核产品
交互人工智能落地是一个挺有挑战性的工作，既须要攻克技术难度，一直晋升算法精度，也须要理解业务，理解场景，能力抉择适合的场景，构建正当的算法流程，设计不便的产品交互，把这些“人工”的价值施展进去，以人机协同的形式促成算力和模型的进步，能力真正实现“人工智能”。