共计 7494 个字符，预计需要花费 19 分钟才能阅读完成。
We believe our research will eventually lead to artificial general intelligence, a system that can solve human-level problems. Building safe and beneficial AGI is our mission.
—- OpenAI
通用人工智能 AGI 作为 AI 的终极状态，是 AI 行业内谋求的演进方向，从晚期的图灵测试，到当初的 ChatGPT，AGI 的钻研始终是 AI 畛域的热门话题。ChatGPT 的呈现让大家第一次意识到 AGI 的能力曾经有了这么大的停顿。
当然，以后阶段 AGI 还远未成熟，AI 辅助生成内容（AIGC）的形式是现阶段利用的支流形式。特地是最近半年以来，大模型行业每天都在产生新的进化，网易云信在这股浪潮下始终在思考，咱们的业务和产品能够怎么更好的赶上这一波翻新的浪潮，明天要探讨和分享的也是最近一段时间咱们业务的思考和实际。
为了便于阐明后续的一些实际，先介绍下云信的产品状态，作为 PaaS 平台，咱们次要提供简略易用的 SDK API 接口，帮忙开发者集成出通信能力，包含 IM 通信和 RTC 语音通信。这个图里能够看到咱们提供的次要几个档次的服务。
- 最上层是通信网络，这个网络能够承载媒体、信令、音讯等。
- 第三层是 PaaS 服务，是咱们的外围 SKU，包含 IM 即时通讯、音视频通话、直播、点播等。
- 第二层是整体的撑持能力，比方即时通讯里的单聊、群聊和大型的聊天室，音视频通话里的实时视频、美颜降噪等能力。
- 最上层是场景计划，咱们心愿提供给客户更简略易用的解决方案，包含能够直接插入各场景的组件。在娱乐社交、教育、医疗、金融等场景下，咱们都有对应的代码级别的、能间接应用的解决方案。
软件研发生命周期和 AIGC 的联合场景
当初曾经有很多种 AIGC 的利用形式，比拟常见的一类是文字生产能力，输出一段文本，通过生成式 AI 模型解决后，进一步扩大新的内容，包含文本、代码、图片、音频、视频等。还有一种是多模态生产能力，就是输出图片、视频、音频等内容，再进一步生成更简单的图片、音视频等。
这两种形式有一些曾经绝对成熟，特地是像文字生产能力，有很多曾经上线在业务生产环节应用。比方生成营销内容、销售手册，包含写作、创作等，ChatGPT 的训练素材大半来自于 github，所以它对代码的了解十分强，生成的品质也很高。
那这些利用形式怎么与研发生命周期联合起来的？咱们剖析一个经典的软件研发生命周期的图例。
这里定义了几个阶段：需要剖析、产品设计、开发、测试和部署、经营阶段，下面提到的文字、图片的生产能力，就能够切入到这里的每一个环节的。
在需要分析阶段，有很多材料须要收集和汇总，要创作很多文案，包含剖析需要，调研市场，生成用户故事，这些都能够利用文本生成能力。
- 在产品设计阶段，产品交互设计、零碎架构设计、流程图设计都能够通过 AI 的能力去升高工作量。
- 在开发阶段方面的利用，比方代码生成、代码重构、代码解释、测试用例编写、辅助数据生成等有相应的工具。
- 上线、经营、售后阶段，也能够通过应用 AI 能力，做线上性能和数据分析，建设智能文档问答、智能客户服务零碎满足高效经营要求。
而这些 AIGC 能力和研发生命周期的联合的利用形式，还是得益于 AI 带来的更低成本的常识了解和智能决策、更强的合作和沟通能力、更好的工具和平台。
常识了解和智能决策：AIGC 的呈现，极大地升高了咱们跨畛域常识学习的老本，无论是新的常识技能的学习，还是对已有常识的进一步深刻，都失去了极大的便当。对于咱们这种 PaaS 企业来说，这一点尤为显著。咱们常常须要接触来自不同行业，不同畛域，不同方向的客户，而 GPT 可能帮忙咱们疾速获取并了解这些新畛域的常识，无效地补足咱们的常识短板。例如，咱们能够用麦肯锡的方法论向 GPT 发问，通过这样的互动，咱们能迅速学习并把握新的常识。
合作和沟通：咱们每天都要面对大量的信息，这些信息的了解和流转是一个很大的耗费。然而，AI 的提取、总结、形象和标准能力，能够帮忙咱们无效地解决这些信息，加重信息过载带来的压力，缓解团队合作的瓶颈。例如，聊天工具的每日总结性能、文档工具的主动改写能力以及数据透视性能，都极大地提高了咱们的工作效率和合作能力。
工具和平台：通过开源模型和凋谢 API 等的能力，将 AI 能力整合到已有的工具平台上，能够无效地对咱们现有的工具和平台进行加强，进步咱们的创作能力，升高翻新的门槛。通过应用诸如 Copilot、Notion、Midjourney 这样的工具，咱们可能疾速生成代码、设计图、文档等，从而大大提高单位工夫内的生产效率。
云信 AIGC 的一些摸索和实际
联合案例再看一下 AI 的能力和云信业务的实际形式。
首先是 SDLC 的产品需要分析阶段：
下图是咱们研发流程的一个流程示意，示意了咱们从承受需要，到评估、排期、开发、上线过程中各个角色应该做的事。每个框都是每个角色应该做的内容指引，图比拟小，但其实细节不重要，这个流程很简单，外面的某一个环节做得不好，就会影响到下一个环境，环环相扣，最终迁延了上线周期，或产生线上 bug，最终影响客户，影响效率。
但其实效率折损最大的破绽是在这张图的里面，就是怎么获取需要，怎么和客户沟通，怎么晓得客户想要的货色的诉求，这个才是最难的，写代码都还是其次了。咱们作为 To B 的业务与 To C 的产品有一些不一样的中央，咱们的客户是企业，企业的数量是远远小于终端用户的数量的，咱们的新客户不像 C 端产品，C 端产品一个新性能上线，指标就是几百万新客户，达不到如同就很失败了，而 To B 的客户是用手指头数的，是一个一个谈下来，一个一个销售、售前去攻下来的，所以每一个客户都对咱们十分重要，咱们要一直开掘怎么找到新客户的门路。
因而，在产品市场分析阶段，咱们始终在摸索如何将咱们的 AI 技术使用到客户获取过程中，特地是如何进步获取潜在无效客户的效率。一种可能的解决方案是咱们能够查看利用市场的 App 排行榜，剖析那些客户的业务场景是否与云信匹配，是否有竞品存在，以及客户的工商信息，市场信息和背景信息等。但这个过程，获取排行榜，以及后续的剖析和辨认工作须要大量的人力投入。
然而，随着 AIGC 技术的倒退，咱们发现它具备极强的指标形象和提炼能力。加上利用市场抓取的信息个别数据量不会太大，非常适合进行 few-shot 学习。通过训练 AIGC 模型，咱们能够自动化地进行这些剖析和辨认打标工作，极大地提高了咱们的工作效率。同时，这样的办法也能够帮忙咱们更精准地定位潜在客户，从而进步咱们的市场竞争力。
第二个是 AIGC 与开发过程的联合
咱们借鉴了微软基于 OpenAI 构建 Copilot 产品线的思路。实际上，咱们认为 Copilot 这个概念非常适合以后 AIGC 的能力定位。AI 的作用就像一个助手，帮咱们查漏补缺、做一些繁琐的工作，但并不是要取代咱们，只是作为副驾驶，提供倡议和想法，最终的决策还是由程序员本人来做。这种角色定位在以后 AI 的能力还未齐全倒退，在还未达到真正的通用人工智能（AGI）时，是十分匹配的。
例如，GitHub Copilot 的能力能够辅助咱们进行代码补全、生成代码片段、排查和修复问题。
我的共事还将 OpenAI 集成到了咱们 GitLab 的 MR 流程中，触发 AI Review 提供一个代码提交时的查看性能。
ChatGPT 给研发带来的晋升，并不仅仅是代码的生产数量，还包含一些思考方向的优化。程序员有时候会很纠结，比方在关上一个空白的代码页面筹备开始工作的时候，须要思考很多简单的问题，比方变量名怎么取、文件名要表白什么信息、函数的组织关系应该如何等等。但在 Copilot 的帮忙下，很多问题能提供比拟好的模板，给咱们提供 quick start 的思路。
应用这类 AI 工具其实也是一个工程优化的过程。AI 以后并非处于齐全可控的状态，咱们须要一直进行尝试、调整和优化。在这个过程中，咱们对于模型的了解其实是比拟重要的，以下几个 TIPS 能够参考。
首先，咱们须要给模型提供明确的指令，并尽量减少歧义。对于程序员来说，这个准则可能会感到既相熟又生疏。在写传统编程语言时，明确的输出是一个根底要求，但当咱们应用自然语言形容时，状况就不太一样了。自然语言的信息量大且容易预设一些前提，这就产生了所谓的“常识的咒骂”——咱们很难把本人明确的事件分明地解释给不明确的人。这个问题在与 AI 模型交换时尤其突出，因为大模型的思考模式并不齐全和咱们统一。例如，当咱们让模型“翻转一个单词”的拼写时，大模型的根底单元是 token，它可能只是以 token 为单位进行了翻转，而没有以字母为单位进行翻转，这个和咱们的个别的意识是不统一的。
其次，咱们须要让模型有思考的工夫。比方应用 COT（Chain of Thought）思维链模式，按步骤领导模型，明确每个步骤的输入，这样能够让模型更好地了解操作要求。
此外，无论是应用 one-shot 还是 few-shots，都是给模型提供示例，让它能依照示例明确需要，示例无论对于机器还是对于人类的学习都是一个十分重要的步骤。
最初，如果你感觉不确定，也能够让模型在条件有余时发问。在咱们补充足够的信息后，模型再输入内容。这样能够确保后果的准确性。
借鉴以 AI 为 Copilot 的理念，咱们让各个团队在业务开发过程中自行探寻针对特定场景的解决方案。例如，接下来要介绍的一个理论案例——“标注助手”。
咱们的工作场景中，仍有许多波及到传统机器学习算法的局部须要进一步优化，这类算法的成果很大水平上取决于咱们进行标注的数据量——用人工的努力创造智能。
以咱们的会议产品为例，咱们为用户提供了集成到他们利用的会议模块。在这其中，背景虚化是一个广泛的需要。然而在一些非凡状况下，比方人物挥手的时候，背景虚化的成果不够现实。通常咱们会通过收集大量训练素材，而后人工标注来改良算法，然而素材品质和标注后果通常难以达到咱们的冀望。
此时，AIGC 的多模态能力就可能施展其独特劣势，帮忙咱们解决这些问题。
咱们在通过反馈失去一些 Bad Case 后，能够通过 BLIP 把 Bad Case 形容进去，而后通过 Stable Diffusion 生成足够多的 AI 图片，而后通过 Grouding Dino 把须要提取的内容框出来，再通过 SAM 模型把人像宰割进去打标。这个过程能够通过程序串起来，升高人工标注的投入老本。
这种办法的长处在于显著缩小了标注所需的工夫和人工成本，相较于传统的手动标注，工作效率晋升的同时还能放弃十分高的精确性。在达到雷同的精度下，咱们的模型可能维持在原来大小的一半。后续咱们能够将这整个流程进一步规范化和标准化，造成一个自动化的机器学习框架，用于更宽泛的须要图像标注的场景。
以 AI 为 Copilot 的思维形式并不仅限于产品售前和售中的环节，对于售后服务，尤其是在面向开发者的 To B 业务中，AI 也能施展重要的作用。咱们晓得，在 To B 业务中，特地是在 PaaS 类型的服务中，技术支持至关重要。咱们面对的客户是开发者，他们可能提一些简单的问题，须要写这段代码的研发花很大的精力和工夫，能力了解和解决这类问题，为了尽量减少这类对研发资源的占用，咱们须要为技术支持团队提供更好的工具和能力，以便他们更无效帮助客户排查和定位问题。
咱们碰到的常见的问题能够大抵分为两类：
解体和异样，这是一类重大的问题，它示意程序呈现了不合乎预期的状况。咱们建设了名为“Marvel”的异样收集零碎，用于收集线上产生的堆栈，异样信息等数据。
另一类是性能和成果问题，比方在提供流媒体服务时，音视频成果的指标呈现偏差、画质降落、音频卡顿等。这类问题并不会导致程序解体，但 SDK 的应用形式、API 的调用程序、参数的应用等都可能影响最终的成果。要解决这类问题，须要十分准确地还原现场，咱们构建了一个名为“指南针”的数据品质通明平台。该平台能够剖析从各个终端上报的调用链，参数等信息，将业务应用的形式，问题产生的背景信息都上报至平台。
通过这两类平台收集到的信息，再联合咱们过往的教训、汇总的决策树、源码信息等，作为上下文输出到大模型中。通过 AI 的帮忙，咱们能够失去一个初步的诊断，这能够帮忙加重咱们筛查问题、调配问题、定位问题的人力瓶颈，咱们把这个工具叫做 TroubleShoot Copilot。
在 AIGC 产生价值的环节外面，有一个很典型的用法是加强的知识库，围绕知识库建设更好的服务体系，特地是以公有数据为根底的知识库显得尤为重要，因为企业外部信息大都是在 AI 模型预训练之外的，次要包含以下几类：
第一是产品能力知识库：这部分知识库次要关注咱们的产品性能、性能和优化技巧。这些信息帮忙咱们的技术支持团队更好地了解产品，从而提供更无效的帮忙。。
第二是客户信息知识库：这包含客户的详细信息，如客户档案、服务记录等，这些信息帮忙咱们了解客户的历史和需要，为客户提供更个性化的服务
第三是集体角色知识库：这种知识库蕴含特定角色或工作的相干信息，比方本人最常被问到的一些问题，本人负责的代码的一些解释等等，这些知识库能够帮忙咱们的团队更无效地满足各种角色的特定需要。
第一个场景是文档搜寻。开发者平台都有文档搜寻，文档搜寻说简略很简略，搭一个 Elastic Search 就能够搞定，但说要做好搜寻，很难。通常全文检索，在用户对产品了解有余的状况下（通常新用户的状态），很难失去无效的后果，咱们产品搭配的搜寻服务的满意度就始终不太好。借助 AI 做优化也是咱们摸索的方向。
GPT 对于公有的数据有几类利用的形式，一是嵌入，把内容做向量化，在内部存储向量化和内容的对应关系，而后把问题向量化后，通过向量的类似度找到对应的内容，这个过程还有很多细节要解决，比方做嵌入的时候，对文档拆分有较强的要求，咱们做向量化的内容时，失去的长度，间接影响了最终搜寻的成果，如果分的太小，那信息量太少，如果分的太大，就引入了太大的背景乐音。二是微调，基于开源的模型搭建，把训练素材投给开源的大模型，这个过程对训练数据集和训练硬件资源的要求也不低。
咱们尝试的计划是综合多种形式的劣势：通过 AI 去辨认用户输出的搜寻用意，拆解出明确的搜寻关键字，把客户的问题与库里常见的问法和关键词联合起来，失去用户精确想搜寻的内容，再通过全文检索的形式失去上下文，再把上下文通过 AI 进行总结和提炼，返回一个更有逻辑的答复，通过这样的形式把文档的搜寻能力更好的体现进去。
第二个场景是客户服务过程。咱们做客户服务时，通常会通过企微群的形式提供技术答疑服务，在群里能够实时解答开发者在应用咱们产品过程中遇到的各种问题。而在此过程中，留下的服务记录和信息反馈对于咱们而言也是极其贵重的资产。它们能够帮忙咱们生成最佳实际、编制常见问题解答，甚至进行客户情绪剖析。
然而，一个挑战就在于这种基于服务群的信息管理形式。因为它们不足无效的会话管理机制，解决这些会话的过程就变得十分复杂。设想一下，咱们每个月要答复 4000 个问题，每个问题可能须要屡次交互能力失去解答。而在这过程中，还可能呈现多个问题同时穿插发问的状况。问题的内容长度不一，交互有时候会十分长。这就使得对技术支持的质检，以及对客户信息的回溯变得十分艰难、消耗人力。
这正是咱们须要 AI 技术帮忙咱们的中央，AI 可能解决这些简约的提取、形象和总结工作。例如，咱们能够训练 AI 模型来辨认和跟踪群会话内容，抽取每个独立的问题线索，对客户问题解决进度、待办事项落实状况、客情关系是否维系得当、是否降级投诉做好分类和打标、汇总工作。这样咱们就能更好地治理咱们的技术支持记录，进步咱们的服务质量，同时也为改良产品和优化用户体验提供了无力的数据反对，这是咱们的 Customer Copilot 的作用所在。
第三个场景基于集体角色智能化的利用。这是咱们正在尝试的一个新的方向，通过导入集体的专属的知识库信息，能够打造一个 24 小时在线的 AI 替身，帮助自己答复问题，以便放弃本人更继续的专一状态，缩小一些思考中断。
总结
明天的案例，展现了咱们如何从小场景、小性能切入，以 Copilot 的角度解决问题，晋升产品研发的效力。研发效力的改良须要全体人员独特参加，这些 Copilot 工具集都是一线研发同学在编写代码、查找问题和服务客户过程中，为了解决问题而思考的计划。这也是这次 AI 浪潮咱们感触到的一个变动：大家不仅违心思考，而且敢于付诸实践。在这之前，有一些提效、翻新的想法时，落地过程中会遇到很多妨碍，包含技术限度、人力限度、跨团队合作等，从而就把想法束之高阁了。而当初，从想法到落地的门槛升高了，有越来越多的工具帮忙你写代码，剖析思路，极大地升高了试错的老本，翻新的能源也更强。
后面也提到 AIGC 和软件研发生命周期的联合利用中，AI 的参加会让咱们对整个 SDLC 的各个阶段须要投入的工夫比例进行调整，在这之前，SDLC 过程中，编码的细节十分多，须要认真斟酌，有很大的膂力工作量，还有就是匆匆做完零碎设计后，在编码的过程中碰到具体问题再调整设计，导致编码工夫被拉长放大。在利用了 AI 辅助生成代码的工具能力后，编码开发阶段当前可能不会是最占用研发人员工夫的周期，AI 工具能够帮助生成代码，缩短两头机械反复的胶水代码的生产工夫。相应的，研发应该花更多的工夫在零碎设计，软件工程方面，这是辨别研发程度高下和能力差异的更外围的特色，如何让代码能满足工夫上的、规模上的、业务衡量取舍的变动：到底是一次性的代码还是要求运行几年以上的代码计划是不一样的，在不同用户的规模的要求不一样，在面对各种不同门路要做的决策，比方危险、ROI、是否承受不好的现状等等，都须要咱们这个主驾有更多的脑力投入到外面，这个才是程序员应该施展价值的点。
最初借用一张图来完结这次的分享，咱们强调研发效力改良的重要性，其中一个关键因素是研发人员的体验是否足够好，一个好的研发体验能够带来更高的效率和幸福感。
研发体验的形成包含创造力（生产力的一部分）、研发影响力（将想法疾速转化为具体成绩的顺畅度）以及环境、流程和工具的满意度。这些因素相加，再乘方合作，最终造成一个优良的开发体验。
AIGC 所波及的诸多内容恰好能进一步加强这个公式的各个局部。无论是工具的生产力、流程的变动、疾速尝试的能力，还是合作方面的改良，都能够通过 AI 能力失去强化。这正是 AI 助力研发效力的最佳路径，也是研发人员能从 AI 中取得幸福感的最好形式。
