关于后端:Serverless-架构下的-AI-应用开发

41次阅读

共计 5614 个字符,预计需要花费 15 分钟才能阅读完成。

简介:深度学习彻底改变了人工智能,但其广泛应用离不开弱小的算力撑持,如何应用 Serverless 架构应答机器学习畛域的工程挑战?随着工夫的推移,Serverless 架构变得越来越炽热,凭借着极致弹性、按量付费、低成本运维等个性,在很多畛域施展着越来越重要的作用;机器学习畛域在近些年也十分炽热,并在越来越多的行业中失去利用。实际上,机器学习我的项目往往存在资源占用率高、利用率低的问题,尤其在流量波峰和波谷差值较大的我的项目中,资源节约更为显著。除此之外,机器学习我的项目的部署、更新、前期保护相对来说也存在肯定的复杂度。由此若将 Serverless 架构利用在机器学习我的项目中,在保障机器学习我的项目性能的同时,既能降低成本,又能进步资源利用率,是十分值得钻研和摸索的课题。这里举荐本新书《Serverless 架构下的 AI 利用开发》

本书旨在通过简单明了的语言、实在的案例,以及凋谢的源代码,为读者介绍 Serverless 架构与机器学习相干的基础知识。心愿读者能够通过本书真正领会到 Serverless 架构与机器学习联合的重要价值;并能顺利在 Serverless 架构下开发、上线机器学习我的项目;从而更加间接地取得云计算带来的技术红利。举荐序 Preface 序一过来十年,Serverless 和以机器学习为根底的人工智能技术都获得了巨大进步,成为不可漠视的技术发展趋势。云的产品体系正在 Serverless 化,从计算、存储、数据库到中间件,越来越多的云产品采纳了 Serverless 模式。服务器不再是开发者构建利用的惟一抉择。全托管的函数计算、Serverless 利用引擎、对象存储、音讯队列、数据库等云产品成为构建利用的根底组件,帮忙开发者在更高的形象层构建弹性、高可用的云原生利用。在云的世界,利用开发将经验汇编语言向高级语言的改革,Serverless 将在下一个十年成为云的默认编程范式。与此同时,深度学习彻底改变了人工智能。在计算机视觉、语音辨认、自然语言解决等畛域,深度学习曾经获得突破性停顿,并将重塑主动驾驶、机器人技术等畛域。深度学习的广泛应用离不开弱小的算力撑持。无论模型训练还是推理,它们都须要充分的算力。因而从底层硬件,到深度学习框架,再到垂直利用,深度学习的每个层面都给已有的计算范式带来了挑战。如何高效治理 CPU、GPU 甚至 FPGA 等多种硬件资源?如何整合数据荡涤等多个流程来疾速实现模型训练?如何让模型推理在线服务更加弹性、高效?这些问题是学术界和工业界始终在思考的,也和 Serverless 的愿景非常符合。Serverless 和机器学习的交加是一个迷人的畛域,业界投入极大的激情摸索 Serverless 架构在机器学习畛域的利用。在模型推理等分支畛域,Serverless 曾经成为十分有吸引力的架构。阿里云数据库团队应用函数计算构建和运行机器学习算法,对几十万数据库实例的运维数据进行剖析和解决,实现数据库实例异样检测、SQL 优化、主动弹性伸缩等运维自动化。网易云音乐应用函数计算运行音频指纹识别、音译歌词、副歌检测等算法,解决超过 6000 万首音乐,速度晋升 10 倍。本书除率领读者学习经典的机器学习算法、模型、框架外,还探讨了如何应用 Serverless 架构应答机器学习畛域的工程挑战;不仅有实践根底的介绍,还有大量实战经验的分享。读者将学习到机器学习的基本概念、利用特点、架构设计、性能调优等常识。杨皓然阿里云智能资深技术专家、阿里云 Serverless 研发负责人 Preface 序二云原生使组织可能在古代云环境(例如公共云、公有云和混合云)中构建和运行可扩大的应用程序,更快地翻新,并使企业更敏捷地对市场做出反馈。云原生无处不在已成事实,并且赋能各个新技术。你有没有想过构建一个机器学习应用程序:后端有一个重量级模型,前端有一个用户敌对的界面,以及一个无服务器的云架构,以便你的产品能够被千千万万的用户利用?Serverless 解决方案具备的简略性和主动扩展性使其成为大规模运行机器学习应用程序的绝佳抉择。基于 Serverless 架构,你能够在不配置或治理服务器的状况下运行代码,且只需为运行工夫付费。如果你想进一步理解这方面的常识,我向你举荐这本书。KeithCNCF(云原生计算基金会)中国区总裁 Preface 序三现在,人工智能在社会倒退中扮演着不可或缺的角色,在进步劳动效率、升高劳动老本、优化人力资源构造及提供创新性工作岗位方面带来革命性成绩;而云计算为人工智能提供算力撑持的同时,也在逐步推动行业翻新与技术迭代。随着工夫的倒退,诞生于云计算高速倒退期间的 Serverless 架构逐步受到关注,正在与更多畛域进行有机联合,包含人工智能畛域。部署在 Serverless 架构上的人工智能我的项目不仅能够在近乎有限的计算资源下运行,还能够基于 Serverless 架构的弹性伸缩、按量付费等个性实现降本提效的业务指标。本书介绍了 Serverless 架构与机器学习我的项目的联合案例,并通过对基础知识的总结、我的项目开发实战经验的分享以及我的项目调优计划的摸索,进一步帮忙读者拓展思路。本书构造清晰、内容翔实,是一本为 Serverless 开发者以及机器学习我的项目人员量身定做的技术书籍,值得一读。卜佳俊浙江大学研究生院副院长、计算机学院传授、国家“万人打算”科技翻新领军人才 Preface 序四过来几年,云计算减速了互联网产业的倒退,Serverless 架构正在以极快的速度促成云计算疾速迭代。2018 年,寰球出名 IT 征询调研机构 Gartner 公布报告,将 Serverless 计算列为十大影响基础设施和运维的技术;2019 年,UC Berkeley 在论文“Cloud Programming Simplified: A Berkeley View on Serverless Computing”中示意“Serverless 将成为云时代默认的计算范式”;而 2021 年,Forester、DataDog 等一系列机构对 Serverless 架构投来更多关注的眼光,先后公布了多个报告,进一步对 Serverless 进行调研和大胆预测。在 Serverless 架构飞速发展的过程中,Serverless 架构如何与各畛域联合是不可避免的话题,尤其像人工智能这样的畛域,Serverless 架构如何将本身的技术红利顺利地作用到机器学习我的项目,如何在保障机器学习我的项目高效与稳固运行的同时降本提效,成为很多开发者关注的重点。作为近些年十分热门的技术,人工智能曾经在多个行业落地,在人们生产和生存中产生了踊跃影响。本书以 Serverless 架构和机器学习为结合点,针对不同行业、不同畛域的利用为读者介绍 Serverless 架构下的机器学习我的项目实战。对于读者来说,书中丰盛的实际案例、我的项目开发教训都颇具借鉴意义。雷渠江中国科学院大学博士生导师、粤港澳人工智能联结实验室执行主任 Preface 序五云计算是一种可能将动静伸缩的虚拟化资源通过互联网以服务的形式提供给用户的计算模式。服务指的是通过一系列流动,而不是实物的形式,满足对方的需要,它是社会经济和社会化分工倒退到肯定阶段的必然产物。用户通过网络收回计算需要(输出),由服务方汇聚资源进行计算、生成后果(计算输入)并通过网络反馈给用户。云计算技术就是这种新模式下的计算服务使能技术。在该模式下,服务方通过云计算技术保障服务质量并降低成本。Serverless 架构是云计算倒退到现阶段的产物。它运行在一个无状态的计算容器中,由事件驱动,生命周期很短(甚至只有一次调用),齐全由第三方治理,具备灵便、轻量化等个性,在越来越多的场景中有十分优良的体现。在以算力为次要驱动力的新一轮人工智能浪潮中,机器学习在自然语言解决、图像处理等畛域实现了飞跃性倒退,催生了人脸识别、语音辨认、无人驾驶、对话机器人等一系列翻新利用。然而,实现机器学习算法和构建人工智能利用须要弱小的算力和高效的数据存储、传输和解决。对于宽广从事该畛域工作的 IT 人士而言,自行构建撑持环境须要付出昂扬的老本和代价,而 Serverless 架构通过云计算模式能够无效解决这一难题。本书介绍了 Serverless 架构以及如何基于 Serverless 架构进行利用开发,尤其是 Serverless 架构与各种机器学习框架相结合的利用。全书深入浅出地介绍了 Serverless 架构相干的常识内容,并具体介绍了大量实战案例。无论人工智能我的项目的开发人员还是人工智能我的项目的策动、管理人员,都值得浏览本书。莫 同北京大学软件与微电子学院副教授目录序言前言第 1 章 初识 Serverless 架构 1.1 Serverless 架构的概念 1.2 Serverless 架构的特点 1.2.1 劣势与价值 1.2.2 面临的挑战 1.3 Serverless 架构的利用场景第 2 章 Serverless 架构下的利用开发 2.1 Serverless 架构下的利用开发流程 2.2 与 ServerFul 利用开发流程比照 2.3 传统 Web 框架部署与迁徙 2.3.1 申请集成计划 2.3.2 其余计划 2.4 Serverless 利用的开发和部署 2.4.1 如何开发、部署 Serverless 利用 2.4.2 如何对 Serverless 利用进行调试 2.4.3 通过开发者工具进行依赖装置和我的项目构建 2.4.4 Serverless 架构与 CI/CD 工具的联合 2.5 Serverless 利用的可观测性第 3 章 机器学习入门 3.1 什么是人工智能 3.1.1 人工智能、机器学习和深度学习 3.1.2 人工智能的倒退 3.1.3 人工智能的典型利用场景 3.2 罕用的机器学习算法 3.2.1 常见的监督学习算法 3.2.2 常见的无监督学习算法 3.2.3 其余常见的深度学习模型第 4 章 支流机器学习框架与 Serverless 架构联合 4.1 scikit-learn 与 Serverless 架构联合 4.1.1 scikit-learn 介绍 4.1.2 scikit-learn 实际:鸢尾花数据分类 4.1.3 与 Serverless 架构联合:文本分类 4.2 TensorFlow 与 Serverless 架构联合 4.2.1 TensorFlow 介绍 4.2.2 TensorFlow 实际:基于人工智能的衣物辨别 4.2.3 与 Serverless 架构联合:指标检测零碎 4.3 PyTorch 与 Serverless 架构联合 4.3.1 PyTorch 介绍 4.3.2 PyTorch 实际:图像分类零碎 4.3.3 与 Serverless 架构联合:对姓氏进行分类 4.4 PaddlePaddle 与 Serverless 架构联合 1434.4.1 PaddlePaddle 介绍 4.4.2 PaddlePaddle 实际:手写数字辨认工作 4.4.3 与 Serverless 架构联合:Paddle-OCR 我的项目开发与部署第 5 章 Serverless 架构下的 AI 我的项目实战 5.1 Serverless 架构下的 AI 利用 5.1.1 我的项目的开发与部署 5.1.2 冷启动优化 5.1.3 训练与推理性能优化 5.1.4 模型更新迭代计划 5.2 模型降级在 Serverless 架构下的实现与利用 5.2.1 模型降级迭代需要背景介绍 5.2.2 猫狗辨认我的项目训练 5.2.3 将模型部署到 Serverless 架构 5.2.4 用户反馈与模型迭代 5.2.5 我的项目总结 5.3 人脸识别在 Serverless 架构下的利用 5.3.1 人脸识别技术介绍 5.3.2 人脸识别模型训练 5.3.3 人脸识别模型的利用 5.3.4 我的项目 Serverless 化 5.3.5 我的项目总结 5.4 文本情感剖析在 Serverless 架构下的利用 5.4.1 文本情感剖析介绍 5.4.2 情感分析模型的训练 5.4.3 部署到 Serverless 架构 5.4.4 我的项目 Serverless 化 5.4.5 我的项目总结第 6 章 基于 Serverless 架构的智能问答零碎 6.1 需要剖析 6.2 整体设计 6.2.1 数据库设计 6.2.2 原型图设计 6.2.3 接口设计 6.2.4 架构设计 6.3 我的项目开发 6.3.1 我的项目初始化 6.3.2 数据库与表的建设 6.3.3 治理后盾相干能力的配置 6.3.4 业务逻辑开发 6.4 我的项目部署与运维 6.5 我的项目预览 6.6 我的项目总结第 7 章 基于 Serverless 架构的人工智能相册小程序 7.1 需要剖析 7.2 整体设计 7.2.1 数据库设计 7.2.2 原型图设计 7.2.3 细节设计 7.2.4 架构设计 7.3 我的项目开发 7.3.1 我的项目初始化 7.3.2 小程序开发 7.3.3 服务端开发 7.3.4 管理系统开发 7.4 我的项目预览 7.5 教训积攒 7.5.1 Web 框架与阿里云函数计算 7.5.2 如何进行本地调试第 8 章 Serverless 利用的优化与注意事项 8.1 函数根底与资源编排 8.1.1 函数并不是“函数”8.1.2 对无状态性的意识 8.1.3 资源评估的重要性 8.1.4 工作流的加持 8.2 警觉冷启动 8.2.1 云厂商侧的冷启动优化计划 8.2.2 开发者侧升高冷启动影响的计划 8.3 利用开发注意事项 8.3.1 如何上传文件 8.3.2 文件读写与长久化办法 8.3.3 慎用局部 Web 框架的个性 8.3.4 利用组成构造注意事项 8.3.5 如何实现 WebSocket8.3.6 长于利用平台个性

关注 Serverless 微信公众号(ID:serverlessdevs)即可收费浏览。
原文链接:https://click.aliyun.com/m/10… 本文为阿里云原创内容,未经容许不得转载。

正文完
 0