前言
一年一度的亚马逊云科技的 re:Invent 堪称是寰球云计算、科技圈的狂欢,每次都能带来一些最前沿的方向标,这次也不例外。在看完一些 keynote 和介绍之后,我也去亲自体验了一些最近公布的内容。其中让我感触最粗浅的无疑是 PartyRock 了。PartyRock 真的算是做到了:能让任何人疾速的构建一个属于本人的 AI 利用。当然,本文最初也分享我对于其余在 re:Invent 上提到的一些认识和思考。
那么,不多说,先来看看明天的配角 PartyRock。
亚马逊云科技开发者社区为开发者们提供寰球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、流动与比赛等。帮忙中国开发者对接世界最前沿技术,观点,和我的项目,并将中国优良开发者或技术举荐给寰球云社区。如果你还没有关注 / 珍藏,看到这里请肯定不要匆匆划过,点这里让它成为你的技术宝库!
PartyRock 简介
Everyone can build AI apps.
去年到往年 AI 相干的利用层出不穷,GEN AI 曾经太多了。到目前为止,其实我自己曾经有点审美疲劳了,因为该看的都看的差不多了,所以说实话体验之前,我并没有对 PartyRock 带有很大冀望,最多是体验完了之后厚脸皮来一句“不过如此”。后果体验实现之后发现我说的是:
应用体验
上面我就用我本人制作的两个利用和一个官网的利用来阐明一下它的应用体验。
构建第一个利用 – 选词填空
制作的过程其实非常简单,简直 10 分钟就搞定了。
步骤 1
点击创立利用之后,在它给出的输入框外面输出你想要做的利用的性能形容,比如说,我最近在学英语,我第一想法就是做个选词填空的利用进去,于是我就在 App builder 的输入框外面输出如下的内容,而后点击 Generate app 就开始生成了。
步骤 2
依据生成的内容,你本人按需要批改一下形容和内容,这里最初下方的答案输出局部我做了一些提醒词的批改,其余我也就没动了。
步骤 3
而后就能够测试一下了,在第一个框 (Words to choose from) 输出一些单词,在左边 (Sentences) 就会生成对应的题目。
而后你能够在上面 (Answer) 作答并验证答案是否正确。
整个过程,须要我动脑的中央就是在想我应该如何形容我的利用,理论生成的成果很不错,我很称心。
构建第二个利用 – 扩写生成图片
第一个利用咱们是依赖的 AI 间接帮咱们生成的,尽管很简略,然而对于咱们开发者来说,与其去想形容,不如间接入手来的快。于是这次咱们从零开始(抉择“Start from an empty app”选项),本人搭建一个利用试试看。这次我想试试有对于图片生成的能力,对于 AI 生成图片来说最麻烦的是写形容词,于是我想让 AI 先帮我扩写,而后再利用扩写的内容去生成图片。
步骤 1
第一步增加 widget,其实咱们在下面看到的一个输入框就是一个 widget,目前 PartyRock 提供了上面几种能够应用的 widget。
咱们须要 3 个 widget,一个用户输出 (User Input),一个文本生成 (Text Generation),一个图片生成 (Image Generation)。
步骤 2
而后,咱们就须要编写 AI 生成的提醒词了,点击每个 widget 右上角的编辑,就能够输出对应的提醒词,还能够抉择不同的模型。其中最重要的是,你能够应用 @ 合乎间接援用其余 widget 生成的内容,比方,我须要依据用户输出的内容进行扩写,那么我在提醒词外面就能够间接援用用户输出的局部;比方,我想依据扩写的内容生成图片,我就能够利用“@Description”援用扩写的内容。如下图 Prompt 中高亮的局部。
步骤 3
测试一下,下图就是我输出的一句形容,通过扩写最初生成了图片,当然模型不同最初成果也不一样。
此时你就能够公布你的利用了。
ChatRPG
让我感觉最奇妙的一个利用,是官网给出的 ChatRPG。这个利用利用了 AI 对话的性能来实现了一个对话模式的 RPG 游戏,你能够通过对话的模式抉择不同的门路 (A B C) 来取得不同的终局,并且最为奇妙的是,它利用了几个 AI 的联动,整个 RPG 的过程会生成不同的场景图片,让整个游戏的过程更加有了带入感觉。
精妙的中央
说完了体验,来说说 PartyRock 精妙的中央。
- AI build AI:第一点我感觉妙的中央是自举,也就是本人构建本人,利用 AI 的能力去构建 AI 利用自身。一方面体现 AI 自身的能力弱小,另一方面让也大大降低了入门的门槛,让小白用户也能疾速上手。
- remix:PartyRock 提供了 remix 的性能,你能够间接复制 (remix) 一个他人曾经公布的利用,间接批改外面的参数或者提醒词来实现你的利用。这无疑是最快的创立利用的一种形式了。
- 援用变量:这我感觉是 PartyRock 的灵魂,通过 @援用其余 AI 实现的工作,从而实现不同 AI 之间的联动。你甚至能够通过这样的形式构建一个本人的工作流,让 AI 进行合作,让须要来回对话好几次的事件一步到位。当初提供的 widget 还比拟少,我感觉随着前面的更新,当 widget 有很多的时候会碰撞出更多的火花。同时,这也给咱们提供了一个不同 AI 之间合作的一个不错思路,我感觉这样的思路带给我的思考比产品自身还有意思。
其余产品
当然,这次 re:Invent 提到了其余很多的产品和思考,这里就对其中几个我十分感兴趣的产品谈谈我的高见。
Serverless
我关注最多的肯定是 serverless,我始终都感觉 serverless 始终一种对开发敌对也对运维敌对的终局计划。而这次 re:Invent 公布的 Amazon ElastiCache Serverless 让我也有了新的思考。Amazon ElastiCache Serverless 是依据应用程序流量模式主动的扩大容量的缓存服务,而对于缓存这样的热点数据来说,有过理论业务场景的同学都晓得如果 Redis 忽然内存满了是一种什么样的体验。而 ElastiCache 的自适应压力的工作负载模式能够很好的解决这个问题,而且兼容 Redis。
产品自身的意义很大,而带给我的思考是,在将来是否当 serverless 足够成熟之后是否会呈现始终数据源的汇合产品,主动会依据数据的拜访状况来主动路由到对应正当的存储模式中呢?比方,热点数据会主动路由到 cache 而平时数据路由到 mysql,而冷数据当达到“冰点”时主动归档以缩小耗费?而对于下层利用来说应用齐全通明?当然外面的问题很多,不过我感觉随着 serverless 的倒退或者这也是能够设想的。
AI
Amazon Bedrock、Amazon CodeWhisperer 和 Amazon Q 是这次 re:Invent 提到无关 AI 的一些产品。比方本文提到的 PartyRock 应该就是建设在 Amazon Bedrock 之上的。当然,我也第一工夫去试用了一下 Amazon CodeWhisperer 和 Amazon Q,不过给我的感觉还没有那么的惊艳,或者是还在 beta 阶段,智能水平个别,置信体验过的小伙伴感触也差不多。而且因为目前反对的开发语言还不多(我罕用的 golang 还没有)。
不过,re:Invent 上始终强调了另一个无关 AI 的关键点就是,平安。“生成式 AI 肯定应该是平安的”。这里的平安有两个方面,一方面是生成的内容肯定应该是平安的,不能呈现守法的内容;另一方面是作为模型根底的训练数据应该是平安的。比方,企业外部基于本人外部代码和数据来建设的模型,进行应用,对应的数据不应该被公开或者呈现在别的人生成内容中。所以,平安应该是将来 AI 后退的基石。
我在体验 PartyRock 的时候也发现了上面的提醒,如果呈现不平安的单词,图片是不会生成的:
THE FRUGAL ARCHITECT
亚马逊 CTO Werner Vogels 博士往年在 re:Invent 上的主题演讲提到了 THE FRUGAL ARCHITECT(勤俭 / 节制架构)。提到了 老本 应该在架构设计之初就应该被思考进去,并且始终作为一个考量指标。
去年到往年一个词在国内大厂始终被提及“降本增效”,后果最近演变成为了“降本增笑”。是的,因为老本的缩减,往往带来的就是服务的不稳固,这是所有工程师都不想见到的。我就想到之前听到一个说法是,如果一个并发问题能通过加服务器来解决,那么领导会更违心通过加服务器来解决而不是重构代码,因为养开发的老本往往高于服务器。而我也经验过一次 k8s 的降本,尽管有时候的确是因为 request 设置的不合理导致的老本超标,但理论改起来的时候真的是六神无主,因为你真的不晓得这个服务的并发今天会不会就坐火箭。所以,老本、平安、性能 始终都是一种衡量(trade off),用风行的话说就是“并不是我不晓得两地三核心平安,而是单核心更有性价比😭”。
其实,有时候并不是不思考,而是无奈预估流量的大小,谁都也无奈预测你的利用什么时候会火。所以亚马逊云科技提供的 Lambda,ElastiCache 都是那种按老本去设计的。而对于上云来说最大的一个问题就是老本不可控,随着服务的类型越来越多,并且很多服务都是按量付费,估算与理论往往会有比拟大的差别。所以,最让我感兴趣的是,这次 Werner Vogels 提到的 Management Console 内能够 展现利用级别的老本 ,之前咱们可能只能晓得某个应用的服务老本很贵,而当初咱们能晓得 具体那个利用在应用的老本最大。这种观测能力对于使用者来说是更加敌对的,我能最大水平的去观测我的利用老本的占比,从而精准的管制我的老本,而不是自觉的去找压力。
总之,在我认为 THE FRUGAL ARCHITECT,给我的思考是你必须 有能力 去时刻关注老本,无奈观测的零碎将导致无法估量的老本。
总结
最初总结一下,这次 re:Invent 不仅给咱们展现了一些最新的利用和服务,更多的给咱们带来了一些亚马逊云科技对于最新技术方向的一些思考,接触这些前沿技术给我的架构解决方案又多了一些积攒,置信明年的大会也会一样精彩。
文章起源:https://dev.amazoncloud.cn/column/article/658965055d096603bb1…