2023亚马逊云科技re:Invent已于拉斯维加斯圆满落幕,为进一步解析re:Invent 2023能够对开发者带来哪些深刻影响,亚马逊云科技大中华区解决方案架构部总经理代闻在大会现场接受了InfoQ中国创始人霍太稳的采访,并就re:Invent 2023的前沿洞察与重磅发布展开了以下分享。
生成式AI正在全面影响技术行业
重构开发规则与业务流程
毋庸置疑,生成式AI正在全面、广泛且深刻地影响着技术行业,但是对于企业和开发者而言,盲目地使用生成式AI产品很可能会对业务增长带来适得其反的效果,先进的技术与工具是否能够跟现有的业务流无缝链接、深度融合才是关键。而这次re:Invent大会上的一系列生成式AI产品的发布,则是在向全行业宣告“企业级生成式AI工具”的正式到来。
回顾re:Invent 2023生成式AI方面的重要发布,最令开发者兴奋的可能就是Amazon Q了。Amazon Q是一项新型生成式AI辅助服务,即为业务量身定制的生成式AI助手,可以帮助员工快速利用公司的数据和专业知识获得问题答案、解决问题、生成内容等,同时还能根据企业客户的业务进行个性化定制。
具体来说,Amazon Q主要面向生成式AI应用的开发,目前已经具备四个方面的能力:
亚马逊云科技专家:对亚马逊云科技的每一个功能、模块都有充分的了解。
生意专家:能够自动分析行业状况及下游客户的需求。
商业智能专家:能够对大量商业数据进行分析,从而辅助决策。
客服专家:对用户企业情况充分了解,可以充当智能客服工作。
代闻补充介绍道,首先是关于亚马逊云科技平台本身的开发,Amazon Q能够显著提高开发者的效率。比如,如果你想知道如何在亚马逊云科技上构建一个网站,你可以直接咨Amazon Q,它会在控制台内为你提供答案。如果你不清楚如何使用亚马逊云科技的某项服务,在过去你可能需要花费数小时搜索文档,但现在只需提问,Amazon Q就能立即为你提供操作步骤,甚至生成所需的代码片段。
其次,在业务层面,Amazon Q可以收集并连接多个数据接口,提取数据,并根据Insights进行综合分析,从而直接支持业务需求;在BI(商业智能)方面,Amazon Q可以直接让用户在QuickSight等BI工具中提问,并进行BI级别的分析;在呼叫中心方面,Amazon Q能够直接被集成到亚马逊云科技平台上,从而帮助企业提升呼叫中心的运营效率。一方面,通过云计算的弹性和可扩展性,Amazon Q能够根据实际需求自动调整资源投入,确保在高峰期提供稳定的服务;另一方面,通过亚马逊云科技平台,企业可以方便地获取并分析客服数据,了解客户需求和行为模式,为产品优化和市场策略制定提供支持。
另外,Amazon Q还已经扩展到了ETL工具Glue中,可以使用自然语言的方式来生成ETL代码。甚至在RedShift数据仓库中,也可以利用Amazon Q的功能来助力查询等。
从某种意义上说,Amazon Q的出现,就是为了帮助企业在做工程化的过程中能够获得更多标准化能力的支持,从而减少大量的重复性劳动。
?“只要是通过亚马逊云科技的产品或服务写的代码,都可以使用Amazon Q来进行查询、分析、纠错等等;对于BI(商业智能)也一样,Amazon Q能够直接把大模型的能力给到你,无论是数据的提取、异跳、查询以及BI展现,都能一站式解决。这些背后都源于我们给Amazon Q做了非常多标准化接口,并且能与业务流做整合。”代闻解释道。
除了面向生成式AI应用开发者的Amazon Q外,面向大模型使用者的Amazon Bedrock同样引发了广泛的关注。此次发布会上,Amazon Bedrock迎来重磅升级,增加了Fine-tuning、Agents、Knowledge Bases、Guardrails等全新功能,旨在帮助客户更高效、智能、安全地构建应用。
发布会上,Adam表示:“不会有一种模式能够统治一切,你需要尝试不同的模型,你需要选择合适的模型提供商。”据悉,Amazon Bedrock支持Stability AI、AI21 labs、Anthropic、Cohere、Meta,以及Amazon Titan等各类大语言模型或基础模型,为客户带来了更多的开放选择,目前已经吸引了超过1万名客户使用。
?对于Amazon Bedrock开放兼容,代闻表示:“我认为对于客户来说,这不只是一个模型选择的问题,还有选择模型以后,怎样在自己的环境里面落地的问题。”
在大模型百花齐放的今天,究竟怎样的大模型才是最适合自身企业的大模型?这是很多企业想要得到的答案。Swami在演讲里提到了一个金融科技公司INTUIT的案例,该客户表示虽然有非常多的大模型可供选择,但是就算选择了一个非常适合的大模型,也还是需要做一定的定制化,包括Fine-tuning能够使用自有语料,让它变成能够在自身企业上下文里理解问题、产生内容的大模型。
“其实我觉得这一点在ToB领域会更加明显,因为在ToB领域,各种行业的知识和交互都有特定的上下文,比方说在医疗行业里或在制造行业里,它们的上下文都是不一样,甚至一样的话可能有不一样的意思。在国内叫定制化,也刚好是这次Amazon Bedrock它进一步增强的能力。”代闻表示。
对于Amazon Bedrock的最新进展,代闻进一步补充道:“第一是Amazon Bedrock它已经严选了一批模型,覆盖了多种自然语言的交互,甚至包括一些小语种;第二,在网络安全层面,Amazon Bedrock采用了单独的VPC做隔离,能保障模型的安全性和数据的隐私性;第三是Amazon Bedrock目前已经宣布对所有的库内模型提供Fine-tuning支持,能够帮助企业开发者更好地定制大模型。”
此外代闻还提到,虽然Amazon Bedrock才推出不到半年,但是已经有很多国内厂商在积极加入。比如,金山办公在WPS出海业务里已经使用了Amazon Bedrock,之后亚马逊云科技也将会与金山办公的客户一起将Amazon Bedrock的一些新功能融入到业务场景中去。
总的来说,Amazon Bedrock的这些更新不仅只是效率、灵活性、拓展性等方面的提升,更重要的是明确地传达了一个信息:在AI的开发和应用中,技术和道德、功能和责任是并行不悖的,也即是发布会上,亚马逊云科技反复提及的“Responsible AI”的理念,而这无疑是对整个行业的一个重要提醒和指引。
新的范式下,
云计算与生成式AI如何相辅相成?
作为云计算行业的年度盛会,在与生成式AI碰撞之后,又会产生哪些新的火花与思考?
“用一个比较通俗的形容来说,云计算与生成式AI是相辅相成的关系。假设回到十年前,云计算还没诞生,我想生成式AI也很难实现,因为它背后需要大量的数据、大量的算力支撑等等,没有云计算和高性能的芯片支撑,是很难实现的。所以云计算本身的意义就在于计算的普惠,而生成式AI又大大地促进了技术对人类生产生活方式的改造。而且现在大家逐渐有了一个共识——只有在云上来做生成式AI,才能够更进一步地普及生成式AI。”代闻如是地答道。
?“再反过来,生成式AI其实对云计算也会带来革命性的改变。比方说之前云计算本身很大一个方面是自动化。自动化以后我们就有API,那现在有生成式AI以后,代码都可以自动生成了,再与Serverless结合之后,如果我们想生成一个网站,使用自然语言完全就可以实现。”代闻补充道。
如今在亚马逊云科技社区里,已推出一项生成式AI试玩工具——Amazon PartyRock,开发者可以用自然语言的方式去实现基于云的生成式AI应用开发。关于Amazon PartyRock的更多玩法,来听听亚马逊云科技副总裁、首席布道师Jeff Barr谈谈《生成式AI时代,开发者们如何玩转PartyRock?》。
对于“云+生成式AI”如何更好地赋能开发者,代闻表示,云其实是一个抽象工具,它首先抽象了所有的基础设施,然后再抽象了很多的平台软件,包括各种应用类、数据类的,进而我们又有了Serverless的编程方式。一方面,生成式AI的出现可能会进一步加速Serverless的普及,因为当一个组织里的技术人员,都开始思考怎样更好地应用生成式AI、怎样提出更好的问题时,一些无差别的运维工作或者基础开发工作,通过生成式AI+Serverless的方式,很快能够做出来;另一方面,生成式AI的落地也需要结合Serverless的一些服务,去促进它的平台建设,当然这也是一个持续抽象的过程,比如基础设施抽象成基础设施即服务的接口,数据服务又抽象出数据服务的接口,应用服务抽象出应用服务的接口等。
对于Serverless的优势,他进一步举例道,亚马逊云科技新发布的Amazon ElastiCache Serverless缓存服务,能够把整个集群的内存容量扩到5个TB。如果企业自己运营一个5TB的集群,运维工作量非常大。但是在云上其实只要使用Amazon ElastiCache Serverless,就可以轻松地获得这个能力。包括这次发布Amazon Aurora Limitless Database,也是一个Serverless的体现,它可以支持PB级的容量、百万级的写并访问,传统做法肯定是得用多个Aurora的Instance做分库分表,并且需要自己持续维护,但现在通过云上原生的一些能力就能实现,就像你写在一张表或者一个Database里面的效果,大大简化了运维,同时拥有更好的性能。恰好,Serverless的这些能力也同样适用于生成式AI应用的构建。
从某种意义上来说,“云+生成式AI”的核心优势就在于——开发者们通过云原生的环境去构建生成式AI应用,随时随地、且无限制地使用云上最新的资源、工具与服务,只需要专注于开发本身即可。而这也即是亚马逊云科技所倡导的“成为生成式AI原生开发者”。
Let's构!
“现在是成为构建者最好的时代!”
?事实上,无论是面向企业开发者的Amazon Q还是面向大模型使用者的Amazon Bedrock,亦或是更早发布的面向个人开发者的AI编程工具Amazon CodeWhisperer,随着生成式AI能力的增强与场景实践日益丰富,开发的门槛被大大降低,用自然语言进行编程正在逐渐成为现实。
“以前如果一个企业有数据中心,那就需要风火水电以及相应的运维工程师,但是现在有了云计算,大家可以省去这些基础运维了,基础性物理硬件维护都变少了。工程师们更多思考的是怎么样升级技能,把时间精力放在离业务价值更近的地方去。生成式AI也一样会带来类似的变化,这其实都是技术更迭带来的结果。”代闻表示。
面向未来,通过使用生成式AI工具,人人都可能成为开发者或者更准确的说是构建者,人们可以节省大量的重复劳动的时间,将精力集中在实现业务目标上,低代码和零代码平台同样也是这一趋势下的产物。
“但是虽然生成式AI工具能够帮你解决很多基础性问题,但这并不意味着你不需要学习,因为生成式AI之下,你得提出好问题,这样才能依托工具得出理想的结果,如果你不学习,缺乏系统性认知,其实是没有办法来提出有效的问题的。”代闻补充道。
对于传统的开发者而言,如何面对生成式AI的浪潮,需要做出怎样的改变,是亟需思考的一个话题。事实上,随着生成式AI的广泛应用,无论是开发者的技术路径还是职业发展路径,都可能会受到影响。
“我觉得对于开发者而言,首先是要拥抱技术趋势,不断学习。在亚马逊云科技的公司文化里,有一条叫‘learn and be curious’,即好奇求知。对于技术人员或者每一个人来说,好奇求知是应对技术更新和环境变革的最好方式;其次是要保持冷静,从自己的真实工作环境出发,去思考生成式AI能够给自己带来怎样的价值。很多网文贩卖焦虑,但在实际落地时,更应该与自己的实际需求形成闭环,比如短期内通过生成式AI的帮助能带来一个立竿见影的结果。只有这样才能大大推动生成式AI在组织中的利用,也为开发人员提供了一个正向的反馈。”代闻解释道。
针对不同背景的开发人员,如数据开发人员和传统的Java前端开发人员,他表示可以根据自身技能和背景直接使用已经开箱即用的生成式AI服务,比如通过亚马逊云科技提供的各种服务快速构建生成式AI应用,找到最小成本的体验路径和最快的正向反馈。
事实上,一项新的技术的提出并广泛推广,往往需要更多来自组织层面的力量。代闻强调在实际项目中,生成式AI的成功落地与业务部门的支持息息相关。生成式AI的浪潮与之前的AI项目有所不同,现在企业的业务部门甚至一把手都意识到了生成式AI对于降本增效的重要性,因此他们会支持这样的项目。这种支持也会让技术人员有更多的机会去了解和应用生成式AI,促使技术人员成为“业技复合型”人才。同样也会对生成式AI的技术普惠和个人的职业生涯发展带来积极的影响。