生成式AI+云,重塑创新为企业找到最优解
作者: 鲍蓉
责任编辑: 鲍蓉
来源: ISMB
时间: 2023-12-19 14:08
关键字: 亚马逊云科技,生成式AI,解决方案
浏览: 8
点赞: 0
收藏: 0
自2012年,亚马逊云科技在re:Invent全球大会上发布了业界首个云原生数据库Amazon DynamoDB和云原生数据仓库Amazon Redshift开始,每年的大会上,亚马逊云科技都会宣布推出大量突破性的新技术、新服务。正是亚马逊云科技的不断探索,才带来了今天云计算空前的繁荣。
在这届2023 re:Invent大会上,亚马逊云科技又为我们带来了一系列重磅发布,其中最令开发者们兴奋的是面向生成式 AI 的 Amazon Graviton4 和 Amazon Trainium2 芯片、Amazon Q、Amazon Bedrock以及亚马逊云科技在Serverless等方面的最新进展。
亚马逊云科技大中华区产品部总经理陈晓建在日前举行的2023 re:Invent中国行北京站活动上表示,“我们从未停止探索使用各种方法、更优化的方式找到解决客户痛点的最优解。”
亚马逊云科技大中华区产品部总经理陈晓建
从用户视角出发,重塑云计算
基础设施代际的变化,会给上层应用的效率带来很大的影响。本次新发布的全新架构Amazon S3 Express One Zone对于开发者来说是非常具有吸引力的,它可以把延迟控制在个位数毫秒,支持每分钟数百万次请求的性能,请求成本降低了50%。同时还宣布了 4 项新的Zero-ETL集成功能,使客户能够快速、轻松地连接和分析数据。
自2018年推出业界第一款通用芯片Amazon Graviton到现在,亚马逊云科技共推出了四代通用计算芯片,客户数量已经超过5万。相比Graviton3,最新发布的Graviton4独立核心增加50%以上,内存带宽提升75%以上,平均性能相提升了30%,数据库应用速度提升40%,大型JAVA应用程序速度提升了45%。
2019年,无服务器模式曾被Gartner称为最有潜力的云计算技术,它最大的优点就是让业务远离运维,聚焦业务,具有更好的业务韧性和更优的成本效益。这次,亚马逊云科技推出三项无服务器服务创新,帮助客户以任意规模分析和管理数据并且简化运营。
新发布的Amazon ElastiCache Serverless缓存服务,能够把整个集群的内存容量扩到5个TB,同时在提升性能的同时并没有牺牲速度,它查找延迟的中位数约为0.5毫秒,而长尾延迟只有11.2毫秒。
Amazon Aurora Limitless Database,它可以支持 PB 级的容量、百万级的写并访问,客户可以实现真正意义上的无扩展上线的关系性数据库,它是唯一真正使用无服务器化来实现的分片数据库,Serverless可以自动实现资源的管理和扩缩容,同时按需付费,来最大限度帮用户降低成本。
Amazon Redshift Serverless新的基于AI的扩展和优化功能的预览,可根据多个工作负载维度自动调整资源并执行优化操作以完成预设的性价比目标。
亚马逊云科技不断地从用户的场景出发,再次重塑云计算,无论是定制化的硬件Amazon Time Sync Service,还是高性能的对象存储Amazon Express One Zone,以及无服务器的数据库服务等等,“在亚马逊云科技,我们一直认为我们所在的今天是Day1,是我们创新、创业的第一天,我们将持续进行创新。” 陈晓建表示。
端到端构建生成式AI生态
2023 re:Invent大会最让开发者兴奋的,也是此次众多发布中的重中之重就是生成式 AI。亚马逊云科技围绕生成式AI,用一种与过去完全不同的方式重塑每一个应用程序,选择在生成式AI的端到端的三个不同层面展开创新。
为生成式 AI 和机器学习训练提供稳定可靠的计算和存储能力,亚马逊云科技最新推出的Amazon Trainium 2处理器,与第一代Trainium相比,性能上提升了4倍,而延迟只有之前的1/10,针对训练具有数千亿甚至数万亿参数的大模型训练进行调优。
重磅升级的Amazon Bedrock是利用大模型构建和拓展生成式AI应用最简单的方法。很多用户已经在使用Amazon Bedrock重塑用户体验、产品和流程,并将生成式AI带到了他们的核心业务当中。
针对 Amazon Bedrock,亚马逊云科技在大会中公布了三项新功能:持续预训练、模型微调和检索增强生成,帮助用户运用生成式AI应用程序用企业自身的数据进行定制,构建企业的差异化壁垒。
据悉,Amazon Bedrock 支持 Stability AI、AI21 labs、Anthropic、Cohere、Meta,以及 Amazon Titan 等各类大语言模型或基础模型,为客户带来了更多的开放选择,目前已经吸引了超过 1 万名客户使用。
此次发布最耀眼的还有企业级生成式AI助手Amazon Q,它主要针对生成式AI的应用开发,它可以通过自然语言交流快速获得答案。
作为资深专家,Amazon Q基于亚马逊云科技17年来知识和经验的积累,对亚马逊云科技的每一个功能、模块都有充分的了解,它可以快速回答用户提出的各种相关问题。比如,用户想基于亚马逊云科技构建网站,就可以通过语言询问,Amazon Q在控制台里直接就可以给出步骤。
在业务层面,Amazon Q可以和业务数据进行连接,自动分析行业状况及客户需求。同时,Amazon Q可使用身份验证系统来确认用户职能和访问权限,并支持指定话题屏蔽或关键词过滤等管理控制功能。比如,Amazon Q不仅可以快速给你答案,同时还会告诉你答案的来源。
在BI方面, Amazon Q可以通过自然语言方式,轻松的生成概要总结,并且和BI人员讨论一些开发问题。比如,我们想知道每个月的客户的转化率怎么样,Amazon Q就可以在业务侧生成一个自动化的报表,同时它还可以生成一个非常详细的概要总结,来帮助你对所有的工作数据进行完整总结。
在客服支持方面,Amazon Q同样做得很好。Amazon Connect是开箱即用的呼叫中心服务,Amazon Q通过针对于客服和客户之间的对话来自动检测问题,同时搜索内部的知识库,自动回复建议,同时它可以给整个内容做总结和分析,以便为一些没有解决的问题做后续跟进。
在生成式 AI 技术堆栈的三层架构下,亚马逊云科技利用芯片、模型、数据等能力,实现了计算能力和成本之间的平衡。为了给开发者提供更多样化的选择,亚马逊云科技将继续与英伟达、Anthropic等软硬件厂商保持紧密合作,构建完整的生成式 AI 生态,为用户提供更好的服务。
不积跬步,无以至千里。亚马逊云科技一方面依靠自身在云技术上的长年积累,另一方面通过对用户需求的深入洞察,不断地为用户突破复杂技术,重塑业务。正如詹姆斯·柯林斯所说:“不要沉迷于当下的成就,企业需要永无止境地追求卓越。” 未来,亚马逊云科技将持续创新赋能更多用户,在创新这条路上,亚马逊云科技没有终点。