12月12日，亚马逊云科技在北京举办2023 re:Invent中国行活动，对刚刚在美国举办的大会进行了精彩的要点回顾。
亚马逊云科技大中华区产品部总经理 陈晓建
引言：客户需求出发，持续引领创新
亚马逊云科技大中华区产品部总经理陈晓建介绍，根据PitchBook的数据, 目前有超过1000家独角兽公司或估值超过10亿美元的创业公司，其中超过80%的独角兽公司都将工作负载运行在亚马逊云科技上。亚马逊云科技不断从百万的客户需求出发构建产品，才能持续能够持续引领科技创新。
作为17年前云计算的开创者，亚马逊云科技今天仍然拥有业内最广泛、最深入的功能，通过安全可靠的企业级能力赢取了客户信任，通过不断追求重塑创新，不断探索用不同的方法，更优化的方式来找到解决客户痛点的最优解。
一、重塑云计算
重塑云基础设施
目前，亚马逊云科技全球基础设施横跨世界32个地理区域，并且已经宣布计划新增5个左右的区域，提供全球一致的体验，高可用和灾难恢复能力。亚马逊云科技的数据中心数量比第二大的云提供商多三倍，服务多60%，功能多40%。
Amazon Kuiper计划最新进展：上个月，Kuiper团队成功将他们的首批两颗原型卫星送入了轨道。Kuiper是亚马逊云科技正在建造一个由数千颗近地轨道卫星组成的卫星⽹络。除了公共互联网连接外，Kuiper 还将提供企业就绪的专用连接服务，可以通过专用、安全的连接从任何地方移动数据，以及连接访问亚马逊云科技的云中的数据。
重塑存储
【新发布】Amazon S3 Express One Zone。Amazon S3 Express One Zone是新的S3存储类别，采用专门设计的软硬件来加速数据处理，可提供比Amazon S3标准存储快10倍的性能，同时能够以一致的毫秒级延迟处理每分钟数百万次的请求，同时请求成本降低了50%。这项新服务帮助Pinterest提升了10倍以上的写入速度，并将其机器学习驱动的视觉灵感引擎的总成本降低了40%。
重塑通用型计算芯片
亚马逊云科技自研Graviton芯片自推出以来得到广泛应用，目前有超过5万客户在使用。这其中包括Top 100 的EC2客户全部都在使用Graviton为他们的业务降本增效。
【新发布】Graviton3中国区域可用：此次正式宣布Amazon Graviton3处理器的Amazon EC2 C7g、M7g、R7g实例在亚马逊云科技中国（北京）区域和中国（宁夏）区域正式可用，提供更高性能、更快内存，以及更加节能。
【新发布】推出自研芯片Amazon Graviton 4，平均性能比Amazon Graviton 3提升30%，对某些工作负载的加速更明显，数据库应用程序速度提升40%，大型Java应用程序速度提升45%。基于Amazon Graviton 4的Amazon EC2 R8g实例的预览版已经推出。
重塑无服务器Serverless
无服务器这种云服务形式对于用户来说，最直观的收益就是更好的业务韧性和更优的成本效益。
亚马逊云科技的无服务器创新包括：Amazon DynamoDB高性能数据库；2006年Amazon S3和Amazon SQS，弹性文件系统EFS、Serverless计算服务Amazon Lambda、无服务器容器服务Amazon Fargate等。
【底层技术揭密】Amazon Aurora底层的Grover系统，让关系型数据库服务Amazon Aurora自诞生就提供了3-5倍的性价比改进。Grover为数据库的数据与计算资源分离开来，为能够实现数据库的serverless打下了坚实的基础，重塑了的计算存储分离的数据库存储，提供跨多个可用区的数据持久化支持, 能横向扩展读取副本，数据库存储的无服务器扩展。
【底层技术揭密】“协同资源管理”的系统Caspian。该系统采取重塑全新的Hypervisor + 热点调度系统的方式来工作，解决数据库需要扩展时，对宿主物理机资源尤其是内存申请的动态性和不确定性。实现的效果结果就是Amazon Aurora serverless数据库可以在毫秒内响应变化的数据库负载并调整大小。
【新发布】Amazon Aurora Limitless Database，它简化了跨单台服务器读写吞吐量限制进行扩展,实现自动分布式分片，最大程度提升性能。它还提供了跨分片事务的一致性。通过Aurora Limitless Database, 客户可以实现真正意义上的无扩展上线的关系性数据库。
【新发布】Amazon ElastiCache Serverless，可以帮助客户在一分钟内创建高可用的缓存，并实时进行垂直和水平扩展以支持客户复杂的应用程序，且无需管理基础架构。
【新发布】Amazon Redshift Serverless新的基于AI的扩展和优化功能的预览，可根据多个工作负载维度自动调整资源并执行优化操作以完成预设的性价比目标。
二、利用生成式AI，重塑未来
亚马逊云科技为千行百业应用生成式AI降低门槛，重塑每个产业，改变每个人的生活。这其中就包括如何兼顾规模与成本，真正让业务收益，如何选择最适合业务场景的模型，如何用企业自己的数据定制并快速行动，当然还有如何充分保护数据的安全隐私的前提下负责人的应用生成式AI。
亚马逊云科技在生成式AI的端到端的3个不同层面展开持续投入：
1.在底层，提供用于基础模型训练和推理的基础设施。
在自研芯片创新方面：
【新发布】Amazon Trainium2处理器，用于生成式 AI 和机器学习训练的专用芯片，针对训练具有数千亿至数万亿参数的基础模型进行优化，相较 Amazon Trainium 4 倍性能提升，65 exaflops的按需超级计算性能。
【新发布】Amazon SageMaker HyperPod 服务，可大规模加速基础模型训练，能够缩短高达40%的训练时间，并可以确保持续数周或数月的训练过程不中断。
本次re:Invent 2023全球大会上，亚马逊云科技和英伟达又共同宣布了几项最新合作：
亚马逊云科技将提供首款搭载NVIDIA Grace Hopper超级芯片和亚马逊云科技UltraClusters技术的云AI超级计算机；
首款使用NVIDIA最新芯片GH200 NVL32 的NVIDIA DGX云即将登录亚马逊云科技；
两家公司共同开展“Project Ceiba”合作项目， 将全球最快的GPU驱动AI超级计算机和NVIDIA DGX云超级计算机用于NVIDIA AI的训练、研发、定制化模型的开发，它将拥有1.6万个最新的GH200超级芯片，提供高达65 ExaFLOPS的惊人算力。
2.在中间层工具层，提供使用基础模型进行构建的工具
Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法。各行各业的客户已经在使用Amazon Bedrock 重塑他们的用户体验、产品和流程，并将人工智能带入他们的业务核心。
在模型选择方面：
【新发布】Amazon Bedrock支持Anthropic Claude 2.1和Meta LLama 2 70B。Claude 2.1为企业提供了先进的关键功能，包括业界领先的200K标记上下文窗口，与此前模型相比，Claude 2.1 在开放式对话中的错误陈述减少了50%。支持 Meta 的 LLama 2 70B，适用于大规模任务，如语言建模、文本生成和对话系统。
持续丰富Amazon Bedrock独占的Amazon Titan 模型，基于亚马逊25年人工智能和机器学习经验，支持多种用例。
1)Amazon Titan Text Embeddings模型，能将文本转换为向量；
2)【新发布】Amazon Titan Text Lite 是一种更小巧、更具成本效益的模型，支持聊天机器人问答或文本摘要等用例。 它重量轻，非常适合微调，为业务需求提供高度可定制的选择。
3)【新发布】Amazon Titan Text Express 模型参数量更大，可用于更广泛的任务，如开放式文本生成和对话聊天。
4)【新发布】Amazon Titan Multimodal Embeddings多模态嵌入模型，能够创建更丰富的多模态搜索和推荐体验。
5)【新发布】Amazon Titan Image Generator图像生成模型预览版，现已推出预览版，使客户能够使用自然语言提示生成高质量、逼真的图像或增强现有图像。为促进负责任地开发人工智能技术，所有Titan生成的图像默认都含有隐形水印。
在模型定制方面：企业创造真正价值的生成式人工智能应用程序的关键就是能够用企业自己的书据进行定制，用数据进行定制才能构建企业的差异化壁垒。
【新发布】Amazon Bedrock持续预训练功能，提供预览，已支持对 Amazon Titan Text Lite 与 Express持续预训练。
持续预训练是在Amazon Bedrock 中一种自定义模型的方法是。这是一种使用大量未标记数据（如内部报告、财务计划或研究成果的原始文本）来提高基础模型对特定领域的知识和推理能力的技术，这种方式是适合想要拥有“领域大模型”，或者说将领域知识以及技能嵌入大模型能力的场景。
【新发布】Amazon Bedrock微调功能，提供预览，支持的模型包括Cohere Command、Meta Llama 2和Amazon Titan，并将很快支持Anthropic Claude 2
微调是另外一项重要模型定制技术，经常被用来控制模型去理解特定的输入格式（比如固定问问题的问法），输出以及理解回答问题的角色。然后，Amazon Bedrock 会复制一个客户专属的基础模型，并结合客户准备的S3上的数据，进行微调，并生成一个新的定制模型。
【新发布】Amazon Bedrock具有知识库的检索增强生成功能，提供预览。
RAG检索增强可能是现在最常见的用企业数据定制的方式。知识库功能可将模型安全地连接到公司内部数据源，并通过RAG检索增强生成的方式为聊天机器人或问答系统等应用提供更准确的回答。
在模型集成方面：有了模型和定制能力，还需要和应用集成才能服务于业务。
【新发布】Amazon Bedrock 代理功能。它可以使生成式AI应用跨公司系统和数据源执行多步骤任务。通过代理功能，客户在进行访问权限等简单设置后即可用自然语言编写要求，随后代理即可自动分析请求并将其分解为逻辑序列，以及采取相应的行动。
在负责任的人工智能领域：
【新发布】Guardrails for Amazon Bedrock 预览版，通过负责任的人工智能策略来保护生成式人工智能应用程序。
Amazon Bedrock确保数据安全和隐私：客户的任何数据都不会用于训练底层模型；所有数据在传输和静态时均经过加密；用于自定义模型的数据保留在企业的 VPC 内；支持GDPR和HIPAA等标准。Amazon Bedrock近期新增的安全功能包括：与Amazon CloudWatch集成以跟踪使用指标，与Amazon CloudTrail集成以监控 API 活动并排除故障，还符合SOC标准。
3.在顶层应用层，提供利用基础模型构建的应用程序
【新发布】Amazon Q预览版：专为企业业务量身定制的、生成式人工智能工作助手Amazon Q，可以通过自然语言交互快速获得答案，轻松聊天、生成内容并采取行动。
Amazon Q是亚马逊云科技的专家，由亚马逊云科技17年来积累的知识和经验训练而成，可以在多种界面回答客户提出的各种亚马逊云科技相关的专业问题。Amazon Q可以在Amazon CodeWhisperer中回答开发人员的各种代码相关的问题并附上可一键实施的代码，并提供代码转换功能可以将应用维护和升级时的代码转换所需时间从几天缩短至几分钟。
Amazon Q也是企业业务的专家，它拥有40多个兼容流行数据源的内置连接器，并支持自定义连接器，企业可以轻松将其连接至其业务数据和系统中。
Amazon Q可使用身份验证系统来确认用户职能和访问权限，并支持指定话题屏蔽或关键词过滤等管理控制功能。
Amazon Q也是商业智能专家，Amazon Q支持将其引入多种服务和应用中以提供基于生成式AI的帮助。 将Amazon Q引入BI应用Amazon QuickSight中，它能够在几秒钟内响应用户要求，创建精准且美观的月度业务变化的相关描述，该功能现已提供预览。
Amazon Q也是联络中心专家，将Amazon Q引入云联络中心应用Amazon Connect中，它能够根据实时对话检测客户问题，并能够自动回复、给出建议以及提供相关资料，该功能现已正式可用。
4.强大的数据基础对于生成式AI至关重要，一个强大的数据基础应该是全面的、集成化的，可治理的。
全面的数据服务，可以满足不同类型的数据处理需求
【新发布】Amazon RDS for Db2。在托管数据库服务Amazon RDS方面，亚马逊云科技可以提供5种熟悉的数据库引擎和灵活的部署方式以供选择，分别是MySQL，Postgre Oracle， SQL Server，今天又新增了RDS for Db2。
生成式AI时代，客户需要将向量数据和业务数据存储在一起，于是，亚马逊云科技的服务中启用了向量检索。
【新发布】Amazon OpenSearch Serverless，可以帮助客户简单、可扩展且⾼性能的向量储和搜索，⽽⽆需管理基础设施。
【新发布】Amazon DocumentDB和Amazon DynamoDB数据库新增全新向量搜索功能。对于需要高模式灵活性或JSON数据的用例，Amazon
DocumentDB客户现在可以将其源数据和向量数据存储在同一个数据库中。Amazon DynamoDB客户则可以通过与Amazon OpenSearch的Zero-ETL集成来实现向量功能。
【新发布】Amazon MemoryDB for Redis的向量检索功能预览版。现在，MemoryDB客户可以获得具有高吞吐量和并发性的超快速向量搜索。MemoryDB可以存储数百万个向量，并提供个位数的毫秒响应时间，每秒数万次查询，单个碎片的召回率超过99%。
集成化的数据基础：为了从数据中获取价值，通常需要确保数据跨数据仓库进行集成，以获得更完整的业务视图。
【新发布】多项Zero-ETL功能。
亚马逊云科技发布了Amazon Aurora PostgreSQL、Amazon RDS for MySQL和Amazon DynamoDB与Amazon Redshift的Zero-ETL集成预览版。加上之前宣布的Amazon Aurora MySQL，实现了消除以前为了数据在它们之间移动而不得不做的繁琐ETL工作的痛苦。
发布了Amazon DynamoDB 与Amazon OpenSearch Service的Zero-ETL 集成。
发布Amazon OpenSearch和Amazon S3之间实现Zero ETL集成预览版，可帮助用户无缝搜索、分析和可视化存储在 Amazon S3 中的日志数据，而无需创建任何数据管道。
可治理的数据基础：创新+治理，不做选择，要二者兼得。要保证业务的敏捷性的同时，依然可以确保数据有效的治理。去年亚马逊云科技发布了Amazon DataZone，从约束流程和操作方法开始允许客户建立统一的数据目录。但同时提供严格的授权审批能力，让正确的人访问正确的数据。
【新发布】Amazon DataZone AI recommendations预览版，这是一项AI描述建议功能，能够为企业的数据集自动生成更易理解的业务描述，并提供该数据集的使用建议。
【新发布】Amazon Clean Rooms ML预览版。这是第一个在不共享基础数据的情况下与合作伙伴一起构建机器学习模型的产品。
小结：
陈晓建强调，亚马逊云科技坚信并实践着这一理念，确保成为企业构建和应用生成式AI的最佳选择。
亚马逊云科技所推出的这么多项功能，大语言模型相关的是其中的一部分，其实亚马逊云科技做了大量的工程化的工作，能够帮助用户真正把大语言模型的能力和业务相结合。像Guardrails、模型选择等很多的工作，都是企业在真正做工程化的时候一定需要的，这是亚马逊云科技为客户提供的非常重要的价值。
亚马逊云科技一直秉承着逆向工作法的理念，从数百万客户的需求出发构建产品。
“我们深信只有这样，才能够去持续引领科技创新。”陈晓建说。
作为云计算开拓者，亚马逊云科技不仅一直通过最安全、最可靠的企业级的能力来赋能客户的应用，直到今天仍然拥有业界最广泛、最深入的功能。如果用一个关键词来总结，就是重塑，亚马逊云科技从未停止探索用各种方法、更优化的方式找到解决客户痛点的最优解。
像云计算，卫星网络，生成式AI等所有复杂技术一样，虽然未来未知，但作为云计算的探索开创者，亚马逊云科技始终践行创新实践，为客户突破复杂技术，用重塑实现科技技术的普惠，用我们对底层技术的重塑，帮助客户持续重塑业务，这一旅程没有终点。
艾瑞咨询研究总监王成峰表示：“本次亚马逊云科技re:Invent大会继续在生成式AI领域推陈出新，同时对基础产品升级迭代。其中，令人印象深刻的主要包括：全面深化Serverless，推进数据库、数据分析、AI等全线产品的‘无服务器化’，继续保持在云原生方面的领先布局；继续为生成式AI的发展提供强大能力支撑，不仅包括与英伟达等芯片商合作带来的更先进算力资源，也通过Amazon Bedrock产品提供‘精选’多模型接入的能力平台，更加强调生成式AI领域的生态打造。”
