“生成式AI，正在让大家重新认识云的价值。”

 

近日，在亚马逊云科技生成式AI构建者大会上，亚马逊云科技大中华区产品部总经理陈晓建这样表示。

近两个月，亚马逊云科技在生成式AI领域动作密集。9月，斥40 亿美元投资AI初创公司Anthropic，该公司研发的Claude大模型被认为是 GPT-4 的重要竞品。随后，宣布全托管服务Amazon Bedrock与Amazon Titan Embeddings模型正式可用，AI编程助手Amazon CodeWhisperer功能升级，Amazon QuickSight推出生成式BI创作功能……

目前，Amazon Bedrock已接入6款主流大模型，包括Anthropic Claude2，Stability AI Stable Diffusion XL，AI21 Labs Jurassic- 2，Cohere Command，Meta Llama 2，以及亚马逊自研的Amazon Titan。

本次AI构建者大会还邀请到了LeptonAI CEO贾扬清、百川智能联合创始人茹立云、爱诗科技CEO王长虎等业界大咖共同进行高峰对话。透过本次大会，我们不仅可以了解亚马逊云科技的生成式AI技术在中国市场应用的最新进展，还能收获各界大咖关于生成式AI的最新见解。

云计算，生成式AI的冰山底部

“生成式AI不仅仅是大模型。如果用冰山来比喻，露在海面上方的冰山一角就是基础模型。而在冰山的底部，需要大量的基础模型以外的服务来支撑，如加速芯片，数据库，数据分析，数据安全服务等等。”对于生成式AI时代云计算的价值，陈晓建做了一个简洁易懂的比喻。

透过今年云计算厂商在生成式AI领域的布局可以看出，从亚马逊云科技，到百度智能云、阿里云，在自家模型能力的基础上，各家都在强调生成式AI的基础设施和开放平台能力。

在冰山的底部，在亚马逊云科技提供了完整的端到端的生成式AI技术堆栈，从底层的加速层如加速芯片，存储优化，到中间层模型构建工具和服务，再到最上层的生成式AI相关应用，每一层都在针对客户的不同需求持续创新。

“云计算本身是企业去运用生成式AI最好的方式。同时需要强调的一点是，如果考虑到整个生态、工具集和性能、规模等等，私有云和公有云应该是不可同日而语的，企业要充分利用云在模型、数据、算力等等方面的优势，应该考虑的是公有云的环境。”陈晓建表示。

当算力成为生成式AI和大模型训练的最大成本时，高性价比的基础设施就是构建生成式AI应用的关键。

在基础设施层面，亚马逊云科技提供了丰富的算力解决方案。比如，基于英伟达H100 Tensor Core的Amazon EC2 P5实例，与上一代相比速度快6倍，训练成本节省40%；基于亚马逊云科技自研推理芯片Amazon Inferentia2的Amazon EC2 Inf2实例，与其他类似的EC2实例相比性价比高40%。

借助云平台加速生成式AI创新，已经成为头部AIGC初创公司的共同选择。LeptonAI CEO贾扬清表示，LeptonAI自创立之初就建立在亚马逊云科技的云服务之上。

“今天其实很多AIGC公司都还处于一种手拉肩扛的模式，自己建集群，自己管机器，自己手工部署模型等等。企业更应该关注，应该怎样提升试错的速度，用标准化的工具和服务迅速的把今天所见到的各种各样的新模型很快拉起来，很快的对接用户和场景。一个好的云的平台，其实能够让企业的生产力提升数倍。”贾扬清强调。

百川智能联合创始人茹立云认为，无论是调用API对基础模型进行微调，还是进行生成式AI的私有化部署，“云厂商和模型厂商之间是强联动的关系，云可以提供丰富的算力和工具，模型更多地在提供大脑（算法），两方结合在一起，才能够真正的变成一个可应用的产品。”

在中国，共创生成式AI应用落地

企业应该如何选择基础模型，又该如何结合自身业务，快速构建生成式AI应用，亚马逊云科技从服务众多企业的经验中提取了一套方法论，包括五大层面：选择合适的应用场景；借助专门构建的生成式AI工具和基础设施；夯实数据基座；基于云原生服务加速构建AI原生应用；使用开箱即用的生成式AI服务。

在中国市场，已经有大批企业借助Amazon Bedrock、Amazon SageMaker、Amazon CodeWhisperer等AI平台和工具加速业务创新，包括金山办公、西门子、海尔、沐瞳科技、易点天下等等。

仅用3个月时间，西门子中国就与亚马逊云科技合作推出了基于生成式人工智能技术的智能会话机器人“小禹”。作为西门子中国专属智能知识库，“小禹”可以快速回答与解决40%的IT支持问题，以及产品研发中大约30%跟编码，测试，调试和文档编制相关的任务。“小禹”上线后，首周就有超过4000位内部用户参与使用，超过12000个问题被提出并解答。

“小禹”的亮点在于采用了“检索增强生成RAG架构+向量数据库”设计。“小禹”的核心主体知识库以向量方式构建，能够存储超大规模的向量数据。

在知识库场景下，针对提示工程效果不理想，模型微调又会导致成本较高现状，亚马逊云科技提供了检索增强生成(RAG,Retrieval Augment Generation)方案，极大地拓展了大模型的可用性。普通情况下当知识库新增内容时，相应的大模型必须进行微调，甚至是重新训练。而 RAG 允许对新增部分使用相同的模型处理，无需调整模型。

“在亚马逊云科技的帮助下，我们仅仅用了三个月时间就上线了生成式 AI 对话机器人‘小禹’。通过定制增强亚马逊云科技所提供的以向量数据库服务和大语言模型为基础的知识库原型，在短期内实现了快速、精准的查询和回复。”西门子 IT经理李朝明表示。

在办公软件领域，金山办公一直致力于将人工智能技术融入在办公套件中。亚马逊云科技客户团队联合数据实验室团队和快速原型团队，为金山办公的 AI 创新探索提供新思路和建议，协助完成了向量搜索、Stable Diffusion 打包方案的 POC 测试。同时，金山办公也率先投入了对Amazon Bedrock测试试用中。

在游戏行业，出海游戏公司沐瞳科技正在试用Amazon Bedrock，用于优化游戏开发领域的业务流程。在工业领域，海尔创新设计中心利用生成式AI能够实现文生图、图生图、定量图和全场景图四个方面的提效，上线后，自动化设计系统应用让相关业务的操作周期缩短了20%。

在开箱即用的生成式AI工具方面，Amazon CodeWhisperer能够让软件开发人员完成任务的速度平均快57%，成功率高27%。近期Amazon CodeWhisperer新增自定义功能，它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议，这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

据介绍，目前像Amazon CodeWhisperer这样开箱即用的生成式AI服务及工具，已帮助1000+中小企业和初创公司快速实现生成式AI创新，已赋能10万+中国开发者。

“生成式AI，正在让大家重新认识云的价值。”

 

近日，在亚马逊云科技生成式AI构建者大会上，亚马逊云科技大中华区产品部总经理陈晓建这样表示。

近两个月，亚马逊云科技在生成式AI领域动作密集。9月，斥40 亿美元投资AI初创公司Anthropic，该公司研发的Claude大模型被认为是 GPT-4 的重要竞品。随后，宣布全托管服务Amazon Bedrock与Amazon Titan Embeddings模型正式可用，AI编程助手Amazon CodeWhisperer功能升级，Amazon QuickSight推出生成式BI创作功能……

目前，Amazon Bedrock已接入6款主流大模型，包括Anthropic Claude2，Stability AI Stable Diffusion XL，AI21 Labs Jurassic- 2，Cohere Command，Meta Llama 2，以及亚马逊自研的Amazon Titan。

本次AI构建者大会还邀请到了LeptonAI CEO贾扬清、百川智能联合创始人茹立云、爱诗科技CEO王长虎等业界大咖共同进行高峰对话。透过本次大会，我们不仅可以了解亚马逊云科技的生成式AI技术在中国市场应用的最新进展，还能收获各界大咖关于生成式AI的最新见解。

云计算，生成式AI的冰山底部

“生成式AI不仅仅是大模型。如果用冰山来比喻，露在海面上方的冰山一角就是基础模型。而在冰山的底部，需要大量的基础模型以外的服务来支撑，如加速芯片，数据库，数据分析，数据安全服务等等。”对于生成式AI时代云计算的价值，陈晓建做了一个简洁易懂的比喻。

透过今年云计算厂商在生成式AI领域的布局可以看出，从亚马逊云科技，到百度智能云、阿里云，在自家模型能力的基础上，各家都在强调生成式AI的基础设施和开放平台能力。

在冰山的底部，在亚马逊云科技提供了完整的端到端的生成式AI技术堆栈，从底层的加速层如加速芯片，存储优化，到中间层模型构建工具和服务，再到最上层的生成式AI相关应用，每一层都在针对客户的不同需求持续创新。

“云计算本身是企业去运用生成式AI最好的方式。同时需要强调的一点是，如果考虑到整个生态、工具集和性能、规模等等，私有云和公有云应该是不可同日而语的，企业要充分利用云在模型、数据、算力等等方面的优势，应该考虑的是公有云的环境。”陈晓建表示。

当算力成为生成式AI和大模型训练的最大成本时，高性价比的基础设施就是构建生成式AI应用的关键。

在基础设施层面，亚马逊云科技提供了丰富的算力解决方案。比如，基于英伟达H100 Tensor Core的Amazon EC2 P5实例，与上一代相比速度快6倍，训练成本节省40%；基于亚马逊云科技自研推理芯片Amazon Inferentia2的Amazon EC2 Inf2实例，与其他类似的EC2实例相比性价比高40%。

借助云平台加速生成式AI创新，已经成为头部AIGC初创公司的共同选择。LeptonAI CEO贾扬清表示，LeptonAI自创立之初就建立在亚马逊云科技的云服务之上。

“今天其实很多AIGC公司都还处于一种手拉肩扛的模式，自己建集群，自己管机器，自己手工部署模型等等。企业更应该关注，应该怎样提升试错的速度，用标准化的工具和服务迅速的把今天所见到的各种各样的新模型很快拉起来，很快的对接用户和场景。一个好的云的平台，其实能够让企业的生产力提升数倍。”贾扬清强调。

百川智能联合创始人茹立云认为，无论是调用API对基础模型进行微调，还是进行生成式AI的私有化部署，“云厂商和模型厂商之间是强联动的关系，云可以提供丰富的算力和工具，模型更多地在提供大脑（算法），两方结合在一起，才能够真正的变成一个可应用的产品。”

在中国，共创生成式AI应用落地

企业应该如何选择基础模型，又该如何结合自身业务，快速构建生成式AI应用，亚马逊云科技从服务众多企业的经验中提取了一套方法论，包括五大层面：选择合适的应用场景；借助专门构建的生成式AI工具和基础设施；夯实数据基座；基于云原生服务加速构建AI原生应用；使用开箱即用的生成式AI服务。

在中国市场，已经有大批企业借助Amazon Bedrock、Amazon SageMaker、Amazon CodeWhisperer等AI平台和工具加速业务创新，包括金山办公、西门子、海尔、沐瞳科技、易点天下等等。

仅用3个月时间，西门子中国就与亚马逊云科技合作推出了基于生成式人工智能技术的智能会话机器人“小禹”。作为西门子中国专属智能知识库，“小禹”可以快速回答与解决40%的IT支持问题，以及产品研发中大约30%跟编码，测试，调试和文档编制相关的任务。“小禹”上线后，首周就有超过4000位内部用户参与使用，超过12000个问题被提出并解答。

“小禹”的亮点在于采用了“检索增强生成RAG架构+向量数据库”设计。“小禹”的核心主体知识库以向量方式构建，能够存储超大规模的向量数据。

在知识库场景下，针对提示工程效果不理想，模型微调又会导致成本较高现状，亚马逊云科技提供了检索增强生成(RAG,Retrieval Augment Generation)方案，极大地拓展了大模型的可用性。普通情况下当知识库新增内容时，相应的大模型必须进行微调，甚至是重新训练。而 RAG 允许对新增部分使用相同的模型处理，无需调整模型。

“在亚马逊云科技的帮助下，我们仅仅用了三个月时间就上线了生成式 AI 对话机器人‘小禹’。通过定制增强亚马逊云科技所提供的以向量数据库服务和大语言模型为基础的知识库原型，在短期内实现了快速、精准的查询和回复。”西门子 IT经理李朝明表示。

在办公软件领域，金山办公一直致力于将人工智能技术融入在办公套件中。亚马逊云科技客户团队联合数据实验室团队和快速原型团队，为金山办公的 AI 创新探索提供新思路和建议，协助完成了向量搜索、Stable Diffusion 打包方案的 POC 测试。同时，金山办公也率先投入了对Amazon Bedrock测试试用中。

在游戏行业，出海游戏公司沐瞳科技正在试用Amazon Bedrock，用于优化游戏开发领域的业务流程。在工业领域，海尔创新设计中心利用生成式AI能够实现文生图、图生图、定量图和全场景图四个方面的提效，上线后，自动化设计系统应用让相关业务的操作周期缩短了20%。

在开箱即用的生成式AI工具方面，Amazon CodeWhisperer能够让软件开发人员完成任务的速度平均快57%，成功率高27%。近期Amazon CodeWhisperer新增自定义功能，它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议，这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

据介绍，目前像Amazon CodeWhisperer这样开箱即用的生成式AI服务及工具，已帮助1000+中小企业和初创公司快速实现生成式AI创新，已赋能10万+中国开发者。