Amazon Bedrock新增的“专有模型导入功能”意义何在?怎么玩转?

Amazon Bedrock新增的“专有模型导入功能”意义何在?怎么玩转?
2024年04月25日 09:54 TechWeb

【TechWeb】4月25日消息,亚马逊云科技全球同步发布Amazon Bedrock重磅更新,新的功能包括专有模型导入功能,为特定应用场景选择最佳模型的模型评估功能,为生成式AI应用程序提供易于实施的保护措施的Guardrails功能,以及新增了更多可选择的新模型,包括Amazon Titan Image Generator、Meta Llama 3基础模型已正式可用。

更多信息请见(Amazon Bedrock上新专有模型导入、模型评估等功能https://www.techweb.com.cn/internet/2024-04-24/2943938.shtml)

Amazon Bedrock是亚马逊云科在去年4月份推出的一项全新的全托管服务,它允许用户通过API访问亚马逊云科技和第三方基础模型提供商的预训练基础模型。

此次重磅功能更新恰逢Amazon Bedrock推出一周年。

亚马逊云科技AI和数据副总裁Swami Sivasubramanian介绍道:“企业应用Amazon Bedrock正呈现出爆炸式的增长。成千上万不同规模,来自不同行业的企业选择Amazon Bedrock作为他们生成式AI战略的核心基础,它极大加速并简化了企业从试验阶段到实际生产的转变。”

专有模型导入功能意义重大

借助全新的Amazon Bedrock专有模型导入功能,只需点击几下,企业用户即可将他们使用Amazon SageMaker或其他工具开发的模型集成到Amazon Bedrock平台上,以完全托管的API形式进行访问。

Amazon Bedrock专有模型导入功能现已推出预览版并支持三种开放模型架构:Flan-T5、Llama和Mistral,并计划未来支持更多模型。

此次推出的全新专有模型导入功能可谓意义重大。

这意味着通过该服务,企业客户能够在Amazon Bedrock上接入其定制模型,从而能够利用Amazon Bedrock内置的一系列功能。这将有利于客户降低模型成本,同时享受Serverless提供的易用性,全面加速应用开发。

对亚马逊云科技来说,专有模型导入功能的推出,打通了Amazon Bedrock和Amazon SageMaker的工具链连接,让二者的能力发挥出1+1>2的效果。

为何如此说呢。在此之前,Amazon Bedrock和Amazon Sagemaker可以说是两个独立的服务。

Amazon SageMaker是亚马逊云科技在2017年推出的端到端的机器学习平台,它的功能包括从数据标注到数据训练、再到部署、上线以后的持续监控以及基于原始数据的再迭代等端到端的能力。

Amazon SageMaker提供的模型训练功能,可以从头开始训练模型或对现有的公开模型如Llama、Mistral和Flan-T5进行高级定制。

当亚马逊云科技的客户需要用自有数据构建这些模型时,他们通常是依赖Amazon SageMaker来训练定制自己的专有模型。

而Amazon Bedrock内置了众多第三方基础大模型和高级生成式AI工具供用户通过API访问使用。

现在,随着Amazon Bedrock专有模型导入功能的推出,企业客户能够将他们自己的定制模型与Amazon Bedrock内置的高级生成式AI工具相结合,如知识库、Guardrails、代理(Agents)和模型评估等,而无需自行开发这些功能。

这一新功能让企业能够轻松地通过同一API访问Amazon Bedrock的模型与自己的定制模型组合,这给企业在选择和使用模型的灵活性方面带来进一步跃升。

10分钟完成模型导入

亚马逊云科技还同步发布了“在Amazon Bedrock中导入自定义模型”的教程。

演示教程中,在向Amazon Bedrock导入一个微调的Mistral-7 B-v0.1语言模型,只用了10分钟就完成。

步骤:

在Amazon Bedrock控制台中,从导航窗格的Foundation models部分选择Imported models。

选择要导入的模型MistralLite,是一个微调的Mistral-7 B-v0.1语言模型,具有处理32K tokens的能力。

在模型导入设置中选择模型权重,然后选择上传模型的位置。

大约10分钟就完成了导入。

在控制台中就能看到导入的模型MistralLite。

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片