英特尔以生成式AI RAG解决方案,为巴黎奥运健儿提供便捷体验

英特尔以生成式AI RAG解决方案,为巴黎奥运健儿提供便捷体验
2024年07月19日 17:51 中关村在线

今日,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了其以行业需求为导向所打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔至强处理器和英特尔Gaudi AI加速器的开放式AI系统及平台,帮助开发者和企业应对AI高速发展所带来的需求。

英特尔执行副总裁兼数据中心与人工智能事业部总经理Justin Hotard表示:“此次与国际奥委会的合作,彰显了英特尔致力于推动AI触手可及。我们正在打造一个开放的环境以鼓励创新,帮助开发者和企业构建定制化的AI解决方案并取得切实成果。通过拥抱开放、协作的生态系统,英特尔正以创新的方式为运动员提供支持,并助力企业客户创造更多可能。”

基于Athlete365平台的聊天机器人:对于运动员而言,获得奥运会参赛资格仅仅是个开始。为了帮助全球约11,000名拥有不同语言和文化背景的运动员在奥运比赛场地出入,并遵守相关规定,国际奥委会与英特尔合作开发了基于Athlete365平台的聊天机器人AthleteGPT。这是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案。AthleteGPT不仅能够应答运动员的日常询问并进行互动,同时将在运动员入住巴黎奥运村期间,为其按需提供信息,使运动员能够专注于自身训练和比赛。

重要意义:部署生成式AI解决方案会带来诸如成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。作为一种关键的生成式AI工作负载,RAG可以让企业安全地利用专有数据,增强AI产出结果的及时性与可靠性。这将极大地提高AI应用的质量和实用性,对于推动当下的数字化发展意义非凡。

基于AI平台、开放标准以及强大的软件和系统生态,英特尔以协作的方式帮助开发者构建定制化的生成式AIRAG解决方案,从而满足企业的多样化需求。此外,英特尔亦将持续提供开放、强大且可组合的多供应商生成式AI解决方案。

生成式AI RAG解决方案工作流程:英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,用于轻松部署RAG。基于企业AI开放平台(OPEA),该方案是一种以行业需求为导向、开箱即用,且可立即投产的RAG解决方案。该生成式AI一站式解决方案在助力企业便捷地部署数据中心RAG的同时,具备高度的灵活性和可定制性,并集成了多个OEM系统及行业合作伙伴的产品组件。

该生成式AI一站式解决方案将基于OPEA的微服务组件集成至用于部署英特尔至强处理器和GaudiAI系统的、可扩展的RAG解决方案中,可通过Kubernetes、Red Hat OpenShift等经验证的编排框架进行无缝扩展,并提供兼具可靠性和系统遥测功能的标准化API。

以开放式软件堆栈打破壁垒:几乎所有大语言模型(LLM)的开发都基于高抽象框架PyTorch,该框架由英特尔至强和Gaudi及相关技术提供支持,助力在英特尔AI系统及平台上实现轻松开发。同时,英特尔携手OPEA开发了用于RAG和LLM部署的开放式软件堆栈。该软件堆栈通过生成式AI一站式解决方案进行优化,并基于PyTorch、Hugging Face服务库(TGI和TEI)、LangChain以及Redis向量数据库所构建。

满足开发者需求:OPEA为企业提供开源、标准化、模块化,以及异构的RAG流水线(pipeline),并致力于为开放式模型及多种编译器和工具链的开发提供支持。其加速了针对垂直领域用例的容器化AI集成与交付。OPEA通过创建细化、可组合的框架,引领堆栈技术前沿,解锁AI的全新可能。

凭借生成式AI一站式解决方案与全面的企业AI堆栈,英特尔提供了完整的解决方案,以应对企业和数据中心在部署和扩展RAG与LLM应用时所面临的挑战。通过基于英特尔技术与产品的AI系统及平台,以及OPEA的优化软件,企业可以更高效、快速地发挥并利用生成式AI的巨大潜力。

现阶段,如何将最新的AI计算技术应用到企业中,并推动关键业务成果落地,是企业亟待解决的问题。通过与广大行业合作伙伴的战略合作,英特尔正为由生成式AI和RAG解决方案驱动的AI服务创造更多新的可能性。

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片