英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化

英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化
2025年02月01日 10:01 IT之家

IT之家 2 月 1 日消息,近日,DeepSeek 发布 Janus Pro 模型,英特尔 Gaudi 2D AI 加速器现已针对该模型进行优化,为 AI 应用的落地和规模化发展提供的支持。

IT之家获悉,DeepSeek Janus 模型集成了多模态理解和生成功能。该模型首次采用统一的 Transformer 架构,突破了传统 AIGC 模型依赖多路径视觉编码的限制,实现了理解与生成任务的一体化支持。在此基础上,Janus Pro 通过优化训练策略和扩展模型规模,显著提升了文生图等功能的性能与稳定性,并提供了 10 亿参数和 70 亿参数两个版本

英特尔 Gaudi 2D 凭借 2.45TB / 秒的高带宽和 96GB HBM 大容量内存,为 Janus Pro 模型提供了强大的计算支持,使其在生图批处理任务中,随着批量大小的增加,吞吐性能得到显著提升,大幅缩短任务处理时间。

与此同时,结合英特尔 Optimum-Habana 框架的优化,英特尔 Gaudi 2D 显著提升了文生图任务的吞吐性能和推理效率,仅需约 10 秒即可生成 16 张高质量的图片。而且,开发者仅需调整数行代码,即可实现这一结果,极大降低了开发门槛和迁移成本。此外,DeepSeek 的蒸馏模型在至强和 Gaudi 平台上也得到了支持。

英特尔it之家AI
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

0条评论|0人参与网友评论
最热评论
--------

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片