英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化

英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化
2025年02月01日 10:01 IT之家

IT之家 2 月 1 日消息,近日,DeepSeek 发布 Janus Pro 模型,英特尔 Gaudi 2D AI 加速器现已针对该模型进行优化,为 AI 应用的落地和规模化发展提供的支持。

IT之家获悉,DeepSeek Janus 模型集成了多模态理解和生成功能。该模型首次采用统一的 Transformer 架构,突破了传统 AIGC 模型依赖多路径视觉编码的限制,实现了理解与生成任务的一体化支持。在此基础上,Janus Pro 通过优化训练策略和扩展模型规模,显著提升了文生图等功能的性能与稳定性,并提供了 10 亿参数和 70 亿参数两个版本

英特尔 Gaudi 2D 凭借 2.45TB / 秒的高带宽和 96GB HBM 大容量内存,为 Janus Pro 模型提供了强大的计算支持,使其在生图批处理任务中,随着批量大小的增加,吞吐性能得到显著提升,大幅缩短任务处理时间。

与此同时,结合英特尔 Optimum-Habana 框架的优化,英特尔 Gaudi 2D 显著提升了文生图任务的吞吐性能和推理效率,仅需约 10 秒即可生成 16 张高质量的图片。而且,开发者仅需调整数行代码,即可实现这一结果,极大降低了开发门槛和迁移成本。此外,DeepSeek 的蒸馏模型在至强和 Gaudi 平台上也得到了支持。

英特尔it之家AI
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片