盈趣科技申请一种针对多模态网络的嵌入式在线压缩方法专利,降低平均运行时延和能耗

盈趣科技申请一种针对多模态网络的嵌入式在线压缩方法专利,降低平均运行时延和能耗
2024年06月17日 18:05 金融界网站

转自:金融界

本文源自:金融界

金融界2024年6月14日消息,天眼查知识产权信息显示,厦门盈趣科技股份有限公司申请一项名为“一种针对多模态网络的嵌入式在线压缩方法”的专利,公开号CN202410291170.3,申请日期为2024年3月。

专利摘要显示,本发明公开了一种针对多模态网络的嵌入式在线压缩方法,属于嵌入式设备部署神经网络时的推理优化技术领域;本发明引入了轻量级的动态组件,使模型能够在推理期间动态改变结构;然后,设计了模型分析器和转换模块,利用这些动态组件对原始静态模型进行升级,得到动态主干模型,主干模型可以生成多个子模型来处理多模态输入的不同计算需求;紧接着根据多模态输入的形状和预设生成策略网络,为每个组件和模块生成端到端的压缩策略,调整模型结构;最后结合策略模型和主干模型,得到动态DMFN。对于每个样本,经过升级的DMFN可在不重新训练的情况下,根据压缩策略在设备上完成推理,具有更优的推理性能,降低平均运行时延和能耗。

MACD金叉信号形成,这些股涨势不错!
海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 06-24 安乃达 603350 --
  • 06-17 永臻股份 603381 23.35
  • 06-17 爱迪特 301580 44.95
  • 06-11 中仑新材 301565 11.88
  • 05-31 达梦数据 688692 86.96
  • 新浪首页 语音播报 相关新闻 返回顶部