「此芯科技」发布首款AI PC量产芯片,支持百亿参数以内端侧大模型部署|顺为系

「此芯科技」发布首款AI PC量产芯片,支持百亿参数以内端侧大模型部署|顺为系
2024年08月01日 10:44 顺为资本

来源:顺为资本

近日,以“从此芯出发”为主题,此芯科技 AI PC 战略暨首款芯片发布会在上海举行。面对已到来的端侧生成式 AI 时代,以及第三次 PC 产业革命,此芯科技确立“一芯多用”的发展战略,率先聚焦 AI PC 领域,打造新一代 AI PC 算力底座,并发布首款异构高能效 SoC 此芯 P1。

“此芯科技致力于以高能效算力解决方案,推动端侧 AI 生态发展,通过 AI 技术应用,让生活、学习、工作变得更智能、高效、人性化。”此芯科技创始人、CEO 孙文剑在发布会上表示,希望以 AI 创造更美好的未来。

|此芯科技创始人、CEO 孙文剑|此芯科技创始人、CEO 孙文剑

一、一芯多用,打造新一代AI PC算力底座

随着 ChatGPT 的发布,人工智能进入深度学习 2.0 时代,生成式 AI 成为发展的主旋律。随着生成式 AI 大模型在各行各业的深入部署与应用,用户在能效、数据隐私、个性化定制等方面的需求愈发强烈,云端公有大模型与端侧私有大模型混合部署已成为行业共识。作为端侧生成式 AI 最佳载体的 PC 产业,对硬件尤其是作为核心计算单元的 SoC 的 AI 算力提出了新的需求。

基于此,此芯科技确定了“一芯多用”的发展战略,面向全球与本土双市场,构建端侧 AI 生态,率先聚焦 AI PC 领域,打造新一代 AI PC 算力底座。

孙文剑表示:“此芯科技芯片的丰富功能,极大满足客户多场景的需求;另一方面通过多场景落地,产品的销量增加,摊薄产品研发费用,为客户带来高性价比产品体验。”

对于新一代 AI PC 算力底座,孙文剑介绍:“此芯科技 AI PC 算力底座具有异构、高能效、安全的特点。”其异构集成了 CPU、GPU、NPU,并基于数据链路带宽优化,实现高效运行。能效方面,采用多核异构及专用 NPU 的设计和低功耗内存技术,通过软硬件协同优化,实现高能效。安全方面,此芯 P1 具备最新 Arm®v9 架构中的 PACBTI、MTE、secure EL2 等安全特性,支持通用商密和国密算法,同时满足 TPM(可信平台模块)和 TCM(可信密码模块)需求,提供系统级安全和隐私保障。

“此芯科技新一代的 AI PC 算力底座,面向生成式 AI,支持混合人工智能部署”;孙文剑进一步指出,通过构建丰富的软硬件开放生态,为开发者赋能,持续探索端侧 AI PC 应用场景及优势。

二、首款异构AI PC芯片发布

发布会上,基于 AI PC 战略,此芯科技发布首款落地产品,专为 AI PC 打造的异构高能效 SoC——此芯 P1。孙文剑介绍:“经过严格的测试,此芯 P1 完全达到量产要求,将正式进入产品化阶段。”

|此芯科技发布首款AI PC芯片|此芯科技发布首款AI PC芯片

此芯 P1 使用先进的 6nm 制造工艺,提供丰富的 AI 异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持 4K120 帧显示、8K60 帧视频解码以及 8K30 帧视频编码等;高性能的访存子系统配置 128-bit LPDDR5 低功耗内存,容量可达 64GB,数据传输率可达 6400Mbps、带宽可达 100GB/s。同时,具备高效的功耗管理,提供精准的动态调频调压、多电源域和动态的电源门控、标准的 PC 电源工作模式。

核心 CPU 部分,以 Arm 大小核(big.LITTLE™)技术设计,8 个性能核 4 个能效核,主频最高可达 3.2GHz 以及针对 PC 场景优化的多级缓存设计;同时,集成 2 个 SVE2 向量加速单元,实现机器学习指令增强。

集成 GPU 提供 10 核 GPU 处理器,满足极致桌面渲染和通用 AI 计算需求。新一代硬件光线追踪,媲美主机级别的游戏体验;新型几何图形处理流程(延迟顶点着色 DVS),实现功耗节省 40% 以上,以及灵活的可变速度着色(VRS),实现性能提升 50% 以上。同时,面向多场景的桌面 GPU 软件栈,满足行业应用需求。

强大的异构 AI 引擎,提供 45TOPS 端侧 AI 异构算力,支持 100 亿参数以内端侧大模型部署,运行LLM可达30 tokens/s以上,面向计算机视觉、自然语言处理、生成式AI等多场景提供端侧 AI 支持。

Arm 终端事业部产品管理副总裁 James McNiven 表示:“AI 正改变消费者使用 PC 的方式。基于 Arm 技术开发的此芯 P1,使基于 Arm 平台的 PC 生态系统优势惠及更广泛的受众,带来一个兼具高性能、高能效且经过 AI 优化的平台,重新定义各类工作负载和用例的用户体验。”

三、完整解决方案加持,加速AI PC研发进程

“此芯科技作为 PC 芯片领域的新进者,有机会以全新视角来打造 AI PC 平台解决方案。”此芯科技联合创始人、系统工程副总裁褚染洲表示。此芯科技平台解决方案的“三融”策略也由此应运而生。

|此芯科技联合创始人、系统工程副总裁 褚染洲|此芯科技联合创始人、系统工程副总裁 褚染洲

“三融”策略即融合 X86、Arm 两大架构优势,融入 PC 产业朋友圈,融通 AI 的世界。基于“三融”策略,此芯科技推出 P1 芯片的 AI PC 平台解决方案,具备可扩展异构计算、支持多模态人机交互、高带宽存储、平台级安全盾等特点。

此外,此芯科技 AI PC 平台解决方案支持包括 Video-In/out、GMAC/Ethernet、HDA/I2S 等在内的丰富接口,为全域普惠 AI 提供了基础;同时,基于“一芯多用”的战略,此芯 P1 将推出多种规格,支持 AI 终端的多种产品形态落地。作为 PC 产品成本的要素之一,PCB 的类型关系到 SMT 制程复杂度和良率。此芯 P1 平台解决方案能做到 8-12 层,通孔、高密度板 PCB 全类型的支持,免除客户做产品还要精选 PCB 供应商和 SMT 代工厂的烦恼。

褚染洲表示:“我们积极融入 PC 产业链条,能支持 PC 厂商从 X86 CPU 无缝切换到此芯 P1 芯片,并已与主流 ODM 厂商以及业内知名 BIOS 厂商展开意向合作。”

在客户项目支持方面,褚染洲介绍,此芯科技建立了“以市场、支持、研发各团队全面联动为基础,迅捷响应客户要求,落实应用场景,快速解决问题,缩短产品开发周期”的客户支持体系。

四、以软促硬,推动AI PC行业创新

“硬件好比是我们的躯体,软件则赋予了一颗芯片灵魂。”在 AI PC 软件解决方案环节,此芯科技联合创始人、软件工程副总裁刘刚说道。

|此芯科技联合创始人、软件工程副总裁 刘刚|此芯科技联合创始人、软件工程副总裁 刘刚

面对端侧生成式 AI 带来 PC 产业的变革与机遇,此芯科技重点聚焦启动固件、内核、图形加速以及 AI 方案四大方向进行全栈软件创新。

在启动固件层,此芯科技实现了通过一套固件支持多个操作系统和一套 Linux 内核同时支持 ACPI、Device Tree 两个规范的重要突破。此芯 P1 成为全球为数不多的采用统一固件支持多桌面操作系统的产品。

为了能够让 Arm GPU 在 PC 端同样达到极致的使用体验,此芯科技自主设计了此芯 GO 图形引擎,通过引入应用兼容层并在核心驱动层实现原创优化,适配多种主流桌面环境、兼容传统应用、支持 OpenGL 标准以及和不同多媒体框架协同等,一站式解决行业痛点。

此外,面对生成式 AI 端侧部署存在的诸多问题与挑战,此芯科技未来将推出 NeuralOne AI 软件栈,提供异构 AI 加速器支持,以满足对于端侧推理需求的多样性和复杂性;同时,提供统一的 NerualOne API 来隐藏具体的硬件细节,降低应用程序编程难度。

对于模型与推理框架的碎片化,此芯 NeuralOne 提供统一的 SDK 满足多引擎需求以及广泛的模型格式支持。“Neural 是神经网络的意思,One 代表统一。合在一起,我们希望通过此芯 NeuralOne AI 软件栈充分发挥异构算力强大潜力,更好地帮助生态合作伙伴开发更强的 AI 应用。”刘刚表示。

此芯科技AI PC产业链战略合作启动仪式

为了更好地进行 AI PC 产业链建设,此芯科技销售副总裁陈杰峰邀请来自联想集团、安谋科技、同方鼎欣、万莫斯、统信软件、麒麟软件、江波龙、百敖软件、无问芯穹等上下游产业链合作伙伴共同上台,完成此芯科技 AI PC 产业链战略合作启动仪式,拉开此芯科技产品与合作伙伴合作的序幕,加速国内 AI PC 创新产品的商业化落地,推动产业实现可持续发展,推动新质生产力的发展,共创 AI PC 行业的辉煌未来。

关于「此芯科技」

此芯科技是一家专注于设计开发智能 CPU 芯片及高能效算力解决方案的科技型企业。成立于 2021 年,汇集国内外芯片设计、软件生态和终端应用的业界资深人才,运用创新、前瞻的构想,设计和研发业界先进的高能效、智能化的通用 CPU,赋能个人计算、车载应用、元宇宙基础设施建设领域。此芯科技致力于为社会提供低功耗智能算力解决方案,正在携手全球领先的商业客户与生态伙伴共建统一算力基础的开放生态,打造智能芯片 2.0 新范式。

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片