AI智能体全面爆发!Hexagon NPU重组算力底座
高通Hexagon NPU搭载Element Accelerator与大容量共享内存两大新特性,智能U重组算座不仅能够充分承载AI智能体的体全高频算力需求,还大幅降低了端侧大模型的面爆部署门槛,为手机端AI生态落地扫清硬件障碍。力底
PChome 9月10日报道,智能U重组算座随着各大手机厂商陆续官宣新一代操作系统,体全AI功能已然成为全系新机的面爆核心主打卖点,各类AI智能体功能遍地开花。力底新一代手机AI体验迎来全方位进化,智能U重组算座但能够自主执行任务、体全闭环服务的面爆终端AI智能体,对硬件底层算力提出了极高要求。力底出于用户数据隐私安全考量,智能U重组算座端侧本地化算力的体全核心价值愈发凸显,成为高端AI体验的面爆核心支撑。
针对这一行业发展趋势,高通新一代第六代骁龙8至尊版移动平台完成针对性深度迭代。全新升级的Hexagon NPU搭载两大核心创新特性,Element Accelerator与大容量共享内存,不仅能够充分承载AI智能体的高频算力需求,还大幅降低了端侧大模型的部署门槛,为手机端AI生态落地扫清硬件障碍。

据高通官方介绍,Element Accelerator是专为AI智能体场景量身打造的加速架构,高度适配智能体复杂、连续的运算逻辑,可大幅提升AI推理运算效率,实现用户指令的高速响应,彻底改善传统端侧AI卡顿、延迟高、响应慢的痛点。
在CPU和GPU中大放异彩的高速缓存思路,同样在Hexagon NPU中发挥了重要作用。高通将NPU大容量共享内存容量扩容50%,可将AI运算上下文数据留存于NPU内部,大幅降低设备对外置内存的频繁访问损耗,让NPU算力全部聚焦于AI推理核心运算,有效规避无效空转造成的性能浪费与算力衰减。
依托全新架构优化,Hexagon NPU的端侧大模型运行能力实现跨越式提升。其INT4模型预填充速度提升50%,首个词元生成耗时低于1.5秒,达成近乎实时的人机交互体验。同时,该NPU全面兼容多精度运算模式,支持INT2、INT4、INT8、FP8、FP16多种精度,可适配不同参数、不同场景的端侧AI模型。
除此之外,高通携手内存、AI模型厂商深度联动,针对MoE混合专家架构完成专项优化。该架构可直接从闪存加载模型数据,有效突破传统设备内存容量限制,支撑超大参数AI模型落地终端。以300亿参数大模型为例,通过MoE架构可仅激活加载30亿参数参与运算,大幅降低硬件资源占用,让大模型端侧规模化部署成为现实。在高端内存成本居高不下的当下,这套全新技术方案,也是现阶段端侧大模型普及落地的最优解之一,为手机AI智能体的全民普及奠定了硬件基础。
高通已经公布了第六代骁龙8至尊版的诸多新特性,更加的性能表现与更适合AI时代的特性支持,让我们对新一代旗舰手机更为期待了。高通骁龙技术峰会将在9月23日正式开幕,届时,第六代骁龙8至尊版的全部实力将就此揭晓。
(责任编辑:焦点)
-
导读: 45岁可以买的重疾险,2022年45岁可以买的重疾险。45岁有必要买重疾险吗?重疾险产品适合什么人群去投保?45岁买什么保险会更合
...[详细]
-
中粮集团旗下各上市公司2022年5月30日-6月3日收盘情况
5月305月316月16月26月3中国食品香港)05062.722.722.722.73--中粮糖业6007378.108.298.308.23--中粮工科 30105819.8819.6318.70
...[详细]
-
由于多轮降雨天气,且降雨范围广、强度大、时间长,河流水库水位猛涨,黄河、渭河、洛河相继涨水,大荔县境内渭河、洛河相继出现超警戒量级洪水。为1999年以来最大水量,截止目前,渭南大荔县累计受灾23
...[详细]
-
12月18日,“2021中国年度最佳雇主”颁奖典礼通过线上直播形式举行,中粮集团荣获“中国年度最佳雇主TOP100第15名)”和“中国
...[详细]
-
连日来,滁州国际手球馆内呐喊声此起彼伏,2026年第十九届亚洲U20男子手球锦标赛激战正酣。而在场馆各个重点区域,消防救援指战员严阵以待、全程驻守——这里,亦是他们的&ldqu
...[详细]
-
中粮集团旗下各上市公司2022年5月30日-6月3日收盘情况
5月305月316月16月26月3中国食品香港)05062.722.722.722.73--中粮糖业6007378.108.298.308.23--中粮工科 30105819.8819.6318.70
...[详细]
-
中粮集团旗下各上市公司2021年7月19日-7月23日收盘情况
7月197月207月217月227月23中国食品香港)05062.692.652.682.702.64中粮糖业6007379.589.409.349.289.25中粮包装香港)09064.935.20
...[详细]
-
8月24日,中粮可口可乐大股东中国食品00506.HK)公布了截至2021年6月30日止的财务报告。得益于疫情的有效控制及消费品市场的稳定恢复,仅上半年,中粮可口可乐便实现了营收破百亿的历史新纪
...[详细]
-
6月21日,在国际奥林匹克日即将到来之际,凤阳县图书馆品牌活动“家庭爱阅会”以启蒙绘本《足球运动员》为主题举行专场活动,将阅读推广与体育精神相融合,吸引众多亲子家庭参与。小读者
...[详细]
-
中粮集团旗下5家单位入围第七批农业产业化国家重点龙头企业名单
12月30日,农业农村部公布第七批农业产业化国家重点龙头企业名单,集团下属单位,中粮成都)粮油工业有限公司、中粮山萃花生制品威海)有限公司、中粮建三江米业有限公司、中粮米业(虎林)有限公司、中粮
...[详细]

装修吊顶用什么材料 装修吊顶可以用玻璃材料吗,行业资讯
中粮贸易西北公司与陕西石羊农业科技股份有限公司签署战略合作协议
国家体育总局训练局向中粮家佳康发来感谢信
长城葡萄酒荣获2022年柏林葡萄酒大奖赛两枚金奖
妙蕊文旦汁,解锁果汁代理全新增长曲线!
