天玑9300、天玑8300支持全球主流大模型,助力端侧AI手机应用落地
- 厂商稿件
- 2024-02-27 13:14
最近世界移动通信大会(MWC 2024)上展示了一系列先进通信技术,生成式AI技术尤其备受关注。随着生成式AI技术的普及,端侧AI技术也呈现出蓬勃发展的态势。相较于云端AI,端侧AI在保护用户隐私、无需联网、高速低延迟等方面具有明显优势。手机所具备的移动便携性、个人专属化、多模态感知以及通信计算能力,则使其成为端侧AI应用普及的最佳载体。
展会上,联发科重点展出了支持SDXL Turbo(Stable Diffusion XL Turbo)文本到图像的生成引擎、Diffusion视频生成技术,以及端侧生成式AI技能扩充( LoRA Fusion)等创新AI技术。联发科还首次展示了优化的Meta Llama 2生成式AI应用,该演示充分发挥了天玑 9300和8300芯片的独立AI处理器APU,在硬件加速引擎的加持下,可以在终端侧生成文章和摘要。
端侧AI手机应用的发展离不开联发科等头部芯片厂商带来的先进硬件和软件技术,移动芯片的生成式AI能力决定了手机端侧AI能力上限,作为边缘端侧AI技术的行业领军者,联发科很早就前瞻性地布局了端侧生成式AI技术,在尤为关键的端侧AI芯片能力上下足了功夫。联发科天玑9300旗舰移动芯片的独立AI处理器APU具有业界第一的移动端AI算力,并通过AI开发平台NeuroPilot构建了丰富的AI生态,所以能在业界最早实现支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川、vivo蓝心大模型BlueLM、OPPO AndesGPT等诸多全球先进的AI大模型。
早在去年,联发科就联合百度发起飞桨和文心大模型硬件生态共创计划,共同推进联发科硬件平台与飞桨和文心大模型适配。
联发科还利用Meta新一代开源大语言模型Llama 2以及联发科AI处理器APU、AI开发平台NeuroPilot建立完整的端侧AI计算生态,加速智能手机、物联网、汽车、智能家居和其他边缘设备的应用开发。经过全面适配和优化,目前天玑9300和天玑8300芯片已实现支持Meta Llama 2的70亿参数大模型应用。
近期,联发科再次宣布:天玑9300和8300已针对Google Gemini Nano大语言模型进行芯片和算法的适配优化,联发科与Google还计划携手推出可在天玑9300和8300上运行的APK,以助力开发者和OEM厂商部署Gemini Nano应用,加速端侧AI应用落地。
不仅如此,联发科还与手机厂商深度合作,推动生成式AI在手机端侧落地应用。联发科已携手vivo在vivo X100系列手机上落地端侧70亿参数大语言模型,并在端侧实验环境跑通130亿参数模型。在天玑9300芯片强大的AI算力和软件技术支持下,用户可以体验到vivo AI蓝心大模型诸多实用的生成式AI功能,包括超能语义搜索、超能问答、超能写作、超能创图、超能智慧交互等。
联发科还携手OPPO共建轻量化大模型端侧部署方案,共同推动大模型能力在端侧落地,共同开启“AI手机”新时代。在天玑9300芯片的先进生成式AI能力加持下,OPPO AndesGPT大语言模型实现了更优的性能、更快的速度。基于天玑9300芯片的出色AI算力,OPPO Find X7在AI-Benchmark排行榜上取得了业界第一的AI性能成绩,并为用户带来了AIGC消除、AI通话摘要等多种手机功能。
联发科天玑9300和天玑8300芯片对全球主流大模型的支持,不仅将有力推动端侧AI生态完善和应用创新,更可助力手机厂商的生成式AI技术出海,让“AI手机”惠及全球更多用户。
天玑9300集成联发科第七代AI处理器APU 790,性能和能效显著提升,生成式AI处理速度是上一代的8倍,可1秒内生成图片。在联发科混合精度INT4量化技术和内存硬件压缩技术加持下,天玑9300最高支持终端运行330亿参数AI大语言模型。APU 790还支持生成式AI模型端侧“技能扩充”技术NeuroPilot Fusion,利用业界先进的LoRA技术赋予基础大模型更加全面的能力,满足端侧AI用户个性化体验需求。天玑8300在同级产品中率先支持生成式AI,至高支持100亿参数AI大语言模型,加速端侧AI体验向主流市场普及。
可以清楚地看到,联发科正在从多个层面全力推动端侧AI能力的进化和普及。通过芯片架构的革新、软硬件的协同和生态创新的综合推动,加速了AI手机时代的到来,使全球更多手机用户能够深刻体验到生成式AI的魅力。我们深信,在全生态系统的共同努力下,一个全新的移动“智能体”时代即将来临,科幻电影般的全场景智慧生活将成为现实。
- 助力
- 手机
- 大模型
- AI
相关文章
资讯
- 2024-12-21
第五届中国人工智能大赛成果发布会成功举办
- 2024-12-13
北京电信聚焦“上云用数” 推动国产算力应用与智算创新发展
- 2024-12-05
讯飞智作超拟人数字人功能全面开放,开启全民定制新潮流
- 2024-11-25
探索未来之路 激发AI创新 “天翼云·息壤杯”高校AI大赛北京区域赛开赛
- 2024-11-24
亚马逊向Anthropic追加40亿美元投资 加速人工智能创新与应用
- 2024-11-24
科大讯飞:拟推首期员工持股计划
- 2024-11-17
彰显青年风采 传承科学家精神 中国科技青年风采荟在浙江温州举行
- 2024-11-12
2024AI+研发数字(AiDD)峰会深圳站圆满收官!
- 2024-11-09
200余支队伍蓉城“百模论剑”,“人工智能+”全国性赛事报名倒计时3天
- 2024-10-19
三个老发明家献给盛世的礼物---“录味机”
- 2024-10-18
颠覆传统 新味十足 ——2024首届海南智能餐饮烹饪大赛成功举办
- 2024-10-18
首届中国智能锁科技创新大会:德施曼核心科技引领行业,发起科创基金
- 2024-10-18
ODC24 AI服务生态分论坛:全新智慧服务引擎 带动服务分发增长
- 2024-10-18
2024 OPPO开发者大会召开,以技术为基石共建AI智能体新生态
- 2024-10-12
中国移动发布“四驱两翼” 低空经济高质量发展能力体系
原创
荐读
-
5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势
2021世界制造业大会于11月22日在合肥落下帷幕。为期四天的大会中,作为向世界展示智能制造全面能力的窗口,联想展示了一系列让人惊喜的创新产品。现场展示的ThinkPad X1 Fold整体重量仅有1公斤,折叠起来之后的厚度大约为24毫米。当保持半开状态时,可以像拿本书一样握住,并且能同时运行两个应用程序。使用固定在中间的键盘之后,瞬间变...
-
智能手机竞争中失败,日本在联网汽车领域举步维艰
据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...
-
2020年河南省将推广应用3万台工业机器人
到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...