联发科发布生成式AI芯片,端侧AI迎来蓬勃发展时刻

2023-11-10 18:28

随着人工智能技术的不断发展,生成式AI成为了终端产业的新趋势。高通和联发科等芯片制造商纷纷推出各自的AI芯片以满足这一需求。生成式AI的应用范围广泛,包括语音识别、图像识别、自然语言处理等领域。而手机作为人们日常生活中最常用的智能设备,自然成为了生成式AI的重要应用场景。

今年上半年,华为、小米和vivo等手机厂商纷纷宣布将接入大模型,并将其注入手机端侧。这些大模型都是基于深度学习技术,通过海量数据的训练,能够自主学习并逐渐提高各项性能。

通过将大模型注入手机端侧,手机厂商可以为用户提供更加智能化、高效化的服务。例如,智能语音助手可以帮助用户通过语音指令完成各种任务,智能家居控制系统可以自动调节家居设备的工作状态,以实现节能环保的效果,而这些应用场景的实现都离不开AI芯片的支持。

大模型在手机端的落地,也对AI芯片的算力能力带来了考验。联发科最新推出的天玑9300开创性地设计了“全大核”CPU架构,包含4个Cortex-X4超大核和4个主频为2.0GHz的Cortex-A720大核,这种架构的峰值性能相较上一代提升40%,功耗节省33%。这种全大核架构工作速度快、效率高,具有高能效特性,无论在轻载还是重载应用场景中,都能降低功耗、延长续航时间。

全大核架构的强劲多线程性能可以让终端的多任务处理更加流畅。例如,同时进行游戏和视频直播,或是在进行游戏的同时播放视频。此外,由于全大核架构的CPU性能和能效得到了显著提升,因此可以更好地满足用户对于高性能、低功耗手机的需求。

天玑9300集成MediaTek第七代AI处理器APU 790,为生成式AI而设计,其性能和能效得到显著提升。

APU 790内置了硬件级的生成式AI引擎,可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。

基于亿级参数大语言模型特性,MediaTek开发了混合精度 INT4 量化技术,结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少AI大模型对终端内存的占用,支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。

APU 790 还支持生成式AI模型端侧“技能扩充”技术NeuroPilot Fusion,可以基于基础大模型持续在端侧进行低秩自适应(LoRA,Low-Rank Adaptation)融合,进而赋予基础大模型更加全面的能力。

联发科的AI开发平台NeuroPilot构建了丰富的AI生态,支持Android、Meta Llama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型,完整的工具链助力开发者在端侧快速且高效地部署多模态生成式AI应用,为用户提供文字、图像、音乐等终端侧生成式AIc创新体验。

联发科资深副总经理暨无线通信事业部总经理徐敬全博士表示:“天玑9300是MediaTek迄今为止最强大的旗舰移动芯片,通过我们开创性的全大核架构设计,为旗舰智能手机带来令人惊叹的计算力突破。据悉,首款采用 MediaTek 天玑9300芯片的智能手机预计将于2023 年底上市。

随着终端产业正式踏上生成式AI这艘大船,AI芯片将成为未来手机市场竞争的重要焦点,而联发科天玑9300 5G生成式AI移动芯片的发布,将带动AI在端侧领域的发展及普及,为全球用户带来更多前所未有的体验。

(责任编辑:杨丹丹)

运营商财经(官方微信公众号yyscjrd)—— 主流财经网站,一家全面覆盖科技、金融、证券、汽车、房产、食品、医药、日化、酒业及其他各种消费品网站。

分享至:
文章关键词: 联发科

关于网站