联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型

CTOnews.com 11 月 6 日消息，联发科天玑 9300 旗舰芯片于今晚发布，根据官方的介绍，天玑 9300 升级到 APU 790，支持 8 倍速生成式 AI Transformer 算子加速、特有内存硬件压缩技术、NeuroPilot Compression 混合精度 INT4 量化技术、2 倍整数运算 2 倍浮点运算 45% 功耗降低。

联发科官方表示，天玑 9300 已在端侧落地 70 亿参数 AI 大语言模型，且成功在端侧运行 130 亿参数 AI 大语言模型，还成功运行 330 亿参数的 AI 大语言模型。

此外，天玑 9300 将支持生成式 AI 文生图功能，可以生成表情包。

联发科还介绍了与 vivo 合作打造的"蓝心小 V"，这个工具已经在 2023 vivo 开发者大会上公布了，是 OriginOS 4 的"专属私人助理"，具体介绍可以看CTOnews.com此前报道。

联发科还和安卓、百度、Meta、百川智能达成合作，在天玑 9300 上优化适配这些平台的大语言模型。