MediaTek联合百度发起飞桨和文心大模型硬件生态计划AI大模型赋能终端设备
8 月 16 日,MediaTek 正式宣布与百度联合发起飞桨和文心大模型硬件生态共创计划,双方将共同推进 MediaTek 硬件平台与飞桨和文心大模型的适配。目前双方正在合作优化文心大模型在终端设备上的执行效果,将实现大模型在终端和云端的协同工作,为用户带来突破性的生成式 AI 应用体验。
作为推动 AI 进一步发展的先进技术,与单纯在云端部署生成式 AI 应用和服务相比,终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。双方的合作将支持基于 MediaTek 芯片的智能手机、汽车、智能家居、物联网等终端设备上运行文心大模型,赋能终端设备提供更安全、可靠和差异化的使用体验。
MediaTek 与百度合作已久,双方合作完成了 PaddleLite 轻量化推理引擎基于 MediaTek NeuroPilot 人工智能通用软件平台的适配。
NeuroPilot 是 MediaTek 为开发者提供的基于本地端侧的 AI 运算解决方案,它为内建 CPU、GPU 和 APU(独立 AI 处理器)等异构运算单元的 MediaTekSoC 平台提供完整且强大的软件解决方案。NeuroPilot 支持开发者在现有和未来的 MediaTek 硬件平台以及包括智能手机、汽车、智能家居、物联网等产品线实现 " 一次编写,全场景通用 ",帮助开发者在 MediaTek 平台上高效开发和部署基于神经网络模型的 AI 应用程序。AI 开发者可以使用主流的 TensorFlow、Pytorch、TFLite、Caffe、Caffe2 以及其他自定义的第三方通用 AI 框架来构建神经网络模型,并接入到 NeuroPilot 系统,充分发挥 MediaTekAI 系统的强劲算力,显著提高模型运行在设备上的效率,并降低功耗和内存消耗。
MediaTek 无线通信事业部副总经理李彦辑博士表示:" 百度飞桨深度学习平台和文心大模型在 AI 领域处于领先地位,我们双方将聚焦 AI 大模型在终端侧的部署,为用户提供更安全可靠,更个人化,更低成本的端侧生成式 AI 解决方案,赋予终端设备更强大的 AI 能力。MediaTek 携手百度飞桨和文心大模型,通过 AI 端云融合,将为广大开发者和终端用户带来更多令人兴奋的 AI 创新机遇和产品体验。"
生成式人工智能浪潮下,大模型正成为新一轮科技革命和产业变革的重要驱动力量。MediaTek 将持续携手百度飞桨和文心大模型,加速终端侧生成式 AI 的部署,共同打造软硬一体的人工智能大模型平台,让科技惠及大众,为千行百业赋能。
MediaTek 是全球无晶圆厂半导体公司,在移动终端、智能家居应用、无线连接技术及物联网产品等市场位居领先地位,一年约有 20 亿台内建 MediaTek 芯片的终端产品在全球各地上市。MediaTek 力求技术创新并赋能市场,为 5G、智能手机、平板电脑、智能电视、语音助手设备、可穿戴设备与车用电子等产品提供高性能低功耗的移动计算技术、先进的通信技术、汽车解决方案以及多媒体功能。MediaTek 致力让科技产品更普及,因为我们相信科技能够改善人类的生活、与世界连接,每个人都有潜力利用科技创造无限可能(EverydayGenius)。
飞桨(PaddlePaddle)是百度自主研发的中国首个开源开放、功能丰富的产业级深度学习平台,以百度多年的深度学习技术研究和业务应用为基础,集核心框架、基础模型库、端到端开发套件、丰富的工具组件、学习与实训社区于一体。飞桨在业内率先实现了动静统一的框架设计,兼顾科研和产业需求,在开发便捷的深度学习框架、大规模分布式训练、高性能推理引擎、产业级模型库等技术上处于国际领先水平。飞桨是百度 " 芯片 - 框架 - 模型 - 应用 " 全栈技术布局的重要组成部分,与芯片层深度适配与融合优化,并高效支撑以文心一言为代表的文心大模型的生产与应用。当前飞桨已凝聚超 750 万开发者,广泛服务于金融、能源、制造、交通等领域,稳居中国深度学习平台市场综合份额第一。
百度文心大模型源于产业、服务于产业,是产业级知识增强大模型。百度通过大模型与深度学习框架融合发展,打造了自主创新的 AI 底座,大幅降低了 AI 开发和应用的门槛,满足真实场景中的应用需求,真正发挥大模型驱动 AI 规模化应用的产业价值。文心大模型的一大特色是 " 知识增强 ",即引入知识图谱,将数据与知识融合,提升了学习效率及可解释性。文心 ERNIE 自 2019 年诞生至今,在语言理解、文本生成、跨模态语义理解等领域取得多项技术突破,在公开权威语义评测中斩获了十余项世界冠军。2020 年,文心 ERNIE 荣获世界人工智能大会 WAIC 最高奖项 SAIL 奖。2022 年 11 月,文心大模型进一步升级,包括新增 11 个大模型,构建起业界规模最大的产业大模型体系,并通过大模型工具与平台的升级和文心一格、文心百中等基于大模型技术的产品应用,进一步降低大模型产业化门槛,让更多企业和开发者步入 AI 应用的新阶段。
得益于飞桨深度学习平台和文心大模型的联合优化,文心大模型 3.5 版本的效果、功能、性能全面提升,实现了基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,支撑文心效果更好、效率更高、应用更广。据 IDC《AI 大模型技术能力评估报告,2023》评估显示,文心大模型综合评分排名第一;" 算法模型 " 和 " 行业覆盖 " 两个核心指标上均获得唯一满分。