1987WEB视界-分享互联网热门产品和行业

您现在的位置是:首页 > 人工智能AI > 正文

人工智能AI

英特尔挤爆牙膏:新AI训练芯片性能超A100,笔记本CPU首上16核

1987web2023-08-23人工智能AI140
梦晨发自凹非寺量子位|公众号QbitAI

梦晨 发自 凹非寺量子位 | 公众号 QbitAI

AI芯片这个高速增长的市场上,英伟达还是绝对的主导者,现阶段占据80%的市场份额。

有力的挑战者悄然出现:

英特尔推出新一代AI训练芯片Gaudi2,制程一步从16nm跨越到7nm,与英伟达A100齐平。

性能方面,英特尔在发布会上也与A100做了直接对比,训练吞吐量达到A100的约两倍

英特尔还特别提到,目前已部署在AWS上的Gaudi一代产品比英伟达产品性价比平均要高出40%,针对性满满。

与自家Gaudi一代芯片对比,英特尔这一次也可谓是牙膏挤爆

制程的飞跃同时带来元件数量的提升,张量核心从10个增加到24个,显存从32GB HBM2升级到96GB HBM2E,高速缓存SRAM也从24MB翻倍到48MB。

代价嘛,就是TDP功耗也从350W上涨到600W,不过英特尔表示仍然不需要使用液冷散热。

除了训练芯片Gaudi2,同时推出的还有推理芯片Greco

以及面向多媒体转码、视觉图形处理和云端推理的数据中心GPU,代号Arctic Sound-M(ATS-M)

CUDA怎么办?

芯片性能是够硬了,但要想挑战英伟达还要面对一个艰难挑战——CUDA计算平台。

许多公司和开发者已经习惯了使用CUDA,想让他们迁移并非易事。

对此,英特尔旗下Habana Labs首席商务官Eitan Medina发言称:

CUDA并不是英伟达真正能够长久立足的护城河。

英特尔的对策是开源的oneAPI生态,提供了跨架构的统一编程模型。针对数据中心可简化CPU、GPU、FPGA和其他加速器间的协同开发。

英特尔数据中心和AI部门负责人Sandra Rivera预计,未来AI芯片市场每年增长约25% ,5年后达到500亿美元左右。

英特尔未来计划主要通过创新和投资来吃下这个市场,而未来的投资将更多集中在软件上。

实际上,开发Gaudi芯片的Habana Labs就是英特尔在2019年收购的以色列初创公司。

近期英特尔在数据中心与AI芯片上的投资布局还包括:

高溢价收购以色列第一大晶圆代工厂高塔半导体

收购以色列云基础设施公司Granulate

收购芬兰IP提供商Siru Innovations

还与英伟达一同投资了光学I/O解决方案公司Ayar Labs

Ayar Labs的愿景是未来芯片和系统将通过光而不是电信号连接。

还有12代酷睿HX移动CPU

英特尔这次随AI新品一同发布的还有CPU新品。

第12代酷睿HX系列处理器,面向高端移动工作站和发烧级游戏本。

其中i9-12900HX最多拥有16个核心和5GHz频率,多核性能对比上代提升64%,相比苹果M1 Max提升则更多。

目前,笔记本方面已有联想新款拯救者Y9000K海外版搭载该系列,可选项包括i9-12900HX与i7-12800HX。

价格嘛,2449美元起(约16467元人民币)。

参考链接:[1]https://intel.com/content/www/us/en/newsroom/news/vision-2022-habana-gaudi2-greco.html[2]https://nextplatform.com/2022/05/10/intel-pits-new-gaudi2-ai-training-engine-against-nvidia-gpus/[3]https://theverge.com/2022/5/10/23065131/intel-core-i9-12950hx-mobile-laptop-processor-16-cores-55-watts

一、英伟达AI软件栈

以下是英伟达AI软件栈的主要组成部分:

1. CUDA:CUDA是英伟达开发的并行计算平台和编程模型,它允许开发者使用GPU进行高性能并行计算。CUDA提供了一套API和工具,使开发者可以编写并行计算代码,并与主机CPU进行交互。它是深度学习框架(如TensorFlow和PyTorch)的基础,为模型训练和推理提供了高效的计算能力。

2. cuDNN:cuDNN是英伟达深度神经网络库,提供了针对深度学习任务的高性能GPU加速功能。它包含了一系列优化的算法和函数,用于加速卷积神经网络(CNN)和循环神经网络(RNN)等常用神经网络模型的计算。cuDNN能够充分利用GPU的并行计算能力,加速深度学习模型的训练和推理过程。

英伟达和和华为的AI软件堆栈

英伟达(NVIDIA)的AI软件栈是一套全面的人工智能开发工具和库,旨在简化和加速深度学习模型的训练、推理和部署过程。该软件栈提供了一系列强大的工具和框架,使开

  • 下一篇

    当前AI训练平台的行业痛点包括人员不可控、成本不可控、调参不可控、精度不可控和部署不可控等。慧智博视致力于通过AutoCV自动化AI训练平台,以高效率、高精度、低门槛的碎片化算法定制能力解决这些核心痛点。

    对于数据管理中数据标注工作量大的问题,AutoCV平台一方面和国内领先的数据厂商建立深度的生态合作,另一方面在数据处理和模型训练阶段加入前沿算法,实现小样本数据高算法性能的效果。

    对于落地门槛最高的AI训练部分,通过平台自有的核心AutoCV技术完成从预处理、模型结构设计到训练调参的整个环节,实现零代码定制化高精度模型的效果;在AutoCV构建模型和训练的过程中,同时完成了模型匹配、模型压缩和裁剪量化等工作,使平台训练的模型可以一键下发至终端设备,大幅提升了在芯片端的利用率。

    慧智博视AutoCV自动化AI训练平台,加速赋能行业数智化转型

    近期,慧智博视打造出