PC单机游戏资源下载网站
当前位置 > 首页 > 文章列表 > 正文

老黄抛出一枚2700W核弹和一台内存240TB的AI超级计算机。

2024-03-20 00:27     来源 : 九狸游戏     编辑 : 九狸     浏览量 : 166

今天凌晨,黄仁勋正式拿出了新一代BlackwellGPU架构和基于其的B100/B200。

GPU芯片、GB200超级芯片、DGX超级计算机,再一次将这颗“战术核弹”提升到了一个新的高度,傲立于世界。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

BlackwellB200GPU首次采用了chiplet晶粒封装,包含两颗B100,B200之间带宽翻倍到第五代NVLink1.8TB/S

5总线互联,最多可连接576个区块。

B100采用定制的台积电4NP工艺制造(H100/RTX40)

已经达到双倍光刻极限尺寸的4N制程增强版),通过10TB/S带宽的互联带宽,相互连接成统一的B200GPU。

B100集成多达1040亿个晶体管对比上一代H100

800亿元增长30%。B200的总数是2,080亿个晶体管。核心区还没有公布,考虑到工艺限制应该不会比814平方毫米的H100大太多。CUDA核的数量没有说,但肯定会大大超过H100。

16896。不知道能不能超过两万?

每个B100连接4个24GBHBM3E内存/内存,等效频率8GHz,位宽4096位,带宽高达4TB/S,因此B200最高可达192GB

HBM3E,总比特宽度8096比特,总带宽8TB/S,比H100分别增长1.4倍、58倍和1.4倍。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

性能,B200新增支持FP4Tensor数据格式,性能达到9PFlops(每秒9千万亿次),int/fp8,fp16,tf32

张量的性能分别达到4.5、2.25和1.1P触发器,分别提高了1.2倍、1.3倍和1.3倍,而FP64

相反,张量性能下降了40%(取决于GB200),而FP32和FP64向量性能尚未公布。

BlackwellGPU还支持第二代Transformer引擎,后者支持使用TensorRT-LLM和NEMO进行新的微张量缩放。

威震天框架中的高级动态范围管理算法,从而在新型4位浮点AI推理能力下实现算力和模型大小的翻倍。

还有其他RAS可靠性引擎、安全AI、解压引擎等。至于耗电量,B100控制在700W,和上代H100完全一致,B200则首次达到了1000W。NVIDIA声称布莱克韦尔

GPU可以在10万亿参数的大模型上实现AI训练和实时大语言模型推理。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

格雷斯·布莱克威尔是格雷斯的继任者

Hopper之后的新一代超级芯片(超级芯片),从单GPU+、单CPU升级到两颗GPU加一颗CPU,其中GPU部分就是B200,CPU部分不变还是Grace,彼此通过900GB/s的带宽实现超低功耗片间互联。

在语言模型推理工作量大的情况下,GB200超级芯片的性能比H100高达30倍。不过,价格也很高,GB200的功耗最高可达2700W,可以使用分冷,更推荐使用液冷。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

基于GB200超级芯片,NVIDIA打造了搭载36颗超级芯片的新一代AI超级计算机DGXSuperPod,也就是36Grace。

CPU,72个B200GPU,通过NVLink5相互组合,以及高达240TB的HBM3E。

这台AI超级计算机可以处理数万亿个参数的大型模型,并可以确保超大规模生成性AI训练和推理工作量的连续运行。7@4299.com

DGXSuperPod还具有很强的可扩展性,可以通过Quantum-X800来实现

InfiniBand网络连接,扩展到数万颗GB200超级芯片,加入Bluefield-3

DPU数据处理单元,每个GPU可以获得1.8TB/S的高带宽。

第四代可扩展分层聚合和协议协议(SHARP)技术可提供14.4TFlops的网络计算能力,是上一代的4倍。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

此外,NVIDIA还发布了第六代通用AI超算平台DGXB200,包括两个英特尔五代最强处理器、八个B200GPU、1.4TB

HBM3E,64TB/S带宽,fp4精度144PFlops(每秒14亿次),万亿参数模型实时推理速度提高15倍。

DGXB200系统还集成了八个NVIDIAConnectX-7卡和两个Bluefield-3。

DPU高性能网络,每个连接高达400Gb/S带宽,可通过Quantum-2获得

InfiniBand,Spectrum?-X以太网网络平台,进行了扩展,以支持更高的AI性能。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

基于布莱克韦尔

GPU产品将在今年晚些时候上市,包括亚马逊云、戴尔、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉、Xai等。

亚马逊云、谷歌云、微软Azeure和甲骨文云将是首批提供BlackwellGPU驱动程序示例的云服务提供商,NVIDIA云合作伙伴计划的应用。

Digital、CoreWeave、Crusoe、IBMCloud和Lambda也将提供上述服务。

IndosatOoredooHutchinson、nebius、

云、甲骨文欧盟主权云、甲骨文美国/英国/澳大利亚政府云、Scaleway、新加坡电信、北方数据集团的Taiga

云,Yotta数据服务公司的ShaktiCloud,YTLPowerInternational

主权AI云等也将提供基于Blackwell架构的云服务和基础设施。

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

老黄抛出2700W功耗真核弹 还有240TB显存的AI超级计算机

热点资讯
  • 人气女B新游戏《终远的威尔修-ErroR:salvation-》主要人物介绍
  • 《使命召唤:战争地带2.0》常见问题的解决方案
  • 史泰龙主演美剧《塔尔萨之王》确认续订第二季。
  • 《公主与秽欲的献祭》已正式在STEAM平台上市!
  • 八方旅人2阵组合推荐,岐路旅人2最强职业组合攻略
  • 18岁的西班牙青年因有元宇宙犯罪而被捕的罪名随处可见
  • 交配3D动作RPG新作《怪兽宇宙》1月在线
  • 不买RTX3080的三大理由:性能过剩,矿卡太多,没钱买。
  • 《同级生Remake》评测:寻找重新拼凑的经典
  • RTX4090浮点运算性能首次突破100万亿次。
  • 漫画《式守同学不只可爱而已》终于完结星期六最后一章
  • 《建筑模拟器》新作于2022年9月20日公开发售。
  • 《明末:渊虚之羽》外媒评论:战斗令人惊叹,但叙述却沉闷
  • 游戏启动出错
  • Topic《按摩狂》重命名为《beat refle》第一个登录Steam
  • 运行环境问题
  • 轻小说《为了在异世界也能摸毛茸茸而努力》动画发表
  • 哔哩哔哩电视大会员更名为超级大会员。每月35元支持多平台。
  • 伊藤润二新短篇集《幻怪地带》第二季将于12月7日上映。
  • 《热血街区电影版:极恶王续篇》公告将于9月9日在日本发布。
  • 游戏联机问题
  • 工程师玩家打造迷你乐高版电脑,精致小巧,可玩性强。
  • 解压出现错误
  • 《大多数》因游戏官方疑似被封,官方讨论组被关闭。
  • 《进化Stage2》服务器几年后突然无缘无故重新上线。
  • 18禁游戏《魅魔》发布夏季更新和比基尼DLC
  • 《机战30》评测:夹缝里找乳摇,我们老了还是机战老了?
  • 几款EA游戏不能在SteamDeck上运行,修复很快就来了。
  • 吃鸡游戏《超级人类》宣布最终公测将于8月17日开启。
  • 《Cosplay模拟器》Steam版可以解锁各种绅士场景。
  • 《守望先锋:归来》新英雄“扎克镇女王”技能介绍
  • 地域网络问题
  • 美剧《伞学院》官方宣布第四季将是该剧的最后一季。
  • 网飞《僵尸百分百》真人电影将于2023年上映。
  • 传闻:《猎天使魔女3》10月28日上映。
  • 《生化危机4:重制版》美国总统女儿Ashely的脸模曝光。
  • Copyright2021-2026九狸游戏 粤ICP备2021101394号