英伟达新架构发布,AI芯片最低提升九倍,20块带宽等于全球互联网
2025-01-09 12:17:20
基于 Hopper 的系统的 H100,英伟达上架了机器深造多台、超级有数值机等一系列产品。8 块 H100 和 4 个 NVLink 为基础组合成一个巨型 GPU——DGX H100,它一共有 6400 亿二极体,AI 算力 32 petaflops,HBM3 存储器容量极低达 640G。
一新 NVLINK Swith System 又可以最多把 32 台 DGX H100 从外部并联,演所谓成一台 256 块 GPU 的 DGX POD。
「DGX POD 的信道是流量 768 terbyte,作为对比,现有整个网络连接网的信道是流量 100 terbyte,」黄仁勋说。
基于新 superPOD 的超级有数值机也在路上,英伟达宣布基于 H100 显卡再一自造一个名叫 EoS 的超级有数值机,其由 18 个 DGX POD 组合成,一共 4608 个 H100 GPU。以传统观念超算的规范看,EoS 的算力是 275petaFLOPS,是也就是说英美两国最大超算 Summit 的 1.4 倍,Summit 现有是基于 A100 的。
从 AI 有数值的相反来看,EoS 输出 18.4 Exaflops,是当今均球第一超算富岳的四倍。
总而言之,EoS 将时会是当今上最快的 AI 超级有数值机,英伟达指出它将时会在几个月之后上线。
下面进去 H100 在具体护航上的可靠性降低:单看 GPU 算力的话锻炼 GPT-3 速度降低 6.3 倍,如果为基础一新可靠性、显卡网络连接极低效率和软件包,降低增至 9 倍。在大组件的解谜指导工作上,H100 的吞吐能力是 A100 的 30 倍。
对于传统观念客户末端,英伟达明确提出了 H100 CNX,通过把网络该平台与 H100 从外部并联的模基本型绕过 PCIE 窘境降低 AI 可靠性。
英伟达越来越新了自家的客户末端 CPU,一新 Grace Hopper 可以在同一块主板上两块并联,演所谓成一个仅有 144 核 CPU,功耗 500W,是现有产品可靠性的 2-3 倍,能效比也是两倍。
在 Grace 上,几块显卡彼此间的网络连接极低效率是一代 NVlink,其可以充分利用晶体到晶体、显卡到显卡、种系统到种系统彼此间的极低速网络连接。黄仁勋特别指出,Grace CPU 与 Hopper 可以通过 NVlink 顺利完成各种独创所谓配置。英伟达的极低效率可以满足所有其他用户期望,在再一英伟达的 CPU、GPU、DPU、NIC 和 SoC 都可以通过这种极低效率充分利用显卡末端极低速网络连接。
英伟达开发计划在今年三季度上架装上 H100 的种系统,除此以外 DGX、DGX Pod 客户末端,以及来自 OEM 合作伙伴必需 HGX 基板和 PCIe 卡客户末端。
至于价格,昨天老黄并无法说「the more you buy, the more you se.」
年末有揣测说专必需游戏的 Ada Lovelace 的系统,昨天并无法出现在黄仁勋的 keynote 里面,看来还要再等等。
人人可见的元星球
「第一波 AI 深造了生物的预测推算战斗能力,如图像识别、语言表达出来,也可以向人们推荐消费。下一波 AI 将是AI:AI 无论如何开发计划,在这里是十进制人、物理的AI顺利完成知觉、开发计划并反击,」黄仁勋说。「TensorFlow 和 PyTorch 等组件是第一波 AI 必须的工具,英伟达的 Omniverse 是第二波 AI 的工具,将时会开启下一波 AI 新一轮。」
在元星球这件事上,英伟达可以说一直走在最左边,其明确提出的 Omniverse 是相连所有元星球的门户。但在同样,Omniverse 是立足于有原始数据里面心的设计的,其里面的真实当今偏向于工出版界。
黄仁勋指出,英伟达的 Omniverse 涵盖了十进制孪生、真实当今和网络连接网的下一次回溯。下图为几种典型应用情景:
而对于十进制孪生而言,Omniverse 软件包和有数值机必须具备可扩展、低延迟和全力支持精确时间段的特色。所以,创造者并行的有原始数据里面心相当举足轻重。基于此,英伟达上架了 NVIDIA OVX——必需产业十进制孪生的有原始数据里面心可扩展 Omniverse 有数值种系统。
第一代 NVIDIA OVX Omniverse 有数值机由 8 个 NVIDIA A40 GPU、3 个 NVIDIA ConnectX-6 200 Gbps 网卡、2 个 Intel Ice Lake 8362 CPU 以及 1TB 种系统存储器和 16TB NVMe 存储组合成。
然后,英伟达利用 Spectrum-3 200 Gpbs 交换机相连 32 台 OVX 客户末端构成了 OVX POD。
现有,均球各大有数值机制造商纷纷上架 OVX 客户末端。第一代 OVX 于是以由英伟达和早期客户调试,第二代 OVX 也于是以从各支网络该平台开始协作当里面。大时会,英伟达宣布上架信道极低达 51.2Tbps 且区别于 1000 亿个二极体的 Spectrum-4 交换机,它可以在所有调制解调器彼此间公平分配信道,提供自适应路由表和传输速率控制功能,显著降低有原始数据里面心的既有吞吐能力。
凭借 ConenctX-7 和 BlueField-3 USB以及 DOCA 有原始数据里面心基础的系统软件包,Spectrum-4 视为当今上第一个 400Gbps 的末端到末端网络该平台该平台。与典型有原始数据里面心有数毫秒的抖动相比,Spectrum-4 可以充分利用六倍级计时可靠性,即 5 到 6 个总有数级的小型所谓。黄仁勋指出,原型车预计将于第四季度末发布。
说到元星球,则被迫提英伟达 Omniverse Avatar 该平台。在本次 GTC 大大时会,黄仁勋与「自己」(虚拟人)展开了一番对话。
同时,英伟达还期盼 Omniverse 为的服装设计、作者、AI 研究指导工作职员提供帮助,因而上架了 Omniverse Cloud。只用点击几下,其他用户及其协作者可以完成相连。必需 NVIDIA RTX PC、笔记本电脑和多台,的服装设计们可以实时一个通用。即使无法 RTX 有数值机,他们也可以从 GeForce Now 上一键开启 Omniverse。
比如下图里面远程指导工作的几位的服装设计在网络该平台均体时会议里面必需 Omniverse View 来评审计划,他们可以相连彼此,并唤出一个 AI 的服装设计。也即是,他们通过 Omniverse Cloud 协作创造者了一个真实当今。
在这场 GTC 大大时会,黄仁勋敞开了元星球的门上。
持续标示自动驾驶和电动车主
既然AI种系统时会是下一波 AI 新一轮,黄仁勋指出,英伟达于是以在协作多个AI该平台——必需自动驾驶车主的 DRIVE、必需操纵和控制种系统的 ISAAC、必需自行基本型基础的系统的 Metropolis 和必需AI医疗器械的 Holoscan。这里只引介 DRIVE 自动驾驶车主种系统。
AI种系统的指导工作报表很复杂,通常可以简所谓为四个正因如此:收集和生成常量有原始数据、创造者 AI 组件、必需十进制孪生顺利完成建模和操作AI。Omniverse 是整个指导工作报表的核心。
DRIVE 自动驾驶车主种系统事物上是「AI 客货车」。与其他该平台一样,NVIDIA DRIVE 是均栈基本型末端到末端该平台,对微软开放,他们可以必需整个该平台或者其里面一部分。在调试过程里面,英伟达必需 DeepMap HDTV地图等收集和生成常量有原始数据,必需 DGX 上的 NVIDIA AI 来锻炼 AI 组件。Omniverse 里面的 DRIVE Sim 在 OVX 上调试,它归属于十进制孪生。DRIVE AV 是一款调试在车载 Orin 有数值该平台上的自动驾驶应用。
在必需最新版 DRIVE 种系统的仅仅行驶里面,操作员可以开启 DRIVE Pilot 导航,语音输入可执行。努力示例(Confidence View)向车子的人展示车主看到和于是以要要做到的事。AI 助手可以探测到特定的人,多模态 AI 助手可以回答操作员的关键问题,AI 基本功能的士可以检查必需的的士位,环绕示例(Surround View)和极低级可视所谓(Advanced Visualization)方便操作员的士。
所有这一切都离不开英伟达自动驾驶车主硬件结构——Hyperion 8,它也是整个 DRIVE 该平台的协作基础。Hyperion 8 是由多个传感器、网络该平台、4台 Chauffeur AV 有数值机、一台 Concierge AI 有数值机、一个护航黑盒以及(网络该平台)安均种系统组合成。它可以必需 360 度摄像机、低空、激光低空和超声波传感器配件充分利用均自动驾驶,并将分别从 2024 年起在法拉利奔驰车主、2025 年起在标致路虎车主里面配备。
DRIVE Sim 里面协作的 Hyperion 8 传感器可以提供真实当今的示例。
今天,英伟达宣布 Hyperion 9 将从 2026 年起在车主上配备。相对于于前朝,Hyperion 9 将仅有 14 个摄像机、9 个低空、3 个激光低空和 20 个超声传感器。既有而言,它执行的传感器信息量是 Hyperion 8 的两倍。
在电动车主教育领域,英伟达 DRIVE Orin 是理想车主的集里面基本型自动驾驶和 AI 有数值该平台。黄仁勋在大时会宣布,Orin 将于本月贩售。不仅如此,电动汽车也将为 2023 年年初开建的电动车主配备英伟达 DRIVE Orin 种系统。
「Omniverse 在英伟达 AI 和AI教育领域的指导工作里面相当举足轻重,下一波 AI 新一轮需要这样的该平台,」黄仁勋最后说。
参考资料内容:
。沈阳妇科医院排名昆明甲状腺医院
卵巢早衰治疗费用多少
减速电机
青岛牛皮癣医院哪家医院好
胃酸反流怎么办
为什么会胃反酸
益生菌和肠炎宁哪个先吃
胃酸过多吃金奥康奥美拉唑管用吗
胃酸过多吃什么药好
- 《阴阳师百闻牌》开启蜃阁神前活动
- 《暗夜杀机》将与《进击的巨人》联动
- 《游戏王:艺术大师决斗》下载量破4000万 赠送1000宝石
- 《APEX英雄》7月13日的软件更新
- 打通传统与典范,200余件魏杰篆刻作品展现独特艺术面貌
- 全球上每个人都寂寞
- 爱情是灯,友情是随心所欲
- 倘若遇见爱情结束了,你痛苦又不甘心,请记住这三个字
- “儿孙自有儿孙福”,它的下句才是精华,可惜少有人唯!
- 夜雨丨王景云:厚道是一种纯良——读吴丹小说集《人是活的》有感
- 夜雨丨雷学刚:感悟淡定的精神力量
- 北京市民欣赏丰子恺祖孙三代当代艺术作品展览
- 书坛女杰王颖的行草书了得!相结合“二王”风,又有沉着痛快之气
- 杜诗问道 | 寂智
- 没关系你,曾给了我一份感动
- 如果孙悟空一棒打死唐僧,之后会起因什么?
- 爱情从渴望开始,也由绝望结束
- 我的情开始下雪,雪无声地覆盖了所有
- 可世事岂会令人满意
- 职场坑口,不一定都是别人挖的,这三个就是自己连挖带跳的!