您的位置:首页 > 新技术 >

Avida GPU历史上最伟大的性能飞跃!加速计算更加普遍!

2020-05-15 09:21:00 来源:电子说

由于疫情,英伟达的GTC(图形处理器技术会议)今年在网上举行,日期从3月下旬推迟到5月中旬。因此,北京时间5月14日晚,亲和派创始人兼首席执行官黄仁勋迎来了人生中的第一个“厨房主题”。嗯,也许这个也可以命名为《疫情当前,GPU大佬厨房带货忙》。

当然,已故的GTC并不令人失望。硬碟包括:世界上最大的7纳米处理器A100图形处理器,最新的可用于对抗COVID-19的人工智能系统DGX A100,以及自收购Mellanox以来的第一个成就——智能网卡。这些创新直接证明了GPU霸主对未来数据中心的理解,以及他坚定捍卫现有地位的决心。同时,在边缘市场、自动驾驶、医疗、人工智能机器人和对话人工智能等领域也有无限的扩张。

第八代GPU A100成全球最大7nm处理器,堪称英伟达史上最大性能飞跃

在过去的一年里,Avida的第八代图形处理器在业界引起了很多猜测。正如他之前所说,“你不会失望的,”这款基于英伟达安培架构的英伟达A100将人工智能训练和推理性能提高了20倍,这可以说是英伟达图形处理器迄今为止最大的性能飞跃。作为通用工作负载加速器,A100还设计用于数据分析、科学计算和云图形。

云计算和人工智能的强劲趋势正在推动数据中心设计的结构性变化。高效的加速计算基础设施正在取代传统的服务器架构。黄仁勋对A100 GPU寄予厚望,称其“作为端到端的机器学习加速器,有史以来第一次在平台上实现横向扩展和纵向扩展负载的加速”。在提高吞吐量的同时,它可以降低数据中心的成本。”

A100 GPU的突破来源于五大关键性创新:

NVIDIA Ampere架构:是A100的核心。该架构包含超过540亿个晶体管,使其成为世界上最大的7纳米处理器。

http://www . sogo.com:张量核心已被Avida广泛采用,现在更加灵活和易于使用,以FP32的精度将人工智能性能提高了20倍。此外,张量核心现在支持FP64精度,为高性能计算应用提供的计算能力是前几代的2.5倍。

MIG是一种全新的技术功能,它可以将一个A100图形处理器分成七个独立的图形处理器,为不同规模的工作提供不同的计算能力,最大限度地提高利用率和效率。

具有TF32的第三代TensorCore核心:将GPU之间的高速连接加倍,实现服务器的高效扩展。

这种新的高效技术利用人工智能数学固有的稀疏性将性能提高一倍。

凭借这些新功能,A100可成为人工智能培训和推理以及各种高要求工作负载的理想选择,如科学模拟、对话式人工智能、推荐系统、基因组学、高性能数据分析、地震建模和财务预测。

据了解,A100已经完全投入生产,并交付给世界各地的客户。许多全球云服务提供商和系统构建商计划将A100图形处理器集成到他们的产品中,包括阿里云、AWS、百度智能云、思科、戴尔技术、富士通、谷歌云、新华三代、HPE、浪潮、联想、微软Azure、甲骨文、滕循云等。

新系统已搭载A100,首批订单用于对抗COVID-19

还发布了英伟达DGX A100系统,该系统有八个通过NVLink互连的A100图形处理器,人工智能性能为5路触发器。借助AI00的多实例GPU功能,每个DGX A100可分为56个实例,以加快多个小型工作负载的处理速度。通过这些功能,用户可以在完全集成的软件定义平台上根据自己的需求优化计算能力和资源,从而加快数据分析、培训、推理和其他工作负载。

对于端到端的机器学习工作流,从数据分析到训练,再到通过推理构建的人工智能系统,DGX A100提供的性能可以帮助机器学习工程师处理指数级增长的人工智能模型和数据。

据了解,许多大型全球企业、服务提供商和政府机构已经订购了前几批DGX A100。第一批系统于本月早些时候交付给美国能源部阿尔贡国家实验室,该实验室将利用该集群的人工智能和计算能力来更好地研究和响应COVID-19。

Argonne国家实验室计算机、环境和生命科学实验室副主任Rick Stevens表示,新型dgx100提供的计算能力将有助于研究人员探索治疗方法、开发疫苗和研究病毒传播,这样科学家就可以使用人工智能加快工作速度,并在数月甚至数天内完成数年前的工作。

英伟达还展示了一台由140个DGX A100系统组成的DGX超级人工智能超级计算机,用于公司间对话人工智能、基因组学和自动驾驶等领域的研究。该集群是世界上速度最快的人工智能超级计算机之一。它的性能相当于数千台以前的服务器,它的人工智能计算能力高达700千兆次。

面向新一代数据中心的安全加速智能网卡

根据市场研究机构戴尔奥罗的数据,预计到2024年,智能网卡的市场规模将超过6亿美元,占全球以太网适配器市场的23%。总体控制器和适配器市场将以7%的复合年增长率增长,25Gbps和100Gbps的销售额是主要的增长驱动力。

很明显,英伟达很久以来就看到了这个巨大的机遇。自收购Mellanox以来的第一个版本是25G智能网卡。据了解,新发布的ConnectX-6 Lx SmartNIC是一款经济高效、加速且安全的智能网卡,适用于新一代解耦和可重新配置的数据中心。这是第11代ConnectX系列网卡。

该产品旨在满足现代数据中心的需求。在这个市场上,25Gb/s网络已经成为各种主流应用的标准,例如企业应用、人工智能和实时分析。这款新的智能网卡充分利用软件定义和硬件加速等先进技术,将更多的安全性和网络处理工作从中央处理器转移到网卡。

就在今年3月,赛林推出了集成式智能网卡Alveo U25,它将智能网卡平台与现场可编程门阵列引擎相结合,实现完全可编程和一站式加速应用。赛勒斯产品的卖点之一是集成了网络、存储和计算加速能力。

然而,Avida的ConnectX-6 Lx更强调安全加速。包括IPsec在线加密和硬件信任根,连接跟踪功能,可提高10倍的性能等。从而实现整个数据中心的零信任安全性。RoCE(RDMA融合以太网)技术、虚拟化和集装箱化技术以及NVMe光纤存储卸载技术都已成为高性能可扩展网络的保证。

智能网卡正在成为下一个加速计算的竞争场所。巨大的边际计算市场自然是英伟达关注的焦点。

此次发布的两个EGX边缘人工智能平台产品是:用于大型商用通用服务器的EGX A100聚合加速器和用于微边缘服务器的微EGX捷信Xavier NX。这两种产品可以在边缘提供安全和高性能的人工智能处理能力。

EGX A100是第一款基于英伟达安培架构的边缘人工智能产品。它将NVIDIA安培体系结构的突破性计算性能与ConnectX-6 Dx智能网卡的网络加速和关键安全功能结合在一起,并且可以将标准和专用的边缘服务器转变为安全的云本机人工智能超级计算机。随着人工智能越来越走向边缘,企业组织可以将EGX A100添加到其服务器中,以实时处理和保护来自边缘传感器的海量流数据。

EGX Jetson Xavier NX号称是世界上最小、最强大的人工智能超级计算机,适用于微型服务器和边缘智能物联网设备。目前,生态圈的合作伙伴已经提供了20多个解决方案。该产品将NVIDIA Xavier SoC的性能集成到信用卡大小模块中。运行EGX云本地软件堆栈的EGX Jetson Xavier NX可以快速处理来自多个高分辨率传感器的流数据。

这两种产品可以满足不同的尺寸、成本和性能要求。例如,一台配备了EGX A100的服务器可以管理机场中的数百台摄像机,而EGX Jetson Xavier NX可以用于管理便利店中的少量摄像机。然而,云本地技术支持可以确保整个EGX产品系列可以使用相同的优化人工智能软件来构建和部署人工智能应用程序。

黄仁勋说:“物联网和人工智能的结合引发了“万物智能”的革命。正如手机行业通过智能手机为用户提供智能服务一样,大型行业现在也可以为用户提供智能互联产品和服务。EGX边缘人工智能平台可以将标准服务器转变成一个基于云的安全的小型人工智能数据中心。借助我们的人工智能应用框架,企业可以构建从智能零售到机器人工厂到自动呼叫中心的人工智能服务。”1

云原生技术支持的EGX边缘AI平台

因维达1999年发明的图形处理器刺激了个人电脑游戏市场的增长,重新定义了现代计算机显卡,并创新了并行计算。加速计算快速发展的25年也是计算架构、计算系统和软件堆栈快速发展的25年。

以GPU为代表的技术深入学习点燃了——现代人工智能的新计算时代,也带动了CUDA软件生态的繁荣和开发者数量的快速增长。

世界总是在前进,科学技术也在不断创新。然而,技术总是旨在让生活变得更好,正如黄仁勋在今年的主题演讲中第一次向在疫情期间保住工作的普通人致敬一样,这是普通人背后的巨大能量。黄仁勋仍在探索GPU背后的强大潜力。

这篇文章最初是由电子发烧友网站创建的,未经授权不得转载。如需重印,请添加微信号elecfans999。

栏目导读

无人车“入春”,批量上路仍需“爬坡”

  防控疫情的需求激发之下,代替人类送药、送餐送菜、消毒巡逻的无人车成了疫情期间的特殊尖兵。疫情过后,无人车配送是否...

2020-03-23 17:12

5G、AI、大数据的发展,对智慧城市会有什么影响

市场分调研机构Omdia的最新数据分析显示,全球智能城市人工智能(AI)软件市场将从6 738亿美元(2019年),在2025年将增长到4...

2020-04-07 17:55

机器人制造过程中的传感器技术之磁光效应传感器

现代电测技术日趋成熟,由于具有精度高、便于微机相连实现自动实时处理等优点,已经广泛应用在电气量和非电气量的测量中。

2020-04-07 17:56

微软不需要快速拥抱VR

微软经常在游戏领域开辟路径,扮演开拓者的角色,这一点体现在很多方面,包括微软的尖端技术(DX12终极版 DX光追),硬件(X...

2020-04-07 17:57

波音Starliner载人航天器再次展开测试

去年 12 月,波音为美国宇航局发射了未载人的 Starliner 航天器。然而由于技术问题,任务并没有按计划进行。作为 NASA ...

2020-04-07 17:58