NVIDIA于本日宣(xuan)布NVIDIA A100 80GB GPU，這一(yi)(yi)立異(yi)將(jiang)撐持(chi)NVIDIA HGX AI 超等(deng)較量爭論平臺(tai)。該GPU內存比上一(yi)(yi)代提拔一(yi)(yi)倍，能(neng)夠為研究人員和(he)工程師們供應空前(qian)的速度(du)和(he)性能(neng)，助力(li)實現新(xin)一(yi)(yi)輪AI和(he)科(ke)學(xue)技術(shu)打(da)破。

全新A100接納HBM2e手藝，可(ke)將A100 40GB GPU的高帶(dai)寬內(nei)存增加(jia)一(yi)倍(bei)至80GB，給予每秒跨越2TB的內(nei)存帶(dai)寬。這使得數(shu)據(ju)可(ke)以快(kuai)速傳(chuan)輸(shu)到環(huan)球最快(kuai)的數(shu)據(ju)中心GPU A100上，使研究人員(yuan)可(ke)以更快(kuai)地加(jia)快(kuai)其運用(yong)，處置懲罰最大范圍的模子和數(shu)據(ju)集(ji)。

　　NVIDIA使用(yong)深度進(jin)修研討副總裁Bryan Catanzaro暗示：“若(ruo)想取得HPC和AI的(de)最新研討成果，則需求(qiu)構建最大(da)的(de)模(mo)子，而這(zhe)需求(qiu)比以往更大(da)的(de)內(nei)存容(rong)量和更高的(de)帶寬(kuan)。A100 80GB GPU所給予的(de)內(nei)存是六個月前(qian)推(tui)出的(de)前(qian)代產物的(de)兩(liang)倍，突破了每秒2TB的(de)限定，使研討人(ren)員能夠(gou)應對(dui)環球科學及大(da)數據層面最嚴(yan)肅的(de)挑釁。”

　　適用于NVIDIA DGXTM A100 和(he)NVIDIA DGX StationTM A100 體(ti)系的NVIDIA A100 80GB GPU還于本日(ri)宣布，估(gu)計將(jiang)于本季(ji)度發(fa)貨。

　　搶先的體系(xi)供應商源訊、戴(dai)爾高新(xin)科(ke)技(ji)(ji)、富士(shi)通(tong)、技(ji)(ji)嘉高新(xin)科(ke)技(ji)(ji)、慧取、海潮、遐想、云達高新(xin)科(ke)技(ji)(ji)、超(chao)微估(gu)計將(jiang)于2021年(nian)上半(ban)年(nian)，供應基于HGX A100集(ji)成底(di)板(ban)的體系(xi)，該集(ji)成底(di)板(ban)搭載(zai)4-8個A100 80GB GPU。

　　知足大流量(liang)數據事情(qing)負載需(xu)求

　　A100 80GB版(ban)本基于A100 40GB的多樣化功用(yong)，成為須要大(da)批數據存儲空間(jian)的各種使用(yong)的抱負挑選。

　　DLRM等(deng)引薦(jian)(jian)體系(xi)模(mo)子(zi)為AI鍛煉(lian)供應了(le)涵蓋(gai)數(shu)十億用戶和(he)產品信息的(de)海量(liang)表單。A100 80GB可實現高達(da)3倍加快(kuai)(kuai)，使企業能夠從新快(kuai)(kuai)速鍛煉(lian)這(zhe)一些模(mo)子(zi)，進(jin)而供應越發切確的(de)引薦(jian)(jian)。

　　HGX服務(wu)器中(zhong)搭(da)載(zai)的(de)(de)A100 80GB還可鍛煉(lian)具(ju)有更多參(can)數的(de)(de)最大(da)模(mo)子(zi)，如GPT-2。GPT-2是具(ju)有超凡生成文(wen)本才能的(de)(de)自然語言處置模(mo)子(zi)。這就消除對數據或模(mo)子(zi)并行(xing)架(jia)(jia)構(gou)(gou)的(de)(de)需求，由于實現(xian)并行(xing)架(jia)(jia)構(gou)(gou)需求破費大(da)批工夫，并且(qie)跨(kua)多個節點運(yun)轉遲鈍。

　　憑仗其多實(shi)(shi)(shi)(shi)例(li)GPU（MIG）手藝(yi)(yi)，A100可分(fen)割為多達(da)7個(ge)GPU實(shi)(shi)(shi)(shi)例(li)，每一個(ge)實(shi)(shi)(shi)(shi)例(li)具有10GB內存。該手藝(yi)(yi)是一種寧(ning)靜的(de)(de)硬(ying)件(jian)斷絕辦法，正(zheng)在處(chu)置懲罰各種較小(xiao)的(de)(de)事情負載時，可實(shi)(shi)(shi)(shi)現(xian)GPU最好(hao)利(li)用率。關于如(ru)RNN-T等(deng)主(zhu)動言語辨認模子的(de)(de)AI推(tui)理，單(dan)個(ge)A100 80GB MIG實(shi)(shi)(shi)(shi)例(li)可處(chu)置懲罰更大范圍的(de)(de)批量(liang)數據(ju)，將生產中(zhong)的(de)(de)推(tui)理吞吐量(liang)進(jin)步(bu)1.25倍。

　　正(zheng)在(zai)TB級零(ling)售大(da)數據(ju)剖析基準上(shang)，A100 80GB將其性能增加了2倍，使其成為可對最大(da)范圍數據(ju)集舉行快(kuai)速剖析的(de)抱負(fu)平臺。伴隨著數據(ju)的(de)靜態更(geng)新，企業能夠實時做出(chu)環節決(jue)議。

　　關(guan)于(yu)科學(xue)利用，A100 80GB可為天氣預報和量(liang)子化(hua)學(xue)等(deng)行業(ye)供應偉大的(de)加(jia)快。質料摹擬軟件(jian)Quantum Espresso接納(na)單節點A100 80GB實(shi)現了近(jin)2倍的(de)吞吐量(liang)提(ti)拔。

　　RIKEN盤算(suan)科(ke)學中間(jian)負責人(ren)Satoshi Matsuoka透(tou)露表現(xian)：“快速、足夠的(de)(de)(de)內(nei)存(cun)(cun)帶寬和容量對(dui)實現(xian)高性能超等盤算(suan)運用來講至(zhi)關(guan)重要。具有(you)80GB HBM2e GPU內(nei)存(cun)(cun)的(de)(de)(de)NVIDIA A100供應2TB/s的(de)(de)(de)環球最快帶寬，可扶助我(wo)們大幅進(jin)步運用性能。”

　　A100 80GB的要害特征(zheng)

　　A100 80GB具有NVIDIA Ampere架構(gou)突破性特征：

　　●第(di)三代Tensor Core中心：經(jing)(jing)由(you)過程全新TF32，將(jiang)上(shang)一代Volta架構的AI吞吐量進(jin)步多(duo)達20倍(bei)。經(jing)(jing)由(you)過程FP64，將(jiang)HPC性能進(jin)步多(duo)達2.5倍(bei)。經(jing)(jing)由(you)過程 INT8，將(jiang)AI推理(li)性能進(jin)步多(duo)達20倍(bei)，而且撐持BF16數據格式。

　　●更大、更快的HBM2e GPU內(nei)存：使內(nei)存容量增加一(yi)倍，正在(zai)業內(nei)領先實現2TB/s以上的內(nei)存帶寬。

　　●MIG手藝：將單個自(zi)力實例的內存(cun)增加一倍，可最多給予七個MIG，每一個實例具有(you)10GB內存(cun)。

　　●結構(gou)化稀(xi)少：將推理稀(xi)少模子的(de)速度進步(bu)2倍(bei)。

　　●第(di)三(san)代NVLink和NVSwitch，相較于上一代互連技能，可以使(shi)GPU之(zhi)間的帶寬增(zeng)添(tian)至本來(lai)的兩(liang)倍，將數(shu)據密集型事情(qing)負載的GPU數(shu)據傳輸速度進步至每秒600 gigabytes。

　　NVIDIA HGX AI 超等(deng)較量爭論平臺

　　A100 80GB GPU是NVIDIA HGX AI超等盤算(suan)平臺的(de)環節組件。該平臺將NVIDIA GPU、NVIDIA NVLink? 、NVIDIA InfiniBand網絡和(he)全面(mian)優化的(de)NVIDIA AI和(he)HPC軟件倉庫(ku)的(de)所有功效(xiao)整合在一起，以(yi)給予(yu)最(zui)優勝的(de)運用(yong)性(xing)能。該平臺使研究人員和(he)科(ke)學家可(ke)以(yi)將HPC、數(shu)據闡明和(he)深(shen)度進(jin)(jin)修盤算(suan)技術結合起來，配合推(tui)進(jin)(jin)科(ke)學提高(gao)。