每日經(jīng)濟新聞 2024-03-20 09:17:29
每經(jīng)編輯 杜宇
據(jù)媒體3月19日報道,英偉達CEO黃仁勛稱英偉達最新的AI芯片Blackwell售價將在3萬美元(約合人民幣22萬元)至4萬美元之間。他估計,英偉達在研發(fā)成本上花費了大約100億美元(約合人民幣720億元)。
圖片來源:CNBC報道截圖
該價格表明,該芯片很可能是訓練和部署ChatGPT等人工智能軟件的熱門芯片,其定價范圍將與其前身H100(即Hopper)相似。
黃仁勛訴CNBC的Kristina Partsinevilos,成本不僅與芯片有關,還與設計數(shù)據(jù)中心和集成到其他公司的數(shù)據(jù)中心有關。
北京時間3月19日凌晨4點,全球市值第三大公司英偉達在美國加州圣何塞舉辦GTC大會正式開幕,經(jīng)典皮衣造型的黃仁勛在會上正式公布了堪稱“核武級”的NVIDIA Blackwell架構(gòu)及其首款芯片B200,這款雙芯片設計,擁有2080億個晶體管。
該芯片預計將在今年晚些時候發(fā)貨。
Blackwell平臺能夠在萬億參數(shù)級的大型語言模型(LLM)上構(gòu)建和運行實時生成式AI,而成本和能耗比前身低25倍。
圖片來源:視頻截圖
據(jù)悉,英偉達稱,Blackwell擁有六項革命性的技術(shù),可以支持多達10萬億參數(shù)的模型進行AI訓練和實時LLM推理:
全球最強大的芯片:Blackwell架構(gòu)GPU由2080億個晶體管組成,采用量身定制的臺積電4納米工藝制造,兩個reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個統(tǒng)一的GPU。
第二代Transformer引擎:結(jié)合了Blackwell Tensor Core技術(shù)和TensorRT-LLM和NeMo Megatron框架中的英偉達先進動態(tài)范圍管理算法,Blackwell將通過新的4位浮點AI支持雙倍的計算和模型大小推理能力。
第五代NVLink:為提高數(shù)萬億參數(shù)和混合專家AI模型的性能,最新一代英偉達NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保最復雜LLM之間多達576個GPU之間的無縫高速通信。
RAS引擎:Blackwell支持的GPU包含一個專用引擎,實現(xiàn)可靠性、可用性和服務性。此外,Blackwell架構(gòu)還增加了芯片級功能,利用基于AI的預防性維護進行診斷和預測可靠性問題。這可以最大限度地延長系統(tǒng)正常運行時間,并提高大部署規(guī)模AI的彈性,使其能連續(xù)運行數(shù)周甚至數(shù)月,并降低運營成本。
安全人工智能:先進的機密計算功能可在不影響性能的情況下保護AI模型和客戶數(shù)據(jù),并支持新的本機接口加密協(xié)議,這對于醫(yī)療保健和金融服務等隱私敏感行業(yè)至關重要。
解壓縮引擎:專用解壓縮引擎支持最新格式,加快數(shù)據(jù)庫查詢,提供數(shù)據(jù)分析和數(shù)據(jù)科學的最高性能。未來幾年,在企業(yè)每年花費數(shù)百億美元的數(shù)據(jù)處理方面,將越來越多地由GPU加速。
圖片來源:視頻截圖
Blackwell GPU體積龐大,將兩個單獨制造的晶粒組合成一個由臺積電制造的芯片。它還將作為一款名為GB200 NVLink 2的整個服務器提供,該服務器結(jié)合了72個Blackwell GPU和其他旨在訓練AI模型的英偉達部件。
亞馬遜、谷歌、微軟和甲骨文將通過云服務提供對GB200的訪問。GB200將兩個B200 Blackwell GPU與一個基于Arm的Grace CPU配對。英偉達表示,亞馬遜網(wǎng)絡服務將構(gòu)建一個包含20000個GB200芯片的服務器集群。
在人工智能(AI)領域開發(fā)者盛會——英偉達2024 GTC 期間,英偉達創(chuàng)始人兼CEO黃仁勛自信地放出豪言,英偉達會在一年可“掘金”幾千億美元的數(shù)據(jù)中心市場搶到更多的“蛋糕”。
黃仁勛告訴與會者,因為英偉達生產(chǎn)的芯片和軟件種類繁多,所以公司處于有利地位,在全球數(shù)據(jù)中心設備的支出中,會有一大部分都來自英偉達的產(chǎn)品。
黃仁勛預計,每年全球?qū)?shù)據(jù)中心設備投入的費用將共計2500億美元,英偉達產(chǎn)品在其中占據(jù)的份額將超過其他芯片生產(chǎn)商。英偉達正致力于開發(fā)軟件,以便各行各業(yè)采用和使用AI技術(shù)。英偉達提供AI模型和其他軟件,然后根據(jù)客戶的算力和運行的芯片數(shù)量向客戶收費。
截至當?shù)貢r間3月19日收盤,英偉達報893.98美元,漲幅1.07%,市值2.2萬億美元。
每日經(jīng)濟新聞綜合公開資料
免責聲明:本文內(nèi)容與數(shù)據(jù)僅供參考,不構(gòu)成投資建議,使用前請核實。據(jù)此操作,風險自擔。
如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán),嚴禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關注每日經(jīng)濟新聞APP