英偉達B200剛發(fā)布Meta...
分類: 最新資訊
短信詞典
編輯 : 短信大全
發(fā)布 : 03-20
閱讀 :241
財聯(lián)社3月20日訊（編輯 劉蕊）在英偉達最新發(fā)布全新一代Blackwell架構(gòu)人工智能GPU芯片B200之后，英偉達的最大客戶之一——Meta就迫不及待地宣布，公司預(yù)計將在今年晚些時候收到Blackwell新品，并將其快速將其應(yīng)用于訓(xùn)練公司的最新人工智能模型Llama。周二晚些時候，英偉達高管也對外透露，這一產(chǎn)品預(yù)計將在今年晚些時候首批交付，售價預(yù)計在3萬至4萬之間。Meta：將使用B200訓(xùn)練AI模型美東時間周一，英偉達在每年一度的GTC 2024大會上上宣布了全新一代Blackwell架構(gòu)人工智能GPU芯片——B200。據(jù)英偉達CEO黃仁勛介紹，B200芯片集成有2080億個晶體管，是上一代芯片800億個晶體管的2.6倍，在處理給聊天機器人提供答案等任務(wù)時，B200芯片的速度比上一代芯片快30倍。隨后，F(xiàn)acebook母公司Meta平臺的一位發(fā)言人便表示，該公司預(yù)計將在今年晚些時候收到首批英偉達的Blackwell新品。社交媒體巨頭Meta是英偉達最大的客戶之一，此前該公司已經(jīng)購買了數(shù)十萬顆英偉達上一代芯片H100，以支持其升級內(nèi)容推薦系統(tǒng)和生成式人工智能產(chǎn)品。今年1月，Meta首席執(zhí)行官馬克·扎克伯格曾透露，該公司計劃在今年年底前儲備約35萬枚H100芯片。他補充說，與其他GPU相結(jié)合，到那時Meta將擁有相當于大約60萬個H100的處理器。美東時間周一，在英偉達發(fā)布B200芯片后，扎克伯格發(fā)布聲明稱，Meta計劃使用Blackwell產(chǎn)品來訓(xùn)練該公司的Llama模型。Meta上周宣布，它擁有兩個“數(shù)據(jù)中心級”的GPU集群，據(jù)稱每個集群包含約24000個H100 GPU，Meta目前正在這兩個GPU集群上訓(xùn)練第三代AI模型。Meta發(fā)言人表示，Meta計劃繼續(xù)使用這些集群來訓(xùn)練Llama 3，并將在未來幾代AI模型的訓(xùn)練中使用Blackwell產(chǎn)品。英偉達B200預(yù)計年內(nèi)發(fā)貨 定價3萬至4萬美元美東時間周二，英偉達首席財務(wù)官科萊特·克雷斯（Colette Kress）對投資者透露：“我們認為我們將在今年晚些時候首批交付”，但也表示，要等到2025年才會大批量供應(yīng)。此外，英偉達CEO黃仁勛也在周二向媒體透露，Blackwell新品的售價將在3萬美元至4萬美元之間。他預(yù)計，英偉達在研發(fā)成本上花費了大約100億美元。這意味著B200等新品可能將大受歡迎，因為其前代產(chǎn)品H100的定價約在2.5萬-4萬美元之間，而新產(chǎn)品的性能遠超前代。黃仁勛昨日在GTC會議發(fā)表演講時舉例稱，如果要訓(xùn)練一個1.8萬億參數(shù)量的GPT模型，需要8000張Hopper GPU，消耗15兆瓦的電力，連續(xù)跑上90天。但如果使用GB200 Blackwell GPU，只需要2000張，同樣跑90天只消耗四分之一的電力。不只是訓(xùn)練，生成Token的成本也會隨之顯著降低。