馬斯克已經(jīng)宣布其人工智能初創(chuàng)公司 xAI 的大語言模型 Grok-2 將于 8 月推出,將帶來更先進(jìn)的 AI 功能。雖然 Grok-2 還沒亮相,但馬斯克已經(jīng)開始為其 Grok-3 進(jìn)行造勢。
馬斯克表示,訓(xùn)練 AI 聊天機(jī)器人需要數(shù)據(jù)集,而且從現(xiàn)有數(shù)據(jù)中清除大型語言模型 (LMM) 的工作量很大。他還談到了 OpenAI 模型輸出訓(xùn)練的幾個問題。
他透露 xAI 的 Grok-3 用了 10 萬塊英偉達(dá) H100 芯片進(jìn)行訓(xùn)練,預(yù)計將于年底發(fā)布,相信它會“非常特別”。
H100 是英偉達(dá)開發(fā)的專門用于處理大語言模型(LLMs)數(shù)據(jù)的 AI 芯片。每塊英偉達(dá) H100 人工智能芯片的價格估計在 3-4 萬美元(當(dāng)前約 21.9 - 29.2 萬元人民幣)左右,批量購買的話可能會有折扣。
我們簡單計算可知,xAI 這里的 10 萬塊英偉達(dá) H100 價值 30-40 億美元(IT之家備注:當(dāng)前約 218.68 - 291.57 億元人民幣)。馬斯克之前曾提到特斯拉今年從英偉達(dá)的采購額估計將在 30-40 億美元之間,合理推測 xAI 這里用的是特斯拉購買的英偉達(dá)芯片進(jìn)行訓(xùn)練。