新聞重點:
· Arm 全面設(shè)計 (Arm Total Design) 生態(tài)項目推出一年來,成員規(guī)模翻倍,推動了全球芯片創(chuàng)新
· Arm、三星晶圓代工廠 (Samsung Foundry) 、ADTechnology 和 Rebellions 合作開發(fā)基于 Neoverse CSS V3 的 AI CPU 芯粒 (chiplet) 平臺,應(yīng)用于云、高性能計算 (HPC) 以及人工智能/機器學(xué)習(xí) (AI/ML) 訓(xùn)練和推理
· 安國國際科技 (Alcor Micro) 和 Alphawave 推出基于臺積公司工藝的全新芯粒,用于打造可持續(xù) AI 數(shù)據(jù)中心
近日,Arm 控股有限公司 (納斯達克股票代碼:ARM,以下簡稱 Arm) 分享了 Arm 全面設(shè)計生態(tài)項目推出一周年后的最新動態(tài):參與企業(yè)已迅速擴展到近30 家,涵蓋了從 IC 設(shè)計到晶圓代工服務(wù)等各項專業(yè)能力,最新加入的企業(yè)包括安國國際科技、神盾公司 (Egis)、熵碼科技 (PUFsecurity) 和 SEMIFIVE。此外,通過該生態(tài)項目,Arm、三星晶圓代工廠、ADTechnology 和 Rebellions 正在聯(lián)手向市場推出 AI CPU 芯粒平臺,面向云、HPC 以及 AI/ML 訓(xùn)練和推理工作負載。
Arm基礎(chǔ)設(shè)施事業(yè)部營銷副總裁 Eddie Ramirez 表示:“隨著 AI 算力需求的增長,確保開發(fā)者以高性能、低功耗且易用的方式,在全球應(yīng)用最普及的計算平臺上輕松運行創(chuàng)新成果至關(guān)重要。Arm 計算子系統(tǒng) (CSS) 和 Arm 全面設(shè)計正助力軟硬件的快速進步,推動 AI 開發(fā)。我們已邁入工程創(chuàng)意發(fā)展的時代,Arm 正提供必要的工具和技術(shù),以推動 AI 和芯片領(lǐng)域的創(chuàng)新。”
全新Arm 架構(gòu)解決方案推動 AI 數(shù)據(jù)中心的可持續(xù)發(fā)展
Arm 全面設(shè)計帶動了全球合作,促成了多個以 CSS 為核心的生成式 AI 計算解決方案誕生。其中一個絕佳的例子是由 Arm、三星晶圓代工廠、ADTechnology 和 Rebellions聯(lián)合推出的 AI CPU 芯粒平臺。該平臺專門針對云、HPC 以及 AI/ML 訓(xùn)練和推理工作負載,結(jié)合了Rebellions的 REBEL AI 加速器和搭載 Neoverse CSS V3 的 ADTechnology 計算芯粒,并采用三星晶圓代工廠 2nm 全環(huán)繞柵極 (GAA) 先進工藝技術(shù),帶來出色的性能和能效,預(yù)計可為生成式 AI 工作負載(Llama3.1 405B 參數(shù) LLM)帶來2-3倍的能效優(yōu)勢。
三星電子副總裁兼代工業(yè)務(wù)開發(fā)負責(zé)人 Taejoong Song 表示:“AI 和 HPC 設(shè)計需要采用具有最高性能、高晶體管密度和高能效的技術(shù)解決方案。三星晶圓代工廠的 2nm GAA 工藝專為滿足嚴格的 HPC 和 AI 設(shè)計要求而設(shè)計,我們很高興能夠利用 Arm CSS 的靈活性和 Arm 全面設(shè)計的優(yōu)勢來打造 AI CPU 芯粒平臺,進一步推動超大規(guī)模企業(yè)和云服務(wù)提供商采用我們的尖端技術(shù)和設(shè)計解決方案。”
這個合作范例充分體現(xiàn)了 Arm 全面設(shè)計和基于標準計算子系統(tǒng)在加速 AI 芯片開發(fā)方面的獨特價值。通過集成 Arm 優(yōu)化的 EDA 工具、全球設(shè)計專業(yè)知識和晶圓代工服務(wù)合作關(guān)系,Arm為 AI 加速器設(shè)計人員簡化了集成流程。隨著 AI 工作負載的快速演進,緊密耦合 CPU 計算對于支持完整的 AI 堆棧至關(guān)重要。數(shù)據(jù)預(yù)處理、編排、數(shù)據(jù)庫增強技術(shù)(例如檢索增強生成 (RAG)) 等都能受益于 Arm Neoverse CPU 的性能效率。Arm 已經(jīng)在 CSS 中融入了對這些要求的支持, 并通過Arm 全面設(shè)計生態(tài)項目從中受益。
專為 AI 基礎(chǔ)設(shè)施打造的新標準
CSS 和 Arm 全面設(shè)計正在幫助打造可持續(xù) AI 數(shù)據(jù)中心的硬件基礎(chǔ)。Arm 全面設(shè)計已經(jīng)在加速開發(fā)基于 Arm 架構(gòu)的測試芯片以及由 Neoverse N 系列或 V 系列 CSS 驅(qū)動的芯粒產(chǎn)品。通過提供優(yōu)先獲取最新 CSS 的廣泛途徑,我們降低了行業(yè)準入門檻,打造了從云端到邊緣的多樣化芯粒解決方案,并加速了開發(fā)速度。
近日,Alcor Micro 宣布他們正在構(gòu)建由 CSS 驅(qū)動的芯粒,針對 AI/ML 訓(xùn)練和推理用例。Alphawave 近期也宣布推出基于 CSS 的先進計算芯粒,面向 AI/ML、HPC、數(shù)據(jù)中心和 5G/6G 應(yīng)用。這些基于 Arm 架構(gòu)的芯粒充分展現(xiàn)了 Arm 生態(tài)系統(tǒng)獨有的多樣性、靈活性和全球化。
此外,Arm 全面設(shè)計合作伙伴(包括 Alphawave、Cadence 和 proteanTecs 等)正通過 CSS 在先進節(jié)點上驗證第三方 IP 產(chǎn)品,以確保其符合 Arm 規(guī)范和標準。這意味著合作伙伴可以在先進節(jié)點上構(gòu)建基于 CSS 的定制芯片,并獲得無縫的開箱即用的軟件體驗。
這種軟件就緒程度始終是釋放 AI 潛力的關(guān)鍵。30 多年來,Arm 不斷進行資源投入,以確保在 Arm 平臺上運行的軟件“開機即用”。如今,所有主流框架和操作系統(tǒng)均在 Arm 架構(gòu)上運行。對于 Arm 全面設(shè)計生態(tài)項目而言,這意味著 Arm 合作伙伴推向市場的多樣化芯片解決方案,都能充分利用同樣充滿活力且高度整合的軟件生態(tài)系統(tǒng)。這項持續(xù)投入的最新成果之一是 Arm Kleidi 技術(shù)的推出,該項技術(shù)被集成到 PyTorch 和 Llama.cpp 等開源項目,優(yōu)化了 Arm 平臺上的 CPU 推理。這對于Arm 全面設(shè)計合作伙伴來說尤為重要,他們無需依賴專用的加速器,即可通過 CSS為邊緣 AI 計算打造芯粒。