近日,英特爾針對微軟的多個Phi-3家族的開放模型,驗證并優(yōu)化了其跨客戶端、邊緣和數據中心的AI產品組合。Phi-3家族的小型開放模型可在低算力的硬件上運行,且更容易微調以滿足特定的用戶要求,使開發(fā)者能夠輕松構建在本地運行的應用。支持該模型的產品組合包括面向數據中心應用的英特爾®至強®處理器、英特爾® Gaudi AI加速器,以及面向客戶端的英特爾®酷睿™ Ultra處理器和英特爾銳炫™顯卡。
英特爾®酷睿™ Ultra處理器支持Phi-3家族開放模型
“我們?yōu)榭蛻艉烷_發(fā)者提供強大的AI解決方案,這些解決方案采用了業(yè)界最新的AI模型與軟件。英特爾與微軟等AI軟件生態(tài)系統領軍企業(yè)的深入合作,是推動AI無處不在的關鍵。此次,我們非常高興能與微軟攜手,使涵蓋數據中心、邊緣以及客戶端的一系列英特爾硬件產品為多種新的Phi-3模型提供支持!
——Pallavi Mahajan,英特爾公司副總裁兼數據中心與人工智能軟件總經理
重要意義:為了推動AI無處不在,英特爾通過與AI領導者和創(chuàng)新者合作,持續(xù)深耕AI軟件生態(tài)系統。
英特爾與微軟合作,其產品組合在發(fā)布當天即為Phi-3模型提供支持,其中包含英特爾中央處理器 (CPU)、圖形處理單元 (GPU) 和英特爾Gaudi加速器。此外,英特爾與微軟在DeepSpeed中共同設計了一款易用的深度學習優(yōu)化軟件套件——加速器抽象層,并拓展了Hugging Face上Phi-3和其他模型的自動張量并行支持。
Phi-3模型的大小非常適用于設備端推理,并讓在AI PC和邊緣設備上進行微調或定制等輕量級模型開發(fā)成為可能。同時,英特爾客戶端硬件通過全面的軟件框架和工具實現加速,其中包括PyTorch和用于本地研發(fā)的英特爾® PyTorch擴展包,以及用于模型開發(fā)和推理的OpenVINO™工具包。
未來,英特爾將持續(xù)滿足企業(yè)用戶的生成式AI需求,并將繼續(xù)支持和優(yōu)化針對Phi-3及其他行業(yè)領先語言模型的軟件。