2023年2月28日，世界移動通信大會(MWC 2023)期間，中國電信&華為2023云網(wǎng)核心能力創(chuàng)新成果全球發(fā)布會上，中國電信攜手華為發(fā)布星河AI統(tǒng)一推理框架。
星河AI統(tǒng)一推理框架，專注AI算法開發(fā)和性能提升，實現(xiàn)底層異構(gòu)算力協(xié)同，帶來效率和性能大幅提升。
隨著人工智能產(chǎn)業(yè)不斷發(fā)展壯大，多樣化算力需求場景不斷涌現(xiàn)，AI在行業(yè)逐步滲透，AI處理器層出不窮，包括擅長圖形運算的GPU、專注于更高效人工智能神經(jīng)網(wǎng)絡(luò)處理的NPU等。實際業(yè)務(wù)應(yīng)用過程中，底層的AI異構(gòu)計算平臺多，API接口不統(tǒng)一，呈現(xiàn)煙囪式的應(yīng)用開發(fā)，導(dǎo)致AI應(yīng)用開發(fā)門檻高、代碼維護成本高。
中國電信科技創(chuàng)新部副總經(jīng)理 羅銳
“通過星河AI統(tǒng)一推理框架，根據(jù)不同硬件底層接口，向上將推理業(yè)務(wù)流抽象封裝出業(yè)務(wù)功能模塊接口，開發(fā)者只需要關(guān)注業(yè)務(wù)邏輯，無需關(guān)注底層硬件接口。”中國電信科技創(chuàng)新部副總經(jīng)理羅銳在發(fā)布會上這樣說到。
中國電信數(shù)字智能科技分公司AI研發(fā)中心高性能計算技術(shù)總監(jiān) 朱慶軍
從底層技術(shù)實現(xiàn)維度，中國電信數(shù)字智能科技分公司AI研發(fā)中心高性能計算技術(shù)總監(jiān)朱慶軍給出專業(yè)的答復(fù)：“星河AI統(tǒng)一推理框架致力于提升AI開發(fā)效率及性能提升，上層基于電信AI業(yè)務(wù)場景開發(fā)的技術(shù)沉淀，下層依托昇騰推理開發(fā)使能套件，快速實現(xiàn)AI應(yīng)用開發(fā)，支持云邊協(xié)同，業(yè)務(wù)部署達成小時級一鍵部署“。當(dāng)前基于該平臺已完成90%以上自研CV應(yīng)用的開發(fā)，超過1000+AI算法完成適配遷移，助力500多個產(chǎn)業(yè)數(shù)字化項目落地。
在AI開發(fā)過程中，通過軟硬件協(xié)同優(yōu)化提升整體業(yè)務(wù)流性能。主要包括基于昇騰的視圖解析硬件加速方案、模型算子加速庫等，結(jié)合電信在業(yè)務(wù)流的優(yōu)化處理方案，端到端提升AI應(yīng)用性能。其中，CV類業(yè)務(wù)流性能提升約1.4~2倍，單純視頻解碼場景性能提升2~3倍，圖片解碼場景性能提升1.5~2倍。
在實際應(yīng)用中，通過星河AI統(tǒng)一推理框架，上層AI應(yīng)用一處開發(fā)，云邊多硬件平臺部署，通過統(tǒng)一業(yè)務(wù)層接口，快速匯聚AI生態(tài)，推動多場景方案落地。
為應(yīng)對AI長尾場景，中國電信聯(lián)合華為及業(yè)界伙伴，依托星河AI統(tǒng)一推理框架，發(fā)揮中國電信算網(wǎng)資源優(yōu)勢，協(xié)同昇騰AI生態(tài)成果，快速孵化更多場景方案，吸引更多伙伴入駐，構(gòu)筑面向未來自演進的電信AI生態(tài)。當(dāng)前已有100+個生態(tài)伙伴，5000+算法，聯(lián)合孵化出智慧城市、社會治理、明廚亮灶等10+場景化綜合信息解決方案，支撐500多個產(chǎn)業(yè)數(shù)字化項目落地。
面向未來，依托星河AI統(tǒng)一推理框架，中國電信攜手華為及業(yè)界伙伴，將持續(xù)豐富AI生態(tài)體系，不斷升級星河AI能力，共同為千行百業(yè)提供融云、安全、AI等的數(shù)字化產(chǎn)品和服務(wù)。
