自2023年ChatGPT震撼發(fā)布,大模型技術(shù)成企業(yè)競(jìng)爭(zhēng)關(guān)鍵,全球范圍內(nèi)大模型“百花齊放”,據(jù)國家數(shù)據(jù)局統(tǒng)計(jì),當(dāng)前中國10億參數(shù)規(guī)模以上大模型數(shù)量已超100個(gè)。運(yùn)營商作為數(shù)字中國建設(shè)的關(guān)鍵參與者和行業(yè)數(shù)字化轉(zhuǎn)型的先鋒,正全面推進(jìn)AI+戰(zhàn)略,構(gòu)建智慧運(yùn)營體系,以適應(yīng)AI的快速發(fā)展和市場(chǎng)需求的變化,探索新的商業(yè)模式和服務(wù)創(chuàng)新。
2024 MWC上海,浩鯨科技重磅推出“鯨智大模型平臺(tái)”,以“底座+模型+引擎+應(yīng)用”的端到端模型工具及服務(wù),助力運(yùn)營商降低大模型應(yīng)用落地及使用門檻,憑借卓越的產(chǎn)品實(shí)力,該平臺(tái)榮獲《通信產(chǎn)業(yè)報(bào)》2024MWC上!熬庉嬤x擇”獎(jiǎng)。同時(shí),浩鯨科技大模型創(chuàng)新中心總監(jiān)王玉木在MWC主題論壇,就“構(gòu)建人工智能就緒基礎(chǔ)設(shè)施”發(fā)表演講。
運(yùn)營商“AI+”戰(zhàn)略進(jìn)行時(shí),大模型落地遠(yuǎn)不止“最后一公里”
隨著大模型應(yīng)用的不斷涌現(xiàn),進(jìn)一步激發(fā)了對(duì)高價(jià)值數(shù)據(jù)、高性能算力、高精度算法的迫切需求,在運(yùn)營商AI+落地過程中,從算力資源的優(yōu)化到大模型的精準(zhǔn)應(yīng)用,每一環(huán)都考驗(yàn)著運(yùn)營商的智慧與創(chuàng)新能力,大模型落地之路挑戰(zhàn)重重,遠(yuǎn)不止“最后一公里”。
(1) 算力資源的高效利用。智算需求的急速增長(zhǎng)對(duì)算力資源提出了更高的要求,如何在現(xiàn)有異構(gòu)及資源分散基礎(chǔ)上提升資源效用,成為了亟待解決的難題。
(2) 大模型選型與管理。當(dāng)前基座大模型種類繁多也各有所長(zhǎng),如何在眾多模型中兼顧性能、成本與適用性選擇最優(yōu)方案也成為一大挑戰(zhàn)。
(3) 應(yīng)用規(guī)劃與開發(fā)。全鏈路開發(fā)工具、集成化開發(fā)平臺(tái)的缺失,使得模型從開發(fā)、訓(xùn)練、調(diào)優(yōu)到部署迭代的整個(gè)流程效率低。
(4) 業(yè)務(wù)認(rèn)知與應(yīng)用。如何解決大模型普遍存在的幻覺問題,提升其業(yè)務(wù)認(rèn)識(shí)精準(zhǔn)度及業(yè)務(wù)流程的融合度,是運(yùn)營商在大模型應(yīng)用中必須面對(duì)的挑戰(zhàn)。
鯨智大模型平臺(tái),浩鯨科技致力于做大模型價(jià)值使能者
2024 MWC上海,浩鯨科技結(jié)合近20年在云網(wǎng)、大數(shù)據(jù)和AI等方面的探索和實(shí)踐,重磅推出“鯨智大模型平臺(tái)”,圍繞從異構(gòu)GPU集群管理、智能算力調(diào)度與并網(wǎng)優(yōu)化、模型服務(wù)與意圖識(shí)別、數(shù)據(jù)供給與模型納管、插件式的應(yīng)用集成5大方面實(shí)現(xiàn)技術(shù)革新,為運(yùn)營商提供先進(jìn)的生成式AI生產(chǎn)及應(yīng)用全流程工具鏈,致力于成為運(yùn)營商大模型價(jià)值的賦能者。
(1)智算底座:Whale Power兼容國內(nèi)外主流GPU,支持跨越異構(gòu)GPU集群管理能力、跨越異構(gòu)智算集群一體化調(diào)度能力、跨越算力主體的一體化并網(wǎng)能力,幫助企業(yè)高效進(jìn)行算力資源整合與高效利用。
(2) 認(rèn)知增強(qiáng)引擎:Whale Agent依托多種智能體優(yōu)化技術(shù),實(shí)現(xiàn)根據(jù)不同角色、不同業(yè)務(wù)環(huán)境優(yōu)化模型輸入,增強(qiáng)業(yè)務(wù)理解與處理能力,極大提升大模型應(yīng)用準(zhǔn)確性。Whale Knowledge,以知識(shí)圖譜與RAG融合,支持對(duì)大模型輸出進(jìn)行知識(shí)關(guān)系鏈接和召回自動(dòng)擇優(yōu),增強(qiáng)RAG檢索準(zhǔn)確性,為業(yè)務(wù)決策提供更精準(zhǔn)的支持。
(3) 應(yīng)用開發(fā)框架:開箱即用的插件式應(yīng)用開發(fā)框架,通過對(duì)前端交互、智能服務(wù)、智能體各類組件的標(biāo)準(zhǔn)沉淀,實(shí)現(xiàn)大模型應(yīng)用的快速組裝。通過Whale-Copilot統(tǒng)一交互入口,實(shí)現(xiàn)跨系統(tǒng)的鏈?zhǔn)郊,極大降低大模型應(yīng)用開發(fā)成本和落地難度,業(yè)務(wù)人員在原有的系統(tǒng)中可以隨處調(diào)用,0學(xué)習(xí)成本。
(4) “全鏈路”模型工具服務(wù):涵蓋Whale DataShop數(shù)據(jù)供給、Whale Review模型評(píng)測(cè)、Whale AIFatory模型開發(fā)、訓(xùn)練、微調(diào)及模型向量化等全流程,通過編排式生成、一鍵式向?qū)А⒖梢娂纯刹僮鞯哪P凸ぞ叻⻊?wù),提升數(shù)據(jù)供給效率與質(zhì)量,大幅縮短模型接入時(shí)間,提升模型管理的透明度與效率,加速大模型應(yīng)用迭代周期從周到天,助力企業(yè)大幅提高大模型需求響應(yīng)速度、落地效率及靈活性。
在鯨智大模型平臺(tái)全面賦能下,不僅解決算力瓶頸,還提供全方位的模型工具服務(wù)與認(rèn)知增強(qiáng),輔以便捷的應(yīng)用開發(fā)框架,加速AI+落地的同時(shí),推動(dòng)運(yùn)營商在5G、云計(jì)算、物聯(lián)網(wǎng)等領(lǐng)域的創(chuàng)新應(yīng)用,為運(yùn)營商構(gòu)建了堅(jiān)實(shí)的數(shù)智生產(chǎn)力。
深研技術(shù),持續(xù)創(chuàng)新,賦能千行百業(yè)實(shí)現(xiàn)大模型端到端商用
浩鯨科技在深化大模型技術(shù)研發(fā)的同時(shí),不斷深入應(yīng)用場(chǎng)景,落地成果豐富。當(dāng)前,浩鯨科技基于鯨智大模型平臺(tái)圍繞AI+經(jīng)營、AI+服務(wù)、AI+運(yùn)維、AI+行業(yè)等4個(gè)方面構(gòu)建了諸多創(chuàng)新應(yīng)用,覆蓋12大場(chǎng)景,為運(yùn)營商及多行業(yè)提供全方位的智能化解決方案,取得顯著進(jìn)展。全球運(yùn)營商、垂直行業(yè)商用及預(yù)商用案例近60例。
(1) 國內(nèi)運(yùn)營商:涵蓋B、O、M、大數(shù)據(jù)等多域,在專業(yè)問答、運(yùn)維診斷、自主數(shù)據(jù)分析、方案魔方、數(shù)字人客服等場(chǎng)景中應(yīng)用,全力加速運(yùn)營商AI+戰(zhàn)略,實(shí)現(xiàn)智能化轉(zhuǎn)型;
(2) 國際運(yùn)營商:助力印尼等國家落地智慧客服交互,為“一帶一路”共建共贏極助力;
(3) 垂直行業(yè):耕耘電力、政務(wù)等,展示大模型技術(shù)的廣泛應(yīng)用潛力。
此外,在MWC“構(gòu)建人工智能就緒基礎(chǔ)設(shè)施”主題論壇上,浩鯨科技大模型創(chuàng)新中心總監(jiān)王玉木也同時(shí)指出,未來,大模型將成為新基礎(chǔ)設(shè)施的重要組成部分,大模型驅(qū)動(dòng)下將催生出豐富的智慧新場(chǎng)景,推動(dòng)通信、醫(yī)療、教育等人類生產(chǎn)生活多方面的智能化升級(jí),加速AI普惠開放,讓智慧泛在可及。
AI的未來是星辰大海,浩鯨科技正助力全球運(yùn)營商及多行業(yè)客戶在大模型應(yīng)用領(lǐng)域取得突破,加速數(shù)字化轉(zhuǎn)型,實(shí)現(xiàn)業(yè)務(wù)增長(zhǎng)與智能化升級(jí)。通過技術(shù)創(chuàng)新與市場(chǎng)開拓,浩鯨科技正逐步成長(zhǎng)為大模型技術(shù)領(lǐng)域的領(lǐng)軍企業(yè),為數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展貢獻(xiàn)力量。