飛象網(wǎng)訊（魏德齡/文）總是習慣性晚一步的蘋果，已經(jīng)悄然瞄向了大熱的AI，此前圍繞在iOS18傳聞周圍的關鍵詞正是AI與智慧助手的升級，本周關于這一傳聞有了進一步的指向性內(nèi)容，那就是端側(cè)AI。
蘋果瞄向端側(cè)AI
據(jù)彭博社記者Mark Gurman在一檔節(jié)目中透露，蘋果在iOS18上的首批AI功能將無需依賴云端服務器的算力，可完全在本地運行。
這意味著，蘋果將通過相關框架讓大語言模型得以小型化，通過模型量化技術減小模型大小和提高推理速度，同時實現(xiàn)并發(fā)處理和高效利用設備資源，從而能夠在終端本地安裝并運行。實際上，目前已經(jīng)有相關AI應用發(fā)布于蘋果App Store，并可在終端本地運行16億-70億參數(shù)量不等的大語言模型。
此前，相關消息顯示，iOS 18系統(tǒng)內(nèi)的多個功能，以及相關蘋果生態(tài)下的官方應用，都將因為AI而受益。例如正在的開發(fā)一個集成AI的消息應用功能，能夠更快速恢復短信內(nèi)容。據(jù)福布斯的預測，生成式AI能力還將為蘋果的生產(chǎn)力工具帶來升級，例如Pages、Keynote、Numbers這三大辦公套件，將可獲得一系列新能力。
同時，蘋果還公布了自研的MM1多態(tài)大語言模型(Multimodal LLM)。MM1共分為三個參數(shù)規(guī)模，其中最大的擁有300億參數(shù)。根據(jù)科技博客Daily Dev的評測顯示，MM1在GLUE-Score等多項評測指標上要略優(yōu)于GPT-4V和Gemini Pro。
硬件配置吃得消嗎？
不過，如果將升級的能力全部依托于端側(cè)的話，蘋果手機目前的硬件配置能否吃得消的問題也浮出了水面。當設備運行生成式AI模型的時候，一般會占用一定的RAM空間，同時模型本身也會占據(jù)一定的硬盤空間。
而上述兩項對于蘋果設備來說，顯然是個小痛點。目前iPhone 15 Pro系列的RAM為8GB，iPhone 15系列為6GB，而iPhone 13系列僅為4GB�？紤]到本地運行模型運算是對于RAM的占用，iPhone 15 Pro系列的8GB可能最為適宜，而6GB的iPhone 15系列只能將就。4GB的iPhone 13系列很可能將難以滿足運行需求。
同時，對于一直被網(wǎng)友戲稱為把硬盤空間當金子賣的蘋果來說，一些舊有機型的用戶屆時在實現(xiàn)系統(tǒng)升級，并獲得相關本地生成式AI能力的時候，或?qū)⒚媾R本地存儲空間吃緊的問題。要知道，因為空間不足導致升級系統(tǒng)失敗的案例曾經(jīng)在iPhone 4s時代大規(guī)模出現(xiàn)過。
不過好消息是，大量現(xiàn)役iPhone機型的NPU算力并不成問題，蘋果近年來在每代A系列芯片上的升級重點就在于NPU。例如A17 Pro的NPU在算力上實現(xiàn)了兩倍的提升，相比于提升10%的CPU與提升20%的GPU，可謂是牙膏爆擠。
端側(cè)AI大爆發(fā)的必然
其實，對于習慣性晚一步的蘋果來說，發(fā)力端側(cè)AI更意味著對于該技術方向的肯定。同理在近期，蘋果也放棄了耗時10年的電動車計劃，并同樣把該領域的研究經(jīng)費轉(zhuǎn)向AI領域。
而端側(cè)AI也完全符合蘋果對于安全與隱私上的產(chǎn)品定位，由于端側(cè)AI能夠讓敏感數(shù)據(jù)完全在本地運行，保證了數(shù)據(jù)不會上傳至云端，也就在實現(xiàn)AI能力的同時，保證了隱私。對于依靠云端服務器的AI而言，例如在近期宣布無需注冊就能使用的ChatGPT，如果用戶需要強化保護自身的聊天數(shù)據(jù)，就需要手動在設置中選擇不將聊天記錄用于訓練，但其實很多用戶在日常使用中都會忽略這點。
隨著生成式AI模型的變小，100億及更多參數(shù)的生成式AI模型也即將能夠在終端側(cè)運行。實際上，目前在筆記本設備中，已經(jīng)能夠運行130億參數(shù)的大語言模型，相信在智能手機流暢運行已指日可待。這就意味著，在端側(cè)設備上，同樣可以實現(xiàn)媲美云端服務器的文字生成圖像、對話和NLP、協(xié)作機器人、圖像理解等功能，只要輸入與生成的量級可控，端側(cè)AI同樣能夠帶來令人滿意的表現(xiàn)。
這方面，Android陣營已經(jīng)先行一步。
小米方面曾在去年透露，從2016年開始，小米就開始了對大模型的研究和開發(fā)，今年更是成立了專門的大模型團隊。目前，小米的AI相關團隊已經(jīng)超過3000人。還有報道稱，小米AI大模型的一個13億參數(shù)大模型已經(jīng)成功在手機本地跑通，部分場景可以媲美60億參數(shù)模型在云端運行結(jié)果。
今年MWC巴塞羅那上，高通展出了全球首個運行多模態(tài)大模型（LMM）的手機，支持超過70億參數(shù)大模型，不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入數(shù)據(jù)類型。
榮耀在今年年初發(fā)布了自研端側(cè) 70 億參數(shù)平臺級 AI 大模型“魔法大模型”，并表示現(xiàn)有操作系統(tǒng)都值得用 AI 重做一遍。
vivo的AI藍心大模型也實現(xiàn)了“端側(cè)7B+云側(cè)70B”超大參數(shù)規(guī)模部署，能實現(xiàn)超過700種手機相關功能，為超過2000萬用戶提供超能問答、超能創(chuàng)作、超能搜索、超能管理、超能交互等AI服務。
不過，端側(cè)AI無疑才剛剛上路，至少目前它的很多功能展示更像是手機發(fā)燒友的玩具，然而，隨著習慣性晚一步的蘋果的引入，完全成熟可用的本地生成式AI功能即將到來。2024年，對于端側(cè)AI來說，或許將是從“玩具”到“工具”的關鍵一年。
