11月1日，2023 vivo開發(fā)者大會上，vivo自研通用大模型——藍(lán)心大模型矩陣正式亮相，為廣大用戶和開發(fā)者帶來諸多驚喜。在同日舉行的人工智能會場上，vivo AI團(tuán)隊(duì)圍繞如何構(gòu)建世界領(lǐng)先的藍(lán)心大模型，分享了大模型的研發(fā)過程、安全設(shè)計(jì)、工程實(shí)踐、生態(tài)建設(shè)等主題，用領(lǐng)先的AI技術(shù)，助力廣大開發(fā)者和生態(tài)伙伴抓住產(chǎn)業(yè)趨勢和機(jī)遇，打通商業(yè)閉環(huán)，實(shí)現(xiàn)AI普惠。

vivo藍(lán)心大模型四大優(yōu)勢，引領(lǐng)智能化體驗(yàn)革新

當(dāng)前，vivo已構(gòu)建起完整的大模型矩陣，覆蓋從十億級到千億級不同的參數(shù)規(guī)模，同時(shí)開源了70億參數(shù)大模型。大模型矩陣涵蓋不同的用戶場景，保障以最佳體驗(yàn)為用戶帶來價(jià)值；而開源模型，則助力伙伴以低門檻獲得大模型技術(shù)，推動產(chǎn)業(yè)發(fā)展。

vivo AI 算法負(fù)責(zé)人陳曉昕指出，藍(lán)心大模型具備四大特色：更懂手機(jī)、支持端側(cè)應(yīng)用、安全可控和開放開源。它更深入地掌握手機(jī)的運(yùn)行機(jī)制，能夠直接在手機(jī)端部署，天然支持端側(cè)應(yīng)用，配備完善的安全管理功能，并擁抱開源生態(tài)。

陳曉昕還分享了藍(lán)心大模型的技術(shù)全景圖，即在應(yīng)用層，大模型可以服務(wù)手機(jī)、互聯(lián)網(wǎng)和營銷等領(lǐng)域；在能力層，不斷提升大模型的語言理解、邏輯推理等關(guān)鍵技能；在模型層，持續(xù)優(yōu)化文本大模型，并計(jì)劃推出語音與多模態(tài)大模型。

vivo AI 算法負(fù)責(zé)人 陳曉昕

全鏈路全周期護(hù)航，保障藍(lán)心大模型安全落地

為應(yīng)對AI安全挑戰(zhàn)，vivo打造全新安全能力體系，從數(shù)據(jù)采集、模型訓(xùn)練、內(nèi)容安全、業(yè)務(wù)安全等全鏈路全周期發(fā)力，通過數(shù)據(jù)層面制定詳細(xì)的安全等級劃分，在訓(xùn)練階段持續(xù)調(diào)優(yōu)模型等，護(hù)航藍(lán)心大模型安全落地。

vivo AIGC安全專項(xiàng)組負(fù)責(zé)人李方圓表示，針對手機(jī)終端大模型安全，vivo還打造了行業(yè)首發(fā)的端側(cè)過濾能力，能夠保證用戶隱私文件、隱私照片不上云，在端側(cè)完成審核并返回給用戶，同時(shí)搭建了快速干預(yù)的機(jī)制，通過知識庫內(nèi)容補(bǔ)充彌補(bǔ)大模型的知識的局限性，并以知識注入的方式降低大模型幻覺和不可控性。

vivo AIGC安全專項(xiàng)組負(fù)責(zé)人 李方圓

AI工程體系，為大模型生產(chǎn)落地降本增效

大模型訓(xùn)練難度大、成本高，落地效率低。為此，vivo打造AI工程體系，助力大模型預(yù)訓(xùn)練、微調(diào)和部署降本增效。

據(jù)vivo AI 架構(gòu)專家陳崇沛介紹，AI工程體系支持了從幾億參數(shù)到千億參數(shù)體量的模型，同時(shí)搭建多個平臺：訓(xùn)練平臺支持千卡級別的分布式訓(xùn)練；微調(diào)平臺對指令微調(diào)和強(qiáng)化學(xué)習(xí)有完整支持；部署平臺可以解決推理服務(wù)性能問題；計(jì)算平臺可提供高性能計(jì)算、高性能存儲以及高速網(wǎng)絡(luò)的能力。

陳崇沛同時(shí)分享了藍(lán)心大模型預(yù)訓(xùn)練案例和千億大模型部署案例，并透露，vivo聯(lián)合阿里云搭建了千卡級別的算力集群，于國內(nèi)率先配備了最先進(jìn)的H系列GPU。

vivo AI 架構(gòu)專家 陳崇沛

靈駿智算服務(wù)，讓vivo大模型創(chuàng)新敏穩(wěn)兼顧

大模型的創(chuàng)新和應(yīng)用需要強(qiáng)勁的AI基礎(chǔ)設(shè)施支撐，阿里云機(jī)器學(xué)習(xí)平臺研發(fā)負(fù)責(zé)人譚鋒表示，阿里云人工智能平臺PAI打造靈駿智算服務(wù)，為伙伴提供覆蓋AI端到端的AI基礎(chǔ)設(shè)施，本次PAI聚焦工程化、高性能、穩(wěn)定性等方面打造解決方案，助力vivo大模型業(yè)務(wù)高效穩(wěn)定開展。

PAI為vivo搭建了CPFS分布式文件存儲系統(tǒng)，支持百萬級的IOPS以及存儲容量的在線無縫擴(kuò)容，為訓(xùn)練數(shù)據(jù)、模型文件、模型Checkpoint提供穩(wěn)定可靠的分布式存儲。同時(shí)，PAI可以通過實(shí)時(shí)監(jiān)控訓(xùn)練任務(wù)狀態(tài)，及時(shí)發(fā)現(xiàn)故障并調(diào)度到不同節(jié)點(diǎn)以恢復(fù)作業(yè)，還支持對模型訓(xùn)練任務(wù)step粒度的自動保存，在訓(xùn)練中斷后，實(shí)現(xiàn)進(jìn)度無損秒級恢復(fù)，讓vivo大模型創(chuàng)新敏穩(wěn)兼顧。

阿里云機(jī)器學(xué)習(xí)平臺研發(fā)負(fù)責(zé)人 譚鋒

計(jì)算加速平臺升級，支持大模型端側(cè)化落地

vivo AI長期推進(jìn)端側(cè)化戰(zhàn)略，此次再度升級計(jì)算加速平臺VCAP，支撐大模型端側(cè)化落地。vivo AI 端計(jì)算負(fù)責(zé)人魯晶表示，vivo深度分析大模型特性，全面優(yōu)化算法模型、工具、底層加速框架與kernel層級，設(shè)計(jì)出大模型端側(cè)化整套解決方案。

在算法模型層面，vivo在結(jié)構(gòu)設(shè)計(jì)上選擇更適合端側(cè)加速的子結(jié)構(gòu)設(shè)計(jì)與維度；在工具層面，使用int4做權(quán)重存儲減小模型體積和內(nèi)存占用，并充分利用帶寬達(dá)到極致的性能優(yōu)化；同時(shí)優(yōu)化框架設(shè)計(jì)與底層運(yùn)行時(shí)的極致性能功耗。

目前，vivo藍(lán)心大模型、視覺大模型已成功端側(cè)落地，vivo成為了首家且是獨(dú)家使用自研大模型，實(shí)現(xiàn)手機(jī)端側(cè)大規(guī)模產(chǎn)品落地的手機(jī)廠商。

vivo AI 端計(jì)算負(fù)責(zé)人 魯晶

智能體架構(gòu)，為大語言模型裝上“眼和手”

針對大模型落地挑戰(zhàn)，vivo創(chuàng)新提出智能體架構(gòu)，為大語言模型裝上“眼和手”，進(jìn)一步拓展大模型的應(yīng)用邊界，實(shí)現(xiàn)從對話助手到全能助手的躍遷提升。

vivo AI系統(tǒng)智能負(fù)責(zé)人熊官敬表示，vivo將以藍(lán)心大模型為大腦，通過完整的開放架構(gòu)體系打造，在技能插件化開發(fā)、數(shù)據(jù)感知融通、模型部署層面和開發(fā)者深度合作，共同實(shí)現(xiàn)能說會做、個性懂你、開放共享的全能助手。

熊官敬強(qiáng)調(diào)，具備“自主性”將是對大模型相關(guān)應(yīng)用的核心度量之一。通過系統(tǒng)級豐富的場景感知結(jié)合AI大模型的意圖理解，vivo始終在推動智能體實(shí)現(xiàn)“無需表達(dá)，自然懂你”的主動智能。

vivo AI 系統(tǒng)智能負(fù)責(zé)人 熊官敬

增進(jìn)AI平臺能力，助力開發(fā)者智慧進(jìn)化

長期以來，vivo依托開發(fā)者平臺為開發(fā)者提供豐富能力服務(wù)支持。vivo AI 高級產(chǎn)品經(jīng)理劉詩韻表示，vivo開發(fā)者平臺新增引入藍(lán)心大模型和AIGC繪畫大模型，平臺能力和產(chǎn)品全面升級，助力開發(fā)者高效創(chuàng)新。

其中，藍(lán)心大模型應(yīng)用廣泛，能為學(xué)習(xí)閱讀、辦公創(chuàng)作、生活等場景帶來逾越式的改變；AI繪畫大模型妙筆生畫可以助力開發(fā)者高效制作出高質(zhì)量的設(shè)計(jì)產(chǎn)品；vivo編碼助手則具有代碼生成、代碼糾錯等能力，可以幫助開發(fā)者提升代碼效率和質(zhì)量。

此外，vivo開發(fā)者平臺還新增了圖片超清、去手寫，AI變聲等云端算法能力，以及端側(cè)內(nèi)容檢測、離線翻譯等端側(cè)新技術(shù)，進(jìn)一步為開發(fā)者打造高水準(zhǔn)的服務(wù)支持。

vivo AI 高級產(chǎn)品經(jīng)理 劉詩韻

攜手香港中文大學(xué)，共筑多模態(tài)中文大模型繁榮

從技術(shù)發(fā)展趨勢看，大模型正以“大語言模型”為中心向多模態(tài)拓展，香港中文大學(xué)電子工程系副教授李鴻升指出，其團(tuán)隊(duì)與vivo在多模態(tài)領(lǐng)域展開豐富合作，成功打造和優(yōu)化了多款具有多模態(tài)信號理解和推理能力的多模態(tài)語言大模型，并將對相關(guān)多模態(tài)模型和方案進(jìn)行開源，共同推動國產(chǎn)多模態(tài)中文大模型的持續(xù)發(fā)展。

據(jù)李鴻升介紹，香港中文大學(xué)團(tuán)隊(duì)聯(lián)合vivo研究院打造了ImageBind-LLM大模型，并首次提出面向多種模態(tài)信號理解、推理和回答的統(tǒng)一大模型框架。而針對LLaMA 2中文場景表現(xiàn)不佳的問題，香港中文大學(xué)團(tuán)隊(duì)將vivo自研大模型BlueLM整合到其研發(fā)的LLaMA-Adapter多模態(tài)大模型中，替換原LLaMA 2模型，基于BlueLM的強(qiáng)大能力打造出性能領(lǐng)先行業(yè)的中文多模態(tài)模型。

香港中文大學(xué)電子工程系副教授 李鴻升

未來，vivo將在大模型等前沿技術(shù)領(lǐng)域保持深耕，創(chuàng)新應(yīng)用場景，迭代服務(wù)工具，攜手開發(fā)者及伙伴不斷為用戶創(chuàng)造驚喜，讓AI成為造福社會的力量。

關(guān)鍵詞：