“華為的大模型不作詩(shī)，只做事”，華為常務(wù)董事、華為云CEO張平安在2023年華為開發(fā)者大會(huì)上直言。
【資料圖】
7月7日，在華為開發(fā)者大會(huì)上，華為正式發(fā)布盤古大模型3.0。與此前發(fā)布的大模型不同，盤古大模型“不為聊天而生”，專注于包括礦山、氣象、金融等不同場(chǎng)景、不同行業(yè)多樣化需求。用張平安的話說就是“我們從來不會(huì)將盤古大模型對(duì)標(biāo)ChatGPT”。
今年上半年，國(guó)內(nèi)大模型如雨后春筍般出現(xiàn)，令國(guó)內(nèi)AI算力需求陡增在。此次發(fā)布的盤古大模型另一大看點(diǎn)在于底層基于華為昇騰AI算力集群，按照華為方面設(shè)想，相較于火遍全球的GPU架構(gòu)，昇騰AI算力集群希望成為國(guó)內(nèi)AI算力另一極。
不作詩(shī)、只做事
“今年上半年，光國(guó)內(nèi)就發(fā)布了86個(gè)大模型，這些大模型都有很強(qiáng)對(duì)話能力，市場(chǎng)也在疑惑，華為的大模型在哪里？”張平安在開發(fā)者大會(huì)上表達(dá)出業(yè)內(nèi)對(duì)于華為的疑惑。在這一背景下，華為盤古大模型“千呼萬喚始出來”。只不過，按照華為給予的定位，與其他大模型不同，盤古大模型“不作詩(shī)，只做事”。
實(shí)際上，華為在2021年就立項(xiàng)盤古大模型，目前在CV大模型、NLP大模型、科學(xué)計(jì)算大模型等領(lǐng)域都有技術(shù)和落地案例。在此次開發(fā)者大會(huì)上，華為正式發(fā)布盤古大模型3.0。
據(jù)介紹，本次大會(huì)發(fā)布的盤古大模型3.0是一個(gè)面向行業(yè)的大模型系列，包括“5+N+X”三層架構(gòu)。
其中L0層包括自然語言、視覺、多模態(tài)、預(yù)測(cè)、科學(xué)計(jì)算五個(gè)基礎(chǔ)大模型，提供滿足行業(yè)場(chǎng)景中的多種技能需求，另外華為方面提供100億參數(shù)、380億參數(shù)、710參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型，匹配客戶不同場(chǎng)景、不同時(shí)延、不同響應(yīng)速度的行業(yè)多樣化需求。
同時(shí)，盤古大模型提供全新能力集，包括NLP大模型的知識(shí)問答、文案生成、代碼生成，以及多模態(tài)大模型的圖像生成、圖像理解等能力。
在L1層，是N個(gè)行業(yè)大模型，華為云既可以提供使用行業(yè)公開數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型，包括政務(wù)，金融，制造，礦山，氣象等大模型；也可以基于行業(yè)客戶的自有數(shù)據(jù)，在盤古大模型的L0和L1層上，為客戶訓(xùn)練自己的專有大模型。
張平安在會(huì)上提及，L0和L1未來將會(huì)是盤古大模型規(guī)劃重點(diǎn)。而L2層則是提供更多細(xì)化場(chǎng)景的模型，更加專注于政務(wù)熱線、網(wǎng)點(diǎn)助手、先導(dǎo)藥物篩選、傳送帶異物檢測(cè)、臺(tái)風(fēng)路徑預(yù)測(cè)等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場(chǎng)景。
不為聊天而生
“盤古大模型出生就不是為聊天而生，我們也從來沒有想過對(duì)標(biāo)ChatGPT，這是與其他大模型最大的不同，”張平安對(duì)記者表示。
那么，盤古大模型究竟能用于什么場(chǎng)景？華為在開發(fā)者大會(huì)上舉例介紹，在煤礦領(lǐng)域，盤古礦山大模型已經(jīng)在全國(guó)8個(gè)礦井規(guī)模使用，一個(gè)大模型可以覆蓋煤礦的采、掘、機(jī)、運(yùn)、通、洗選等業(yè)務(wù)流程下的1000多個(gè)細(xì)分場(chǎng)景，讓更多的煤礦工人能夠在地面上作業(yè)，極大地減少安全事故。
在鐵路領(lǐng)域，盤古鐵路大模型能精準(zhǔn)識(shí)別現(xiàn)網(wǎng)運(yùn)行的67種貨車、430多種故障，無故障圖片篩除率高達(dá)95%，將列檢員從每日數(shù)百萬張的“圖?！睓z測(cè)中解放出來。
在氣象領(lǐng)域，盤古氣象大模型是首個(gè)精度超過傳統(tǒng)數(shù)值預(yù)報(bào)方法的AI預(yù)測(cè)模型，同時(shí)預(yù)測(cè)速度也有大幅提升。原來預(yù)測(cè)一個(gè)臺(tái)風(fēng)未來10天的路徑，需要在3000臺(tái)服務(wù)器的高性能計(jì)算機(jī)集群上花費(fèi)5小時(shí)進(jìn)行仿真。現(xiàn)在基于預(yù)訓(xùn)練的盤古氣象大模型，通過AI推理的方式，研究者只需單臺(tái)服務(wù)器上單卡配置，10秒內(nèi)就可以獲得更精確的預(yù)測(cè)結(jié)果。
在制造領(lǐng)域，過去單產(chǎn)線制定器件分配計(jì)劃，往往要花費(fèi)3個(gè)小時(shí)以上才能做齊1天的生產(chǎn)計(jì)劃。盤古制造大模型學(xué)習(xí)了華為產(chǎn)線上各種器件數(shù)據(jù)、業(yè)務(wù)流程及規(guī)則以后，能夠?qū)I(yè)務(wù)需求進(jìn)行準(zhǔn)確的意圖理解，并調(diào)用天籌AI求解器插件，1分鐘即可做出未來3天的生產(chǎn)計(jì)劃。
AI算力另一極
值得注意的是，盤古大模型從芯片、AI框架、AI平臺(tái)實(shí)現(xiàn)了全棧創(chuàng)新。
“眾所周知，我們不能使用行業(yè)主流的GPU架構(gòu)，因此我們只能自己搭建框架和平臺(tái)，” 張平安在會(huì)上表示。據(jù)他介紹，盤古大模型算力基于華為昇騰AI集群，其中核心則是達(dá)芬奇架構(gòu)的昇騰芯片適配神經(jīng)網(wǎng)絡(luò)計(jì)算。
資料顯示，達(dá)芬奇架構(gòu)是華為自研的面向AI計(jì)算特征的全新計(jì)算架構(gòu)，具備高算力、高能效、靈活可裁剪的特性。具體來說，達(dá)芬奇架構(gòu)采用3D Cube針對(duì)矩陣運(yùn)算做加速，大幅提升單位功耗下的AI算力，每個(gè)AI Core可以在一個(gè)時(shí)鐘周期內(nèi)實(shí)現(xiàn)4096個(gè)MAC操作，相比傳統(tǒng)的CPU和GPU實(shí)現(xiàn)數(shù)量級(jí)的提升。
大模型加速迭代趕超的背后，是不容忽視的算力挑戰(zhàn)。大模型研發(fā)高度依賴高端AI芯片、集群及生態(tài)，高計(jì)算性能、高通信帶寬和大顯存成為大模型訓(xùn)練必不可少的算力底座。
“現(xiàn)在行業(yè)中面臨的普遍問題是GPU芯片獲取困難，這一領(lǐng)域也存在‘卡脖子’風(fēng)險(xiǎn)，”張平安在會(huì)上直言。在他看來，昇騰AI集群方案投入使用，可以解決AI領(lǐng)域高成本問題。
張平安表示，基于昇騰AI集群的模型訓(xùn)練效率對(duì)比GPU架構(gòu)提升1.1倍。此外，據(jù)他介紹，在大模型訓(xùn)練過程中經(jīng)常會(huì)遇到GPU故障，研發(fā)人員不得不經(jīng)常重啟訓(xùn)練，時(shí)間長(zhǎng)代價(jià)大。昇騰AI云服務(wù)可以提供更長(zhǎng)穩(wěn)的AI算力服務(wù)，千卡訓(xùn)練30天長(zhǎng)穩(wěn)率達(dá)到90%，斷點(diǎn)恢復(fù)時(shí)長(zhǎng)不超過10分鐘。
而且，昇騰云服務(wù)除了支持華為的AI框架Mindspore外，還支持Pytorch，Tensorflow等主流AI框架，框架中的90%算子，都可以通過華為的遷移工具從GPU平滑遷移到昇騰。
需要注意的是，就在一天前，此前推出訊飛星火認(rèn)知大模型的科大訊飛宣布與昇騰AI合作打造通用智能新底座。
科大訊飛方面也表示，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計(jì)，實(shí)現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。
記者在開發(fā)者大會(huì)上獲悉，目前華為云2000P Flops單集群的昇騰AI云服務(wù)已經(jīng)在7日在烏蘭察布和貴安同時(shí)上線。張平安在會(huì)上對(duì)記者表示，面對(duì)目前業(yè)界普遍認(rèn)可的GPU架構(gòu)，昇騰AI算力集群希望成為AI算力的另一極。
