每經(jīng)記者 楊煜  楊卉    每經(jīng)編輯 文多    

12月26日，據(jù)界面新聞等報(bào)道，小米正著手搭建自己的GPU萬(wàn)卡集群，將對(duì)AI大模型大力投入。小米大模型團(tuán)隊(duì)在成立時(shí)已有6500張GPU資源。《每日經(jīng)濟(jì)新聞》記者就此事向小米方面求證，截至發(fā)稿時(shí)未獲回應(yīng)。

萬(wàn)卡集群是指由一萬(wàn)張及以上的加速卡（如GPU、TPU或其他專(zhuān)用AI加速芯片）組成的高性能計(jì)算系統(tǒng)，用以訓(xùn)練基礎(chǔ)大模型。建設(shè)萬(wàn)卡集群是個(gè)“百億元”成本的投入，其中單是GPU采購(gòu)成本就高達(dá)幾十億元。

科技大廠(chǎng)正競(jìng)相投入萬(wàn)卡集群的建設(shè)。國(guó)際上，OpenAI、Meta等科技巨頭，都爭(zhēng)相部署萬(wàn)卡集群；在國(guó)內(nèi)，運(yùn)營(yíng)商、頭部互聯(lián)網(wǎng)大廠(chǎng)、大型AI研發(fā)企業(yè)等先后入局，一些巨頭甚至已開(kāi)始邁向“十萬(wàn)卡集群”。

如果小米搭建萬(wàn)卡集群的消息屬實(shí)，獨(dú)立電信分析師付亮分析道，小米將大模型視為 “人車(chē)家”戰(zhàn)略的重要支撐，其建設(shè)萬(wàn)卡集群的方向或與其他企業(yè)不同，“別人沒(méi)有利用率，小米自帶利用率”。

“萬(wàn)卡集群”被視作新一輪大模型競(jìng)賽“入場(chǎng)券”

搭建萬(wàn)卡集群需要耗費(fèi)巨大的財(cái)力。

百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖今年9月曾介紹，GPU集群有三個(gè)特征：極致規(guī)模、極致“高密”和極致互聯(lián)。建一個(gè)萬(wàn)卡集群，單是GPU的采購(gòu)成本就高達(dá)幾十億元。而建設(shè)GPU萬(wàn)卡集群需要面臨的風(fēng)險(xiǎn)之一便是故障率，沈抖介紹：“Meta訓(xùn)練Llama3的時(shí)候，用了1.6萬(wàn)張GPU卡的集群，平均每3小時(shí)就會(huì)出一次故障。”

盡管造價(jià)高昂，但“萬(wàn)卡集群”使得訓(xùn)練復(fù)雜的大模型成為可能，被業(yè)界視作這一輪大模型競(jìng)賽的“入場(chǎng)券”。

“模型大小和訓(xùn)練數(shù)據(jù)量大小成為決定模型能力的關(guān)鍵因素。在同等模型參數(shù)和數(shù)據(jù)集下，集群訓(xùn)練時(shí)間有望顯著縮短。更大、更先進(jìn)的集群能及時(shí)對(duì)市場(chǎng)趨勢(shì)作出反應(yīng)，快速進(jìn)行迭代訓(xùn)練。整體上超萬(wàn)卡的集群將有助于壓縮大模型訓(xùn)練時(shí)間，實(shí)現(xiàn)模型能力的快速迭代，并及時(shí)對(duì)市場(chǎng)趨勢(shì)作出應(yīng)對(duì)，實(shí)現(xiàn)大模型技術(shù)上的追趕和領(lǐng)先。”長(zhǎng)江證券研報(bào)闡釋道。

作為長(zhǎng)于端側(cè)的科技公司，小米集團(tuán)也多次提到將自研大模型與端側(cè)融合。

2023年5月，小米集團(tuán)業(yè)績(jī)公告顯示，其當(dāng)年4月正式組建了AI實(shí)驗(yàn)室大模型團(tuán)隊(duì)，AI領(lǐng)域相關(guān)人員超1200人，并將不斷挖掘AI相關(guān)的用戶(hù)場(chǎng)景，發(fā)揮自身技術(shù)優(yōu)勢(shì)，并以開(kāi)放的態(tài)度與合作伙伴開(kāi)拓更多機(jī)會(huì)。

2023年8月，小米集團(tuán)的公告中顯示，AI是公司長(zhǎng)期投入的底層賽道。小米60億參數(shù)的自研大模型在同參數(shù)量級(jí)中排名第一。

2023年11月，小米披露將AI大模型與小米澎湃OS深度融合，為用戶(hù)提供基于端側(cè)大模型的各類(lèi)便利和智能的功能。

根據(jù)小米集團(tuán)財(cái)報(bào)，今年前三季度，小米集團(tuán)經(jīng)調(diào)整凈利潤(rùn)（非國(guó)際財(cái)務(wù)報(bào)告準(zhǔn)則計(jì)量）189.18億元，同比上漲31.7%。在當(dāng)前經(jīng)營(yíng)穩(wěn)健，盈利能力提升的基礎(chǔ)上，擴(kuò)大對(duì)算力基礎(chǔ)的投入，也成為可選項(xiàng)。

部分萬(wàn)卡集群已經(jīng)投產(chǎn)、端側(cè)擁抱AI已是共識(shí)

目前，多家頭部企業(yè)正競(jìng)相投入萬(wàn)卡集群的建設(shè)。

運(yùn)營(yíng)商是我國(guó)算力基礎(chǔ)設(shè)施建設(shè)的中堅(jiān)力量。中國(guó)移動(dòng)呼和浩特、哈爾濱兩大萬(wàn)卡級(jí)別智算中心已先后投產(chǎn)運(yùn)行。中國(guó)電信上海、北京兩個(gè)萬(wàn)卡集群已經(jīng)投產(chǎn)。

在國(guó)內(nèi)，百度等公司已在討論如何構(gòu)建十萬(wàn)卡集群。今年9月，沈抖就在百度智云大會(huì)上說(shuō)道：“很快就會(huì)有更多的10萬(wàn)卡集群出現(xiàn)。”

海外頭部AI大廠(chǎng)的步調(diào)更為激進(jìn)，據(jù)報(bào)道。OpenAI正在設(shè)計(jì)能夠?qū)?000萬(wàn)塊GPU連在一起的計(jì)算模型，Meta到今年年底將擁有35萬(wàn)張H100。

國(guó)內(nèi)的端側(cè)大廠(chǎng)，鮮少大舉投入建設(shè)萬(wàn)卡集群，但端側(cè)擁抱AI已是共識(shí)。就在不久前，理想汽車(chē)創(chuàng)始人李想接受采訪(fǎng)時(shí)還提出，理想汽車(chē)不再僅僅是一家汽車(chē)制造企業(yè)，而是一家AI企業(yè)。

端側(cè)AI在今年以來(lái)呈現(xiàn)爆發(fā)式創(chuàng)新的趨勢(shì)。

以手機(jī)為例，AI的能力在未來(lái)的競(jìng)爭(zhēng)中舉足輕重。今年10月，在被問(wèn)及如何看待AI時(shí)代的智能手機(jī)競(jìng)爭(zhēng)時(shí)，vivo副總裁、AI全球研究院院長(zhǎng)周?chē)硎?，AI會(huì)提供給傳統(tǒng)的手機(jī)廠(chǎng)商更多自主研發(fā)的空間，這意味著更多個(gè)性化機(jī)會(huì)正在出現(xiàn)。未來(lái)人工智能會(huì)成為各個(gè)廠(chǎng)商手機(jī)產(chǎn)品體驗(yàn)差異的分水嶺。

家電行業(yè)也掀起AI大模型的競(jìng)賽。美的集團(tuán)、海爾智家等頭部家電企業(yè)紛紛推出AI大模型，在大模型的加持下，AI電視、AI洗烘套裝、AI廚電、AI掃地機(jī)、AI凈水器、AI家庭機(jī)器人等接連被推向市場(chǎng)。

小米集團(tuán)擁有手機(jī)、家電、智駕等諸多終端產(chǎn)品。不過(guò)，獨(dú)立電信分析師付亮向《每日經(jīng)濟(jì)新聞》記者表示，不要把小米理解為硬件廠(chǎng)商，小米在生產(chǎn)手機(jī)的同時(shí)，一直是一個(gè)活躍的互聯(lián)網(wǎng)平臺(tái)。付亮表示，小米認(rèn)為大模型是其“人車(chē)家”戰(zhàn)略的重要支撐，如果其建設(shè)萬(wàn)卡集群，方向也與其他企業(yè)不同，“別人沒(méi)有利用率，小米自帶利用率”。

封面圖片來(lái)源：視覺(jué)中國(guó)