小米正搭建GPU萬(wàn)卡集群，將對(duì)AI大模型大力投入
我要評(píng)論界面新聞?dòng)浾?| 伍洋宇
12月26日，小米型界面新聞獨(dú)家獲悉，正搭小米正在著手搭建自己的建G集群將對(duì)GPU萬(wàn)卡集群，將對(duì)AI大模型大力投入。大模小米大模型團(tuán)隊(duì)在成立時(shí)已有6500張GPU資源。力投
界面新聞?chuàng)讼蛐∶追矫媲笞C，小米型截至發(fā)稿，正搭小米暫未置評(píng)。建G集群將對(duì)
一名知情人士對(duì)界面新聞?dòng)浾弑硎?，大模該?jì)劃已經(jīng)施行數(shù)月之久，力投雷軍在其中扮演了重要的小米型領(lǐng)導(dǎo)角色。“在AI硬件這件事情上，正搭最核心的建G集群將對(duì)是手機(jī)而不是眼鏡，小米在這個(gè)領(lǐng)域不‘a(chǎn)ll in’是大模不可能的?！?/p>
小米對(duì)AI大模型的力投重視度提升此前已有信號(hào)。12月20日，據(jù)第一財(cái)經(jīng)報(bào)道，DeepSeek開(kāi)源大模型DeepSeek-V2的關(guān)鍵開(kāi)發(fā)者之一羅福莉?qū)⒓尤胄∶?，或供職于小米AI實(shí)驗(yàn)室，領(lǐng)導(dǎo)小米大模型團(tuán)隊(duì)。
此前DeepSeekV2在模型架構(gòu)上的重要?jiǎng)?chuàng)新在于對(duì)MLA（Multi-head Latent Attention）的采用，這項(xiàng)技術(shù)在降低大模型使用成本上發(fā)揮了關(guān)鍵作用，而羅福莉是這項(xiàng)工作的核心人物之一。
2023年4月，小米AI實(shí)驗(yàn)室大模型團(tuán)隊(duì)正式組建，任命欒劍擔(dān)任大模型團(tuán)隊(duì)負(fù)責(zé)人，向小米技術(shù)委員會(huì)副主席、AI實(shí)驗(yàn)室主任王斌匯報(bào)。
欒劍此前為AI實(shí)驗(yàn)室語(yǔ)音生成團(tuán)隊(duì)的負(fù)責(zé)人，曾任東芝（中國(guó)）研究院研究員、微軟（中國(guó)）工程院高級(jí)語(yǔ)音科學(xué)家、微軟小冰首席語(yǔ)音科學(xué)家及語(yǔ)音團(tuán)隊(duì)負(fù)責(zé)人等職位。
同一時(shí)間，雷軍發(fā)文談?wù)搶?duì)大模型和AIGC的看法時(shí)表示，小米在AI領(lǐng)域已經(jīng)耕耘多年，有AI實(shí)驗(yàn)室、小愛(ài)同學(xué)、自動(dòng)駕駛等團(tuán)隊(duì)。“對(duì)于大模型，我們當(dāng)然會(huì)全力以赴，堅(jiān)決擁抱。我們正在研發(fā)一些有趣的技術(shù)和產(chǎn)品，等我們打磨好了，再給大家展示?！?/p>
隨后，在小米2023周年演講上，雷軍再度談及公司大模型業(yè)務(wù)進(jìn)展。
他稱(chēng)團(tuán)隊(duì)成立之后，小米大模型技術(shù)的主力突破方向?yàn)檩p量化、本地部署。作為最新成果，小米已初步跑通手機(jī)端側(cè)大模型（13億參數(shù)級(jí)別），在部分場(chǎng)景效果接近云端60億參數(shù)級(jí)別的大模型，將同步推送升級(jí)大模型版本的小愛(ài)同學(xué)。
彼時(shí)，小米有MiLM-6B/1.3B兩個(gè)參數(shù)級(jí)別模型。王斌在接受界面新聞等媒體采訪時(shí)強(qiáng)調(diào)，包括數(shù)據(jù)、算法等在內(nèi)，小米所訓(xùn)練的模型都是從零開(kāi)始，但團(tuán)隊(duì)也不反對(duì)第三方大模型，將以開(kāi)放態(tài)度堅(jiān)持自研與第三方合作相結(jié)合，來(lái)推動(dòng)其大模型發(fā)展。
值得注意的是，小愛(ài)同學(xué)首次升級(jí)時(shí)的大模型版本就采用了第三方和自研的混合方案。
公開(kāi)資料顯示，自2016年組建AI團(tuán)隊(duì)以來(lái)，小米人工智能團(tuán)隊(duì)經(jīng)過(guò)7年6次擴(kuò)展，相關(guān)領(lǐng)域人員規(guī)模已達(dá)3000多人，其AI技術(shù)能力已覆蓋視覺(jué)、聲學(xué)、語(yǔ)音、NLP、知識(shí)圖譜、機(jī)器學(xué)習(xí)、大模型、多模態(tài)方向，并逐步接入手機(jī)、汽車(chē)、AIoT、機(jī)器人等業(yè)務(wù)板塊。
點(diǎn)擊進(jìn)入專(zhuān)題： 聚焦AI相關(guān)文章
熱門(mén)中概股普漲 納斯達(dá)克中國(guó)金龍指數(shù)漲4.33%
來(lái)源：財(cái)聯(lián)社財(cái)聯(lián)社1月31日電，熱門(mén)中概股普漲，納斯達(dá)克中國(guó)金龍指數(shù)漲4.33%。金山云漲超13%，愛(ài)奇藝漲超7%，阿里巴巴漲逾6%，百度、貝殼、騰訊音樂(lè)、蔚來(lái)、小鵬汽車(chē)等漲逾5%，嗶哩嗶哩、新東方、2025-02-05
臘肉應(yīng)該放冷藏還是冷凍-九州醉餐飲網(wǎng)臘肉,是用食鹽把肉進(jìn)行腌制的,放入足夠的食鹽是可以使得臘肉保存更久的時(shí)間的。臘肉,常見(jiàn)的吃法有臘肉炒蛋、辣椒炒臘肉、臘肉炒蒜苗以及水煮臘肉等。臘肉放冷藏還是冷凍-九2025-02-05
核桃做菜的吃法有哪些-九州醉餐飲網(wǎng)核桃可以制作芹菜炒黑木耳核桃仁、木耳山藥炒核桃、核桃仁炒韭菜、核桃仁炒蝦仁、芹菜炒核桃仁、核桃仁炒西藍(lán)花等美食。使用核桃制作菜肴的時(shí)候,將。核桃仁怎么做菜吃和什么菜搭2025-02-05
前言：世界杯德國(guó)隊(duì)出局?jǐn)〗o哪個(gè)國(guó)家？北京時(shí)間6月27日22點(diǎn)比賽中，韓國(guó)2:0德國(guó)，德國(guó)出局，德國(guó)隊(duì)到底怎么了。德國(guó)與韓國(guó)的比賽，上半場(chǎng)德國(guó)控球率占優(yōu)，但并未將優(yōu)勢(shì)轉(zhuǎn)化為得分，整體節(jié)奏較為平緩。韓國(guó)隊(duì)2025-02-05
“下面的這首歌叫做《世界贈(zèng)予我的》?！鄙虾！胺N花爺爺”、捐贈(zèng)二戰(zhàn)相冊(cè)美國(guó)小伙……2025蛇年春晚，來(lái)自各行各業(yè)的普通人，擔(dān)當(dāng)起“報(bào)幕員”的角色，串聯(lián)起整臺(tái)晚會(huì)。這其中，“外賣(mài)詩(shī)人”王計(jì)兵，因?yàn)槟蔷洹吧?2025-02-05
曲奇餅干的做法實(shí)驗(yàn)原理-九州醉餐飲網(wǎng)做法1。先將黃油、糖放一起打20分鐘左右至發(fā)白(一定要特別的發(fā),要不然曲奇做出來(lái)不酥)。2。將雞蛋打入黃油中攪拌均勻。3。將高、低粉加入攪拌均。曲奇是怎么做的?曲奇2025-02-05