?

文 / 一燈?

近期，DeepSeek的火爆出圈，直接撬動(dòng)了資本市場(chǎng)對AI+產(chǎn)業(yè)鏈的投資熱情。不僅在2月5日開(kāi)工第一天，DeepSeek概念指數大漲14.73%，AI應用端和科技全線(xiàn)拉升，2月6日早盤(pán)仍顯示，A股TMT科技板塊延續強勢，DeepSeek、AI算力概念繼續活躍。

而就在新年開(kāi)工、DeepSeek概念指數大漲的同一天，中國大模型市場(chǎng)又傳出重磅新聞：百度智能云成功點(diǎn)亮昆侖芯三代萬(wàn)卡集群，成為國內首個(gè)正式點(diǎn)亮的自研萬(wàn)卡集群。模型上線(xiàn)首日，已有超1.5萬(wàn)家客戶(hù)通過(guò)千帆平臺進(jìn)行模型調用。

這不僅標志著(zhù)百度在自研芯片與大規模AI算力布局上的又一次重大突破，也預示著(zhù)AI模型的訓練成本將迎來(lái)新一輪下調，整個(gè)行業(yè)的發(fā)展再次被注入新動(dòng)能。

那么，在各大科技巨頭都加速推進(jìn)AI算力基建的當下，萬(wàn)卡集群究竟是什么？為何大家都在積極推進(jìn)自研、自建萬(wàn)卡集群？國產(chǎn)萬(wàn)卡集群的不斷演進(jìn)，又將給智算產(chǎn)業(yè)帶來(lái)怎樣的改變？

?

01 ?國產(chǎn)萬(wàn)卡集群，中國AI新突破

近年來(lái)，隨著(zhù)AI大模型的不斷涌現，模型規模和數據參數都呈現出指數級增長(cháng)。

例如在前期訓練，據了解，2018年OpenAI發(fā)布的GPT-1模型參數量為1.17億；到2020年，GPT-3的參數量已達到1750億；2023年，GPT-4的參數量進(jìn)一步增長(cháng)到約1.8萬(wàn)億。

參數量的快速增長(cháng)推動(dòng)了AI模型性能的大幅提升，使其在自然語(yǔ)言處理、圖像識別等領(lǐng)域的表現越來(lái)越好。但同時(shí)，模型參數量的增長(cháng)也讓AI 模型訓練的算力需求每3.5個(gè)月翻一番，每年所需算力增幅高達10倍，增速遠遠超出了芯片產(chǎn)業(yè)長(cháng)期存在的摩爾定律（性能每18個(gè)月翻一番）。

圖源：國金證券研究所

以擁有16個(gè)專(zhuān)家模型、約1.8萬(wàn)億參數的GPT-4為例，其訓練約使用了 25000個(gè)英偉達（NVIDIA ）的A100 GPU ，持續時(shí)間長(cháng)達90至100天，對算力的消耗非常大。

并且，除了訓練時(shí)的算力需求，隨著(zhù)大模型及應用越來(lái)越多地部署到企業(yè)實(shí)際業(yè)務(wù)場(chǎng)景中，后期推理的算力需求也水漲船高。因此，大規模 GPU 算力集群成為必然選擇。這也是為什么近年來(lái)國內外科技廠(chǎng)商紛紛布局 AI 算力基礎設施，死磕萬(wàn)卡甚至10萬(wàn)卡集群。

而“萬(wàn)卡集群”，顧名思義，是指由超過(guò)一萬(wàn)張加速卡（如GPU、TPU或其他專(zhuān)用AI加速芯片）組成的高性能計算系統，用以加速人工智能模型的訓練和推理過(guò)程。?? ?

圖源：百度

相比于訓練周期長(cháng)、成本高的傳統千億參數模型，萬(wàn)卡集群首先在計算能力、數據處理速度和存儲容量等方面都有著(zhù)質(zhì)的飛躍。它能夠通過(guò)并行計算和分布式處理，將龐大的數據和模型有效地組織起來(lái)，顯著(zhù)縮短模型的訓練周期，提高研發(fā)效率。

其次，作為一種靈活的計算基礎設施，萬(wàn)卡集群能夠根據不同的應用需求進(jìn)行定制化的配置和優(yōu)化，同時(shí)支持更大規模模型和更復雜的多模態(tài)任務(wù)，比如智能醫療診斷、自動(dòng)駕駛技術(shù)、自然語(yǔ)言處理等領(lǐng)域。這既為AI技術(shù)的創(chuàng )新和發(fā)展提供了更廣闊的空間和可能，也為企業(yè)在A(yíng)I領(lǐng)域的競爭中贏(yíng)得先機。

此外，萬(wàn)卡集群通過(guò)提升算力利用率、簡(jiǎn)化用戶(hù)部署流程，也降低了AI技術(shù)的使用門(mén)檻，進(jìn)而推動(dòng)其在各個(gè)領(lǐng)域的廣泛應用。

但在《節點(diǎn)財經(jīng)》看來(lái)，萬(wàn)卡集群雖好，但想要成功搭建也不是易事。

據了解，要想建設萬(wàn)卡集群規模的算力中心，通常要面臨幾大挑戰：

●?算力使用效率：集群規模提升不等于算力線(xiàn)性提升，關(guān)鍵在于互聯(lián)網(wǎng)絡(luò )和軟硬件適配調優(yōu)。需運用系統工程方法，精細化設計網(wǎng)絡(luò )和軟硬件整合優(yōu)化，以提升集群算力使用效率。

●?海量數據處理：未來(lái)萬(wàn)億模型的訓練對checkpoint的讀寫(xiě)吞吐性能更是要求高達10TB/s，需通過(guò)協(xié)議融合、自動(dòng)分級等技術(shù)手段提升數據共享和處理能力。

●?多芯混訓難題：受限于芯片廠(chǎng)商的產(chǎn)能，AI企業(yè)經(jīng)常采用不同型號、不同廠(chǎng)商的芯片來(lái)組建算力集群。這些芯片在性能、架構、指令集等方面都存在差異，如何讓它們在同一個(gè)集群中協(xié)同工作，并且保證混部訓練的效率，是一個(gè)亟待解決的問(wèn)題。

●?智算中心設計：高能耗、高密度的智算中心對于空間和能源的需求，遠遠超過(guò)了傳統機房部署方式的承載能力。這就要求在建設之初，提前對智算中心的供電制冷、承重等進(jìn)行配套設計，以便更好支撐超萬(wàn)卡集群的快速建設、便捷部署。

●?穩定性與運維：萬(wàn)卡集群中的計算卡數量龐大，網(wǎng)絡(luò )連接復雜，且當單卡可靠性為99.99%時(shí)，萬(wàn)卡集群整體可靠性?xún)H36.7%。一旦出現故障或延遲，將直接影響整個(gè)集群的計算效率和穩定性。

圖源：百度

正如此前中國工程院院士、清華大學(xué)計算機系教授鄭緯民所言，當下構建國產(chǎn)自主萬(wàn)卡系統充滿(mǎn)挑戰，但“至關(guān)重要”。

?

02 百舸平臺賦能，讓中國AI產(chǎn)業(yè)率先“跑”起來(lái)

目前，國內智算中心的搭建有國內外芯片“混搭”和全部國產(chǎn)化兩種集群模式，而后者關(guān)乎一國在邁向通用智能征程中的核心競爭力。

正是意識到這樣的重要性，百度一直探索用自研芯片搭建自主可控的算力生態(tài)系統，始終將助力實(shí)現 AI 基礎設施國產(chǎn)化作為核心目標。

據了解，此次萬(wàn)卡集群的成功點(diǎn)亮，得益于百度在硬件和軟件方面的技術(shù)創(chuàng )新。

在硬件層面，自研芯片保障了在生成式AI時(shí)代的技術(shù)主權。此次支撐萬(wàn)卡集群高效運行的昆侖芯三代，延續并優(yōu)化了前代產(chǎn)品的設計，在算力、能效、穩定性等方面全面升級。

同時(shí)，百度也突破了卡間互聯(lián)拓撲限制，避免通信帶寬成為瓶頸，并采用創(chuàng )新性散熱方案，有效解決了能效與散熱問(wèn)題，以確保集群高效、穩定地運行。

而在軟件層面，百舸AI異構計算平臺4.0則在構建高性能網(wǎng)絡(luò )、優(yōu)化分布式訓練、多芯混訓、故障診斷手段等方面發(fā)揮了至關(guān)重要的作用：

●?在分布式訓練優(yōu)化上，百舸4.0采用高效并行化任務(wù)切分策略，將訓練主流開(kāi)源模型的集群MFU提升至58%，大幅提升模型訓練速度和資源利用率；

●?針對機間通信帶寬需求，百舸4.0構建超大規模 HPN 高性能網(wǎng)絡(luò )并優(yōu)化拓撲結構，顯著(zhù)降低了通信瓶頸，使帶寬有效性達到90%以上；

●?在多芯混訓方面，百舸4.0可自動(dòng)進(jìn)行芯片選型，依據集群剩余資源選擇性?xún)r(jià)比最高的芯片運行任務(wù)，實(shí)現高達 95% 的萬(wàn)卡多芯混合訓練效能。

●?在集群穩定性上，百舸4.0提供全面故障診斷手段，能快速自動(dòng)偵測節點(diǎn)故障，并將故障恢復時(shí)間從小時(shí)級縮短到分鐘級，避免由于單卡故障率隨規模指數上升而造成的萬(wàn)卡集群有效性大幅下降，保障有效訓練率達到98%。

圖源：百度

由此，《節點(diǎn)財經(jīng)》認為，構建萬(wàn)卡集群不僅是芯片的堆砌整合，更要依托強大的AI計算平臺來(lái)支撐整個(gè)集群的調配設計。而百度智能云依托百舸AI異構計算平臺4.0，實(shí)現了從集群創(chuàng )建到開(kāi)發(fā)實(shí)驗，再到模型訓練、推理的全鏈路優(yōu)化。不僅提升了自身的智算實(shí)力，也為智算行業(yè)提供新的發(fā)展思路。

值得一提的是，憑借著(zhù)自研昆侖芯的技術(shù)優(yōu)勢以及百舸平臺的有力加持，百度智能云已為眾多企業(yè)提供了“多、快、穩、省”的AI基礎設施。

例如，生數科技依托百度百舸高效、穩定、混合多芯的能力，得以在短時(shí)間內完成了Vidu大模型的上線(xiàn)和開(kāi)放API，其素材渲染加速效率提升3倍，數據拉取效率提升51倍；長(cháng)安汽車(chē)通過(guò)與百度智能云的深度合作，讓自動(dòng)駕駛模型訓練的算力總體平均使用率提升到90%以上，綜合資源利用率提升了50%；教育場(chǎng)景先行者好未來(lái)教育集團則借助百舸平臺自研出“九章大模型（MathGPT）”，目前已經(jīng)廣泛應用于好未來(lái)的智能硬件、學(xué)而思旗艦學(xué)習機及多個(gè)業(yè)務(wù)場(chǎng)景中......

圖源：百度智能云

可以預見(jiàn)，未來(lái)一年，將是各種AI原生應用爆發(fā)的黃金時(shí)期。而百度智能云自研萬(wàn)卡集群的建成，不僅帶來(lái)了強大的算力支持，讓中國產(chǎn)業(yè)率先“跑”起來(lái)，也推動(dòng)了模型降本的趨勢，為各行各業(yè)的AI應用和創(chuàng )新提供了實(shí)實(shí)在在的價(jià)值。

?

02 花小錢(qián)辦大事，中國AI再引全球矚目

百度智能云自研萬(wàn)卡集群的成功點(diǎn)亮，不僅在國內引發(fā)廣泛關(guān)注，也在國際市場(chǎng)掀起熱議。

日前，花旗銀行在研報中指出，百度、DeepSeek等中國模型展現出高效和低成本優(yōu)勢，將有助于加速全球AI應用開(kāi)發(fā)，并在全球引發(fā)更多技術(shù)創(chuàng )新，推動(dòng)2025年人工智能應用的拐點(diǎn)。

而資本市場(chǎng)上，百度在港股、美股的雙雙上漲，似乎也印證了這一點(diǎn)。

圖源：百度

《節點(diǎn)財經(jīng)》認為，對于科技公司來(lái)說(shuō)，擁有強大的萬(wàn)卡集群意味著(zhù)在A(yíng)I時(shí)代奠定了堅實(shí)的基礎和競爭力。

一方面，萬(wàn)卡集群能夠為公司內部的各類(lèi)AI項目和業(yè)務(wù)提供穩定且高效的計算支持；另一方面，萬(wàn)卡集群的建設不僅反映了企業(yè)在技術(shù)水平、資金投入和戰略規劃上的決策和能力，還能提升其在行業(yè)中的聲譽(yù)和影響力，吸引更多的人才、合作伙伴和資金，進(jìn)而形成一個(gè)良好的產(chǎn)業(yè)生態(tài)，為企業(yè)的持續發(fā)展提供堅實(shí)的支持。

而從全球AI競賽來(lái)看，繼DeepSeek從算法優(yōu)化角度“狙擊”大模型成本后，百度智能云再次證明了中國科技“花小錢(qián)辦大事”的智慧。國產(chǎn)萬(wàn)卡集群的出現，不僅再顯中國硬科技實(shí)力，也能解決過(guò)去價(jià)格高和無(wú)法穩定應用等問(wèn)題，進(jìn)一步降低企業(yè)進(jìn)行應用開(kāi)發(fā)與產(chǎn)業(yè)創(chuàng )新的門(mén)檻。

據了解，百度智能云還計劃點(diǎn)亮3萬(wàn)卡集群，探索更高性能與擴展性的算力邊界?？梢灶A見(jiàn)，隨著(zhù)3萬(wàn)卡集群的進(jìn)一步落地，百度智能云乃至中國AI產(chǎn)業(yè)，都將在全球范圍內贏(yíng)得更大的市場(chǎng)話(huà)語(yǔ)權。

總之，在生成式AI浪潮下，中國科技企業(yè)正在從新技術(shù)的追隨者向新航路的開(kāi)辟者邁進(jìn)。而隨著(zhù)智算需求的不斷增長(cháng)和算力中心的規模演進(jìn)，萬(wàn)卡集群將成為未來(lái)智能算力領(lǐng)域的新賽場(chǎng)。

當下，百度智能云在A(yíng)I算力賽道上的持續領(lǐng)跑，有望定義新一代集群架構，重構全球AI算力格局，同時(shí)催化新質(zhì)生產(chǎn)力，充分釋放AI在各行業(yè)場(chǎng)景落地，助力中國產(chǎn)業(yè)跑出真正的發(fā)展加速度。