近日，由西安龍鼎投資管理有限公司牽頭發(fā)起的閉門(mén)分享會(huì)【龍鼎創(chuàng)投薈】第1期，在北京數(shù)渡信息科技有限公司會(huì)議室圓滿舉辦。數(shù)渡信息總經(jīng)理張立新博士作為本次分享會(huì)的首場(chǎng)主講人，以“大模型爆發(fā)下高速互聯(lián)芯片的成長(zhǎng)機(jī)會(huì)”為主題，與行業(yè)內(nèi)芯片精英、媒體機(jī)構(gòu)等眾多半導(dǎo)體產(chǎn)業(yè)鏈相關(guān)人士展開(kāi)深度探討。

大模型自出現(xiàn)以來(lái)已迅速滲透到多個(gè)行業(yè)，與此同時(shí)，也相應(yīng)帶動(dòng)了高端智能算力的需求快速增長(zhǎng)。眾所周知，大模型發(fā)展的背后是需要龐大的算力來(lái)做支撐。由于大模型的計(jì)算復(fù)雜度很高，需要使用大量的算力來(lái)進(jìn)行訓(xùn)練和推理，對(duì)大算力的需求增長(zhǎng)已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)算力芯片自身的成長(zhǎng)速度，因此通過(guò)高速互連技術(shù)構(gòu)建規(guī)?；拇笏懔ο到y(tǒng)，已經(jīng)成為大模型發(fā)展與應(yīng)用的核心基礎(chǔ)。

在分享會(huì)現(xiàn)場(chǎng)數(shù)渡信息張立新博士表示，高速互連已經(jīng)成為算力產(chǎn)業(yè)鏈中至關(guān)重要的一環(huán)，其直接決定了算力系統(tǒng)的規(guī)模和應(yīng)用效率。從大算力系統(tǒng)的構(gòu)建來(lái)看，高速互連主要指的是三個(gè)層面的技術(shù)：一是在服務(wù)器系統(tǒng)內(nèi)部，高速互連芯片在多個(gè)功部件相互之間提供高速數(shù)據(jù)傳輸，如CPU、GPU、高速存儲(chǔ)、高速網(wǎng)卡等，其中PCIe/CXL是主要的互連技術(shù)，也有Nvlink等定制協(xié)議存在；二是在算力集群內(nèi)部，如內(nèi)部的卡間互連，常用的技術(shù)包括IB、RoCE以及NvSwitch等；三是在算力集群之間，通常利用以太網(wǎng)為主，也有IB、NvSwitch等。目前，國(guó)內(nèi)在高速互連技術(shù)產(chǎn)品上，尤其是在服務(wù)器系統(tǒng)內(nèi)部互連的PCIe/CXL還是完全空白，其它層面的互連與國(guó)外相比還有很大差距。

國(guó)內(nèi)對(duì)高速互連芯片的需求正進(jìn)入一個(gè)快速的增長(zhǎng)時(shí)期。根據(jù)IDC數(shù)據(jù)顯示，2022年中國(guó)AI服務(wù)器出貨量達(dá)28.4萬(wàn)臺(tái)，預(yù)計(jì)到2027年達(dá)到65萬(wàn)臺(tái)。典型的單臺(tái)8卡GPU AI服務(wù)器需要4-10片高端的PCIe/NvSwitch芯片，即便不包括通用服務(wù)器、高密度存儲(chǔ)等傳統(tǒng)領(lǐng)域?qū)Ω咚倩ミB芯片的需求，僅AI服務(wù)器單一場(chǎng)景下的應(yīng)用需求也已經(jīng)超過(guò)百萬(wàn)片，且這個(gè)需求規(guī)模還在逐年大幅增長(zhǎng)?？梢?jiàn)，隨著國(guó)內(nèi)算力產(chǎn)業(yè)的不斷發(fā)展，高速互連芯片的市場(chǎng)需求規(guī)模正在快速增長(zhǎng)，也為國(guó)內(nèi)從事高速互連芯片技術(shù)產(chǎn)品研發(fā)的企業(yè)注入了更強(qiáng)的市場(chǎng)動(dòng)力。

高速互連技術(shù)發(fā)展迅速、創(chuàng)新要求高，為該領(lǐng)域的初創(chuàng)企業(yè)創(chuàng)造了更多的發(fā)展壯大機(jī)會(huì)。比如從國(guó)內(nèi)算力產(chǎn)業(yè)實(shí)際發(fā)展情況來(lái)看，面對(duì)國(guó)產(chǎn)算力芯片技術(shù)發(fā)展和產(chǎn)業(yè)升級(jí)受限、單個(gè)算力芯片比國(guó)外的同類(lèi)產(chǎn)品能力相差很多的現(xiàn)狀，通過(guò)創(chuàng)新發(fā)展高速互連技術(shù)來(lái)構(gòu)建更高密度和更大規(guī)模的算力系統(tǒng)，滿足大模型等業(yè)務(wù)的算力需求成為當(dāng)前最為可行的途徑。但是，高速互連芯片的設(shè)計(jì)難度大、設(shè)計(jì)生態(tài)差以及技術(shù)涉及面廣，對(duì)研發(fā)技術(shù)團(tuán)隊(duì)的要求非常高，需要包括系統(tǒng)層面、網(wǎng)絡(luò)層面、協(xié)議層面以及大芯片層面的各類(lèi)型專(zhuān)家共同協(xié)作才行，需要企業(yè)掌握全面的技術(shù)能力。

隨著國(guó)家對(duì)算力的重視程度越來(lái)越高，算力產(chǎn)業(yè)已經(jīng)進(jìn)入高速成長(zhǎng)期，高速互連芯片作為算力產(chǎn)業(yè)鏈的核心產(chǎn)品，尤其是在國(guó)內(nèi)產(chǎn)品空白的情況下，正迎來(lái)高速發(fā)展的機(jī)遇期。一方面，國(guó)內(nèi)的算力市場(chǎng)給高速互連芯片企業(yè)，提供了足夠大的市場(chǎng)空間去發(fā)展壯大；另一方面，國(guó)內(nèi)高速互連產(chǎn)業(yè)發(fā)展相對(duì)滯后，也就給企業(yè)預(yù)留了更多的發(fā)揮和成長(zhǎng)的空間；此外，隨著互連的重要性被越來(lái)越多的算力企業(yè)所關(guān)注，技術(shù)發(fā)展迭代進(jìn)程迅速加快，也給該領(lǐng)域的創(chuàng)業(yè)公司帶來(lái)更多的發(fā)展壯大的機(jī)會(huì)；另外，除滿足當(dāng)前算力發(fā)展需要外，在類(lèi)腦計(jì)算、光子計(jì)算以及量子計(jì)算等新興計(jì)算領(lǐng)域，這些算力系統(tǒng)產(chǎn)品的構(gòu)建同樣離不開(kāi)高速互連。

可以說(shuō)，當(dāng)前中國(guó)的高速互連產(chǎn)業(yè)發(fā)展正迎來(lái)一個(gè)高速發(fā)展的機(jī)遇期。在分享會(huì)互動(dòng)問(wèn)答環(huán)節(jié)，張立新博士與龍鼎投資為代表的創(chuàng)投機(jī)構(gòu)、芯片行業(yè)專(zhuān)家、媒體嘉賓等半導(dǎo)體產(chǎn)業(yè)精英們展開(kāi)了深入且深刻的交流探討，共同聚焦高速互聯(lián)芯片的未來(lái)發(fā)展與時(shí)代潛力。

以下是數(shù)渡信息總經(jīng)理張立新博士互動(dòng)問(wèn)答內(nèi)容精選：

問(wèn)題一：互連芯片產(chǎn)品的開(kāi)發(fā)，需不需要與所有的上下游廠商如CPU、GPU等廠商一起來(lái)聯(lián)合開(kāi)發(fā)？

答：高速互連芯片采用標(biāo)準(zhǔn)協(xié)議如PCIe/CXL這種，大家采用的接口都是標(biāo)準(zhǔn)化的協(xié)議，產(chǎn)品研發(fā)只要嚴(yán)格遵守標(biāo)準(zhǔn)協(xié)議，相互之間不需要更多的合作就可以直接互聯(lián)互通。但是，如果就互連性能和支撐的應(yīng)用場(chǎng)景來(lái)說(shuō)，相互之間如果能夠進(jìn)行一些更多的協(xié)同的話，將有利于這種性能的提升。另外，如果采用非標(biāo)準(zhǔn)化的協(xié)議如定制的標(biāo)準(zhǔn)協(xié)議，就需要與相互連的設(shè)備廠商來(lái)一起協(xié)作。

問(wèn)題二：高速互連芯片在國(guó)內(nèi)還是空白，那么國(guó)內(nèi)智能算力芯片之間互連目前能夠做到一個(gè)什么樣的水平？

答：目前來(lái)說(shuō)，國(guó)內(nèi)算力芯片之間的互連還尚處于發(fā)展的初期階段，一般是利用卡間直連的方式來(lái)做，比如一個(gè)8卡系統(tǒng)，相互之間可以直接利用線纜直接連接，當(dāng)系統(tǒng)更大的時(shí)候帶寬和效率就會(huì)下降很快，由于缺乏類(lèi)似nvswitch的交換芯片產(chǎn)品，我們?cè)谧龈笏懔ο到y(tǒng)的時(shí)候互連將會(huì)成為嚴(yán)重制約整個(gè)系統(tǒng)效率的瓶頸所在。雖然國(guó)內(nèi)目前算力公司有在做自己的卡間互連方案，但是高速互連芯片有獨(dú)特難度，即便像英偉達(dá)也是收購(gòu)了Mellanox做，而AMD是和博通合作做，所以說(shuō)其它包括國(guó)內(nèi)算力公司的企業(yè)在規(guī)?；到y(tǒng)互連上還有待尋找和推出合適的產(chǎn)品。

問(wèn)題三：現(xiàn)在從一些技術(shù)發(fā)展的趨勢(shì)來(lái)看，未來(lái)智算中心建設(shè)會(huì)不會(huì)以互連為核心來(lái)設(shè)計(jì)智算中心方案，以后會(huì)是什么趨勢(shì)？

答：現(xiàn)在的智能算力系統(tǒng)發(fā)展來(lái)看，算力上已經(jīng)從由CPU為核心正逐漸向以GPU為核心進(jìn)行轉(zhuǎn)變，系統(tǒng)互連的地位也在日益突出。如果但以整機(jī)系統(tǒng)為主，預(yù)計(jì)AI算力廠商更有話語(yǔ)權(quán)，當(dāng)然系統(tǒng)規(guī)模變大以后，互連方案和算力會(huì)同為核心，只有通過(guò)相互之間的協(xié)作才能構(gòu)建出一個(gè)高效的算力系統(tǒng)。

問(wèn)題四：互連協(xié)議方面，國(guó)內(nèi)是遵循國(guó)際標(biāo)準(zhǔn)還是國(guó)內(nèi)做自己的協(xié)議標(biāo)準(zhǔn)更好？

答：從企業(yè)層面來(lái)說(shuō)，國(guó)際主流的標(biāo)準(zhǔn)協(xié)議是肯定要遵循的，這樣才能更好的進(jìn)入整個(gè)生態(tài)和實(shí)現(xiàn)產(chǎn)品的應(yīng)用。從未來(lái)算力系統(tǒng)的升級(jí)來(lái)說(shuō)，國(guó)產(chǎn)化協(xié)議是一條很好的路徑，一方面國(guó)外的標(biāo)準(zhǔn)協(xié)議如Nvlink是不開(kāi)放的，另外國(guó)產(chǎn)GPU的互連還缺少高效的規(guī)模化方案支撐，迫切需要有一個(gè)可行的方案，雖然做國(guó)產(chǎn)化協(xié)議標(biāo)準(zhǔn)的實(shí)際困難很多，但是對(duì)于國(guó)產(chǎn)算力發(fā)展層面來(lái)說(shuō)，這是一條肯定要走的路。