近日，由西安龍鼎投資管理有限公司牽頭發(fā)起的閉門分享會【龍鼎創(chuàng)投薈】第1期，在北京數(shù)渡信息科技有限公司會議室圓滿舉辦。數(shù)渡信息總經(jīng)理張立新博士作為本次分享會的首場主講人，以“大模型爆發(fā)下高速互聯(lián)芯片的成長機(jī)會”為主題，與行業(yè)內(nèi)芯片精英、媒體機(jī)構(gòu)等眾多半導(dǎo)體產(chǎn)業(yè)鏈相關(guān)人士展開深度探討。

大模型自出現(xiàn)以來已迅速滲透到多個(gè)行業(yè)，與此同時(shí)，也相應(yīng)帶動(dòng)了高端智能算力的需求快速增長。眾所周知，大模型發(fā)展的背后是需要龐大的算力來做支撐。由于大模型的計(jì)算復(fù)雜度很高，需要使用大量的算力來進(jìn)行訓(xùn)練和推理，對大算力的需求增長已經(jīng)遠(yuǎn)遠(yuǎn)超過算力芯片自身的成長速度，因此通過高速互連技術(shù)構(gòu)建規(guī)?；拇笏懔ο到y(tǒng)，已經(jīng)成為大模型發(fā)展與應(yīng)用的核心基礎(chǔ)。

在分享會現(xiàn)場數(shù)渡信息張立新博士表示，高速互連已經(jīng)成為算力產(chǎn)業(yè)鏈中至關(guān)重要的一環(huán)，其直接決定了算力系統(tǒng)的規(guī)模和應(yīng)用效率。從大算力系統(tǒng)的構(gòu)建來看，高速互連主要指的是三個(gè)層面的技術(shù)：一是在服務(wù)器系統(tǒng)內(nèi)部，高速互連芯片在多個(gè)功部件相互之間提供高速數(shù)據(jù)傳輸，如CPU、GPU、高速存儲、高速網(wǎng)卡等，其中PCIe/CXL是主要的互連技術(shù)，也有Nvlink等定制協(xié)議存在；二是在算力集群內(nèi)部，如內(nèi)部的卡間互連，常用的技術(shù)包括IB、RoCE以及NvSwitch等；三是在算力集群之間，通常利用以太網(wǎng)為主，也有IB、NvSwitch等。目前，國內(nèi)在高速互連技術(shù)產(chǎn)品上，尤其是在服務(wù)器系統(tǒng)內(nèi)部互連的PCIe/CXL還是完全空白，其它層面的互連與國外相比還有很大差距。

國內(nèi)對高速互連芯片的需求正進(jìn)入一個(gè)快速的增長時(shí)期。根據(jù)IDC數(shù)據(jù)顯示，2022年中國AI服務(wù)器出貨量達(dá)28.4萬臺，預(yù)計(jì)到2027年達(dá)到65萬臺。典型的單臺8卡GPU AI服務(wù)器需要4-10片高端的PCIe/NvSwitch芯片，即便不包括通用服務(wù)器、高密度存儲等傳統(tǒng)領(lǐng)域?qū)Ω咚倩ミB芯片的需求，僅AI服務(wù)器單一場景下的應(yīng)用需求也已經(jīng)超過百萬片，且這個(gè)需求規(guī)模還在逐年大幅增長。可見，隨著國內(nèi)算力產(chǎn)業(yè)的不斷發(fā)展，高速互連芯片的市場需求規(guī)模正在快速增長，也為國內(nèi)從事高速互連芯片技術(shù)產(chǎn)品研發(fā)的企業(yè)注入了更強(qiáng)的市場動(dòng)力。

高速互連技術(shù)發(fā)展迅速、創(chuàng)新要求高，為該領(lǐng)域的初創(chuàng)企業(yè)創(chuàng)造了更多的發(fā)展壯大機(jī)會。比如從國內(nèi)算力產(chǎn)業(yè)實(shí)際發(fā)展情況來看，面對國產(chǎn)算力芯片技術(shù)發(fā)展和產(chǎn)業(yè)升級受限、單個(gè)算力芯片比國外的同類產(chǎn)品能力相差很多的現(xiàn)狀，通過創(chuàng)新發(fā)展高速互連技術(shù)來構(gòu)建更高密度和更大規(guī)模的算力系統(tǒng)，滿足大模型等業(yè)務(wù)的算力需求成為當(dāng)前最為可行的途徑。但是，高速互連芯片的設(shè)計(jì)難度大、設(shè)計(jì)生態(tài)差以及技術(shù)涉及面廣，對研發(fā)技術(shù)團(tuán)隊(duì)的要求非常高，需要包括系統(tǒng)層面、網(wǎng)絡(luò)層面、協(xié)議層面以及大芯片層面的各類型專家共同協(xié)作才行，需要企業(yè)掌握全面的技術(shù)能力。

隨著國家對算力的重視程度越來越高，算力產(chǎn)業(yè)已經(jīng)進(jìn)入高速成長期，高速互連芯片作為算力產(chǎn)業(yè)鏈的核心產(chǎn)品，尤其是在國內(nèi)產(chǎn)品空白的情況下，正迎來高速發(fā)展的機(jī)遇期。一方面，國內(nèi)的算力市場給高速互連芯片企業(yè)，提供了足夠大的市場空間去發(fā)展壯大；另一方面，國內(nèi)高速互連產(chǎn)業(yè)發(fā)展相對滯后，也就給企業(yè)預(yù)留了更多的發(fā)揮和成長的空間；此外，隨著互連的重要性被越來越多的算力企業(yè)所關(guān)注，技術(shù)發(fā)展迭代進(jìn)程迅速加快，也給該領(lǐng)域的創(chuàng)業(yè)公司帶來更多的發(fā)展壯大的機(jī)會；另外，除滿足當(dāng)前算力發(fā)展需要外，在類腦計(jì)算、光子計(jì)算以及量子計(jì)算等新興計(jì)算領(lǐng)域，這些算力系統(tǒng)產(chǎn)品的構(gòu)建同樣離不開高速互連。

可以說，當(dāng)前中國的高速互連產(chǎn)業(yè)發(fā)展正迎來一個(gè)高速發(fā)展的機(jī)遇期。在分享會互動(dòng)問答環(huán)節(jié)，張立新博士與龍鼎投資為代表的創(chuàng)投機(jī)構(gòu)、芯片行業(yè)專家、媒體嘉賓等半導(dǎo)體產(chǎn)業(yè)精英們展開了深入且深刻的交流探討，共同聚焦高速互聯(lián)芯片的未來發(fā)展與時(shí)代潛力。

以下是數(shù)渡信息總經(jīng)理張立新博士互動(dòng)問答內(nèi)容精選：

問題一：互連芯片產(chǎn)品的開發(fā)，需不需要與所有的上下游廠商如CPU、GPU等廠商一起來聯(lián)合開發(fā)？

答：高速互連芯片采用標(biāo)準(zhǔn)協(xié)議如PCIe/CXL這種，大家采用的接口都是標(biāo)準(zhǔn)化的協(xié)議，產(chǎn)品研發(fā)只要嚴(yán)格遵守標(biāo)準(zhǔn)協(xié)議，相互之間不需要更多的合作就可以直接互聯(lián)互通。但是，如果就互連性能和支撐的應(yīng)用場景來說，相互之間如果能夠進(jìn)行一些更多的協(xié)同的話，將有利于這種性能的提升。另外，如果采用非標(biāo)準(zhǔn)化的協(xié)議如定制的標(biāo)準(zhǔn)協(xié)議，就需要與相互連的設(shè)備廠商來一起協(xié)作。

問題二：高速互連芯片在國內(nèi)還是空白，那么國內(nèi)智能算力芯片之間互連目前能夠做到一個(gè)什么樣的水平？

答：目前來說，國內(nèi)算力芯片之間的互連還尚處于發(fā)展的初期階段，一般是利用卡間直連的方式來做，比如一個(gè)8卡系統(tǒng)，相互之間可以直接利用線纜直接連接，當(dāng)系統(tǒng)更大的時(shí)候帶寬和效率就會下降很快，由于缺乏類似nvswitch的交換芯片產(chǎn)品，我們在做更大算力系統(tǒng)的時(shí)候互連將會成為嚴(yán)重制約整個(gè)系統(tǒng)效率的瓶頸所在。雖然國內(nèi)目前算力公司有在做自己的卡間互連方案，但是高速互連芯片有獨(dú)特難度，即便像英偉達(dá)也是收購了Mellanox做，而AMD是和博通合作做，所以說其它包括國內(nèi)算力公司的企業(yè)在規(guī)?；到y(tǒng)互連上還有待尋找和推出合適的產(chǎn)品。

問題三：現(xiàn)在從一些技術(shù)發(fā)展的趨勢來看，未來智算中心建設(shè)會不會以互連為核心來設(shè)計(jì)智算中心方案，以后會是什么趨勢？

答：現(xiàn)在的智能算力系統(tǒng)發(fā)展來看，算力上已經(jīng)從由CPU為核心正逐漸向以GPU為核心進(jìn)行轉(zhuǎn)變，系統(tǒng)互連的地位也在日益突出。如果但以整機(jī)系統(tǒng)為主，預(yù)計(jì)AI算力廠商更有話語權(quán)，當(dāng)然系統(tǒng)規(guī)模變大以后，互連方案和算力會同為核心，只有通過相互之間的協(xié)作才能構(gòu)建出一個(gè)高效的算力系統(tǒng)。

問題四：互連協(xié)議方面，國內(nèi)是遵循國際標(biāo)準(zhǔn)還是國內(nèi)做自己的協(xié)議標(biāo)準(zhǔn)更好？

答：從企業(yè)層面來說，國際主流的標(biāo)準(zhǔn)協(xié)議是肯定要遵循的，這樣才能更好的進(jìn)入整個(gè)生態(tài)和實(shí)現(xiàn)產(chǎn)品的應(yīng)用。從未來算力系統(tǒng)的升級來說，國產(chǎn)化協(xié)議是一條很好的路徑，一方面國外的標(biāo)準(zhǔn)協(xié)議如Nvlink是不開放的，另外國產(chǎn)GPU的互連還缺少高效的規(guī)?；桨钢危惹行枰幸粋€(gè)可行的方案，雖然做國產(chǎn)化協(xié)議標(biāo)準(zhǔn)的實(shí)際困難很多，但是對于國產(chǎn)算力發(fā)展層面來說，這是一條肯定要走的路。