NVIDIA和日本電信公司軟銀合作創(chuàng)建了一個(gè)基于NVIDIA的GH5 Grace Hopper Superchip的生成人工智能和6G/200G應(yīng)用平臺(tái)。
軟銀計(jì)劃在日本建立數(shù)據(jù)中心，與英偉達(dá)一起，可以在共享服務(wù)器平臺(tái)上容納生成式人工智能和無(wú)線應(yīng)用程序。這種多租戶解決方案有望降低成本并提高能源效率。
擬議的平臺(tái)將利用NVIDIA的全新MGX模塊化參考架構(gòu)和GH200超級(jí)芯片，從而提高應(yīng)用程序工作負(fù)載的性能。Grace Hopper架構(gòu)采用72個(gè)Arm Neoverse V2處理器內(nèi)核和LPDDR5X，包括用于加速計(jì)算的中央處理器和圖形處理單元的組合。
NVIDIA將在今年晚些時(shí)候推出MGX，軟銀是第一個(gè)測(cè)試該架構(gòu)的客戶。
電信現(xiàn)代化需要加速計(jì)算
在過(guò)去的六十年中，大多數(shù)計(jì)算架構(gòu)主要以CPU為中心。這些傳統(tǒng)設(shè)計(jì)用途廣泛，可以很好地適應(yīng)各種工作負(fù)載，但現(xiàn)在正被加速計(jì)算所取代。
加速計(jì)算使用全棧，這意味著它同時(shí)具有 CPU 和加速器協(xié)同工作以劃分處理任務(wù)。此方法經(jīng)過(guò)優(yōu)化，可處理不同的工作負(fù)載。這兩個(gè)元素之間的網(wǎng)絡(luò)對(duì)于保持最佳性能至關(guān)重要。
該聯(lián)合平臺(tái)還將利用NVIDIA的BlueField-3數(shù)據(jù)處理單元來(lái)加速5G虛擬化無(wú)線接入網(wǎng)絡(luò)和生成AI應(yīng)用程序。預(yù)計(jì)它將在5 Gbps的下行鏈路容量范圍內(nèi)實(shí)現(xiàn)36G速度。
與單一用途的5G虛擬RAN相比，這種方法的投資回報(bào)率約為四倍，因?yàn)閿?shù)據(jù)中心也可以用于AI，NVIDIA電信高級(jí)副總裁Ronnie Vasishta在與分析師的簡(jiǎn)報(bào)中解釋說(shuō)。
開放式 RAN 可實(shí)現(xiàn)更高的敏捷性
直到最近，電信的主要模型還是專有的RAN，它是作為單個(gè)單片堆棧開發(fā)的。這種方法提供高性能，但維護(hù)成本很高。許多公司已過(guò)渡到開放式虛擬化 RAN，將其計(jì)算工作負(fù)載轉(zhuǎn)移到服務(wù)器架構(gòu)。
但是，虛擬化RAN一直難以與專有RAN的性能相匹配。為了克服這個(gè)問(wèn)題，引入了專用加速器。然而，這些單一用途的加速器只能用于RAN工作負(fù)載，導(dǎo)致性能不佳和云經(jīng)濟(jì)性不佳。
“純粹用于5G的單一用途網(wǎng)絡(luò)必須針對(duì)高峰需求而構(gòu)建。隨著新的人工智能應(yīng)用的出現(xiàn)，高峰需求將會(huì)增長(zhǎng)。電力需求將會(huì)增長(zhǎng)。計(jì)算需求也將增長(zhǎng)，“Vasishta說(shuō)。“我們看到正在建設(shè)的網(wǎng)絡(luò)利用率嚴(yán)重不足，5G的投資回報(bào)率相對(duì)較低。
NVIDIA 開發(fā)了一種 GPU 加速的軟件定義架構(gòu)，其中一個(gè)加速器可以同時(shí)運(yùn)行 AI 任務(wù)和 RAN。這允許RAN和AI在數(shù)據(jù)中心內(nèi)共存，數(shù)據(jù)中心可以是公共的、分布式的或本地的。這種方法本質(zhì)上允許5G作為AI云上的軟件覆蓋運(yùn)行，硬件保持不變。事實(shí)上，隨著6G算法的發(fā)展，它們可以被整合到現(xiàn)有的硬件中，而不需要部署新的硬件。
生成式AI是“iPhone時(shí)刻”
Vasishta稱這是“AI的iPhone時(shí)刻”人工智能對(duì)數(shù)據(jù)中心的改變游戲規(guī)則的影響，類似于iPhone如何徹底改變智能手機(jī)。
這一刻的特點(diǎn)是科技行業(yè)兩個(gè)變革因素的融合：計(jì)算架構(gòu)的變化和生成式人工智能的出現(xiàn)。Vasishta說(shuō)，生成式AI需要橫向擴(kuò)展架構(gòu)，這推動(dòng)了對(duì)網(wǎng)絡(luò)化“AI工廠”或數(shù)據(jù)中心的巨大需求。聊天機(jī)器人和視頻會(huì)議等應(yīng)用程序，通過(guò)生成式人工智能成為可能，正在對(duì)電信網(wǎng)絡(luò)產(chǎn)生巨大的需求。
NVIDIA正在通過(guò)使5G基礎(chǔ)設(shè)施不僅虛擬化，而且完全軟件定義來(lái)解決這個(gè)問(wèn)題。因此，可以在同一數(shù)據(jù)中心內(nèi)運(yùn)行高性能、高效的 5G 網(wǎng)絡(luò)以及 AI 應(yīng)用程序。這為軟銀等電信公司開辟了新的貨幣化機(jī)會(huì)，使他們能夠成為區(qū)域云服務(wù)提供商。通過(guò)建立AI工廠，他們還可以提供RAN服務(wù)，從而更有效地使用他們購(gòu)買的頻譜。
軟銀正在探索5G在各個(gè)領(lǐng)域的應(yīng)用，包括自動(dòng)駕駛、增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)、計(jì)算機(jī)視覺和數(shù)字孿生。與 NVIDIA 的合作是數(shù)據(jù)中心發(fā)展的重要一步，其中對(duì)加速計(jì)算和生成式 AI 的需求推動(dòng)了根本性的變化。
