C114通信網(wǎng)  |  通信人家園

人工智能
2024/6/26 10:38

大模型公司對標系列之七:英偉達公司

天翼智庫  

公司檔案

英偉達是全球AI算力龍頭,成立于1993年,專(zhuān)注于GPU的研發(fā)與制造,并由傳統GPU供應商轉型升級為平臺化企業(yè),成為人工智能時(shí)代軟硬件一體化AI 解決方案領(lǐng)導者。英偉達2023年全年實(shí)現營(yíng)收609.2億美元,同比增長(cháng)126%;毛利率高達72.7%(同比增長(cháng)15.8%),凈利潤為297.6億美元(同比增長(cháng)581%)。其中,數據中心業(yè)務(wù)是其主要收入來(lái)源,2023全年實(shí)現收入475億美元,同比增長(cháng)217%。截至2024年6月初,英偉達市值突破3萬(wàn)億美元,成為美股市值第二大企業(yè)。

圖1 英偉達的發(fā)展歷程

表1 英偉達2023-2024年財年關(guān)鍵業(yè)績(jì)指標

技術(shù)、產(chǎn)品與服務(wù)

1. 技術(shù):注重算力設計,持續技術(shù)創(chuàng )新

(1)芯片和算力組合技術(shù)

英偉達的核心算力科技,囊括了die-to-die link(裸片到裸片連接),Grace CPU,NVLink,NVSwitch;其掌握了從晶圓(wafer)芯片到印制電路板(pcb)、機柜和到跨機柜的全尺度互聯(lián)技術(shù)。

英偉達打通了技術(shù)上下游,將算力設計分成五個(gè)物理層次,并且在每一個(gè)層次都達到最佳技術(shù)要求。這五層分別是:單芯片、Die-to-Dielink一片雙芯、NVLink多卡互聯(lián)、NVSwitch SuperPOD(超算)和AI超級工廠(chǎng)。

(2)GPU架構

英偉達不斷推出新的GPU架構,如Ampere、Turing和Hopper等,這些架構在硬件設計上進(jìn)行了多項創(chuàng )新。其中Ampere架構是Nvidia GPU最新技術(shù)的基石,它具有更高的性能、更低的功耗和更強的AI計算能力。

Ampere架構的核心技術(shù)包括:

第三代Tensor Core:Ampere架構中的第三代Tensor Core具有更高的浮點(diǎn)運算性能和更強的矩陣乘法能力,能夠滿(mǎn)足AI模型的復雜計算需求。

第二代RT Core:Ampere架構中的第二代RT Core具有更高的光線(xiàn)追蹤性能和更強的實(shí)時(shí)光照能力,能夠提供更加逼真的圖形渲染效果。

新的SM架構:Ampere架構中的新的SM(Streaming Multiprocessor,流處理器)架構具有更高的并行處理能力和更強的數據處理能力,能夠滿(mǎn)足大規模數據處理的需求。

(3)圖形渲染技術(shù)

一是AI Agent的圖形渲染技術(shù)DLSS(Deep Learning Super Sampling,深度學(xué)習超采樣),是Nvidia基于A(yíng)mpere架構開(kāi)發(fā)的一項革命性技術(shù)。DLSS技術(shù)使用AI Agent來(lái)實(shí)時(shí)生成高質(zhì)量的圖形,能夠提供更加逼真的圖形渲染效果和更高的幀率。

二是Nvidia GPU的光線(xiàn)追蹤技術(shù)(Ray Tracing)。這是Nvidia基于A(yíng)mpere架構開(kāi)發(fā)的一項革命性技術(shù)。Ray Tracing技術(shù)使用光線(xiàn)追蹤算法來(lái)模擬真實(shí)世界中的光照效果,能夠提供更加逼真的圖形渲染效果和更高的圖形質(zhì)量。

三是陰影渲染技術(shù)(Variable Rate Shading)。該技術(shù)是Nvidia基于A(yíng)mpere架構開(kāi)發(fā)的一項革命性技術(shù)。Variable Rate Shading技術(shù)使用可變速陰影渲染算法來(lái)模擬真實(shí)世界中的陰影效果,能夠提供更加逼真的圖形渲染效果和更高的圖形質(zhì)量。

(4)AI加速計算技術(shù)

Nvidia GPU的AI加速計算技術(shù)(AI Acceleration)是其最新技術(shù)的核心組成部分。Nvidia GPU的AI計算能力可以滿(mǎn)足AI模型的復雜計算需求,提供高速的AI計算性能和低延遲的數據處理能力。包括:第一、Tensor Core,是專(zhuān)門(mén)為AI計算設計的處理器單元,能夠提供高速的浮點(diǎn)運算性能和矩陣乘法能力。第二、CUDA核心,是專(zhuān)門(mén)為并行計算設計的處理器單元,能夠提供高速的并行處理性能和數據處理能力。

2. 產(chǎn)品:端到端、訓練推理一體、軟件全棧

目前在A(yíng)I領(lǐng)域,英偉達的業(yè)務(wù)布局遵從:端到端、訓練推理一體、軟件全棧的業(yè)務(wù)布局思路,相關(guān)產(chǎn)品從下向上,主要包括AI芯片(訓練、推理)、網(wǎng)絡(luò )(芯片互聯(lián)、設備互聯(lián))、基礎軟件框架&應用軟件等。

AI 芯片:英偉達每隔1-2年提出新的芯片架構以適應計算需求升級。其AI芯片布局涵蓋了訓練和推理兩個(gè)人工智能關(guān)鍵應用,訓練推理融合,并側重推理。其AI芯片規劃的戰略核心是“One Architecture”統一架構,支持在任何地方進(jìn)行模型訓練和部署。

計算芯片組合:英偉達在數據中心領(lǐng)域提供一體化的芯片解決方案,CPU+GPU+DPU 的產(chǎn)品組合,疊加英偉達在網(wǎng)絡(luò )、軟件層面的突出優(yōu)勢,有望進(jìn)一步強化英偉達在數據中心HPC領(lǐng)域的競爭優(yōu)勢。

基礎模型Nemo:通過(guò)100+伙伴賦能千行百業(yè),借助NeMo,可以建立特定于其領(lǐng)域的虛擬主題專(zhuān)家;還可以幫助現場(chǎng)服務(wù)代表更輕松地回答客戶(hù)問(wèn)題,并提供準確、最新的信息等。

3. 服務(wù)

(1)云計算服務(wù)

2022年開(kāi)始,英偉達利用自己在A(yíng)I硬件領(lǐng)域的主導地位,來(lái)產(chǎn)生英偉達云服務(wù)收入(DGX Cloud)。英偉達希望通過(guò)美國市場(chǎng)云服務(wù)商租用英偉達支持的服務(wù)器,英偉達再把相同的服務(wù)器租給 AI 軟件開(kāi)發(fā)商,以換取云計算收入。AI軟件公司也開(kāi)始從 CoreWeave 等 GPU云初創(chuàng )公司這里租賃算力,而不是從AWS、微軟云公司這里租賃。甚至一些大的云公司,也從與英偉達達成合作關(guān)系的GPU云初創(chuàng )公司處購買(mǎi) GPU 服務(wù)器。

英偉達的云客戶(hù)可分為三種類(lèi)型,包括:小型云公司如coreWeave,AI 軟件公司如Cohere、Inflection AI、Aleph Alpha等,大型買(mǎi)家如IT 軟件巨頭公司 ServiceNow、生物制藥公司 Amgen 、保險公司 CCC Intelligence Solutions等。

(2)云原生AI微服務(wù)

2024年,英偉達推出生成式AI微服務(wù),供開(kāi)發(fā)者在已安裝CUDA GPU的系統中創(chuàng )建和部署生成式AI助手。企業(yè)可以利用這些微服務(wù)在自己的平臺上創(chuàng )建和部署定制應用,同時(shí)保留對知識產(chǎn)權的完整所有權和控制權。

NVIDIA CUDA 平臺上的云原生微服務(wù)包括 NVIDIA NIM 微服務(wù),可適用于 NVIDIA 及合作伙伴生態(tài)系統中 20 多個(gè)熱門(mén)的 AI 模型進(jìn)行推理優(yōu)化。用戶(hù)能夠從SageMaker、谷歌KubernetesEngine和微軟AzureAI中訪(fǎng)問(wèn)NIM微服務(wù),并與Deepset、LangChain和LlamaIndex等流行的AI框架集成;還能以NVIDIA CUDA-X微服務(wù)的形式使用NVIDIA加速軟件開(kāi)發(fā)套件、庫和工具,用于檢索增強生成(RAG)、護欄、數據處理、HPC等。

目前包括 Adobe、Cadence、CrowdStrike、Getty Images、SAP、ServiceNow 和 Shutterstock 在內的諸多領(lǐng)先應用、數據和網(wǎng)絡(luò )安全平臺提供商已經(jīng)率先使用了 NVIDIA AI Enterprise 5.0 的生成式 AI微服務(wù)。

市場(chǎng)拓展策略

英偉達通過(guò)不斷創(chuàng )新和推出先進(jìn)的產(chǎn)品和服務(wù),已經(jīng)成為全球AI領(lǐng)域的主導者,并在多個(gè)高科技領(lǐng)域保持領(lǐng)先地位。英偉達在數據中心GPU市場(chǎng)占有極高的份額,2023年出貨量達到376萬(wàn)臺,市場(chǎng)占比高達98%。英偉達通過(guò)超強算力&通信性能+CUDA生態(tài)+DGX Cloud AI云服務(wù),共同構筑寬廣的護城河,其產(chǎn)品推動(dòng)了全球AI、HPC、游戲、創(chuàng )意設計、自動(dòng)駕駛汽車(chē)和機器人開(kāi)發(fā)領(lǐng)域的進(jìn)步。

在具體市場(chǎng)拓展策略上,英偉達采取如下措施:

一是通過(guò)其N(xiāo)VIDIA LaunchPad計劃,將服務(wù)覆蓋范圍擴大至全球9個(gè)地區,幫助企業(yè)快速開(kāi)發(fā)和部署AI應用。此外,英偉達也在歐洲擴張版圖,認為歐洲的商業(yè)環(huán)境非常適合其業(yè)務(wù)發(fā)展。英偉達還在積極開(kāi)拓中國市場(chǎng),推動(dòng)中國云服務(wù)業(yè)務(wù)的發(fā)展。

二是英偉達通過(guò)研發(fā)投入和技術(shù)創(chuàng )新不斷推出新一代GPU和其他硬件產(chǎn)品,通過(guò)硬件與軟件的結合,提供針對不同細分領(lǐng)域的系統解決方案產(chǎn)品,保持市場(chǎng)領(lǐng)先地位。例如,DGX用于數據中心,HGX用于超大規模運算中心。這種技術(shù)創(chuàng )新和產(chǎn)品多樣化使英偉達能夠在A(yíng)I領(lǐng)域保持領(lǐng)先地位。面對激烈的市場(chǎng)競爭,英偉達通過(guò)來(lái)鞏固其市場(chǎng)地位。

三是英偉達通過(guò)提高售價(jià)來(lái)控制市場(chǎng)需求,避免過(guò)度競爭和價(jià)格戰,從而提升公司的盈利能力。同時(shí),英偉達也會(huì )根據市場(chǎng)需求進(jìn)行價(jià)格調整,以吸引更多客戶(hù)和開(kāi)發(fā)者使用其芯片產(chǎn)品。

四是通過(guò)與各行業(yè)的合作關(guān)系,推動(dòng)AI技術(shù)的廣泛應用。例如,與戴爾的合作旨在讓機構和企業(yè)開(kāi)發(fā)自己的人工智能能力,從而刺激對其產(chǎn)品的需求。此外,英偉達還與聯(lián)發(fā)科等公司合作,進(jìn)一步拓展AI PC市場(chǎng)。

五是通過(guò)多元化的投資策略,不僅拓展了其業(yè)務(wù)范圍,還加強了與各行業(yè)的合作關(guān)系。這種投資策略有助于英偉達在全球范圍內拓展業(yè)務(wù)。

六是不斷探索新的市場(chǎng)機會(huì ),例如再次進(jìn)軍游戲掌機市場(chǎng)等。

組織與運營(yíng)

分布式操作系統的組織架構。英偉達將管理比作GPU的運作,強調每個(gè)單元獨立運作又整體協(xié)同,通過(guò)分布式的溝通和組織架構,實(shí)現信息的廣泛分布與高效處理,保證組織的靈活性和效率。

對等薪酬體系。英偉達實(shí)行一種精確度極高的薪酬分配機制,確保每個(gè)成員的薪酬差異極小,旨在減少內部等級感,促進(jìn)團隊合作。

直接匯報體系。采用扁平化管理結構,減少中間層級,CEO黃仁勛直接管理接近50名副總及部門(mén)總經(jīng)理,具體包括:財務(wù)運營(yíng)4人,科研2人,技術(shù)9人,合作創(chuàng )業(yè)1人,法務(wù)3人,運營(yíng)4人,外地業(yè)務(wù)2人,機器人1人,生態(tài)系統4人,終端用戶(hù)銷(xiāo)售7人,人力資源5人(含人力資源配置、全球招募),企業(yè)傳媒2人,邊緣計算1人。整個(gè)匯報體系重視效率和透明度,強調信息共享而非控制。

英偉達常年專(zhuān)注投入研發(fā),研發(fā)費用處于高位水平。上市以來(lái),英偉達通過(guò)“三團隊-兩季度”的研發(fā)模式以及聚焦GPU研發(fā),實(shí)現了在單一領(lǐng)域與友商相比更高的研發(fā)投入。如與AMD相比,2005年英偉達研發(fā)投入為AMD的32.73%,而2023年,英偉達研發(fā)投入已是AMD的1.47倍。

通過(guò)高效管理,銷(xiāo)售及管理費用率逐年下降。英偉達上市以來(lái)銷(xiāo)售費用率從10%逐步下降,2023年,英偉達銷(xiāo)售及管理費用率下降至4.36%。

資本運作

英偉達不僅在芯片研發(fā)上投入巨大,還在A(yíng)I初創(chuàng )公司的投資方面表現非;钴S。這些投資覆蓋AI基礎設施、AI垂直應用以及生成式AI等多個(gè)領(lǐng)域,為英偉達帶來(lái)了新的增長(cháng)點(diǎn)和技術(shù)協(xié)同。

2023年英偉達通過(guò)其風(fēng)投部門(mén)Nventures投資了34家與AI相關(guān)的公司.這一數字是2022年的3倍多。在生成式AI方面,英偉達投資了搜索引擎、視頻創(chuàng )作生成、人工智能代理等領(lǐng)域的公司。在A(yíng)I垂直應用方面,英偉達投資了10家醫藥相關(guān)公司。例如,英偉達在2023年8月投資了開(kāi)源大模型開(kāi)發(fā)平臺Hugging Face,并在9月投資了數據分析和人工智能軟件制造商Databricks。此外,英偉達還投資了巴黎AI初創(chuàng )公司Mistral,該公司估值達到20億歐元。

  表2 英偉達2023年投資的34家初創(chuàng )公司

2024年,英偉達繼續加大對AI初創(chuàng )公司的投資力度。據報道,英偉達通過(guò)風(fēng)投部門(mén)投資總額超過(guò)15億美元,重點(diǎn)投資未來(lái)十年的新技術(shù)。這些投資不僅涵蓋了生成式AI、AI基礎設施和AI垂直應用,還包括了其他領(lǐng)域如生物技術(shù)和自動(dòng)駕駛等。

英偉達的投資一方面旨在強化生態(tài)系統,通過(guò)資助與其平臺高度相關(guān)的創(chuàng )新者來(lái)擴展生態(tài)系統。這種策略有助于英偉達構建一個(gè)更加緊密和互補的合作伙伴網(wǎng)絡(luò ),從而進(jìn)一步鞏固其在A(yíng)I領(lǐng)域的領(lǐng)導地位。另一方面旨在獲得財務(wù)回報,英偉達特別重視AI領(lǐng)域的頂尖初創(chuàng )公司,如Cohere等。

英偉達在投資AI初創(chuàng )公司時(shí),主要考慮以下幾個(gè)標準和因素:

一是業(yè)務(wù)相關(guān)性,英偉達非常重視投資項目與其核心業(yè)務(wù)的相關(guān)性。NVentures負責人曾指出,對英偉達來(lái)說(shuō),投資初創(chuàng )企業(yè)的首要標準是相關(guān)性。

二是技術(shù)實(shí)力和市場(chǎng)前景,英偉達會(huì )評估目標公司的技術(shù)實(shí)力和市場(chǎng)前景,以確保其投資能夠帶來(lái)長(cháng)期的回報。這包括對產(chǎn)品性能、功耗和環(huán)保性能等方面的考量。

三是注重具體行業(yè)應用領(lǐng)域,英偉達感興趣的投資領(lǐng)域包括軟件、制藥和醫療保健等,這些領(lǐng)域與其自身的技術(shù)優(yōu)勢和市場(chǎng)需求高度相關(guān)。

四是合作潛力,如英偉達通過(guò)投資AI算力新秀CoreWeave,并通過(guò)抵押H100 GPU拿到貸款,用以購買(mǎi)更多英偉達的GPU,形成了一個(gè)良性循環(huán),既加強了自身產(chǎn)品的市場(chǎng)滲透,又促進(jìn)了目標公司的發(fā)展。

五是目標公司估值,英偉達一般只進(jìn)行小額投資,只在個(gè)別情況下進(jìn)行大額投資,如以10億美元收購特拉維夫AI初創(chuàng )公司Run:ai,因為這是一家已經(jīng)成功幫助多家全球500強企業(yè)優(yōu)化 AI硬件基礎設施的公司,擁有穩定的客戶(hù)群和收入。

生態(tài)合作

英偉達(NVIDIA)在全球范圍內與多家公司建立了合作關(guān)系,涵蓋了人工智能、半導體制造、汽車(chē)、云計算等多個(gè)領(lǐng)域,典型合作伙伴包括:

(1)人工智能和半導體領(lǐng)域

臺積電:與英偉達合作使用計算光刻平臺,加快下一代先進(jìn)半導體芯片的制造速度并克服物理限制。

Synopsys(新思科技):在生產(chǎn)中率先使用英偉達計算光刻平臺。

聯(lián)想集團:合作推出全新混合人工智能解決方案。

(2)汽車(chē)行業(yè):

捷豹路虎、比亞迪等:與英偉達建立多年戰略合作關(guān)系,共同致力于新一代自動(dòng)駕駛系統的研發(fā)。

(3)云計算和HPC(高性能計算):

谷歌云:與英偉達擴大合作伙伴關(guān)系,推進(jìn)AI計算、軟件和服務(wù)的發(fā)展。

亞馬遜AWS:將基于A(yíng)WS Graviton2的Amazon EC2實(shí)例與NVIDIA GPU相結合,提升科學(xué)和AI應用的開(kāi)發(fā)。

(4)游戲和顯卡制造商:

包括華碩(ASUS)、宏碁(Acer)、惠普HP)、聯(lián)想(Lenovo)。這些公司集成了英偉達的GPU,提供各種定制解決方案,如游戲顯卡、專(zhuān)業(yè)圖形工作站、數據中心服務(wù)器等。

(5)云服務(wù)商、大模型商:

OpenAI、微軟、Meta、戴爾、甲骨文:這些大公司與英偉達有緊密的合作關(guān)系,共同推動(dòng)AI技術(shù)的發(fā)展。

Hugging Face:與英偉達建立合作伙伴關(guān)系,讓開(kāi)發(fā)人員可以在Nvidia DGX Cloud超級計算基礎設施上進(jìn)行機器學(xué)習和AI工具開(kāi)發(fā)。

(6)其他企業(yè):

此外,英偉達還通過(guò)其N(xiāo)VIDIA Partner Network (NPN)與全球各地的合作伙伴進(jìn)行合作,這些合作伙伴按照能力類(lèi)型進(jìn)行劃分。

前瞻布局移動(dòng)基站,劍指邊緣計算:英偉達正在與電信基礎設施建設者愛(ài)立信就一款包含芯片設計英偉達的圖形處理單元(GPU)技術(shù)的無(wú)線(xiàn)芯片進(jìn)行談判,同時(shí)軟銀和英偉達將聯(lián)合成立一個(gè)新的行業(yè)協(xié)會(huì )“AI-RAN 聯(lián)盟”,電信巨頭愛(ài)立信、諾基亞等全球約 10 家公司也將參加其中,致力于將利用移動(dòng)通信基站分散 AI 處理的技術(shù)實(shí)用化。

共同開(kāi)發(fā)先進(jìn)AI模型:英偉達和OpenAI擴展了他們的合作伙伴關(guān)系,共同開(kāi)發(fā)了一個(gè)比ChatGPT更強大的先進(jìn)AI模型,該模型連接了1000萬(wàn)個(gè)英偉達 AI GPUs。這一合作標志著(zhù)在A(yíng)I領(lǐng)域的一個(gè)新時(shí)代的開(kāi)始,旨在利用驚人的計算能力重新定義AI的邊界。

加速AI研究與開(kāi)發(fā):英偉達與谷歌云的合作擴展到了為機器學(xué)習社區提供技術(shù)支持,使他們能夠更快速、輕松地構建、擴展和管理生成式AI應用軟件。英偉達與谷歌的合作還包括對谷歌開(kāi)源大模型Gemma的優(yōu)化,使用英偉達TensorRT-LLM技術(shù),這有助于加速AI模型的訓練和推理過(guò)程。

本文作者

李晨清

戰略發(fā)展研究所

二級分析師

碩士,就職于中國電信研究院,戰略運營(yíng)研究方向,長(cháng)期從事金融科技、數字新消費、國際業(yè)務(wù)等研究。

張小東

戰略發(fā)展研究所

一級分析師

碩士,長(cháng)期從事數字產(chǎn)業(yè)發(fā)展和政策研究,近年來(lái)專(zhuān)注于數字產(chǎn)業(yè)、合規管理、數字出海業(yè)務(wù)研究等領(lǐng)域。

給作者點(diǎn)贊
0 VS 0
寫(xiě)得不太好

免責聲明:本文僅代表作者個(gè)人觀(guān)點(diǎn),與C114通信網(wǎng)無(wú)關(guān)。其原創(chuàng )性以及文中陳述文字和內容未經(jīng)本站證實(shí),對本文以及其中全部或者部分內容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實(shí)相關(guān)內容。

熱門(mén)文章
    最新視頻
    為您推薦

      C114簡(jiǎn)介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權所有 舉報電話(huà):021-54451141