資料驅動的科技革命之四:科技賦能的關鍵技術軍火商 NVIDIA

Posted by

自 2016 年開始關注研究這一波科技產業革命以來,具有「科技賦能軍火商」角色並處於絕對領先地位的幾家王者:NVIDIA、TSMC、Microsoft,就成為對我而言最重要的指標公司。透過他們的動作與對未來看法,搭配公司營運的相關數據,就能判斷目前產業發展的進程。

無論大家現在定義的產業革命是 AI、數位轉型還是元宇宙,背後的關鍵都是來自「數據驅動各行各業轉型,進而改變商業模式與邏輯。」而 NVIDIA 在這波產業革命之下,絕對是佔據關鍵領先地位。NVIDIA GTC 更是每年都不能錯過的重頭戲!

四月開啟「資料驅動的科技革命」系列文章,很重要的一個原因是因為 NVIDIA GTC 讓人興奮的新品連發。今天就來講講 NVIDIA 這個企業數位轉型底下,最關鍵的軍火商。

NVIDIA 火力展現,站穩「全運算平台」霸主地位

今年 4 月的 GTC,NVIDIA 軟硬整合新品連發,完整展現 NVIDIA 為企業「科技賦能」的霸主地位。硬體從 GPU 到 XPU 推出三顆晶片、一個架構、年年更新;軟體則是以企業、自駕車為兩大終端應用,推出一整套模組的專業服務以解決行業目前遇上的痛點。

黃教主強調:NVIDIA 已是一個「全運算平台」,他們使用「平台」這個詞,比任何一家晶片公司都多。

圖一:NVIDIA GTC 完整布局

軟體平台:意在協助企業應用 AI / 元宇宙

NVIDIA 協助企業應用虛擬工廠、語音和推薦軟體系統,以提升企業經營效率。

  • 企業已落實應用:BMW 已經使用 Omniverse 模擬 31 間工廠的所有元素,可以非常迅速模擬真實情況、調整產線,並使用 NVIDIA 的機器人進行物流工作,最終提高 30% 規劃效率,為企業降低成本。
  • 對話式 AI 框架 NVIDIA Jarvis:使用數百萬小時語音、10 億份網頁進行訓練,辨識精度可達 90%,在 11 月的 GTC 上,公司即展現這項可模擬真實口音的技術。若有專業術語需求,也可透過 NVIDIA TAO 重新訓練。
  • 推薦系統 NVIDIA Merlin:推薦系統是用於廣告、線上購物、電影、用戶生成內容…等領域的引擎,爲加快推薦系統的速度,可通過 NGC(NVIDIA 深度學習框架容器目錄)取得。

先前說過,自然語言訓練使資料模擬參數較過去提升了 10~100 倍,推出軟體服務的目的是加速應用落地,當數據量應用越多、使用者從中取得更多效益時,NVIDIA 就可以藉由「互補品效應」,使資料中心的晶片需求呈現指數型成長

企業級元宇宙 Omniverse 也是一樣的概念,能使用跟現實一樣的軟體跟模型,在虛擬世界模擬一間機器人與人類共作的工廠,並落實在真實世界中。當企業採用越多,對身為互補品的 HPC 需求越高。而這個服務並不是憑空推出,NIVIDIA 早在 2018 年就推出針對機器人打造的自主機器平台 NVIDIA Isaac 與自駕車模擬環境 NVIDIA DRIVE,這些提供給客戶應用的軟體服務,早已運用在模擬工廠建造,只是今年用 Omniverse 統一了原本就有的虛擬平台服務。

硬體:推出以「資料運算」為核心的產品

強化軟體平台的背後,必須要有強大運算力的產品支撐,而今年的 GTC 也讓公司的布局更清晰:

  • ARM base CPU Grace:主要針對複雜的超級運算。若 Grace 系統搭載自家 GPU,將可提供比目前頂級 X86 CPU + NVIDIA DGX 系統提升 10 倍效能,暫定於 2023 年初推出,採用台積電 5nm 與ARM V9 架構。公司表示如此可解放 GPU 的完整效能以達到運算力的提升。
    (Nvlink 於 2016 年首次用在 Pascal 架構,並於當年修改營收項目,NVIDIA 資料中心營收開始大幅成長。)
  • 資料處理器 DPU BlueField-3:資料處理加速是升級運算力的另一個重要面向,這次發表的新品速度將是前一代 BlueField-2 的十倍,由 220 億個電晶體打造,並且具備 16 顆 ARM CPU 核心。同時發表資料中心架構的 SDK-DOCA 1.0,可在 DPU 上進行安全性與管理應用。
  • Ampere GPU:在去年的文章中,我們有講到 2020 年的 Ampere GPU 升級是睽違兩年的重要改款,效能較先前大幅提升,這次重點不在 GPU 上,有興趣的人可以翻閱先前文章。
  • 超級電腦 DGX:目前自然語言處理造成很大的訓練資料量,這是 DGX 主要用途之一,同時推出 Megatron 架構幫助訓練轉換器。

CEO 黃仁勳在 GTC 中表示:目前市場上每年交付的 3000 萬臺數據中心服務器中,有 1/3 用於軟體定義的數據中心,其負載的成長速度遠高於摩爾定律。新時代需要新的晶片、新的系統架構、新的網絡、新的軟體和工具,除非我們找到加速的辦法,否則用於運算的算力將會越來越少

圖二:以資料為中心的晶片架構,正在衝擊以運算為中心的傳統思維

顯然以上三大產品線:GPU、DPU、CPU,用三顆晶片、一個架構、年年更新的方式,就是 NVIDIA 給出的新時代晶片的完整產品線。

備註:預計 2022 年更新 Ampere 後的下一款 GPU、BlueField-3 DPU,2023 年推出 Grace CPU,2024 年推出下下代 GPU 與 BlueField-4 DPU,2025 年推出再下一代 ARM base CPU。

圖三:NVIDIA 硬體推出時程規劃 (GPU / CPU / DPU)

客製化行業需求:解決「自駕車」與「企業」的兩大痛點

除了軟體與硬體更新外,公司也針對兩大應用場景提出解決方案。

  • 自駕車 Drive AV:打造一條龍的自駕車平台,從晶片、感應器架構、地圖資料、資料處理…等,可模組化提供給車廠一套完整的自駕系統,目前和賓士合作。同時推出自駕車專用晶片 Orin,完整處理路面資訊與車載娛樂,計畫於 2022 年生產。自駕車系統可同時在 NVIDIA Omniverse 的虛擬環境中訓練,預計將於 2024 年推出擁有 1000 TOPS 算力的新一代自駕車晶片 Atlan。
  • 企業 NVIDIA EGX for Enterprise:推出企業級雲端 AI 服務,可透過 VMware 使用 NVIDIA AI。同時宣布為邊緣設計的運算平台產品,可見 NVIDIA 針對企業應用已經設想多個場景。

NVIDIA 資料中心蓬勃發展,成長明顯加速

各種應用推升數據量的大幅增加,應用場景正在從雲落實到端點。這次 NIVIDIA 財報中,我們也看到了相關的現象。

:NVIDIA 營收與營業利益的 YoY

本次財報的亮點之一:資料中心營收大幅跳升。不僅成長性回升到 54.5%,且絕對金額跳升幅度是併購 Mellanox 之外的最大金額。

圖五:NVIDIA 資料中心營收與 YoY
圖六:NVIDIA 資料中心營收,拆分 Mellanox 與原有業務

2016 年公司拆出資料中心營收,當時客戶以超大規模雲端客戶為主,而如今資料中心單季營收以高達近 30 億美金,且超大規模雲端客戶佔比降至 30%,較去年同期 50% 顯著減少,顯示對資料中心產品的需求已不再大幅依靠超大規模的雲端廠商部屬,而是來自更多垂直行業的投入。

圖七:NVIDIA 專業繪圖卡營收與YoY 和各營收比重

本次財報的亮點之二:專業繪圖卡營收持續大幅增加 1.5 倍。隨著虛擬空間的協作工作者增加,個人工作站對於專業繪圖卡的需求也在增加。CEO 在法說會強調,隨著應用增加,需求會從雲到端點蓬勃發展。

面對指數成長的數據,運算力就是新時代的馬力!

資料驅動的龐大市場,晶片的應用場景將十分多元,在 GTC 中,公司總是強調以「開放平台」和客戶合作,期待攜手把餅做大。包含:與 Amazon 在 AWS 提供雲端遊戲串流、和聯發科合作將 GPU 帶到 ARM PC 平台、與 AMD 合作 DGX 的高速運算領域、維持和 Intel 合作端點 PC。

今年 3 月底,ARM 睽違十年推出 V9 架構,也可望讓整個晶片的生態更加多元。而這個被譽為近十年最大的技術革新的新架構,著眼的是正在蓬勃發展的伺服器市場,以強化資安防護與加強 AI 運算。

執行長 Simon Segars 指出,未來將被 AI 定義,在這之前他們必須先在運算能力上打好基礎,好面對即將到來的挑戰。而未來機器學習將無所不在,物聯網會和手機一樣普及,會有更多運算在 ARM 的處理器中執行。

圖八:Armv9 公司簡介

面對運算力大幅增加的數位時代,各家晶片廠商都磨刀霍霍的做準備。而 NVIDIA 在今年兩場 GTC 中,從虛擬軟體平台到逐年推出 XPU 硬體計畫,都展現其在資料運算時代的強大護城河。

FinSight 認為,NVIDIA 早已不再是傳統硬體銷售公司,而是提供軟硬整合的全運算平台。半導體廠商的角色正在轉變,這種轉變對資料運算的進展提供強大的助力。因此 NVIDIA 的全方位布局,將會持續推動產業革命。

免責聲明:本文章內容僅供投資人參考,無任何推薦與買賣邀約之情事,投資人應獨立審慎判斷,自負買賣風險謹慎投資,本網站不負任何法律責任。

喜歡我們的文章嗎?歡迎追蹤我們的臉書粉絲團,我們會持續提供更多產業趨勢的分析唷。

資料驅動的科技革命 – 系列文章
1. 資料驅動的科技革命之一:從應材分析師會議,看半導體的巨大商機
2. 資料驅動的科技革命之二:從 Intel IDM 2.0 的轉型看到些什麼?
3. 資料驅動的科技革命之三:資料中心競爭白熱化
4. 資料驅動的科技革命之四:科技賦能的關鍵技術軍火商 NVIDIA
5. 資料驅動的科技革命之五:企業支出增加,加速投入數位轉型
6. 科技正在改變世界,我們該如何面對產業革命呢?

6 comments

發表迴響

Please log in using one of these methods to post your comment:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Google photo

您的留言將使用 Google 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s