::: 前往中央內容區塊
:::

機械工業雜誌

說明說明說明說明說明說明說明說明說明說明說明說明

產業脈動|NVIDIA機器人技術與臺灣的機會

作者 黃仲宏

刊登日期:2024/08/01

摘要

2024年春天NVIDIA於美國加州的GTC(GPU Technology Conference) 大會上,執行長黃仁勳介紹自家所謂世界最強的AI晶片-Blackwell,這個晶片的最大特點是可在兆級參數大語言模型上建構和運行即時生成式AI,且成本和能耗比起NVIDIA上一代的晶片低了好多倍。Blackwell的命名是紀念美國研究賽局理論和統計學的數學家 David Harold Blackwell。到了6月的台北國際電腦展(COMPUTEX 2024),黃仁勳更說明了運算革命的歷程將會從CPU走向雲端運算,再到GPU。也就是在個人電腦時代,CPU是運算的核心,但隨著互聯網興起,運算朝向雲端集中,而今日在人工智慧,大規模數據運算、高度真實模擬等技術對超高運算能力的需求不斷激增的發展下,GPU由於其獨特的高度並行運算架構,將成為運算革命的引領者。這些舉動吸引了全球科技業的目光,新一代Blackwell GPU與NVIDIA執行長黃仁勳身後的一整排人形機器人,讓外界高度關注AI與機器人的未來;人形機器人將被發展在各種環境中執行任務。具有兩隻手臂和兩條腿的類人設計使得它被期待在人類的環境中靈活運用,投放到現有的倉庫流程和基礎設施中。人形機器人被視為一種顛覆性技術,類似於電腦或智慧手機,若成功的話它將徹底改變我們生產商品的方式以及人類的生活方式。人形機器人對各個產業的潛在影響使其成為一個令人期待的發展,但它們被大規模採用仍有許多複雜技術的挑戰,成本是一個關鍵因素,是否成功將取決於它們與成熟的機器人解決方案(例如自主移動式的機器人)競爭的投資回報率。在全球人形機器人如火如荼的發展下,我們也看到了臺灣的機會,包括1.臺灣具IC製造的完整生態系與先進晶片的製程技術;2.完善的機器人零組件供應鏈;3.資通訊產品豐富的系統整合實績。

Abstract

In spring 2024, NVIDIA CEO Jensen Huang introduced Blackwell at the GPU Technology Conference (GTC) in California, claiming it to be the world’s most powerful AI chip. Blackwell’s main feature is its ability to build and run real-time generative AI on a trillion-parameter language model, with significantly lower costs and energy consumption than NVIDIA’s previous chips. Blackwell is named in honor of David Harold Blackwell, an American mathematician who studied game theory and statistics. At Computex 2024 in Taipei, Jensen Huang explained that the computing revolution will move from CPUs to cloud computing to GPUs. That is, in the personal computer era, the CPU was the core of computing. However, with the rise of the Internet, computing has shifted to the cloud. Today, due to rising demands for exceptional computational power for AI, data processing, and realistic simulations, the GPU’s advanced parallel computing is poised to lead the computational revolution.These actions attracted the attention of the global tech industry. The new Blackwell GPU and humanoid robots behind NVIDIA CEO Jensen Huang drew significant focus to the future of AI and robotics. These humanoid robots will be developed to perform tasks in various environments. The humanoid design with two arms and two legs is expected to be used flexibly in a human environment, into existing warehouse processes and infrastructure. Humanoid robots are seen as a disruptive technology, similar to computers or smartphones, that, if successful, will revolutionize the way we produce goods and the way humans live.The potential impact of humanoid robots on various industries makes it an exciting development, but there are still many complex technical challenges to their mass adoption, cost is a key factor, and success will depend on the ROI on which they compete with established robotic solutions such as autonomous mobile robots. With the rapid global development of humanoid robots, Taiwan also has several opportunities, including: 1. A complete IC manufacturing ecosystem with advanced chip fabrication techniques; 2. A well-developed robot component supply chain; 3. Extensive system integration achievements in ICT products.

強化AI算力的超級晶片系統
黃仁勳在NVIDIA的GTC大會上說到「我們需要更強大的繪圖處理器(GPU),我想向大家介紹一款非常強大的GPU」。這款新的人工智慧晶片名為「Blackwell B200」。根據NVIDIA的說法,Blackwell B200的算力為20 PetaFLOPS(每秒可執行 20×1015 次浮點運算),比起上一代Hopper H100晶片,Blackwell晶片在運行基於OpenAI的GPT-4等大型語言模型的生成式AI服務時,性能提高30倍,同時能耗降低25倍。黃仁勳說這款造價不斐的晶片將會是推動新工業革命的引擎。他強調隨著Transformer模型(大型語言模型例如BERT、GPT,都是基於Transformer架構)被發明,為了訓練這些愈來愈大的模型,需要更強的算力。
NVIDIA過往使用8,000張Hopper GPU,訓練一個1.8兆參數量的GPT模型,需要消耗15兆瓦的電力,連續跑上90天;但若使用Blackwell GPU,只需要2,000張,同樣跑90天只要消耗四分之一的電力,不只是訓練,生成Token(代碼)的成本也會隨之降低。不過Blackwell B200並非是Hopper H100的升級,因為人工智慧大模型不僅要求晶片有計算能力,更要求晶片具有並行能力:實現多層的平行計算、層之間的通訊。Blackwell B200能優化張量並行、專家並行、管道並行和資料並行等方案,在可程式設計的基礎上令計算更快,性能更佳。NVIDIA上一代價格4萬美元的Hopper H100晶片,曾被Tesla執行長馬斯克稱為「比毒品還難買的產品」,它可說是世上第一塊為生成式AI設計的晶片。
GB200 Grace Blackwell Superchip超級晶片系統包含2 顆 NVIDIA B200 Tensor Core GPU 以及NVIDIA Grace CPU,整個系統有2,080億個晶體管,為了處理大規模資料中心的GPU互連,NVIDIA還推出了第五代的NVLink,其可以為每個GPU提供1.8 Tb/s的輸送量,以確保複雜的大型語言模型能在眾多GPU間高速通訊。黃仁勳揭露微軟Azure、AWS、Google、OpenAI、ORACLE、Tesla、Dell等眾科技巨頭,都是超級晶片系統的使用者。
NVIDIA的數據中心和機器人技術
Blackwell是NVIDIA新一代晶片的名稱,它是上一代Hopper晶片的後繼產品,自2022年底AI需求爆發以來,Hopper H100晶片一直供不應求。NVIDIA表示從現在開始將為人工智慧發展所需要的數據中心提供更多的設備和軟體,且要以可負擔的價格吸引大家使用(目前推估Blackwell晶片價格至少5萬美元)。黃仁勳提到「全球已安裝的數據中心約有1兆美元。2023年全球數據中心的市場規模約為2,500億美元,看好未來每年以20%的幅度成長」;高速運算的需求和生成式AI的火熱致使他認為目前為數據中心提供GPU和軟體的NVIDIA公司將可以在此市場中佔有更大的比重,GPU圖形處理單元晶片已成為生成式AI計算主力,可為ChatGPT等工具提供複雜數學運算。
NVIDIA把數據中心(系統和軟體)視為自己的核心賣點,黃仁勳也表示「NVIDIA不賣晶片,NVIDIA賣的是數據中心」。以此解讀5萬美元將不只是Blackwell晶片產品的價格,而是數據中心服務的價格:網路、儲存、控制、安全和管理模組,都會整合到客戶的系統之中。受益於AI發展的熱潮,NVIDIA在AI晶片佔有全球8成的市場,當然它也面臨著日益激烈的競爭,像是Intel與AMD這些知名的競爭對手,以及包括Cerebras、Groq和SambaNova Systems這些晶片公司。黃仁勳還談到了他對一些更遙遠技術的願景,包括藥物發現、基因組學和人型機器人,在他的GTC發表會上有多個人型機器人圍繞在這位執行長身旁。
GTC大會上的一個軟硬體整合產品「Project GR00T」,黃仁勳說這個產品是「創建人形機器人所需的技術」。在他身後的一排人形機器人更是GTC大會的焦點,他說「在我們的世界裡,人型機器人很有可能會發揮更大的作用,包括設置工作站、製造和物流的方式,都將帶來革命性改變,NVIDIA推出的人型機器人通用基礎模型 Project GR00T,可進一步帶給機器人技術和具身智慧(Embodied AI)的突破」。GR00T包括機器人所需的電腦和AI系統、生成式AI軟體,讓機器人學習各種狀態的應對,遇到事先無程式設定好的狀況,機器人也能自己立刻學習達到目的,變成智慧機器人。也就是由 GR00T驅動的機器人能理解自然語言、影像,透過觀察人類行為來模仿動作強化能力。

回文章內容列表

更完整的內容歡迎訂購 2024年08月號 (單篇費用:參考材化所定價)

1篇150

NT$150
訂閱送出

3篇450元

NT$450
訂閱送出

10篇1200元

NT$1,200
訂閱送出
主推方案

無限下載/年 5000元

NT$5,000
訂閱送出