硬科技:GPU虛擬化為何超級難搞(上)
This commit is contained in:
parent
75d1fa5792
commit
41a461ac3b
|
@ -0,0 +1,296 @@
|
|||
<!doctype html>
|
||||
<html lang="en">
|
||||
<head>
|
||||
<meta charset="utf-8">
|
||||
<title>ToolsYEP</title>
|
||||
<meta name="viewport" content="width=device-width, initial-scale=1.0">
|
||||
<link rel="icon" type="image/image/icons/png" sizes="16x16" href="/image/icons/favicon-16x16.png">
|
||||
</head>
|
||||
<body>
|
||||
<div style="max-width:48em; margin:auto">
|
||||
<pre class="" style="word-wrap: break-word; white-space: pre-wrap;">
|
||||
<strong><a href="https://toolsyep.com/en/webpage-to-plain-text/">HOME</a></strong>
|
||||
|
||||
Original page: https://www.cool3c.com/article/157525
|
||||
-------------------
|
||||
|
||||
集團資訊
|
||||
關於我們
|
||||
集團介紹
|
||||
我們的團隊
|
||||
旗下媒體
|
||||
關鍵評論網
|
||||
every little d.
|
||||
INSIDE
|
||||
運動視界
|
||||
Cool3c
|
||||
電影神搜
|
||||
未來大人物
|
||||
歐搜哇
|
||||
商益
|
||||
旗下節目
|
||||
多元服務
|
||||
Ad2
|
||||
Taketla 拿票趣
|
||||
關鍵議題研究中心
|
||||
Cr.ED
|
||||
ShareParty
|
||||
達思智能科技
|
||||
士奇傳播
|
||||
與我們合作
|
||||
內容行銷與廣告業務
|
||||
異業合作
|
||||
原創內容暨內容媒體業者合作
|
||||
加入我們
|
||||
新聞中心
|
||||
硬科技
|
||||
|
||||
首頁
|
||||
專家觀點
|
||||
硬科技:GPU虛擬化為何超級難搞(上)
|
||||
硬科技:GPU虛擬化為何超級難搞(上)
|
||||
by 痴漢水球
|
||||
2020.10.21 04:51PM
|
||||
傳送
|
||||
Twitter
|
||||
連結 https://www.cool3c.com/article/157525
|
||||
照片中跟英偉達有關,包含了英偉達、索泰GeForce GTX
|
||||
660 NVIDIA、NVIDIA GeForce GTX TITAN系列、GeForce GTX 660
|
||||
Ti、英偉達
|
||||
專家觀點
|
||||
硬科技
|
||||
CPU
|
||||
gpu
|
||||
vmware
|
||||
x86
|
||||
硬科技
|
||||
筆者很久以前用了6篇文章,簡單解釋x86電腦虛擬化的困難之處與解決方案,但留下了1個尚未完成的結尾:相較於「比較單純」的CPU,「GPU虛擬化」更是個值得大書特書的複雜議題,絕對只有站在時代浪頭的科科們才有權獨享。
|
||||
所以筆者試圖用僅僅3篇的規模,簡單解釋GPU虛擬化究竟有哪些棘手的挑戰。為了避免混淆,相關術語(Terminology)也優先採用VMware和NVIDIA的東西,畢竟十幾年的光陰過去了,在這個領域的領導者,依舊是他們2家。
|
||||
> 硬科技:為何x86的虛擬化這麼難搞(上)
|
||||
> 硬科技:為何x86的虛擬化這麼難搞(中)
|
||||
> 硬科技:為何x86的虛擬化這麼難搞(下)
|
||||
> 硬科技:x86虛擬化由內到外還是繼續難搞(上)
|
||||
> 硬科技:x86虛擬化由內到外還是繼續難搞(中)
|
||||
> 硬科技:x86虛擬化由內到外還是繼續難搞(下)
|
||||
在遙遠的20年或更早之前,就應用層面來看,顯示卡就像隻荒野孤狼,某個應用程式一旦要上下其手,如執行亟需3D運算資源的遊戲,就得全權佔有,油門踩到底,再加上過去缺乏統一的3D
|
||||
API規範與相對應的GPU指令集架構,形同作業系統眼中的化外之民。
|
||||
VMware曾在2005年4月,首度在其Workstation
|
||||
5.0加入實驗性(不保證穩定度和性能表現)3D虛擬化功能,2008年導入於Workstation
|
||||
6.5和Fusion
|
||||
2.0的SVGA,則是首次嘗試GPU共享虛擬化。後來被Oracle併購的Sun,其以功能強大又免費而著稱的VirtualBox,到了2009年6月的3.0版,才有比較像樣(但毛病還是不少)的DirectX
|
||||
8/9和OpenGL 2.0支援度。
|
||||
照片中提到了Virtual Graphics Stack、App、VMware SVGA
|
||||
Driver,包含了組織、的VMware、虛擬化、虛擬機、I /
|
||||
O虛擬化
|
||||
就算不提虛擬機,作業系統要「充分掌握」GPU也是一件難事。其實2006年底的Windows
|
||||
Vista有一件少人記得的大事:將繪圖記憶體納入分頁(Paging)管理機制。為何微軟當時要這樣做?因為導入3D化的GUI後,意味著將會有大量應用程式須同時使用顯示卡,多工作業系統絕對有直接管理顯示記憶體內容的必要性,這就是Windows
|
||||
Vista之後,華麗的Flip 3D介面的技術基礎。
|
||||
更進一步,各位科科可用力回想一件事:Windows是何時才能在工作管理員,看到GPU每個在驅動程式層面、由不同功能模組化身的不同引擎(Engine)?答案是Windows
|
||||
10秋季創作者更新1709版本,足足是Windows
|
||||
Vista上市的10年之後,還發生過使用率測不準的狀況,這也充分證明了,要讓GPU可被作業系統或虛擬機Hypervisor完全掌控,困難度究竟有多高。
|
||||
那麼,GPU虛擬化到底是哪裡難搞?原因很複雜也很簡單。
|
||||
一、不像CPU,GPU並沒有統一的指令集標準,即使單一廠商的歷代產品之間,也是天差地遠(到了AMD的GCN和NVIDIA的Fermi後,才算「勉強」大致穩定下來),硬體規格的混亂度就更不用講了,配合持續推陳出新的3D
|
||||
API,GPU的硬體架構演進,遠比CPU迅速且激進,歷代GPU架構幾乎各自有其獨特的執行狀態格式,硬體底層的技術細節更是高度商業機密,外人難以一窺其全貌。
|
||||
照片中提到了RADEON™ ARCHITECTURAL ADVANCES、OF PROGRAMMABLE
|
||||
GRAPHICS、PRE 2000,包含了進化架構和、迪蘭恆進Radeon RX
|
||||
5700 XT、AMD Vega、Advanced Micro Devices公司、AMD公司
|
||||
也因此,套句VMware的說法,GPU的驅動程式本質上也是1套編譯器(Compiler),管你GPU硬體採用哪種阿貓阿狗怪異指令集,將中間碼(Immediate)編譯成符合3D
|
||||
API規範的二進位執行檔即可,所以科科一定不難理解,為何指令集層面的Bug會造成CPU的大麻煩,但GPU卻有機會用驅動程式「蓋掉」的道理,你有聽說過那顆x86
|
||||
CPU需要先安裝驅動程式才能開機的嗎?
|
||||
照片中提到了Unique challenges、• API、The OpenGL
|
||||
IMachine,包含了角度、產品設計、產品、儀表、線
|
||||
順便一題,要如何「因應來自於客戶的強烈要求,開源繪圖驅動程式,並隱藏硬體架構細節」,也是擺在NVIDIA和AMD眼前的大難題。假以時日,這2間廠商的旗艦GPU都偷偷塞了顆可自我開機的ARM指令集相容處理器(筆者故意不點破,請各位科科細細思量),也不是太讓人感到意外的發展。
|
||||
二、如同多工作業系統,高效能的虛擬化奠基於「可迅速收集系統運行狀態資訊,並高速切換執行內容」,這也是科科們應當熟悉的x86
|
||||
CPU虛擬化的基本原理:作業系統教科書絕對會提到的Context
|
||||
Switch。
|
||||
但這些年來,因水漲船高的可程式化,3D
|
||||
API與其定義的繪圖管線,複雜度也持續破表,動輒數百個程式進入點和不同的程式語言規範,加上GPU在硬體實作層面帶來的龐大運算單元規模、如紡紗機般千絲萬縷的多重執行緒、數以萬計的資料暫存器檔案,都讓GPU能像CPU一樣的「換位子馬上跟著換腦袋」成為不可能的任務。
|
||||
> 淺談GPU到底是什麼(上):不同的運算型態
|
||||
> 淺談GPU到底是什麼(中):兼具SIMD與MIMD優點的SIMT
|
||||
> 淺談GPU到底是什麼(下):走向汎用化的GPGPU
|
||||
別的不提,在2008年,也就是VMware發表 ”GPU
|
||||
Virtualization on VMware’s Hosted I/O Architecture”
|
||||
一文並公佈SVGA之時,那時最具代表性的旗艦GPU是14億電晶體的NVIDIA
|
||||
GTX280(CPU則是將近3億電晶體的Intel Core 2 Duo
|
||||
“Penryn”)。
|
||||
照片中提到了How much computation?、NVIDIA GeForce GTX
|
||||
280:、1.4 billion transistors,包含了中央處理器、GeForce
|
||||
200系列、中央處理器、英偉達、圖形處理單元
|
||||
根據VMware的說法,那時的GPU硬體狀態的紀錄資訊量就是
|
||||
“GB” 等級,切換「整顆」GPU的Context
|
||||
Switch的時間成本之高,完全讓人連想都不敢想。反觀Intel的Penryn,包含全部指令集架構(如暫存器的資料)和大多數處理器微架構(像執行單元的內容),1個CPU核心的狀態也只不過需要8kB而已,根本天差地遠。結果就是CPU的Context
|
||||
Switch或虛擬機切換,可能僅僅需要幾個ns,GPU卻是好幾百個ns甚至上看ms,這也讓虛擬GPU的調度策略,變成1個難搞的議題。
|
||||
不過俗語說的好,出來混的,總是要還,既然時下已經四處可見所謂的「雲端GPU」,這10幾年來各家廠商也是一步一腳印的見招拆拆、提出解決方案,而VMware早在2008年就確立了GPU虛擬化的技術走向,遠比很多人認知中的時間點,還要早很多年。科科。
|
||||
是科科就要追蹤 硬科技
|
||||
猜你喜歡
|
||||
|
||||
Adobe「攝影計畫」AI智慧修圖,一鍵編修超輕鬆!首年每月不用300元
|
||||
資料來源
|
||||
NVIDIA
|
||||
回應 0
|
||||
0 則回應
|
||||
痴漢水球
|
||||
不良單身中年男子,從雜誌業逃難至產業界不知不覺已歷十多年光陰,從最沒實力技術編輯、轉型成最沒能力產品經理,仍無豐功偉業可供說嘴,反倒敗戰血淚磬竹難書,據說著作等身,現從事工業電腦產業,現在只關心何時日本旅行次數可以達陣70次。個人部落格:https://molesterwaterball.blogspot.com/
|
||||
文章共228篇
|
||||
|
||||
相關消息
|
||||
產業消息
|
||||
產業消息指稱 Windows 筆電品牌擔憂 M2 版 MacBook Air
|
||||
上市後會衝擊它們同價位產品市場
|
||||
專家觀點
|
||||
硬科技:幻之處理器系列 Sun UltraSPARC
|
||||
RK「Rock」(2009年)
|
||||
專家觀點
|
||||
捍衛戰士獨行俠任務真實度高
|
||||
台灣假想敵中隊避雷達偵測花東縱谷高速爬升
|
||||
產業消息
|
||||
Intel 4 製程預計 2023 年問世,較 Intel 7 提升 20%
|
||||
效能與 2 倍高校能元件庫密度
|
||||
專家觀點
|
||||
硬科技:豆知識 CISC和RISC的差別究竟在哪裡?
|
||||
產業消息
|
||||
NVIDIA 與合作夥伴公布最新 MLPerf
|
||||
基準測試,不僅效能出色且仍為唯一執行所有測試項目的運算平台
|
||||
科技應用
|
||||
NVIDIA 攜手聯合國衛星中心 利用 GPU
|
||||
加速為基礎的人工智慧預測洪水、颱風等自然災害
|
||||
產業消息
|
||||
幫 AMD 規劃 Zen 架構的 Jim Keller 曾在 4 月份抱怨 AMD
|
||||
砍掉 Arm 產品規劃是錯誤的決策
|
||||
產業消息
|
||||
Intel 新一代 Raptor Lake 處理器傳將突破 6GHz
|
||||
時脈,因應 AMD Ryzen 7000 架構、時脈迎頭趕上的挑戰
|
||||
產業消息
|
||||
Intel 提供給中國媒體的評測指南指出 Arc A770M
|
||||
效能高於行動版 RTX 3060 ,但功耗可能成致命傷
|
||||
你可能有興趣的文章
|
||||
產業消息 2022 AWS
|
||||
台灣雲端高峰會即將盛大展開,最新雲端技術趨勢、產業佈局一次掌握!
|
||||
癮特務
|
||||
13 天前 2022 AWS
|
||||
台灣雲端高峰會即將盛大展開,最新雲端技術趨勢、產業佈局一次掌握!
|
||||
專家觀點 硬科技:豆知識
|
||||
CISC和RISC的差別究竟在哪裡?
|
||||
痴漢水球
|
||||
5 天前 硬科技:豆知識
|
||||
CISC和RISC的差別究竟在哪裡?
|
||||
遊戲天堂 Sony 招募軟體工程師
|
||||
工作包含新版模擬器設計 可能為擴充 PlayStation Plus
|
||||
經典遊戲內容準備
|
||||
Mash Yang
|
||||
6 個小時前 Sony 招募軟體工程師
|
||||
工作包含新版模擬器設計 可能為擴充 PlayStation Plus
|
||||
經典遊戲內容準備
|
||||
產業消息 歐盟正式提出數位服務子法案 蘋果、Google
|
||||
等科技業者需調整現有服務運作模式
|
||||
避免造成壟斷、影響競爭
|
||||
Mash Yang
|
||||
6 個小時前 歐盟正式提出數位服務子法案
|
||||
蘋果、Google 等科技業者需調整現有服務運作模式
|
||||
避免造成壟斷、影響競爭
|
||||
新品資訊 次世代電競專武-Acer Nitro 5
|
||||
開箱實測!為電競玩家量身打造,搭載12代Intel®
|
||||
Core™處理器,全方位強勁性能再升級!
|
||||
癮特務
|
||||
8 天前 次世代電競專武-Acer Nitro 5
|
||||
開箱實測!為電競玩家量身打造,搭載12代Intel®
|
||||
Core™處理器,全方位強勁性能再升級!
|
||||
遊戲天堂 微軟 Xbox Games with Gold
|
||||
訂閱服務未來將只提供免費 Xbox One
|
||||
遊戲與訂閱用戶專屬優惠 不再贈送 Xbox 360 遊戲
|
||||
Mash Yang
|
||||
8 個小時前 微軟 Xbox Games with Gold
|
||||
訂閱服務未來將只提供免費 Xbox One
|
||||
遊戲與訂閱用戶專屬優惠 不再贈送 Xbox 360 遊戲
|
||||
專家觀點 硬科技:幻之處理器系列 Sun UltraSPARC
|
||||
RK「Rock」(2009年)
|
||||
痴漢水球
|
||||
8 個小時前 硬科技:幻之處理器系列 Sun UltraSPARC
|
||||
RK「Rock」(2009年)
|
||||
新奇搞笑
|
||||
如果把地球上所有的人做成一顆貢丸會有多大?
|
||||
Twelve
|
||||
25 天前
|
||||
如果把地球上所有的人做成一顆貢丸會有多大?
|
||||
應用教學
|
||||
Adobe「攝影計畫」AI智慧修圖,一鍵編修超輕鬆!首年每月不用300元
|
||||
癮特務
|
||||
5 天前
|
||||
Adobe「攝影計畫」AI智慧修圖,一鍵編修超輕鬆!首年每月不用300元
|
||||
Cool3c
|
||||
關於 Cool3c
|
||||
訂閱電子報
|
||||
追蹤我們:
|
||||
Line@ Facebook Instagram RSS Youtube
|
||||
關於我們
|
||||
集團介紹
|
||||
加入我們
|
||||
新聞中心
|
||||
我們的團隊
|
||||
FAQ
|
||||
條款與政策
|
||||
隱私條款
|
||||
使用條款
|
||||
付費內容服務條款
|
||||
編輯獨立聲明
|
||||
廣告內容政策
|
||||
業務發展
|
||||
內容行銷與廣告業務
|
||||
異業合作
|
||||
原創內容暨內容媒體業者合作
|
||||
旗下媒體與產品
|
||||
關鍵評論網
|
||||
INSIDE
|
||||
every little d.
|
||||
Cool3c
|
||||
電影神搜
|
||||
運動視界
|
||||
未來大人物
|
||||
歐搜哇
|
||||
商益
|
||||
自製節目
|
||||
Taketla 拿票趣
|
||||
關鍵議題研究中心
|
||||
Ad2
|
||||
Cr.ED
|
||||
ShareParty
|
||||
達思智能科技
|
||||
士奇傳播
|
||||
聯絡我們
|
||||
內容投稿或檢舉、其他意見editor@cool3c.com
|
||||
新聞採訪、作者發文相關問題editor@cool3c.com
|
||||
|
||||
廣告採購、授權詢問和業務相關合作ad.service@cool3c.com
|
||||
Copyright © 2022 TNL Media Group
|
||||
繁 / 简
|
||||
主分類
|
||||
應用教學
|
||||
開箱評測
|
||||
新奇搞笑
|
||||
蘋果新聞
|
||||
App
|
||||
人物專訪
|
||||
新品資訊
|
||||
科學新知
|
||||
產業消息
|
||||
科技應用
|
||||
雲端服務
|
||||
遊戲天堂
|
||||
文化創意
|
||||
專家觀點
|
||||
在地生活
|
||||
快訊
|
||||
電影劇線上看
|
||||
汽車未來
|
||||
專欄
|
||||
活動
|
||||
熱門科技議題
|
||||
iPhone 13懶人包
|
||||
改變世界的一次機會
|
||||
六個實用修圖技巧 六個實用修圖技巧
|
||||
AWS 2022 SUMMIT AWS 2022 SUMMIT
|
||||
|
||||
-------------------
|
||||
Text-only page created by https://toolsyep.com ©2022 ToolsYEP</pre>
|
||||
</body>
|
||||
</html>
|
Binary file not shown.
Loading…
Reference in New Issue