+
+HOME
+
+Original page: https://www.cool3c.com/article/157525
+-------------------
+
+集團資訊
+ 關於我們
+ 集團介紹
+ 我們的團隊
+ 旗下媒體
+ 關鍵評論網
+ every little d.
+ INSIDE
+ 運動視界
+ Cool3c
+ 電影神搜
+ 未來大人物
+ 歐搜哇
+ 商益
+ 旗下節目
+ 多元服務
+ Ad2
+ Taketla 拿票趣
+ 關鍵議題研究中心
+ Cr.ED
+ ShareParty
+ 達思智能科技
+ 士奇傳播
+ 與我們合作
+ 內容行銷與廣告業務
+ 異業合作
+ 原創內容暨內容媒體業者合作
+ 加入我們
+ 新聞中心
+ 硬科技
+
+ 首頁
+ 專家觀點
+ 硬科技：GPU虛擬化為何超級難搞(上)
+硬科技：GPU虛擬化為何超級難搞(上)
+ by 痴漢水球
+ 2020.10.21 04:51PM
+ 傳送
+ Twitter
+ 連結 https://www.cool3c.com/article/157525
+ 照片中跟英偉達有關，包含了英偉達、索泰GeForce GTX
+660 NVIDIA、NVIDIA GeForce GTX TITAN系列、GeForce GTX 660
+Ti、英偉達
+ 專家觀點
+ 硬科技
+ CPU
+ gpu
+ vmware
+ x86
+ 硬科技
+筆者很久以前用了6篇文章，簡單解釋x86電腦虛擬化的困難之處與解決方案，但留下了1個尚未完成的結尾：相較於「比較單純」的CPU，「GPU虛擬化」更是個值得大書特書的複雜議題，絕對只有站在時代浪頭的科科們才有權獨享。
+所以筆者試圖用僅僅3篇的規模，簡單解釋GPU虛擬化究竟有哪些棘手的挑戰。為了避免混淆，相關術語(Terminology)也優先採用VMware和NVIDIA的東西，畢竟十幾年的光陰過去了，在這個領域的領導者，依舊是他們2家。
+> 硬科技：為何x86的虛擬化這麼難搞(上)
+> 硬科技：為何x86的虛擬化這麼難搞(中)
+> 硬科技：為何x86的虛擬化這麼難搞(下)
+> 硬科技：x86虛擬化由內到外還是繼續難搞(上)
+> 硬科技：x86虛擬化由內到外還是繼續難搞(中)
+> 硬科技：x86虛擬化由內到外還是繼續難搞(下)
+在遙遠的20年或更早之前，就應用層面來看，顯示卡就像隻荒野孤狼，某個應用程式一旦要上下其手，如執行亟需3D運算資源的遊戲，就得全權佔有，油門踩到底，再加上過去缺乏統一的3D
+API規範與相對應的GPU指令集架構，形同作業系統眼中的化外之民。
+VMware曾在2005年4月，首度在其Workstation
+5.0加入實驗性(不保證穩定度和性能表現)3D虛擬化功能，2008年導入於Workstation
+6.5和Fusion
+2.0的SVGA，則是首次嘗試GPU共享虛擬化。後來被Oracle併購的Sun，其以功能強大又免費而著稱的VirtualBox，到了2009年6月的3.0版，才有比較像樣(但毛病還是不少)的DirectX
+8/9和OpenGL 2.0支援度。
+ 照片中提到了Virtual Graphics Stack、App、VMware SVGA
+Driver，包含了組織、的VMware、虛擬化、虛擬機、I /
+O虛擬化
+就算不提虛擬機，作業系統要「充分掌握」GPU也是一件難事。其實2006年底的Windows
+Vista有一件少人記得的大事：將繪圖記憶體納入分頁(Paging)管理機制。為何微軟當時要這樣做？因為導入3D化的GUI後，意味著將會有大量應用程式須同時使用顯示卡，多工作業系統絕對有直接管理顯示記憶體內容的必要性，這就是Windows
+Vista之後，華麗的Flip 3D介面的技術基礎。
+更進一步，各位科科可用力回想一件事：Windows是何時才能在工作管理員，看到GPU每個在驅動程式層面、由不同功能模組化身的不同引擎(Engine)？答案是Windows
+10秋季創作者更新1709版本，足足是Windows
+Vista上市的10年之後，還發生過使用率測不準的狀況，這也充分證明了，要讓GPU可被作業系統或虛擬機Hypervisor完全掌控，困難度究竟有多高。
+那麼，GPU虛擬化到底是哪裡難搞？原因很複雜也很簡單。
+一、不像CPU，GPU並沒有統一的指令集標準，即使單一廠商的歷代產品之間，也是天差地遠(到了AMD的GCN和NVIDIA的Fermi後，才算「勉強」大致穩定下來)，硬體規格的混亂度就更不用講了，配合持續推陳出新的3D
+API，GPU的硬體架構演進，遠比CPU迅速且激進，歷代GPU架構幾乎各自有其獨特的執行狀態格式，硬體底層的技術細節更是高度商業機密，外人難以一窺其全貌。
+ 照片中提到了RADEON™ ARCHITECTURAL ADVANCES、OF PROGRAMMABLE
+GRAPHICS、PRE 2000，包含了進化架構和、迪蘭恆進Radeon RX
+5700 XT、AMD Vega、Advanced Micro Devices公司、AMD公司
+也因此，套句VMware的說法，GPU的驅動程式本質上也是1套編譯器(Compiler)，管你GPU硬體採用哪種阿貓阿狗怪異指令集，將中間碼(Immediate)編譯成符合3D
+API規範的二進位執行檔即可，所以科科一定不難理解，為何指令集層面的Bug會造成CPU的大麻煩，但GPU卻有機會用驅動程式「蓋掉」的道理，你有聽說過那顆x86
+CPU需要先安裝驅動程式才能開機的嗎？
+ 照片中提到了Unique challenges、• API、The OpenGL
+IMachine，包含了角度、產品設計、產品、儀表、線
+順便一題，要如何「因應來自於客戶的強烈要求，開源繪圖驅動程式，並隱藏硬體架構細節」，也是擺在NVIDIA和AMD眼前的大難題。假以時日，這2間廠商的旗艦GPU都偷偷塞了顆可自我開機的ARM指令集相容處理器(筆者故意不點破，請各位科科細細思量)，也不是太讓人感到意外的發展。
+二、如同多工作業系統，高效能的虛擬化奠基於「可迅速收集系統運行狀態資訊，並高速切換執行內容」，這也是科科們應當熟悉的x86
+CPU虛擬化的基本原理：作業系統教科書絕對會提到的Context
+Switch。
+但這些年來，因水漲船高的可程式化，3D
+API與其定義的繪圖管線，複雜度也持續破表，動輒數百個程式進入點和不同的程式語言規範，加上GPU在硬體實作層面帶來的龐大運算單元規模、如紡紗機般千絲萬縷的多重執行緒、數以萬計的資料暫存器檔案，都讓GPU能像CPU一樣的「換位子馬上跟著換腦袋」成為不可能的任務。
+> 淺談GPU到底是什麼（上）：不同的運算型態
+> 淺談GPU到底是什麼（中）：兼具SIMD與MIMD優點的SIMT
+> 淺談GPU到底是什麼（下）：走向汎用化的GPGPU
+別的不提，在2008年，也就是VMware發表 ”GPU
+Virtualization on VMware’s Hosted I/O Architecture”
+一文並公佈SVGA之時，那時最具代表性的旗艦GPU是14億電晶體的NVIDIA
+GTX280(CPU則是將近3億電晶體的Intel Core 2 Duo
+“Penryn”)。
+ 照片中提到了How much computation?、NVIDIA GeForce GTX
+280:、1.4 billion transistors，包含了中央處理器、GeForce
+200系列、中央處理器、英偉達、圖形處理單元
+根據VMware的說法，那時的GPU硬體狀態的紀錄資訊量就是
+“GB” 等級，切換「整顆」GPU的Context
+Switch的時間成本之高，完全讓人連想都不敢想。反觀Intel的Penryn，包含全部指令集架構(如暫存器的資料)和大多數處理器微架構(像執行單元的內容)，1個CPU核心的狀態也只不過需要8kB而已，根本天差地遠。結果就是CPU的Context
+Switch或虛擬機切換，可能僅僅需要幾個ns，GPU卻是好幾百個ns甚至上看ms，這也讓虛擬GPU的調度策略，變成1個難搞的議題。
+不過俗語說的好，出來混的，總是要還，既然時下已經四處可見所謂的「雲端GPU」，這10幾年來各家廠商也是一步一腳印的見招拆拆、提出解決方案，而VMware早在2008年就確立了GPU虛擬化的技術走向，遠比很多人認知中的時間點，還要早很多年。科科。
+是科科就要追蹤 硬科技
+猜你喜歡
+
+Adobe「攝影計畫」AI智慧修圖，一鍵編修超輕鬆！首年每月不用300元
+資料來源
+ NVIDIA
+ 回應 0
+0 則回應
+ 痴漢水球
+ 不良單身中年男子，從雜誌業逃難至產業界不知不覺已歷十多年光陰，從最沒實力技術編輯、轉型成最沒能力產品經理，仍無豐功偉業可供說嘴，反倒敗戰血淚磬竹難書，據說著作等身，現從事工業電腦產業，現在只關心何時日本旅行次數可以達陣70次。個人部落格：https://molesterwaterball.blogspot.com/
+ 文章共228篇
+
+ 相關消息
+ 產業消息
+ 產業消息指稱 Windows 筆電品牌擔憂 M2 版 MacBook Air
+上市後會衝擊它們同價位產品市場
+ 專家觀點
+ 硬科技：幻之處理器系列 Sun UltraSPARC
+RK「Rock」(2009年)
+ 專家觀點
+ 捍衛戰士獨行俠任務真實度高
+台灣假想敵中隊避雷達偵測花東縱谷高速爬升
+ 產業消息
+ Intel 4 製程預計 2023 年問世，較 Intel 7 提升 20%
+效能與 2 倍高校能元件庫密度
+ 專家觀點
+ 硬科技：豆知識 CISC和RISC的差別究竟在哪裡？
+ 產業消息
+ NVIDIA 與合作夥伴公布最新 MLPerf
+基準測試，不僅效能出色且仍為唯一執行所有測試項目的運算平台
+ 科技應用
+ NVIDIA 攜手聯合國衛星中心 利用 GPU
+加速為基礎的人工智慧預測洪水、颱風等自然災害
+ 產業消息
+ 幫 AMD 規劃 Zen 架構的 Jim Keller 曾在 4 月份抱怨 AMD
+砍掉 Arm 產品規劃是錯誤的決策
+ 產業消息
+ Intel 新一代 Raptor Lake 處理器傳將突破 6GHz
+時脈，因應 AMD Ryzen 7000 架構、時脈迎頭趕上的挑戰
+ 產業消息
+ Intel 提供給中國媒體的評測指南指出 Arc A770M
+效能高於行動版 RTX 3060 ，但功耗可能成致命傷
+你可能有興趣的文章
+ 產業消息 2022 AWS
+台灣雲端高峰會即將盛大展開，最新雲端技術趨勢、產業佈局一次掌握！
+ 癮特務
+ 13 天前 2022 AWS
+台灣雲端高峰會即將盛大展開，最新雲端技術趨勢、產業佈局一次掌握！
+ 專家觀點 硬科技：豆知識
+CISC和RISC的差別究竟在哪裡？
+ 痴漢水球
+ 5 天前 硬科技：豆知識
+CISC和RISC的差別究竟在哪裡？
+ 遊戲天堂 Sony 招募軟體工程師
+工作包含新版模擬器設計 可能為擴充 PlayStation Plus
+經典遊戲內容準備
+ Mash Yang
+ 6 個小時前 Sony 招募軟體工程師
+工作包含新版模擬器設計 可能為擴充 PlayStation Plus
+經典遊戲內容準備
+ 產業消息 歐盟正式提出數位服務子法案 蘋果、Google
+等科技業者需調整現有服務運作模式
+避免造成壟斷、影響競爭
+ Mash Yang
+ 6 個小時前 歐盟正式提出數位服務子法案
+蘋果、Google 等科技業者需調整現有服務運作模式
+避免造成壟斷、影響競爭
+ 新品資訊 次世代電競專武－Acer Nitro 5
+開箱實測！為電競玩家量身打造，搭載12代Intel®
+Core™處理器，全方位強勁性能再升級！
+ 癮特務
+ 8 天前 次世代電競專武－Acer Nitro 5
+開箱實測！為電競玩家量身打造，搭載12代Intel®
+Core™處理器，全方位強勁性能再升級！
+ 遊戲天堂 微軟 Xbox Games with Gold
+訂閱服務未來將只提供免費 Xbox One
+遊戲與訂閱用戶專屬優惠 不再贈送 Xbox 360 遊戲
+ Mash Yang
+ 8 個小時前 微軟 Xbox Games with Gold
+訂閱服務未來將只提供免費 Xbox One
+遊戲與訂閱用戶專屬優惠 不再贈送 Xbox 360 遊戲
+ 專家觀點 硬科技：幻之處理器系列 Sun UltraSPARC
+RK「Rock」(2009年)
+ 痴漢水球
+ 8 個小時前 硬科技：幻之處理器系列 Sun UltraSPARC
+RK「Rock」(2009年)
+ 新奇搞笑
+如果把地球上所有的人做成一顆貢丸會有多大？
+ Twelve
+ 25 天前
+如果把地球上所有的人做成一顆貢丸會有多大？
+ 應用教學
+Adobe「攝影計畫」AI智慧修圖，一鍵編修超輕鬆！首年每月不用300元
+ 癮特務
+ 5 天前
+Adobe「攝影計畫」AI智慧修圖，一鍵編修超輕鬆！首年每月不用300元
+ Cool3c
+ 關於 Cool3c
+ 訂閱電子報
+ 追蹤我們：
+ Line@ Facebook Instagram RSS Youtube
+ 關於我們
+ 集團介紹
+ 加入我們
+ 新聞中心
+ 我們的團隊
+ FAQ
+ 條款與政策
+ 隱私條款
+ 使用條款
+ 付費內容服務條款
+ 編輯獨立聲明
+ 廣告內容政策
+ 業務發展
+ 內容行銷與廣告業務
+ 異業合作
+ 原創內容暨內容媒體業者合作
+ 旗下媒體與產品
+ 關鍵評論網
+ INSIDE
+ every little d.
+ Cool3c
+ 電影神搜
+ 運動視界
+ 未來大人物
+ 歐搜哇
+ 商益
+ 自製節目
+ Taketla 拿票趣
+ 關鍵議題研究中心
+ Ad2
+ Cr.ED
+ ShareParty
+ 達思智能科技
+ 士奇傳播
+ 聯絡我們
+ 內容投稿或檢舉、其他意見editor@cool3c.com
+ 新聞採訪、作者發文相關問題editor@cool3c.com
+
+廣告採購、授權詢問和業務相關合作ad.service@cool3c.com
+ Copyright © 2022 TNL Media Group
+ 繁 / 简
+ 主分類
+ 應用教學
+ 開箱評測
+ 新奇搞笑
+ 蘋果新聞
+ App
+ 人物專訪
+ 新品資訊
+ 科學新知
+ 產業消息
+ 科技應用
+ 雲端服務
+ 遊戲天堂
+ 文化創意
+ 專家觀點
+ 在地生活
+ 快訊
+ 電影劇線上看
+ 汽車未來
+ 專欄
+ 活動
+ 熱門科技議題
+ iPhone 13懶人包
+ 改變世界的一次機會
+ 六個實用修圖技巧 六個實用修圖技巧
+ AWS 2022 SUMMIT AWS 2022 SUMMIT
+
+-------------------
+Text-only page created by https://toolsyep.com ©2022 ToolsYEP
+
+
diff --git a/cool3c/硬科技：GPU虛擬化為何超級難搞(上).pdf b/cool3c/硬科技：GPU虛擬化為何超級難搞(上).pdf
new file mode 100644
index 0000000..7a4b284
Binary files /dev/null and b/cool3c/硬科技：GPU虛擬化為何超級難搞(上).pdf differ