轉載從: Tech News 科技新報
原先虛擬化技術只是單純虛擬一台電腦出來，但隨著技術進步，網路功能和運算資源也有辦法虛擬化處理。近年熱門的 AI，AI 運算能力也有辦法虛擬化，並且搭配雲端變成共享的資源。Nvidia 與 VMWare 宣布 GPU虛擬運算平台 vComputeServer，以及運用 AWS 的 VMWare Cloud on AWS 增加 Nvidia GPU 運算能力，以後做 AI 研究的人不必再費心添購硬體，而是能夠尋求雲端的解決方案。
Nvidia 與 VMware 今日 (8/26) 宣布將針對 VMware Cloud on AWS 推出 GPU 加速服務，協助用戶推動各種現代化企業應用，其中包括 AI、機器學習與資料分析。這些服務讓客戶能夠將各種 VMware vSphere 的應用與容器無需變更即可無縫轉移至雲端，以現代化的方式發揮高效能運算、機器學習、資料分析與視訊處理的優勢。
AI 的運算資源和負責操作的資料科學家，對於不少公司來說是不小的負擔，如何規劃運用成為一門大學問，其中運算時間往往要好幾個小時甚至幾天的功夫，導致資料科學家有閒置的時間。成為不少科技公司努力的方向。
根據 Gartner 2019 年關於運算架構的藍圖報告，到了 2023 年總共有 40% 的企業會運用機器學習技術，在資訊領域資料科學家成為最熱門職位，人數總共有 300 萬人，而到了 2021 年有 75% 企業會採用多雲的雲端環境。AI 運算能力放到雲端，並且可以彼此分享運算資源，也是不少廠商思考的可能性。在這次 VMWare World 大會上，VMWare 和 Nvidia 合作，將 AI 運算能力透過虛擬化技術，分享給臨時需要多的運算資源的團隊，或是無力負擔昂貴硬體建設成本的團隊。
透過這項合作，VMware Cloud on AWS 的客戶將能取得全新高擴充性且安全的雲端服務，其中包含以 NVIDIA T4 GPU 與全新 NVIDIA Virtual Compute Server (vComputeServer) 軟體進行加速的 Amazon EC2。
NVIDIA 創辦人暨執行長黃仁勳表示：「從營運智慧分析到 AI，企業仰賴 GPU 加速運算做出快速精準的預測，對營運績效有直接的助益。NVIDIA 與 VMware 合作設計最先進的 GPU 基礎設施，推動各產業的全面創新，從虛擬化、混合雲一直涵蓋到 VMware 新推動的 Bitfusion 資料中心解構。」
VMware 執行長 Pat Gelsinger 表示：「我們的客戶透過 VMware Cloud AWS 獨特價值，加速推動關鍵商務應用的轉移與現代化。我們與包括 NVIDIA 與 AWS 在內的業界領導業者合作獲得許多創新成果，針對最繁重的資料驅動作業提供同級方案最佳的 GPU 加速服務，以及針對混合雲環境中各種應用推動現代化。」
VMware Cloud on AWS 結合 Nvidia GPU 為 AI、機器學習與資料分析帶來的助益
- 服務推出後企業就能運用企業級混合雲平台加速推動應用現代化，能夠從資料中心到 AWS 雲端平台上，以一致的 VMware 基礎設施整合部署、移轉與執行，以支援各種運算密集度最高的作業，例如 AI、機器學習與資料分析，其中的優勢包含：
- 無縫移轉：用戶能透過 Nvidia vComputeServer軟體與 GPU 進行作業的轉移，僅須一個按鈕即可完成，不會發生像使用 VMware HCX 時產生停機的問題。這將提供客戶更多的選擇與彈性，能自行決定在雲端或用戶端環境進行訓練與推論。
- 彈性的 AWS 基礎設施：以 Nvidia T4 加速的 VMware Cloud on AWS 叢集具備自動化擴充能力，讓管理者能依據資料科學家的需求，進行訓練環境的擴充或縮減。
- 加速運算推動現代化應用：Nvidia T4 GPU 內建的 Tensor Cores 核心能用來加速深度學習推論作業。再配合 GPU 虛擬化的 vComputeServer 軟體，企業即能有充裕的彈性去執行各種 GPU 加速作業，在虛擬化環境中執行包括 AI 、機器學習與資料分析等任務，藉以改進安全、資源使用率與管理效能。
- 一致的混合雲基礎設施與操作模式：透過 VMware Cloud on AWS，企業將在混合雲環境中建立一致的基礎設施與操作模式，並透過 VMware 業界標準的 vSphere、vSA 與 NSX 等方案作為基礎，推動關鍵商務應用的現代化。IT操作人員能在 vCenter 內管理各種 GPU 加速作業的同時，一邊執行在 vSphere 用戶端系統上執行的 GPU 加速作業。
- 無縫銜接的端至端資料科學與分析作業：Nvidia T4 資料中心 GPU 透過 NVIDIA RAPIDS™ 為主流伺服器與加速資料科學技術提供動能，RAPIDS 技術為專為資料科學所設計的 NVIDIA GPU 加速函式庫，涵蓋深度學習、機器學習與資料分析等領域。
(首圖來源：Nvidia)