因為近期 GPU 運用在 AI，而在科技圈聲勢相當高的 Nvidia，從 30 日起一連 3 天，在台北舉行 GPU Technology Conference。儘管 Nvidia CEO 黃仁勳宣布用在高速電腦運算和 AI 結合的 HGX-2 平台，但 Nvidia 強調他們是 AI 技術背後的生態系營造者。
Nvidia GTC 大會上宣布 HGX-2，由 16 個 NVIDIA Tesla V100 Tensor Core GPU 組成，能夠處理科學運算和模擬的 FP64 和 FP32，以及 AI 運算需要用到的 FP16 和 Int8。
▲ Nvidia CEO 黃仁勳宣布高速電腦運算和 AI 結合的 HGX-2。
3 月時 Nvidia 宣布的世界最大 GPU DGX-2，則由今天宣布的 HGX-2 組建而成。Nvidia 將 HGX-2 當成 HPC 或 AI 運算所需的基礎磚塊，由相關供應商組合成符合所需的系統。
▲ 今天發布的 HGX-2。
黃仁勳還再次提及 DGX-2 的價錢是 399k 美元，Q3 時會上市，而且比起相當運算能力的硬體，像是 300 台雙 CPU 的叢集，DGX-2 物美價廉，只占上述方案 1/8 成本，而且占的空間更小，只要 1/60 的空間，耗電量是 1/18。
回頭看 GPU 用在 AI 運算上面的歷史，2012 年的 AlexNet 開始算的話，如今 GTX-2 的運算效能是當初的 500 倍，還達成 5 項紀錄：最快的單晶片每秒 1075 張圖片，最快單一節點每秒 15,500 張影像，擴充最快只要 14 分鐘，最短的推論延遲 1.1 毫秒，最快的推論速度每秒 6,250 張影像。
▲ Nvidia CEO 黃仁勳說明 Nvidia 晶片達成的 5 項速度紀錄。
▲ 儘管 Nvidia 生產 GPU，但自認是生態系解決方案供應商，在自駕車、醫療、電影產業都有解決方案。
Nvidia 儘管被視為晶片商，生產的 GPU 被用在 AI 和挖虛擬貨幣上面，但是 Nvidia 視自身為生態系營造者。在 GTC 大會上面，展現在自駕車、醫療、電影產業上面的應用。
▲ 小電路板放在車上應付自駕車需求，而大的電路板則在資料中心裡學習自駕車的方法。
▲ Nvidia 不只幫助車子自動駕駛，還用 VR 在模擬的駕駛艙中，遠端駕駛真正的車子。
▲ Nvidia 的 Clara 計畫將醫療影像「上色」，變成容易依照不同顏色，分辨影像照射的器官不同的部位。
▲ 運用 Nvidia 的 AI 方案，電影製作方很容易加強影像中的光影表現，不必人工慢慢弄。
Nvidia 也透過與其他雲端業者合作，在雲端環境提供 GPU 運算資源。Nvidia GPU Cloud 有超過 30 組 container 提供深度學習、HPC 各式各樣訓練模組，Nvidia GPU Cloud 能夠符合不同的需求，在 GCP、AWS、阿里雲、Oracle Cloud、DGX 上執行。
▲ Nvidia GPU Cloud 提供超過 30 種運算模組，能在各大雲端環境下部署。
Nvidia 相當自豪自家產品的深度學習成果，黃仁勳展示用 Skylake CPU，以及與自家的 GPU 跑 TensorFlow 辨識照片中出現什麼種類的花。而且搭配 GPU Cloud，還能擴大運算能量，加速辨識速度。
▲ Nvidia 相當自豪他們的 GPU 在影像辨識的能耐，並且能掛更多 GPU 運算資源加快辨識速度。
（圖片來源：科技新報）