轉載從: Tech News 科技新報
NVIDIA 宣布推出全球尺寸最小的邊緣 AI 超級電腦 Jetson Xavier NX，主要針對機器人和邊緣嵌入式電腦設備。這款新品擁有比信用卡還小的外形，節能型 Jetson Xavier NX 模組執行 AI 工作負載時，可提供最高 21TOPS 的伺服器級性能，售價 399 美元，將在 2020 年 3 月出貨。
NVIDIA 推出更具競爭力的邊緣 AI 晶片產品，讓 AI 新創公司面臨更大的競爭壓力。
NVIDIA 邊緣 AI 晶片已有四個系列
Jetson Xavier NX 最大亮點在於，與 Jetson Nano 尺寸相同（70×45mm）的情況下，能在功耗 10W 的模式下提供最高 14TOPS、功耗 15W 模式下最高 21TOPS 的性能。另外，Jetson Xavier NX 能並行執行多個神經網路，也能同時處理多個高解析度感測器的數據。
Jetson Xavier NX 模組規格如下：
- GPU：配備 384 個 NVIDIA CUDA core 和 48 個 Tensor core 的 NVIDIA Volta，外加 2 個 NVDLA。
- CPU：6-core Carmel Arm 64 位 CPU，6MB L2＋4MB L3。
- 影像：2x 4K30 編碼和 2x 4K60 解碼。
- 攝影鏡頭：最多 6 個 CSI 攝影鏡頭（透過虛擬通道最多 36 個），12 路（3×4 或 6×2）MIPI CSI-2。
- 內存：8GB 128 位元 LPDDR4x；51.2GB／秒。
- 連接：千兆以太網。
- OS 支持：基於 Ubuntu 的 Linux。
- 尺寸：70×45mm。
Jetson Xavier NX 對性能需求高，但是受到尺寸、重量、功耗及預算限制的嵌入式邊緣電腦設備，比如小型商用機器人、無人機、智慧高解析度感測器（用於工廠物流和生產線）、光學檢測、網路錄影機，便攜式醫療設備及其他工業物聯網（IoT）系統。
為了滿足這些場景，除硬體外，軟體支援也非常重要。NVIDIA 表示，對於已經開始打造嵌入式電腦的公司，Jetson Xavier NX 與 所有 Jetson 系列產品一樣都可在相同 CUDA-X AI 軟體架構執行。同時，身為 NVIDIA 軟體架構方法的一部分，Jetson Xavier NX 由 NVIDIA JetPack SDK 提供支援。
NVIDIA JetPack SDK 是完整的 AI 軟體堆疊，可執行複雜的 AI 網路，並用於深度學習的加速庫及電腦視覺、電腦圖形、多媒體等。
Jetson Xavier NX 的上一款產品是在今年 3 月 GTC 發表，創始人兼 CEO 黃仁勳宣布推出售價僅 99 美元的 Jetson Nano。根據官方說法，藉助 CUDA-X，Jetson Nano 提供 472GFLOPS 的 AI 性能，功率低至 5W。這款售價不高，能執行於所有 AI 模型的邊緣電腦平台，發表後獲得極大關注。
Jetson Nano 上一款產品在 2018 年發表。2018 年 9 月日本 GTC，黃仁勳公布 AGX 陣容，包括 Drive Xavier 和新推出的 Drive Pegasus，還有 Jetson AGX Xavier。Jetson AGX Xavier 的大規模計算性能可處理機器人至關重要的測距、定位、測繪、視覺和感知及路徑規劃。
Jetson 家族更早的產品 Jetson TX2 在 2017 年推出，提供兩種執行模態：一種是 MAX Q，能效比可達最高，是 TX1 的 2 倍，功耗在 7.5W 以下；另一種是 MAX P，性能做到最高，能效比同樣可到前一代的 2 倍，功耗則在 15W 以下。
雖然推出時間不同，但都有有別於其他邊緣 SoC 的特點，並行運行多個神經網路。
邊緣端實力增強，新創公司面臨更大生存壓力
NVIDIA 在雲端 AI 晶片市場獲益頗豐，非常重要的原因就是擅長並行計算的 GPU 能在數據中心的各種模型訓練時體現出性能優勢。雖然憑藉雲端 AI 晶片成為眾多 AI 晶片新創公司想超越的目標，但 NVIDIA 也有自己的困擾。首先，為 AI 優化和設計的高性能 GPU 價格昂貴，讓不少開發者望而卻步。
其次，隨著 AI 演算法逐步成熟，雲端 AI 訓練晶片市場的增速將放緩，NVIDIA 想保持業績增長及 AI 市場的領導力，就需要向邊緣 AI 市場拓展，同時，用雲端加邊緣一體化的解決方案吸引更多客戶。
從針對終端和邊緣裝置的 Jetson 系列晶片布局來看，NVIDIA 早已明白該怎麼做。如今，Jetson 系列晶片演算力從 0.5TFlops 到 32TOPS，應用涵蓋小型嵌入式裝置、智慧汽車、工業設備等多種應用。今天高性能、小尺寸 Jetson Xavier NX 發表，讓 Jetson 家族提供性能和功耗更多樣的邊緣晶片，背後就是為了滿足 AIoT 市場的需求。
不過，NVIDIA 如今不僅能提供雲端和終端 AI 晶片硬體，成功背後還有強大的軟體生態支持。據了解，Jetson 系列已吸引 40 萬開發者，擁有 3,000 用戶。
這對 AI 晶片新創公司顯然不是好消息，由於雲端 AI 晶片更依賴生態，設計難度也更大，所以大部分 AI 晶片新創公司都選擇邊緣端市場，並大都主要提供 AI 加速器。AI 晶片新創公司希望憑藉獨特的架構設計，以及領先的性能指標晶片，獲得市場認可。
然而，開發者進行 AI 演算法遷移時往往需要使用 AI 晶片公司提供的編譯器等工具，這不僅增加軟體開發者的使用門檻，還可能達不到預期的效果。因此，新創公司的 AI 晶片大部分都沒有非常有價值的應用。
這就意味著，AI 晶片新創公司產品設計完成並流片之後，如何找到合適的市場及模式商業化，變得非常關鍵，特別是在資本寒冬及 AI 晶片進入落地戰的當下。
顯然，AI 晶片新創公司面臨更嚴峻的生存挑戰，無論 NVIDIA 還是英特爾，在雲端和邊緣端都有競爭力很強的產品。在邊緣端，憑藉軟體生態及通路優勢，巨頭的晶片更容易獲得客戶，甚至連擅長軟體的 Google 都推出針對邊緣市場的 Google Edge TPU。另一方面，AI 晶片新創公司想推出有競爭力的產品就必須不斷更新和投入，這就需要資金持續支持，但融資環境及更激烈的市場競爭又增加融資難度。
AI 晶片的戰火已蔓延至邊緣端，Jetson Xavier NX 不僅是 NVIDIA 邊緣端 AI 晶片布局完善和實力增強，更是邊緣端晶片市場競爭更激烈的標誌。
AI 晶片市場更激烈的競爭有助於推動 AI 向前發展，但對實力較弱的 AI 晶片新創公司而言，隨著晶片巨頭推出更有競爭力的產品，以及像 NVIDIA 這樣的公司更願意稱自己為系統公司，而非單純的晶片公司，這讓 AI 晶片新創公司面臨更嚴峻的生存挑戰。