NVIDIA 宣布推出 NVIDIA Project DIGITS,這是一款 AI 超級計算機,可為 AI 研究人員提供訪問 Grace Blackwell 平台的機會

1 月 6 日,NVIDIA 在 CES 上宣布了 NVIDIA Project DIGITS,這是一款個人 AI 超級計算機,讓世界各地的 AI 研究人員、資料科學家和學生能夠獲得 NVIDIA Grace Blackwell 平台的強大功能。

Project DIGITS 由全新 NVIDIA GB10Grace Blackwell 超級晶片提供支持,可為原型設計、微調和運行大型 AI 模型提供千萬億次的 AI 計算性能。

DIGITS 專案允許使用者使用自己的桌面系統開發模型並運行推理,然後將模型無縫部署到加速的雲端或資料中心基礎架構。

NVIDIA 創辦人兼執行長 Jensen Huang 表示:「人工智慧將成為各行業各應用的主流,透過 DIGITS 項目,我們將把人工智慧超級電腦帶到數百萬開發人員面前。」我們將為每位資料科學家、人工智慧研究人員和學生提供支持,讓他們能夠參與人工智慧並塑造人工智慧時代。

・GB10Superchip 提供 petaflops 的節能 AI 效能
GB10Superchip 是一款基於 NVIDIA Grace Blackwell 架構的系統單晶片 (SoC),可提供高達 1 petaflops 的 AI 效能和 FP4 精確度。

GB10 由具有最新一代 CUDA 核心和第 5 代 Tensor 核心的 NVIDIA Blackwell GPU 提供支持,並支援透過 NVLink-C2C 晶片間互連連接到高性能 NVIDIA Grace 的 20 個基於 Arm 架構構建的高能效 GPU。的CPU。聯發科是基於 Arm 的 SoC 設計的市場領導者,合作設計了 GB10,為實現一流的功效、性能和連接性做出了貢獻。

GB10Superchip 讓 Project DIGITS 僅使用標準電源插座即可提供強大的效能。每個 Project DIGITS 均配備 128GB 整合相干記憶體和高達 4TB 的 NVMe 儲存。這台超級電腦將使開發人員能夠運行具有多達 2000 億個參數的大型語言模型,以加速人工智慧創新。此外,兩台 Project DIGITS AI 超級電腦可以使用 NVIDIA ConnectX 網路連接起來,運行具有多達 4,050 億個參數的機型。

・格雷斯·布萊克威爾(Grace Blackwell)AI超級計算觸手可及
Grace Blackwell 架構讓企業和研究人員在運行基於Linux 的NVIDIA DGX 作業系統的本地Project DIGITS 系統上對模型進行原型設計、微調和測試,然後將其部署到NVIDIA DGX Cloud、加速雲端實例或資料無縫部署到中心基礎設施。

這使得開發人員能夠在 DIGITS 專案中建立 AI 原型,並使用相同的 Grace Blackwell 架構和 NVIDIA AI Enterprise 軟體平台將其擴展到雲端或資料中心基礎設施。

DIGITS 專案使用者可以存取用於實驗和原型設計的廣泛 NVIDIA AI 軟體庫,包括 NVIDIA NGC 目錄和 NVIDIA 開發人員入口網站中提供的軟體開發套件、編排工具、框架和模型。開發人員可以使用 NVIDIA NeMo 框架微調模型,使用 NVIDIA RAPIDS 函式庫加速資料科學,並執行 PyTorch、Python 和 Jupyter Notebook 等流行框架。

要建立基於代理的 AI 應用程序,您還可以使用 NVIDIA Blueprint 和 NVIDIA NIM 微服務,這些服務可透過 NVIDIA 開發者計劃進行研究、開發和測試。當您準備好將 AI 應用程式從實驗室轉移到生產環境時,NVIDIA AI Enterprise 許可證可讓您存取 NVIDIA AI 軟體的企業級安全性、支援和產品版本。