Project DIGITS:将AI超级计算机带入个人领域
Project DIGITS将AI超级计算机带入个人领域,让更多人能够参与AI研究与开发。
想象一下,一台可以放在桌面上的超级计算机,是不是像科幻小说里的情节?如今,Nvidia推出了一项突破性的技术——Project DIGITS,这是一台桌面AI超级计算机,不仅体积小巧,还具备运行大规模AI模型的强大能力。就像把钢铁侠的Jarvis带回家一样酷炫!过去,超级计算机通常被认为是需要整个房间来容纳的大型设备,而Nvidia将这个想法颠覆,将其缩小到普通人也能使用的程度。
Project DIGITS:英伟达改变游戏规则的家用AI超级计算机
NVIDIA 发布突破性的 GB10 超级芯片,为 Project DIGITS 提供动力——这是一台精巧的 AI 超级计算机,能够高效地处理 200B 参数的模型,其装置体积小到足以握在手中。
搭配两个 Project DIGITS 单元,开发者就能无缝处理多达 405B 参数的 AI 模型。
AI 技术的新标杆
Nvidia在CES 2025的记者会上宣布了两项重磅新品:Project DIGITS和RTX 50系列GPU。这些产品为AI领域提供了前所未有的性能飞跃。以下是它们的亮点:
Project DIGITS:桌面AI超级计算机
配备最新的Grace Blackwell芯片,能够运行多达2000亿参数的大型模型。拥有 20 个 ARM 核心的 Grace CPU (与 MediaTek 合作)
支持训练AI模型、微调参数以及进行实时推论,无需依赖云端。
具备高达1 PetaFLOP(每秒一千兆次浮点运算)的性能,相当于数千台普通家用电脑的计算能力。
最新一代 CUDA 核心与第五代张量核心
NVIDIA ConnectX 网络
配有128GB统一内存和最高4TB NVMe存储空间,轻松处理海量数据。
售价3,000美元,预计2025年5月开售。
Project DIGITS 的应用与能力💪:
可运行高达 200B 参数的 AI 模型
可连接两个装置来处理 405B 参数模型
以标准壁式电源运作
基于 Linux 的 NVIDIA DGX OS
预先安装完整的 NVIDIA AI 软件堆栈
专为下列用途打造
AI 模型原型开发
微调
推理工作负载
数据科学
边缘应用程序开发
2025 年 5 月上市,起价 3000 美元。将数据中心级运算带给个别研究人员、开发者和学生,是 Edge AI 普遍应用的里程碑。
在 CES 2025 展会上,NVIDIA 宣布将于 2025 年 5 月推出一款名为 Project Digits 的个人 AI 超级计算机,为 AI 研究人员、数据科学家及学生提供强大的运算能力。这款桌面大小的系统,搭载全新的 GB10 Grace Blackwell 超级芯片,提供高达 1 petaflop 的 AI 性能,并且能够处理多达 2000 亿参数的 AI 模型,开价为 3,000 美元(约港币 23,400 元)。
Project Digits 硬件细节 Project Digits 能够将原本需要庞大、耗能的机器来执行的 AI 计算,缩小至桌面尺寸并能够用标准插座运行。这款设备的核心是辉达最新的 GB10 超级芯片,内置最新的 CUDA 核心及第五代 Tensor 核心,并且以 NVLink-C2C 互联技术连接至一颗高性能的 Grace CPU,这颗 CPU 内含 20 颗基于 Arm 架构的高性能处理核心。此超级芯片由辉达与联发科共同合作开发,强化了性能与能效。
Project Digits 内存与存储 Project Digits 不仅具备强大的运算能力,还配备了 128GB 统一内存及最高 4TB 的 NVMe 存储空间,用户可运行如 Meta 旗下的 Llama 3.1 这类最高可达 4050 亿参数的模型。对于更高需求的用户,两台 Project Digits 系统可联网,协同运算,处理更庞大的 AI 模型。
Project Digits 软件生态与未来展望
Project Digits 的软件生态也相当完善。用户可利用辉达的 AI 软件库进行开发,这包括开发工具、编排工具和预训练模型。此系统运行基于 Linux 的 Nvidia DGX OS,支持 PyTorch、Python 和 Jupyter 等常见框架,并提供 Nvidia NeMo 框架来进行模型微调,协助加速数据科学流程。开发者可以在本地测试其 AI 模型,并将其部署至云端服务或数据中心,无缝扩展其运算需求。
辉达 CEO 黄仁勋在发布会上表示,Project Digits 将使 AI 成为每个产业和应用的主流,并能为数百万开发者提供强大的工具来推动 AI 的创新。他强调,“把 AI 超级计算机放到每位数据科学家、AI 研究员和学生的桌面,将促使他们参与并塑造这个 AI 产业的未来。”
Project Digits 也将使得更多创新 AI 应用得以在桌面上进行实验与开发,进一步推动全球 AI 产业的发展。这款设备预计将于 2025 年 5 月正式上市,并以 3,000 美元起的价格开售。
资料来源:TechnewsTW, TechCrunch