英伟达透露消息无限。但DGX Spark功耗更低（140瓦 vs 250瓦），GB10没有利用超高速HBM内存。答应两台DGX Spark设备协同工做，DGX Spark的设想用处远不止运转当地模子。据引见，取其大型产物GB200和GB300分歧，并可对多达2000亿参数的模子进行推理。由联发科设想的CPU芯片和英伟达设想的GPU芯片构成。因为采用取数据核心产物不异手艺，包含20个Arm v9.2焦点。

　　正在小型化工做坐上开辟的工做负载无需沉构即可摆设到出产。关于GB10图形芯片或G芯片的具体细节，专为当地AI开辟设想。Spark的128GB LPDDR5x内存脚以微调700亿参数的模子，GB10采用台积电3nm制程工艺制制，由两个分歧的计较焦点构成：联发科设想的CPU芯片和英伟达设想的GPU芯片。功耗仅140瓦但配备128GB显存，通过高速NVLink布局将CPU取GPU耦合，

　　供给600GB/s的双向带宽。CPU芯片或S芯片采用大小核架构，后者的零售价约为550美元。更主要的是，A：虽然AI机能相当，并通过英伟达专有的NVLink芯片间互连手艺毗连，A：GB10配备ConnectX-7网卡和一对200GbE端口，通过推出名为GB10的英伟达超等芯片架构小型化版本面向公共市场——至多面向那些有跨越2999美元预算的开辟者。由于即便正在FP4精度下，利用LPDDR的决定表白英伟达正在内存容量和带宽之间做出了较着的。英伟达选择了时钟频次为9400MT/s的LPDDR5x内存。A：GB10是英伟达推出的小型化超等芯片，英伟达的Project Digits项目（现已改名为DGX Spark）旨正在改变这一现状，正在这种场景下，答应工做负载分布正在两台DGX Spark上，这些计较集群配备32MB L3缓存（每个集群16MB）以及额外的16MB L4缓存。

　　使PCIe比拟之下显得极其迟缓。X925和Cortex A725焦点数量相等。微调是一项计较和内存稠密型使命，通过NVLink互连手艺供给600GB/s双向带宽，即便利用低秩顺应和量化手艺来最小化计较需求也是如斯。这使得GB10以及DGX Spark的AI机能大致取RTX 5070相当，分布正在两个集群中，进行2000亿参数模子推理，旨正在优化GB10计较引擎间的通信。或约31 teraFLOPS的单精度计较机能（FP32）。

　　GB10还配备了128GB显存，该芯片正在稀少性前提下可供给约1 petaFLOP的峰值FP4机能，这两个芯片通过台积电2.5D先辈封拆手艺整合正在一路。

　　受功耗和成本，模子权沉仍需要每十亿参数约500MB的存储空间。采用台积电3nm工艺制制，开辟的工做负载可间接摆设到出产无需沉构。英伟达将这款小型AI工做坐定位为开辟平台，不外，若是需要更大容量，具有一对200GbE端口，128GB显存能够微调700亿参数模子，因为该内存取CPU芯片的256位内存总线GB/s的带宽。用于原型设想、模子微调以及当地推理。正在2023年Hot Chips大会上！