模型目录
挑模型之前，先看清状态
目录提供推荐和资料：模型来源固定到上游的具体提交，文件大小来自固定版本的清单。收录不等于可以运行，下面把三种状态分开。
目录列表
v0.1.1 可登记
8 个 · 当前发布版本有对应的架构和格式，可以添加、下载和启动。
Qwen3 14B · BF16中文通用与质量/内存折中。
文本
safetensorsBF16
29.6 GB
v0.1.1 可登记
选型备注
使用官方未量化 safetensors。Sparklet 的 Qwen3 适配器为非思考模式、普通 attention、单请求解码；先用 CUDA、4K 上下文验证，较长上下文会增加注意力临时空间及 KV 内存。可登记不等于此固定版本已在本机验收。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
40c069824f42- 审核日期
- 2026-10-27
Qwen3 8B · BF16低资源中文对话。
文本
safetensorsBF16
16.4 GB
v0.1.1 可登记
选型备注
使用官方未量化 safetensors。Sparklet 的 Qwen3 适配器为非思考模式、普通 attention、单请求解码；先用 CUDA、4K 上下文验证，较长上下文会增加注意力临时空间及 KV 内存。可登记不等于此固定版本已在本机验收。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
b968826d9c46- 审核日期
- 2026-10-27
Qwen3 4B Instruct 2507 · BF16轻量指令遵循与低延迟。
文本
safetensorsBF16
8.1 GB
v0.1.1 可登记
选型备注
使用官方未量化 safetensors。Sparklet 的 Qwen3 适配器为非思考模式、普通 attention、单请求解码；先用 CUDA、4K 上下文验证，较长上下文会增加注意力临时空间及 KV 内存。可登记不等于此固定版本已在本机验收。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
cdbee75f17c0- 审核日期
- 2026-10-27
Qwen3 32B · BF16较大稠密文本模型与完整精度对照。
文本
safetensorsBF16
65.5 GB
v0.1.1 可登记
选型备注
使用官方未量化 safetensors。Sparklet 的 Qwen3 适配器为非思考模式、普通 attention、单请求解码；先用 CUDA、4K 上下文验证，较长上下文会增加注意力临时空间及 KV 内存。可登记不等于此固定版本已在本机验收。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
9216db5781bf- 审核日期
- 2026-10-27
FireRedASR2-LLM保留的语音识别专项模型。
语音
pytorch+safetensorsoriginal
18.9 GB
v0.1.1 可登记
选型备注
该模型是专项转写工具，不能与通用聊天按单一分数比较。音频时长与批量决定运行需求。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
2c5e0f415b9a- 审核日期
- 2026-10-27
Qwen3 0.6B轻量入门、连通性与开发验证模型；不作为 128 GiB 主力质量推荐。
文本
safetensorsBF16
1.5 GB
v0.1.1 可登记
选型备注
保留供快速下载和功能检查。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
c1899de289a0- 审核日期
- 2026-10-27
Qwen3.8-Flash-Next · Bartowski Q2_K保留的 Q2_K 大模型备选；低比特质量与 PLE 映射开销需单独评估。
文本
ggufQ2_K
80.9 GB
v0.1.1 可登记有实机记录
选型备注
只下载 Qwen3.8-Flash-Next-Q2_K/ 的 3 个分片。本条保留已有集成路线，2-bit 不能代替更高精度质量结论；从 4K、并发 1 验证。
实机记录
v0.1.0 发布说明记录：RTX Spark N1X、Windows 11 Arm64、cuda:0、4096 上下文下的真实推理，包括流式输出、中文、1728 token 长提示词和连续请求。
- 固定版本
db3a185731e1- 审核日期
- 2026-10-27
Qwen3.8-Flash-Next · Unsloth UD-Q4_K_XL保留的高容量 Q4 大模型备选；单机内存余量较紧。
文本
ggufUD-Q4_K_XL
111.3 GB
v0.1.1 可登记
选型备注
只下载 UD-Q4_K_XL/ 的 4 个分片。约 111.3 GB 文件，PLE 映射、计算权重、KV 与加载临时分配须分开评估；从 4K、并发 1 验证，不作为免验收的默认首选。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
766911a6b736- 审核日期
- 2026-10-27
开发中
20 个 · 开发版已有推理路径或正在接入，尚未发布。
Qwen3.8 27B · NVIDIA NVFP4通用中文、编程与图像理解优先候选；27B 稠密模型。
文本图像
safetensorsNVFP4
21.9 GB
开发中
选型备注
优先选择 NVFP4 以控制单流带宽开销；社区对比显示 FP8 不必然更快。先以 8K 上下文、并发 1 验证，再逐步增加；投机解码须另配草稿模型，不计入本条文件大小。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
482ca0f38322- 审核日期
- 2026-10-27
Qwen3.6 35B-A3B · NVIDIA NVFP4低延迟中文对话、工具调用与编程候选；稀疏 MoE。
文本图像
safetensorsNVFP4
23.5 GB
开发中
选型备注
NVIDIA 模型卡提供 DGX Spark 专用启动配方。MoE 仅激活部分参数不表示其余专家权重不占内存。建议从 8K、并发 1 验证；长上下文、图片及投机解码另占空间。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
1355db6a0524- 审核日期
- 2026-10-27
Qwen3-Coder-Next · 官方 Q4_K_M编程与代理任务专用候选；官方 80B-A3B GGUF，给 128 GiB 单机保留运行余量。
文本
ggufQ4_K_M
48.4 GB
开发中
选型备注
只下载 Qwen3-Coder-Next-Q4_K_M/ 下 4 个分片，不下载其他量化。社区已有 GB10 部署配方；从 8K–16K、并发 1 验证，不将模型标称最大上下文当作本机验收值。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
b82fb7382639- 审核日期
- 2026-10-27
GLM-4.7-Flash · Q4_K_M中文推理、编程与工具调用的紧凑 MoE 备选，社区仍有活跃下载与 GB10 运行记录。
文本
ggufQ4_K_M
18.3 GB
开发中
选型备注
选择 GLM-4.7-Flash-Q4_K_M.gguf。官方 llama.cpp 仓库有此模型家族的 DGX Spark 基准，但量化发布者和版本可能不同，不能把其中 TPS 复制为本条实测。先验证 8K、并发 1。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
0d32489ecb9d- 审核日期
- 2026-10-27
Qwen3.5 9B · BF16轻量中文与图像理解候选；完整 BF16 权重可保留较大运行余量。
文本图像
safetensorsBF16
19.3 GB
开发中
选型备注
不要与已支持的 Qwen3 稠密文本架构混同；这是 Qwen3.5 多模态架构。从 8K、并发 1 验证，图像编码器及视觉 token 也消耗内存。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
c20223623576- 审核日期
- 2026-10-27
Qwen3.5 122B-A10B · NVIDIA NVFP4容量较大的通用/多模态 MoE 备选；优先用于能接受较高内存占用的任务。
文本图像
safetensorsNVFP4
83.5 GB
开发中
选型备注
文件约 83.5 GB，128 GiB 机器仍须扣除系统、加载峰值及 KV；不能沿用数据中心多 GPU 配置。建议 8K、并发 1 起步，先确认完整权重保持量化驻留。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
98915d837c4e- 审核日期
- 2026-10-27
Qwen3-ASR 1.7B · BF16语音识别专项候选，适合中英及多语言转写；不作为通用聊天模型。
语音
safetensorsBF16
4.7 GB
开发中
选型备注
官方完整 safetensors 目录；语音编码器、音频时长和批量决定运行内存，不能用文本上下文预算替代。当前 FireRedASR 组件不能直接加载 Qwen3-ASR。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
7278e1e70fe2- 审核日期
- 2026-10-27
GLM-OCR · BF16文档 OCR、表格与公式提取专项候选；体积小、近期活跃。
图像
safetensorsBF16
2.7 GB
开发中
选型备注
官方完整目录；图像分辨率、裁切页数和批量会改变内存。此条属于文档识别，不能作为通用聊天模型。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
2e85a62840cc- 审核日期
- 2026-10-27
Qwen3.8-Flash-Next · NVIDIA FP4-Local大模型进阶候选；NVIDIA 提供单台 DGX Spark 配方。
文本图像
safetensorsNVFP4 / FP4-Local
102.3 GB
开发中
选型备注
约 102 GB 的混合精度检查点；NVFP4 scale 使用特殊压缩格式，模型卡明确要求专用容器，普通上游 vLLM 不能直接替代。推荐先按 PLE 磁盘卸载方案、小上下文及并发 1 验证，预留高速 SSD；不将官方百万 token 配方视作本机保证。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
b9ce18a6887e- 审核日期
- 2026-10-27
Step-3.7-Flash · 官方 Q3_K_L198B 级多模态/推理的有条件备选；低比特量化换取单机容量，非默认日常推荐。
文本
ggufQ3_K_L
106.5 GB
开发中
选型备注
下载 Q3_K_L/ 的 3 个分片；本条还计入 mmproj-step3.7-flash-f16.gguf。官方模型卡列出同量化在 DGX Spark 的基准，但缺少本目录所需的完整环境/峰值报告。约 106.5 GB 文件，先以 4K–8K、并发 1 验证，勿直接套用宣传中的长上下文配置。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
0b69336d2fd2- 审核日期
- 2026-10-27
MiniMax M2.7 · UD-Q3_K_M编程与代理的大模型有条件备选；3-bit 量化有质量代价、运行余量较紧。
文本
ggufUD-Q3_K_M
101.2 GB
开发中
选型备注
只选 UD-Q3_K_M/ 全部 4 个分片（包括小首片）。约 101.2 GB 文件；4-bit 版本不能按本条容量推断。建议 4K–8K、并发 1 起步，量化质量、加载峰值和持续运行均需验证；Modified MIT 条款见上游 LICENSE。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
d2a05ccf6949- 审核日期
- 2026-10-27
Nemotron 3.5 Lightning 30B-A3B · NVFP4英语、编程与代理的低延迟候选；NVIDIA 提供单台 DGX Spark 配方。
文本
safetensorsNVFP4
21.6 GB
开发中
选型备注
这是独立目标模型，名称含 DSpark / DFlash 的仓库是草稿模型，不能单独替代它。本条不包含草稿权重；GB10 的官方配方指定 Marlin W4A16 路径，不能从 Blackwell 名称推断所有 FP4 内核都可用。先验证 8K、并发 1。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
bee7596271d1- 审核日期
- 2026-10-27
gpt-oss 120B · 官方 MXFP4英语推理、编程与工具调用的大容量候选；保留官方 MXFP4。
文本
safetensorsMXFP4
65.3 GB
开发中
选型备注
官方 Transformers 说明给出保持 MXFP4 的单 GPU 部署方案；实际峰值取决于引擎是否保持 MXFP4，不可回退到 BF16 展开全部专家。保留 Harmony 模板和推理输出解析。先验证 8K–16K、并发 1；社区 GGUF 的性能不能直接移植到官方 safetensors。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
b5c939de8f75- 审核日期
- 2026-10-27
Nemotron 3.5 Bolt 74B-A9B · 24GB IQ2近期发布的视觉与本地代理候选；原生量化训练的 2-bit 版本。
文本
safetensorsIQ2 (QAT)
24.1 GB
开发中
选型备注
原生 IQ2/QAT 不等同于任意第三方 2-bit 压缩。按官方与社区 GB10 配方使用对应 vLLM、b12x、模型代码及解析器，不能交给普通 GGUF 加载器。本条为目标模型，LiLiCorr 草稿模型另计。新版本生态仍在变化，先验证 8K、并发 1。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
cf2effc5c4b7- 审核日期
- 2026-10-27
Nemotron 3.5 Super VL 120B-A12B · NVFP4近期多模态、文档理解与代理候选；NVIDIA 明确列出单台 DGX Spark。
文本
safetensorsNVFP4
75.1 GB
开发中
选型备注
官方 GB10 配方限制并发 1，使用指定版本 vLLM、Mamba 内核和可选 LiLiCorr 草稿；草稿不含在本条大小内。约 75.1 GB 目标模型文件，视觉 token、KV 与草稿均需另算；不要把模型标称 1M 上下文当作无条件容量。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
da5b2650a835- 审核日期
- 2026-10-27
Nemotron 3.5 Transcribe 30B-A4B · NVFP4 · 无 DFlash40 种语言离线转写、语音翻译、说话人区分与音频问答，单段录音最长 1 小时；不作为通用聊天模型。
语音
safetensorsNVFP4
21.6 GB
开发中
选型备注
本条固定为无投机解码配置，未启用 MTP 或 DFlash。同系列 DFlash2 仓库是投机解码草稿，不能单独转写，本条不含草稿权重。DFlash2 与模型自带 MTP 二选一；DFlash2 不支持词级时间戳，另建条目记录。官方路线是 vLLM 0.32.0 加 NeMo Speech main 的 nemo_speechlm 插件：需显式设置 --kv-cache-dtype fp8，首次启动由 FlashInfer 编译内核，需要 CUDA 13 的 nvcc。官方参考部署为单卡 96 GB RTX PRO 6000；兼容表列出 DGX Spark (GB10) 的 NVFP4，系统为 Linux 或 WSL2，原生 Windows 只列 GGML 路线。SGLang-Omni 不支持此 NVFP4 检查点。官方称此 NVFP4 的平均错误率较 BF16 相对高约 3.6%。上下文 65,536 token、单段录音最长 1 小时；长录音另需 KV 与音频编码内存，先从单路短音频验证。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
66c6adc40201- 审核日期
- 2026-10-31
Gemma 4 26B-A4B · UD-Q4_K_M多语言、视觉与通用任务的稀疏模型备选。
文本图像
ggufUD-Q4_K_M
18.1 GB
开发中
选型备注
选择 gemma-4-26B-A4B-it-UD-Q4_K_M.gguf，视觉用途还需同版本 mmproj-F16.gguf，本条大小包含该投影文件。先用 8K、并发 1 验证。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
c099eb48e663- 审核日期
- 2026-10-27
Gemma 4 31B · Q4_K_M偏重质量的多语言与视觉稠密模型备选；单流速度受带宽影响。
文本图像
ggufQ4_K_M
19.5 GB
开发中
选型备注
选择 gemma-4-31B-it-Q4_K_M.gguf 与同版本 mmproj-F16.gguf，本条大小包含视觉投影。与 26B-A4B 分开比较质量和延迟，不能只按参数量排序；先验证 8K、并发 1。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
c1ac76e99d55- 审核日期
- 2026-10-27
Nemotron 3 Nano 30B-A3B · NVFP4仍有活跃使用的英语/编程轻量 MoE 基线；新部署优先比较 Lightning 3.5。
文本
safetensorsNVFP4
19.4 GB
开发中
选型备注
保留此条供已有 Nano 工作流与新模型对照；使用与 GB10 匹配的 Mamba、MoE 和 NVFP4 内核。先验证 8K、并发 1，不把其他显卡或 BF16 模型的结果记到本版本。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
6efb4a2a1c1f- 审核日期
- 2026-10-27
Mistral Small 4 119B · 官方 NVFP4多语言、编程、推理与视觉的大模型备选；官方压缩检查点。
文本
safetensorsNVFP4
70.8 GB
开发中
选型备注
约 70.8 GB 模型文件，有容量可行性但单台 GB10 的持续性能仍待核验。官方示例的 tensor parallel 2 和高并发不是单机配方；应以支持 SM121 的引擎、单 GPU、8K 与并发 1 起步，禁止直接照搬示例。
实机记录
暂无公开实测报告。可登记、有推理路径都不等于这个固定版本已经验收。
- 固定版本
45331841b631- 审核日期
- 2026-10-27
没有符合条件的模型，换个条件试试。
文件体积不是运行内存选型按单机 128 GiB 设备考虑。还要留出系统、加载临时空间、KV cache 和运行环境的磁盘空间；不同模型要分开验证。
顺序不是跑分榜每组内是编辑推荐顺序，中国团队的模型在前。不同任务的模型不能按一个分数比较。
开发中是什么意思其余 20 条在开发版中已有推理路径或正在接入，尚未发布，完整权重也没有全部实机验收。