English | 简体中文

_{简体中文  ⇄  English}

_{每周开放权重模型 drop 的一键烟雾测试 —— 在你自己的硬件上 30 秒试跑，告诉你哪个 fork / quant / 配置能跑起来。}

每周都有新的开放权重模型 drop，但你得手动找 fork、猜 GGUF quant、查 day-0 支持。DropProbe 用一条命令对你本机硬件烟雾测试每个新 drop，直接给出能跑的 fork / quant / config。

架构

数据流：drops.py 从 HF 拉本周 carousel → hardware.py 探测本机 VRAM / RAM / 磁盘 → probe.py 用最小可行 quant 跑 30 秒试推理 → report.py 输出 rich 表 / --json。config_db.yaml 把每个 drop 的 fork / quant / day-0 工具就绪度喂给探针层。

目录

• 为什么造这个
• 安装
• 快速开始
• 用法
• Demo
• 路线图
• License

为什么造这个

r/LocalLLaMA 有句话说「the open-weights carousel never stops」—— DeepSeek、Kimi、GLM、Qwen、MiniMax 几乎每周轮替 drop，但每个 drop 你都得手动重做一遍：哪个 llama.cpp fork 支持它、哪个 GGUF quant 放得进你的 VRAM、ComfyUI / llama.cpp 有没有加 day-0 支持。最痛的案例是有人因为「在我的机器上没法试」干脆自己用 C99 写了个推理引擎。DropProbe 把这套重复的体力活压成一条命令：在你真实的硬件上对每个新 drop 跑 30 秒试推理，吐出一张能直接复制运行命令的 ProbeCard 表。静态 VRAM 算术只能告诉你 quant 放不放得下；烟雾测试能告诉你 fork 到底跑不跑得起来。

安装

# 推荐用 uv（< 30 秒，不在安装期拉任何模型权重）
uv tool install dropprobe
# 或用 pipx
pipx install dropprobe

需要本机有 llama.cpp（llama-cli）或 ollama 在 PATH 上。m2 烟雾测试会自动选一个；两个都没有时退化为只列出 drop + 硬件画像（m1 行为）。

快速开始

# 1. 安装
uv tool install dropprobe
# 2. 列出本周 drop + 你的硬件画像（m1 —— 还不跑探针）
dropprobe latest --list
# 3. （m2 起）跑烟雾测试，复制能跑的运行命令
dropprobe latest

样例输出（m1 --list）

DropProbe 0.1.0 — fetching the last 7d of drops...

This week's open-weight drops
 Model                                  Lab       Drop date   Files
 moonshotai/Kimi-K3-Instruct           Kimi      2026-08-01    14
 deepseek-ai/DeepSeek-V4-Flash         DeepSeek  2026-07-30    22
 zhipuai/GLM-5.5-9B-Chat               GLM       2026-07-29     8
 Qwen/Qwen3-Next-80B                   Qwen      2026-07-27    19
 MiniMaxAI/MiniMax-H3                  MiniMax   2026-07-26    31

Your hardware
 Axis             Value
 GPU arch         nvidia
 GPU              NVIDIA GeForce RTX 5090
 GPU count        2
 VRAM (GiB)       48.0
 RAM (GiB)        128.0
 Disk free (GiB)  512.0

用法

# 只看本周 carousel + 本机硬件（m1 已可用 —— 探针在 m2）
dropprobe latest --list

# 指定回看窗口（默认 7 天，carousel 节奏）
dropprobe latest --list --window 14

# 指定模型缓存目录（用于测量真实可用磁盘）
dropprobe latest --list --cache-dir /data/hf

# m2 起：跑 30 秒烟雾测试，每个 drop 出一张 ProbeCard
dropprobe latest

# m3 起：导出完整 JSON 报告
dropprobe latest --json > report.json

# 版本
dropprobe --version

核心数据原语是 ProbeCard —— 每个 drop 一条可运行配置记录：

字段	含义
model_id / lab / drop_date	模型标识与发布信息
hardware_profile	本机 VRAM / RAM / GPU 架构 / 磁盘
quant	适配的 GGUF quant（名 / 体积 / 来源仓库，如 Q2_K 自 GrEarl/Kimi-K3-GGUF）
backend	跑得动的后端 fork（如 pwilkin/llama.cpp kimi-k3-text）
tooling	day-0 工具就绪度（comfyui / llama_cpp / ollama）
runnable / smoke_probe_ok	烟雾测试结果
run_cmd	可直接复制粘贴的运行命令

Demo

原始录制在 assets/demo.cast（asciinema 格式）；docs/demo.tape 是可重放的 vhs 脚本，.github/workflows/demo.yml 按需重渲染 gif。

路线图

• m1 · 抓取 drop —— 从 HF / lab 列表拉本周 carousel + 探测本机硬件；dropprobe latest --list 打印 drop + 硬件画像。
• m2 · 烟雾测试 —— 从 config_db 选最小可行 quant + 后端 fork，用 llama.cpp / ollama 跑 30 秒试推理，记录 runnable / smoke_probe_ok；dropprobe latest 跑探针。
• m3 · 出报告 —— 打印完整 ProbeCard 表（模型 / 适配 quant / VRAM / fork / 工具就绪 / 运行命令）+ dropprobe latest --json 导出。
• 未来 —— 社区 PR 流水线给 config_db 加 drop 行（这是计划里盯着的「真实使用」信号）。

License

MIT —— 见 LICENSE。提 issue 或 PR 欢迎在 GitHub Issues。

_{MIT © 2026 SuperMarioYL}