# 7900 XTX 的可能性探索｜单卡篇（五）：与时俱进！hipfire DFlash 实测 Qwen3.8-27B MQ4-XTS：8K Decode 169.4 tok/s，Prefill 2682 tok/s


---

# 六、部署与启动参数

项目地址：

https://github.com/warpfront/hipfire

> 以下参数对应本文实测的 **hipfire v0.4.2.1**；后续版本默认行为可能变化，请以对应版本文档为准。

## 1. 安装 hipfire

    curl -fsSL https://raw.githubusercontent.com/warpfront/hipfire/master/scripts/install.sh | bash

确认版本：

    hipfire --version

本次测试：

    hipfire v0.4.2.1

## 2. 下载模型

    hipfire pull qwen3.8:27b-mq4-xts

## 3. 本次核心配置

    GPU: RX 7900 XTX / gfx1100
    KV Cache: Q8
    VMM: enabled
    Speculative: DFlash
    Output: 256 tokens
    Concurrency: C1
    Cache: Cold Context

## 4. Benchmark 核心命令

    hipfire bench qwen3.8:27b-mq4-xts \
      --prompt-file <PROMPT_FILE> \
      --runs 1 \
      --warmups 0 \
      --max-tokens 256 \
      --max-seq <CONTEXT_LIMIT> \
      --spec dflash \
      --kv-mode q8 \
      --kv-backend vmm \
      --json

测试流程：

    1 × warmup
    3 × formal
    最终取 median

## 5. DFlash 配置

本轮 DFlash 路线使用：

    speculation.mode = "dflash"
    speculation.mtp = "off"
    speculation.dflash = "on"
    speculation.dflash_block = "auto"

8K 测试实际日志：

    DFlash2 runtime block: 8 -> 16

也就是说，本轮没有手工沿用旧资料里的固定 draft window，而是使用 hipfire v0.4.2.1 当前实际解析并运行的 DFlash 路径。

## 6. Native MTP K=8 对照

    speculation.mode = "mtp"
    speculation.mtp = "on"
    speculation.dflash = "off"
    speculation.mtp_k = 8

Benchmark 其它条件与 DFlash 保持一致。

## 7. AR baseline

    speculation.mode = "off"
    speculation.mtp = "off"
    speculation.dflash = "off"

8K AR：

    50.0 tok/s

8K DFlash：

    169.4 tok/s

即：

    3.388×

## 8. Context 测试范围

    4K
    8K
    16K
    32K
    64K
    128K
    196K

实际 framed tokens：

    4K      4,107
    8K      8,173
    16K    16,405
    32K    32,770
    64K    65,553
    128K  131,066
    196K  196,627

Prompt 不强行要求精确命中 4096 / 8192 / 16384 等整数；以目标 tokenizer / hipfire daemon 实际计数为准。

## 9. API 服务

    hipfire serve qwen3.8:27b-mq4-xts -d

如果只是本机使用，建议只在本地接口提供服务，不要把无认证端口直接暴露到公网。

---