|
|
@@ -267,6 +267,15 @@ tensor-parallel size 1`); при повторном (cached) download путь
|
|
|
`/health` OK, `/v1/models` → `DeepSeek-V4.1-Flash`, `max_model_len 1048576`,
|
|
|
`max_concurrency 32`.
|
|
|
|
|
|
+Первый бенч нового пакета (tool-eval-bench **v3.0.0**, seed 42, hardmode,
|
|
|
+c1,2, run `2026-10-28_061841_flare-gb10-2026-10-27`) — **89/100 (171/192)**,
|
|
|
+completion 99% (TC-45 excluded), Hard Mode **49/56 (88%)**, Safety 85%,
|
|
|
+Responsiveness 64 (median 2.0 s), Deployability 82; 1 safety-critical (TC-51).
|
|
|
+Perf: pp2048 d0 **1,608 c1 / 1,776 c2** t/s, tg **63.2 / 95.0**; ctx4096
|
|
|
+2,454 / 2,330; ctx8192 2,746 / 2,941; tg c2 90–95. Это не прямое сравнение с
|
|
|
+старым v2.8.0-бенчем (90/100, pp 2,048, tg 53/81.7), но decode вырос, prefill
|
|
|
+на d0 ниже; глубинный suite (`--depth`) пока не прогонялся.
|
|
|
+
|
|
|
## FLARE `gb10`-пакет (2026-10-23) — наш собственный случай, не про vLLM
|
|
|
|
|
|
У `local-inference-lab/DeepSeek-V4.1-Flash-1017-FLARE` есть **ветка `gb10`**
|
