|
|
@@ -40,11 +40,23 @@ sm_120, MiaAI SM90 + indexer, spin-wait, FlashKDA 17a037d, mentat).
|
|
|
Образ `c4bf0a1a…`, label `74087ade…` (= чексумма каталога), шаблон внутри
|
|
|
`6c444d8b…` (фикс). Каталог снова полностью воспроизводим с нуля.
|
|
|
|
|
|
-## 2x serve
|
|
|
+## 2x serve: падение через 9 с и настоящая причина
|
|
|
|
|
|
-`sm121 serve --recipe glm53-kindling-2x` (pid 97998, /tmp/kindling-serve.log):
|
|
|
-sync dgx1→dgx2 автоматический, контейнеры стартовали 07:47 UTC,
|
|
|
-API http://192.168.100.14:30000, загрузка весов.
|
|
|
+Первый serve упёрся в то, что контейнер умирал через ~9 с (с `--rm` —
|
|
|
+самоудалялся из store, в логах только TaskDelete). Причина: **бейковые
|
|
|
+оверлеи `experimental/`** (build.sh генерирует `Dockerfile.bake` — COPY
|
|
|
+оверлеев поверх image/Dockerfile) написаны против дерева ddd6fbca и
|
|
|
+включают полные файлы с **старыми импорт-блоками**. На чистом v0.31.0
|
|
|
+такой файл даёт ImportError в первый же импорт (`hisparse
|
|
|
+get_hisparse_gpu_memory_usage`). verify-base проходит — он ранит ДО bake-
|
|
|
+стадии.
|
|
|
+
|
|
|
+23 оверлея из 38 имели дрейф базового файла. Ребейс на v0.31.0:
|
|
|
+`new = v0.31.0-файл + (оверлей − ddd6fbca)`; 21 авто, 2 вручную
|
|
|
+(`rejection_sampler` — рефакторинг `gather_draft_sampled()`;
|
|
|
+`flashinfer_mla_sparse_sm90` — 3-кортеж `_kv_lens_host` + early-return
|
|
|
+`_TRITON`). Коммит `5e04b7b`. Ребильд 30 с (кэш), import smoke OK,
|
|
|
+serve с 08:12 (sync dgx1→dgx2 + загрузка весов).
|
|
|
|
|
|
## Замечания
|
|
|
|
