Переглянути джерело

flare gb10: declare the served model id for the bench client

Alexander Korolev 11 годин тому
батько
коміт
bd819f030b
1 змінених файлів з 4 додано та 0 видалено
  1. 4 0
      recipes/dsv41-flash-1017-4x-flare-gb10/recipe.toml

+ 4 - 0
recipes/dsv41-flash-1017-4x-flare-gb10/recipe.toml

@@ -22,6 +22,10 @@ parent_model = "deepseek-ai/DeepSeek-V4.1-Flash"
 required_nodes = 4
 cluster = "dgx58-switch"
 
+# адрес модели для клиентов — общий кластерный алиас (FLARE отдаёт его же
+# через --name, но лаунчеру/бенчу нужен явный id в args)
+args = ["--served-model-name", "deepseek-v4.1-flash"]
+
 [flare]
 package = "local-inference-lab/DeepSeek-V4.1-Flash-1017-FLARE"
 revision = "gb10"