소스 검색

flare gb10: declare the served model id for the bench client

Alexander Korolev 12 시간 전
부모
커밋
bd819f030b
1개의 변경된 파일과 4개의 추가작업 그리고 0개의 파일을 삭제
  1. 4 0
      recipes/dsv41-flash-1017-4x-flare-gb10/recipe.toml

+ 4 - 0
recipes/dsv41-flash-1017-4x-flare-gb10/recipe.toml

@@ -22,6 +22,10 @@ parent_model = "deepseek-ai/DeepSeek-V4.1-Flash"
 required_nodes = 4
 cluster = "dgx58-switch"
 
+# адрес модели для клиентов — общий кластерный алиас (FLARE отдаёт его же
+# через --name, но лаунчеру/бенчу нужен явный id в args)
+args = ["--served-model-name", "deepseek-v4.1-flash"]
+
 [flare]
 package = "local-inference-lab/DeepSeek-V4.1-Flash-1017-FLARE"
 revision = "gb10"