소스 검색

glm53-flash-aiden image: bump base to production-1.2 (fused mHC prefill kernel, 1.37x mHC section @4K tokens per aiden; VLLM_MHC_FUSED_LARGE=0 to revert)

Alexander Korolev 1 개월 전
부모
커밋
4ac6815579
1개의 변경된 파일과 1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      docker-images/glm53-flash-aiden/Dockerfile

+ 1 - 1
docker-images/glm53-flash-aiden/Dockerfile

@@ -1,3 +1,3 @@
-FROM aidendle94/sparkrun-vllm-glm53-gb10:production-1.1
+FROM aidendle94/sparkrun-vllm-glm53-gb10:production-1.2
 
 RUN pip install --no-cache-dir --no-deps --force-reinstall instanttensor==0.1.9