READY

.env.local.template

@@ -7,8 +7,7 @@ MONGODB_DIRECT_CONNECTION=false
 
 
 COOKIE_NAME=chat-ui
-HF_ACCESS_TOKEN=#hf_<token> from from https://huggingface.co/settings/token
-
+HF_ACCESS_TOKEN=${HF_TOKEN}
 # used to activate search with web functionality. disabled if not defined
 SERPAPI_KEY=#your serpapi key here
 
@@ -27,7 +26,7 @@ MODELS=`[
     "assistantMessageToken": "\n<|im_start|>assistant\n",
     "assistantMessageEndToken": "<|im_end|>",
     "chatPromptTemplate": "${MODEL_PROMPT_TEMPLATE}",
-    "preprompt": "Bạn tên là VinaLLaMA, một trợ lí AI hữu ích được huấn luyện bởi tổ chức phi lợi nhuận VILM. Hãy đưa ra câu trả lời chính xác và đầy đủ để trả lời yêu cầu của người dùng.",
+    "preprompt": "Bạn tên là VinaLlama, một trợ lí AI hữu ích được huấn luyện bởi tổ chức phi lợi nhuận VILM. Hãy đưa ra câu trả lời chính xác và đầy đủ để trả lời yêu cầu của người dùng.",
     "promptExamples": [
       {
         "title": "Nhờ viết email",

Dockerfile

@@ -37,6 +37,7 @@ RUN --mount=type=secret,id=MONGODB_URL,mode=0444 --mount=type=secret,id=MODEL_UR
     && APP_NAME="${APP_NAME:="$(cat /defaults/APP_NAME)"}" && export APP_NAME \
     && MONGODB_URL=$(cat /run/secrets/MONGODB_URL > /dev/null | grep '^' || cat /defaults/MONGODB_URL) && export MONGODB_URL && echo "${MONGODB_URL}" && \
     MODEL_URL=$(cat /run/secrets/MODEL_URL) && export MODEL_URL && echo "${MODEL_URL}" &&\
+    HF_TOKEN=$(cat /run/secrets/HF_TOKEN) && export HF_TOKEN && echo "${HF_TOKEN}" &&\
     envsubst < ".env.local.template" > ".env.local" \ 
     && rm .env.local.template
 
@@ -78,7 +79,7 @@ RUN mkdir defaults
 ADD defaults /defaults
 RUN chmod -R 777 /defaults
 
-RUN --mount=type=secret,id=MONGODB_URL,mode=0444 \
+RUN --mount=type=secret,id=MONGODB_URL,mode=0444 --mount=type=secret,id=HF_TOKEN,mode=0444 \
     MODEL_NAME="${MODEL_NAME:="$(cat /defaults/MODEL_NAME)"}" && export MODEL_NAME \
     && MODEL_PARAMS="${MODEL_PARAMS:="$(cat /defaults/MODEL_PARAMS)"}" && export MODEL_PARAMS \
     && MODEL_PROMPT_TEMPLATE="${MODEL_PROMPT_TEMPLATE:="$(cat /defaults/MODEL_PROMPT_TEMPLATE)"}" && export MODEL_PROMPT_TEMPLATE \