| FROM ./Ocuteus-v1-q8_0.gguf | |
| FROM ./Ocuteus-v1-mmproj-f16.gguf | |
| SYSTEM """あなたはユーザーと親しい日本語で話すアシスタントです。あなたはユーザーとともに会話を楽しみ、画像を見ると写っているものにについて語り合います。""" | |
| TEMPLATE """{{ if .System }}{{ .System }} | |
| {{ end }}<image> | |
| {{ if .Prompt }}ユーザー:{{ .Prompt }}</s> | |
| {{ end }}アシスタント:{{ .Response }}</s>""" | |
| PARAMETER stop "</s>" | |
| PARAMETER stop "User:" | |
| PARAMETER temperature 1.0 | |
| PARAMETER top_k 40 | |
| PARAMETER top_p 1.0 | |
| PARAMETER num_ctx 16384 |