Update file rag.conf.example
This commit is contained in:
@@ -74,6 +74,8 @@ rag:
|
|||||||
max_context_tokens: 3000 # токенов
|
max_context_tokens: 3000 # токенов
|
||||||
reserved_for_answer_tokens: 1000 # резервируем для ответа
|
reserved_for_answer_tokens: 1000 # резервируем для ответа
|
||||||
# reserved_for_prompt_tokens вычисляется динамически
|
# reserved_for_prompt_tokens вычисляется динамически
|
||||||
|
max_model_tokens: 8192 # лимит модели
|
||||||
|
reserved_for_overhead_tokens: 200
|
||||||
|
|
||||||
# ============================================================
|
# ============================================================
|
||||||
# 7. HTTP-сервер
|
# 7. HTTP-сервер
|
||||||
|
|||||||
Reference in New Issue
Block a user