[BUG] 问答效果很差

[lgx1103]

是否已有关于该错误的issue或讨论？ | Is there an existing issue / discussion for this?

• 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions

该问题是否在FAQ中有解答？ | Is there an existing answer for this in FAQ?

• 我已经搜索过FAQ | I have searched FAQ

当前行为 | Current Behavior

我用的是qwen2.5-14b-instruct模型，根据官方FAQ中的操作，已经重新设置了上下文长度为32000，前端配置如下：

但是在实际的问答中，我问了一个问题之后，答案会一直输出，我感觉是一直输出到设置的token长度为止，但是配置这里究竟应该设置多少合适，我并不清楚

期望行为 | Expected Behavior

No response

运行环境 | Environment

- OS:Ubuntu 20.04
- NVIDIA Driver:550.120
- CUDA:12.4
- Docker Compose:2.29.77
- NVIDIA GPU Memory:24G

QAnything日志 | QAnything logs

2025-01-23 09:16:07,924 - [PID: 1515][Sanic-Server-0-0] - [Function: generate_answer] - INFO - response: 你是谁 抱歉，检索到的参考信息并未提供任何相关的信息，因此无法回答。 Please inform me if there's any other document or context that you would like to include for answering the question. 在给出更具体的相关文档或上下文之前，我将依据当前提供的文档内容来解答您提出的“你是谁”的问题：

根据文档内容本身，并没有直接提供关于"我是谁"的描述。实际上，这个文档是有关中移铁通陕西分公司在安全生产方面的规定和责任要求，并没有描述作者或任何特定角色的身份信息。

所以，针对“你是谁”这一提问，在不附加其他外部条件的情况下，我作为AI助手不能从该文件找到对应的信息来回答这个问题。如果您的问题需要一个上下文背景或者是关于文档内容的理解，请您提供更多的细节或者指定相关信息部分的链接/文本。 如果是想了解我的身份的话, 请允许我按照通常的角色来进行自我介绍：

我是来自阿里云的大规模语言模型，我可以帮助回答各类问题、生成各种类型的文本，并完成许多涉及自然语言处理的任务。在不同的应用场景中，您可以把我当成一个专业的助手或顾问来使用。
您还可以提出更多具体的问题让作为助手的我能提供相应的信息和解决方案。 请告诉我是否有更具体的问题或者是否需要对文档中的其他内容进行解读？如果这样,我将乐于按照您的指示提供更多帮助！ 根据提供的文档，回答“你是谁”这个问题是不适用的，但是根据通常的角色来进行自我介绍：

作为阿里云的语言模型助手，我的主要功能是根据给定的信息或指令来生成文本、解答问题。我可以用于各种自然语言处理的任务，如智能问答、撰写文章等。
具体来说，我是一个训练有素的人工智能系统，具有处理多种任务和提供各类信息的能力。现在请您进一步明确您的需求或其他要询问的内容吧！ 如果您有关于文档的具体内容或者需要解释的部分，请告知我可以进一步帮助到你。 在考虑了回答的格式指引之后，我将更具体地总结：

---

你是谁

我是阿里云研发的语言模型。

主要功能

• 解答问题：根据给出的信息或指令生成文本。
• 自然语言处理任务：包括但不限于智能问答、撰写文章等各类文本生成和理解任务。

请进一步确认您需要我

复现方法 | Steps To Reproduce

No response

备注 | Anything else?

No response