KwaiAgents

这个 Agent 能做什么，适合哪些场景？

KwaiAgents 是快手 KwaiKEG 开源的一组智能体相关工作，核心运行组件为 KAgentSys-Lite。该轻量系统可通过 kagentsys 命令接收问题，并使用 GPT-3.5-turbo 或已部署的本地 KAgentLM 生成回答。项目同时提供经 Meta-agent tuning 训练的 KAgentLMs、超过 20 万条的 KAgentInstruct 指令数据，以及含 3,000 多条人工编辑样本的 KAgentBench。KAgentBench 按规划、工具使用、反思、结论和画像五个维度评测能力，并输出各项分数与总分。KAgentSys-Lite 与论文中的完整 KAgentSys 不同：工具更少、没有记忆机制、性能略有下降，且代码基于 BabyAGI、Auto-GPT 等开源项目演进。

用户以 kagentsys --query="..." --llm_name="gpt-3.5-turbo" --lang="en" 提交问题；系统可使用 OPENAI_API_KEY 调用 GPT-3.5-turbo。若使用本地模型，可先以 FastChat 和 vLLM 启动 OpenAI 格式的服务，再通过 --use_local_llm、--local_llm_host 和 --local_llm_port 将 KAgentSys-Lite 连接到该服务；Qwen 的 GGUF 模型也可用 llama_cpp.server 在 CPU 上提供服务。天气问题可配置 WEATHER_API_KEY，使用 browse_website 工具则需要服务器安装 chromedriver。评测时，benchmark/infer_qwen.py 生成 JSONL 推理结果，benchmark/benchmark_eval.py 读取结果并输出 plan、tooluse、reflextion、conclusion、profile 和 overall 分数。

1. 需要用 GPT-3.5-turbo 对英文或中文信息查询进行命令行处理的团队。
2. 已用 vLLM 与 FastChat 部署 Qwen-7B-MAT、Qwen-14B-MAT 或 Baichuan2-13B-MAT，想将其接入 KAgentSys-Lite 的本地推理用户。
3. 希望在无 GPU 环境下，用 llama-cpp-python 为 Qwen-7B-MAT GGUF 模型提供 OpenAI 兼容接口的开发者。
4. 要为模型比较规划、工具使用、反思、结论和画像能力，并以 KAgentBench 生成量化结果的研究人员。
5. 需要在智能体查询中处理天气相关问题，并可配置 WeatherAPI 凭据的应用开发者。

如何安装或部署这个 Agent？

先安装 Miniconda，然后执行：

conda create -n kagent python=3.10
conda activate kagent
pip install -r requirements.txt

git clone [email protected]:KwaiKEG/KwaiAgents.git
cd KwaiAgents
python setup.py develop

使用 GPT-3.5-turbo 时还需配置：

export OPENAI_API_KEY=sk-xxxxx

天气查询另需：

export WEATHER_API_KEY=xxxxxx

如何使用这个 Agent？

首次调用 GPT-3.5-turbo：

kagentsys --query="Who is Andy Lau's wife?" --llm_name="gpt-3.5-turbo" --lang="en"

使用本地模型时，先启动 FastChat controller、vLLM worker 与 OpenAI API server：

python -m fastchat.serve.controller
python -m fastchat.serve.vllm_worker --model-path $model_path --trust-remote-code
python -m fastchat.serve.openai_api_server --host localhost --port 8888

随后运行：

kagentsys --query="Who is Andy Lau's wife?" --llm_name="kagentlms_qwen_7b_mat" --use_local_llm --local_llm_host="localhost" --local_llm_port=8888 --lang="en"

这个 Agent 有哪些优点和局限？

这个 Agent 与同类方案有什么区别？

与相关度最高的同类 agent 并排比较关键指标。

FollowAgents 如何评估这个 Agent？

[![FARS 评测](https://followagents.com/badge/kwaiagents.svg?lang=zh)](https://followagents.com/zh/agents/kwaiagents)

<a href="https://followagents.com/zh/agents/kwaiagents"><img src="https://followagents.com/badge/kwaiagents.svg?lang=zh" alt="FARS 评测"></a>

常见问题