用Open WebUI管理多个本地大模型：切换和对话和历史记录一站搞定
https://www.metk.cn/img/posts/open_webui_multi_model.jpg本地跑了几个模型之后管理起来很麻烦，每个模型的接口、端口、参数都不一样。Open WebUI解决这个问题，它是个Web界面，可以连Ollama、llama.cpp后端、甚至OpenAI兼容API，一个页面管所有模型。
部署很简单，Docker一行命令就起来了：
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/data --name open-webui ghcr.io/open-webui/open-webui:main
起来之后访问localhost:3000注册个账号就能用了。
接Ollama的话在设置里填Ollama的地址就行，默认http://host.docker.internal:11434。接llama.cpp后端的话填llama.cpp的server地址。配好之后所有模型会出现在下拉列表里，切换模型就是点一下下拉，对话历史按模型和会话分开存。
有个好用的功能是可以给每个模型设system prompt和参数。比如你给Qwen设一个翻译的system prompt，给Llama3设一个代码助手，切过去用的时候不用重新写提示词。还有文档对话功能，上传PDF它会用RAG帮你读，适合批量看文档。
整体来说Open WebUI适合不想折腾命令行又想管理多个本地模型的人。功能比LM Studio多，而且是开源的，Docker部署也方便。唯一的小缺点是界面偶尔有中文显示不全的问题，但功能不受影响。
页:
[1]