Open WebUI
1 Open WebUI 简介
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。它支持各种LLM运行器,如 Ollama 和 OpenAI 兼容的 API,并内置了 RAG 推理引擎,使其成为强大的 AI 部署解决方案。
2 Open WebUI 关键功能
🚀轻松设置:使用 Docker 或 Kubernetes(kubectl、kustomize 或 helm)无缝安装,支持 :ollama
和 :cuda
标记的映像,获得轻松的体验。
🤝 Ollama/OpenAI API 集成:轻松集成与 OpenAI 兼容的 API,与 Ollama 模型一起进行多功能对话。自定义 OpenAI API URL 以与 LMStudio、GroqCloud、Mistral、OpenRouter 等链接。
🛡️ 精细权限和用户组:通过允许管理员创建详细的用户角色和权限,我们确保安全的用户环境。这种粒度不仅增强了安全性,还允许自定义用户体验,从而在用户中培养主人翁意识和责任感。
📱 响应式设计:在台式 PC、笔记本电脑和移动设备上享受无缝体验。
📱 **适用于移动设备的渐进式 Web 应用程序 (PWA):**使用我们的 PWA 在您的移动设备上享受类似应用程序的原生体验,在本地主机上提供离线访问和无缝用户界面。
- ✒️🔢 完整的 Markdown 和 LaTeX 支持:通过全面的 Markdown 和 LaTeX 功能提升您的LLM体验,以丰富交互。
🎤📹 免提语音/视频通话:通过集成的免提语音和视频通话功能体验无缝通信,从而实现更加动态和交互式的聊天环境。
🛠️ 模型生成器:通过 Web UI 轻松创建 Ollama 模型。通过 Open WebUI Community 集成轻松创建和添加自定义角色/代理、自定义聊天元素和导入模型。
🐍 原生 Python 函数调用工具:使用工具工作区中的内置代码编辑器支持来增强您的LLMs支持。自带函数 (BYOF),只需添加纯 Python 函数,即可实现与 LLMs.
📚 本地 RAG 集成:通过开创性的检索增强生成 (RAG) 支持,深入了解聊天交互的未来。此功能将文档交互无缝集成到您的聊天体验中。您可以将文档直接加载到聊天中或将文件添加到您的文档库中,在查询之前使用 #
命令轻松访问它们。
🔍 RAG 的网页搜索: 使用 SearXNG、``Google PSE
、Brave Search
、serpstack
、serper
、Serply
、DuckDuckGo
、TavilySearch
、SearchApi
和 Bing
等提供商执行网页搜索,并将结果直接注入您的聊天体验中。
🌐 Web 浏览功能:使用 #
命令后跟 URL 将网站无缝集成到您的聊天体验中。此功能允许您将 Web 内容直接合并到您的对话中,从而增强交互的丰富性和深度。
🎨 图像生成集成:使用 AUTOMATIC1111 API 或 ComfyUI(本地)和 OpenAI 的 DALL-E(外部)等选项无缝整合图像生成功能,通过动态视觉内容丰富您的聊天体验。
⚙️ 多个模型对话: 毫不费力地同时与各种模型互动,利用他们的独特优势实现最佳响应。通过并行利用一组不同的模型来增强您的体验。
🔐 **基于角色的访问控制 (RBAC):**确保使用受限权限进行安全访问;只有获得授权的个人才能访问您的 Ollama,并且为管理员保留独家模型创建/拉取权限。
🌐🌍 多语言支持:通过我们的国际化 (i18n) 支持,以您的首选语言体验 Open WebUI。加入我们,扩展我们支持的语言!我们正在积极寻找贡献者!
- 🧩 Pipelines、Open WebUI 插件支持:使用 Pipelines 插件框架将自定义逻辑和 Python 库无缝集成到 Open WebUI 中。启动您的 Pipelines 实例,将 OpenAI URL 设置为 Pipelines URL,并探索无限可能。示例包括函数调用、用于控制访问的用户速率限制、使用 Langfuse 等工具进行使用情况监控、使用 LibreTranslate 进行实时翻译以提供多语言支持、有害消息过滤等等。
3 Open WebUI 实战
Open WebUI 安装与配置
Open WebUI 部署思考转换链接
Open WebUI 部署OneAPI 统一接口
4 参考链接
open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
🏡 Home | Open WebUI|Open WebUI