辣妈之野望 6 — 用open webui体验Ollama本地大模型框架

我们之前使用的一个轻量级的webui全名是ollama-webui-lite ,但是这个库目前归档了。更重要的是个人测试下来,貌似非本机还不能访问,不知道什么原因。因此,我们尝试使用更新的webui版本。

官方地址:

https://github.com/open-webui/open-webui

个人技术博客: fuqifacai.github.io

更多技术资讯下载: 2img.ai

相关配图由微信小程序【字形绘梦】免费生成

辣妈之野望 6 -- 用open webui体验Ollama本地大模型框架

具体开始安装流程

我直接用Conda创建了一个虚拟环境。因为它要Python1.11的版本。

我大部分适用1.10的。所以不方便。

安装

首先pip install open-webui

就会下载安装一大堆东西。

然后open-webui serve 运行。类似出现下面的内容,基本上就可以了。

辣妈之野望 6 -- 用open webui体验Ollama本地大模型框架

运行

然后默认访问 http://127.0.0.1:8080/ ,出现如下内容

辣妈之野望 6 -- 用open webui体验Ollama本地大模型框架

创建你的管理员账号

辣妈之野望 6 -- 用open webui体验Ollama本地大模型框架

成功的话,就可以使用了。 主界面大致如下

辣妈之野望 6 -- 用open webui体验Ollama本地大模型框架

测试模型效果

我尝试用codestral模型问了几个维度的问题。

1个是问他的数据到何时的。没有给我具体回复。

2问字形绘梦是什么产品。它回复不知道。然后开始AI的常规套路:一本正经的胡说八道了。

3我问算命的问题。今日财运如何,回答的非常专业和详细。给力的。

4我问一个C#的编程问题。[在C#中如何使用RestRequest库请求multipart/form-data的Post内容,直接给我代码接口.],回复的我不是很满意。和Phi3,llama3等比差太多了。

当然这是模型的问题,和Open-WebUI无关。

至此,你已经畅游一圈了。好好使用更多有趣功能吧。

RA/SD 衍生者AI训练营。发布者:稻草人,转载请注明出处:https://www.shxcj.com/archives/8928

(0)
上一篇 2025-02-10 1:56 下午
下一篇 2025-02-11 10:21 上午

相关推荐

发表回复

登录后才能评论
本文授权以下站点有原版访问授权 https://www.shxcj.com https://www.2img.ai https://www.2video.cn