Open WebUI 有部署，Ollama 也有，本地 CPU 跑 Qwen2.5: 7B-q4_0 也没问题。学习一下《实现本地 RAG 服务：整合 Open WebUI、Ollama 和 Qwen2.5》教程，写得真好。🧩

发布时间: 2024-09-28 10:20:16

1分

数据加载中

关注推特

收听电报

2

1

0

Open WebUI 有部署，Ollama 也有，本地 CPU 跑 Qwen2.5: 7B-q4_0 也没问题。学习一下《实现本地 RAG 服务：整合 Open WebUI、Ollama 和 Qwen2.5》教程，写得真好。
🧩
IT技术
( cuterwrite.top )

1年前由 Geek 提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

Ollama WebUI 已更名为 Open WebUI ，其支持 Docker 部署相当方便，接入之前白嫖的 Open API 就可以享受所有模型服务。
而我要分享给国内亲友用，他们不需要太多模型，Open WebUI 正好支持 LiteLLM 配置，在 Models 设置 GPT3.5 / 4 / vision 三个模型，再接一个 Groq 给自己玩，完美🥳。
Open-webui…
IT技术
( twitter.com)

1年前 • Geek • -- 点击 0 评论

2

2

1

1

我发现 Open WebUI 官网上有很多网友贡献的高质量 Prompts 和模版文件，这些资源能通过 OpenWebUI URL 导入 WebUl 使用。这是个不错的网站，不妨收藏借鉴别人的创意提示词找找灵感。⭐️
IT技术
( openwebui.com)

1年前 • Geek • -- 点击 0 评论

3

2

1

1

📢介绍一款开源免费的 WebUI：Open WebUI（原名 Ollama WebUI）。我不常使用本地模型，而这个产品不仅支持多种 LLM API，还与 OpenAI 兼容。特别值得一提的是，它自带用户管理功能，可以限制用户可以访问的模型。界面也非常简洁并支持中文，使用 Docker 部署。我测试时，它能自动获取到我 One-API…
IT技术
( twitter.com)

1年前 • Geek • -- 点击 0 评论

4

2

1

1

近期一直在折腾 OpenAI API 分发系统 & GPT 网页客户端，试了 N 多开源项目，分享几款我认为最好用的给大家。
⬇️OpenAI API 分发系统⬇️
One API
One API (新 UI)
New API (在用)
------
⬇️GPT 网页客户端⬇️
Open WebUI…
IT技术
( twitter.com)

1年前 • Geek • -- 点击 0 评论

5

2

1

1

北大最新推出DeepSeek私有化部署全场景方案。除了个人部署，这篇120页的PPT文档更多涉及企业级部署，还有DeepSeek一体机产品的介绍。学会了，应该有不少机会可以赚钱。搞技术的兄弟不要错过。
DeepSeek资料合集：
时政
( pan.quark.cn)

9个月前 • Olivert • -- 点击 0 评论

6

4

3

3

基于苹果MLX的 Stable Diffusion WebUI 界面
提供了一个简单的WebUI，可以让你在苹果电脑上使用Stable Diffusion 图像生成功能，界面简单易用，小白用户轻松上手。
支持多种模型，包括 Stable-diffusion-2-1-base、Dreamshaper-8 和 Absolute-reality-1.81。
规范化了 I2I…
IT技术
( twitter.com)

2年前 • 小互 • -- 点击 0 评论

7

2

1

1

Blue open tulips ...

有趣
( twitter.com)

1年前 • Figen • -- 点击 0 评论

8

2

1

1

open source everything
btc
( twitter.com)

11个月前 • jack • -- 点击 0 评论

9

2

1

1

刚看到 Huggingface 推出的模型推理服务，部署一个模型的成本大大降低：
1、支持 Huggingface 上已有模型的一键部署；
2、支持私有模型通过 docker 镜像模式部署；
3、支持autoscaling，也能在没有负载的时候scale 到 0 实例。
另外价格也比 replicate 要低一些。
时政
( huggingface.co)

1年前 • Leo Xiang • -- 点击 0 评论

0.19518 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特