uo4 技术教程组

很多人用密码管理器，用的都是 Bitwarden。但它官方那套服务对服务器资源是真的不客气——数据库用 MSSQL，内存吃得厉害，一台小机器跑起来挺吃力。 Vaultwarden 解决的就是这件事。它是 Bitwarden 客户端 API 的替代服务端实现，用 Rust 写成，完全兼容官方 Bitw...

Stirling-PDF：自托管 PDF 工具箱，文档不用上传给别人 处理 PDF 这件事有个不太被注意的隐私问题。 合并一下、拆一下、转个格式、加个水印——这些操作本身没什么技术含量，但大多数人是把文件 上传到某个在线工具网站 完成的。那个文件可能是合同、是简历、是财务报表、是身份证扫描件。 上传...

不只是聊天：LobeHub 把 AI Agent 组织成一个团队 大多数 AI 客户端的形态是"你和模型对话"。一个输入框，一段回复，下一条再问。 但如果你的工作里同时有十几个 AI 助手——写文案的、审代码的、做调研的、翻译的——"一个一个对话"这种形态就撑不住了。你不知道哪个助手做过什么、哪个任...

Open WebUI：给本地模型一个 ChatGPT 级别的操作界面 本地把模型跑起来了，然后呢？ 打开终端，敲命令，等回复，复制粘贴到别处用。第一次觉得挺酷，第二次就开始嫌烦了——没有对话历史、不能切换模型、上传个文件还得自己想办法喂进去。 问题在于：推理引擎解决的是"模型怎么跑"，没解决"人怎么...

LiteLLM：把 100+ 模型服务商收成一个接口 接入多家模型服务商这件事，麻烦程度和接入家数成正比。 每家的 SDK 不一样、认证方式不一样、请求体格式不一样、错误类型不一样、限流策略不一样。你要在业务代码里为每家写适配层，还要处理"这家挂了自动切那家"的容错逻辑。等到要加第五家的时候，那堆代...

LocalAI：自托管的 OpenAI 兼容引擎，把各种模型收进一个 API 做私有化部署的团队常撞到一个工程问题： 模型能跑起来，但接口不统一。 你可能用 A 方案跑 LLM、B 方案做语音识别、C 方案做图像生成。三套服务、三种调用方式、三套鉴权逻辑。业务代码里到处是适配层，每换一个模型后端就要...

llama.cpp：没有显卡也能跑大模型，C/C++ 实现的推理引擎 想在本机跑大模型，第一个障碍通常是硬件。显卡不够好、显存不够大，很多人就此放弃了本地部署这条路。 llama.cpp 的存在意义就是打破这个前提。它的官方描述是： 用最少的配置，在各种硬件上实现最先进的 LLM（和 VLM）推理性...

vLLM：生产环境大模型推理的性能底座 自己部署过大模型服务的人都知道，从"模型能跑起来"到"服务能扛住流量"，中间隔着一整个工程问题。 最直观的现象是：GPU 利用率上不去。显存明明还剩不少，吞吐却卡在某个值不动了。你加大 batch、调并发，效果有限，偶尔还会 OOM。 问题往往出在 显存管理和...

LightRAG：把 RAG 做简单，同时保留知识图谱的推理能力 RAG 这件事有个尴尬的现状： 方案越来越强，但越来越难落地。 完整的图 RAG 方案效果好，代价是要维护实体抽取、图构建、多路存储、增量更新一整套流程。部署一套下来，还没开始解决业务问题，基础设施已经吃掉大半个月。 于是很多团队退回...

RAGFlow：企业级 RAG 引擎，把复杂版面的文档真正读懂 做企业知识库的人会碰到一个很具体的门槛： 你的文档不是干净的 Markdown 。 是几十页带合并单元格的 PDF 财报、是扫描件、是排版复杂的合同、是带图注的技术手册。你把这些扔进通用的 RAG 管道，会得到一堆断句错乱的文本块——表...

用知识图谱给 AI 做记忆：Cognee 上一类记忆方案（纯向量检索）有个绕不开的局限：它只能回答"哪条最相似"。 但很多问题根本不是相似度问题。比如你问"决定了用 Postgres 的那次会议讨论了什么"，向量检索会去找语义相近的文档，而真正需要的是 从"决策"这个节点沿着"来源于"的关系走到"会...

给 AI Agent 装上长期记忆：Mem0 的记忆层设计 跟 AI 助手聊过几次的人都有类似的挫败感：你要重复告诉它同样的背景信息。上次说了项目用哪个技术栈，这次还得再说一遍；上次明确过输出格式偏好，这次它又忘了。 根本原因是 每一轮对话都在一个空白的上下文里开始 。模型的权重不会因为你用过就更新...