UO4Share - 软件、文档、源码下载与分享
一套 API 接入上百家模型：LiteLLM
LiteLLM：把 100+ 模型服务商收成一个接口 接入多家模型服务商这件事，麻烦程度和接入家数成正比。 每家的 SDK 不一样、认证方式不一样、请求体格式不一样、错误类型不一样、限流策略不一样。你要在业务代码里为每家写适配层，还要处理"这家挂了自动切那家"的容错逻辑。等到要加第五家的时候，那堆代...
开源
0
免费
自托管的 OpenAI 兼容 API：LocalAI
LocalAI：自托管的 OpenAI 兼容引擎，把各种模型收进一个 API 做私有化部署的团队常撞到一个工程问题： 模型能跑起来，但接口不统一。 你可能用 A 方案跑 LLM、B 方案做语音识别、C 方案做图像生成。三套服务、三种调用方式、三套鉴权逻辑。业务代码里到处是适配层，每换一个模型后端就要...
开源
0
免费
极致轻量的本地推理：llama.cpp
llama.cpp：没有显卡也能跑大模型，C/C++ 实现的推理引擎 想在本机跑大模型，第一个障碍通常是硬件。显卡不够好、显存不够大，很多人就此放弃了本地部署这条路。 llama.cpp 的存在意义就是打破这个前提。它的官方描述是： 用最少的配置，在各种硬件上实现最先进的 LLM（和 VLM）推理性...
开源
0
免费
高吞吐 LLM 推理引擎：vLLM
vLLM：生产环境大模型推理的性能底座 自己部署过大模型服务的人都知道，从"模型能跑起来"到"服务能扛住流量"，中间隔着一整个工程问题。 最直观的现象是：GPU 利用率上不去。显存明明还剩不少，吞吐却卡在某个值不动了。你加大 batch、调并发，效果有限，偶尔还会 OOM。 问题往往出在 显存管理和...
开源
0
免费
轻量快速的检索增强生成：LightRAG
LightRAG：把 RAG 做简单，同时保留知识图谱的推理能力 RAG 这件事有个尴尬的现状： 方案越来越强，但越来越难落地。 完整的图 RAG 方案效果好，代价是要维护实体抽取、图构建、多路存储、增量更新一整套流程。部署一套下来，还没开始解决业务问题，基础设施已经吃掉大半个月。 于是很多团队退回...
开源
0
免费
企业级 RAG 与深度文档理解：RAGFlow
RAGFlow：企业级 RAG 引擎，把复杂版面的文档真正读懂 做企业知识库的人会碰到一个很具体的门槛： 你的文档不是干净的 Markdown 。 是几十页带合并单元格的 PDF 财报、是扫描件、是排版复杂的合同、是带图注的技术手册。你把这些扔进通用的 RAG 管道，会得到一堆断句错乱的文本块——表...
开源
0
免费
用知识图谱给 AI 做记忆：Cognee
用知识图谱给 AI 做记忆：Cognee 上一类记忆方案（纯向量检索）有个绕不开的局限：它只能回答"哪条最相似"。 但很多问题根本不是相似度问题。比如你问"决定了用 Postgres 的那次会议讨论了什么"，向量检索会去找语义相近的文档，而真正需要的是 从"决策"这个节点沿着"来源于"的关系走到"会...
开源
0
免费
给 AI Agent 装上长期记忆：Mem0
给 AI Agent 装上长期记忆：Mem0 的记忆层设计 跟 AI 助手聊过几次的人都有类似的挫败感：你要重复告诉它同样的背景信息。上次说了项目用哪个技术栈，这次还得再说一遍；上次明确过输出格式偏好，这次它又忘了。 根本原因是 每一轮对话都在一个空白的上下文里开始 。模型的权重不会因为你用过就更新...
开源
0
免费
阿里开源的代码评审助手：Open Code Review
阿里开源的代码评审助手：Open Code Review 用 AI 审代码的人，大概率都遇到过这三种毛病： 覆盖不全 ——改动一大，AI 就开始"偷工减料"，只挑几个文件看，剩下的当没看见。 位置漂移 ——它说某行有问题，你点过去发现对不上，行号或者文件名是错的。 质量不稳 ——同一段代码，换个提示...
开源
0
免费
让 AI 自己操作浏览器完成任务：browser-use
让 AI 自己操作浏览器：Browser-Use 把自然语言变成自动化流程 写网页自动化的工程师都经历过这种循环：写好选择器 → 跑通 → 两星期后页面改版 → 全废 → 重新定位元素。 这套模式的根本问题在于，脚本和页面之间是 硬绑定 的。页面结构一变，选择器就失效；要处理"如果弹窗出现就关闭，否...
开源
0
免费
给 AI 一双手，让它自己上网：Firecrawl 开源爬虫
给 AI 一双手让它自己上网：Firecrawl 让 AI Agent 去查资料，最尴尬的时刻是什么？是它自信地告诉你"根据我的知识"——而知识截止在几个月前。 要让它真的能上网，你得解决一堆糟心事：JS 渲染的页面抓不到内容、反爬策略把请求挡回来、代理池要自己维护、抓回来一堆 HTML 标签还得自...
开源
0
免费
把 PDF、Word、PPT 统统喂给 AI：微软开源的 MarkItDown
把 PDF、Word、PPT 统统喂给 AI：微软开源的 MarkItDown 做过 RAG 或者给 AI 喂过文档的人，大概都被同一个环节恶心过： 格式转换 。 你手上是 PDF、Word、PPT、Excel，甚至还有 Outlook 邮件和压缩包。而模型想要的是干净的纯文本或者 Markdown...
开源
0
免费
正版授权：本平台内容均取得授权或由创作者原创。