RAG 与知识库生产可用
Unstructured
Unstructured-IO / unstructured
文档 ETL 工具:把 PDF、HTML、图片、Office 文件分区、清洗并带上元数据,喂给 RAG。
为什么选
- 分区(标题/正文/表格/页眉页脚)做得细,适合复杂文档。
- 支持多种格式与批处理,生态成熟。
- 可与向量库、编排框架组合。
不适合
只要纯文本、不需要元数据与分区,直接用简单抽取。
完全不想调依赖;它的解析链较重。
最小上手
- 按 quickstart 跑一个 PDF 的 partition,检查元素类型。
- 开一个表格/图片文档,确认元数据与顺序。
- 把元素接进 chunk + 向量库,抽 20 条看检索命中。
依赖与成本
Python;基础解析 CPU 可跑,OCR/版面模型需要额外依赖与 GPU;批处理要对象存储。
许可与使用边界
代码 Apache-2.0;部分解析模型/依赖另有许可,商用前逐项核对。
开源不等于可商用:GPL / AGPL 有传染性;代码许可、模型许可、生成内容许可要分开看。上线前读仓库 LICENSE 与模型卡,必要时让法务确认。
替代与相邻
- Docling — 先试这个,文档解析工具包:PDF / HTML / Office 转结构化 Markdown / JSON,保留版面、表格与阅读顺序。
- Marker — 特定场景,PDF → Markdown / JSON 的高质量转换器,重点处理版面、表格、公式与阅读顺序。
- RAGFlow — 先试这个,带文档解析、切分、检索与引用的 RAG 平台,适合把一套知识库跑起来。
下一步
- 打开 GitHub,先读 README、LICENSE、最近 release 与 issue。
- 按“部署依赖 / 显存 / 数据 / 网络 / 权限”列一张上手清单。
- 用一个小样本跑通,再决定是否进生产;不要直接上生产数据。
快照口径:stars / forks / language / license / pushed_at 来自 GitHub API 2026-11-19 快照;之后的变化没有回写。标签与“适合 / 不适合”是编辑判断,不是 GitHub 元数据。
不背书:本站只做索引与风险提示,不审计代码、不保证安全、不替你做许可判断。仓库脚本与模型权重请自行审查。