RAG 与知识库特定场景
Marker
datalab-to / marker
PDF → Markdown / JSON 的高质量转换器,重点处理版面、表格、公式与阅读顺序。
为什么选
- 转换速度快,适合批量 PDF。
- 保留表格与公式结构,便于后续检索。
- 可本地跑,适合私有文档。
不适合
只需要 OCR 文字、不关心结构,用轻量 OCR 即可。
极端扫描件/手写件仍需人工校对。
最小上手
- 跑一个含表格的 PDF,检查 Markdown 表格是否完整。
- 再跑一个扫描件,记录 OCR 错误与漏页。
- 把 Markdown 接进 chunk 管线,抽 20 条看引用。
依赖与成本
Python + PyTorch;GPU 更快,CPU 可跑小批量;扫描件要 OCR 依赖。
许可与使用边界
代码 Apache-2.0;模型权重与训练数据可能另有条款,商用前核对。
开源不等于可商用:GPL / AGPL 有传染性;代码许可、模型许可、生成内容许可要分开看。上线前读仓库 LICENSE 与模型卡,必要时让法务确认。
替代与相邻
- Docling — 先试这个,文档解析工具包:PDF / HTML / Office 转结构化 Markdown / JSON,保留版面、表格与阅读顺序。
- Unstructured — 生产可用,文档 ETL 工具:把 PDF、HTML、图片、Office 文件分区、清洗并带上元数据,喂给 RAG。
- RAGFlow — 先试这个,带文档解析、切分、检索与引用的 RAG 平台,适合把一套知识库跑起来。
下一步
- 打开 GitHub,先读 README、LICENSE、最近 release 与 issue。
- 按“部署依赖 / 显存 / 数据 / 网络 / 权限”列一张上手清单。
- 用一个小样本跑通,再决定是否进生产;不要直接上生产数据。
快照口径:stars / forks / language / license / pushed_at 来自 GitHub API 2026-11-19 快照;之后的变化没有回写。标签与“适合 / 不适合”是编辑判断,不是 GitHub 元数据。
不背书:本站只做索引与风险提示,不审计代码、不保证安全、不替你做许可判断。仓库脚本与模型权重请自行审查。