跳到主要内容Skip to main content
评测与可观测先试这个

DeepEval

confident-ai / deepeval

像写单元测试一样测 LLM:断言、指标、数据集与 CI 集成。

19.5k stars 2223 forks Python 语言 Apache-2.0 许可 最近推送 2026-11-18

为什么选

  • pytest 风格,工程团队容易上手。
  • 指标与断言丰富,适合 CI 回归。
  • 支持 RAG、agent、安全等场景。

不适合

模型评委指标需要自己校准。
大规模评测有成本,要先抽样。

许可与使用边界

GitHub 快照显示许可为 Apache-2.0。开源不等于可商用:GPL / AGPL 有传染性;代码许可、模型许可、生成内容许可要分开看。上线前读仓库 LICENSE 与模型卡,必要时让法务确认。

替代与相邻

  • Ragas — 先试这个,RAG 评测库:检索相关性、答案忠实度、上下文召回等指标。
  • promptfoo — 先试这个,prompt / 模型 / agent 的对比评测工具,配置化跑多模型多 prompt。
  • Inspect AI — 特定场景,英国 AI 安全研究院的评测框架,适合做严谨、可复现的任务评测。

下一步

  • 打开 GitHub,先读 README、LICENSE、最近 release 与 issue。
  • 按“部署依赖 / 显存 / 数据 / 网络 / 权限”列一张上手清单。
  • 用一个小样本跑通,再决定是否进生产;不要直接上生产数据。

GitHub 仓库 ↗ 文档 ↗ 加入对比

快照口径:stars / forks / language / license / pushed_at 来自 GitHub API 2026-11-19 快照;之后的变化没有回写。标签与“适合 / 不适合”是编辑判断,不是 GitHub 元数据。
不背书:本站只做索引与风险提示,不审计代码、不保证安全、不替你做许可判断。仓库脚本与模型权重请自行审查。