Files
MoviePilot/docs/testing.md

16 KiB
Raw Blame History

单元测试规范

本文档定义 MoviePilot 后端(app/)单元测试的统一约定:运行入口、隔离模型、编写规范、unittest → pytest 演进路线,以及排查测试问题的常用手段。目标是让 tests/ 在 CI / 全新环境下可离线、可重复、零外部依赖地跑完。

运行入口:统一 pytest

pytest 是唯一运行入口。tests/conftest.py 在收集前完成隔离引导,因此任何方式启动 pytest 都会自动隔离。

uv run --locked --no-sync pytest tests                              # 串行全量
uv run --locked --no-sync pytest tests/test_xxx.py                  # 单文件
uv run --locked --no-sync pytest tests/test_xxx.py::SomeTest::test_y   # 单用例
uv run --locked --no-sync python tests/run.py                       # 默认按文件预计耗时均衡为 4 片并行跑全量
uv run --locked --no-sync python tests/run.py --serial              # 串行全量,便于调试或生成覆盖率
uv run --locked --no-sync python tests/run.py --shard 1/4           # 只跑指定分片,供 CI 复用

tests/run.py 的 runner 参数只有 --serial、--shard N/TOTAL 和 --exclude-architecture-gate;其余参数保持原顺序 透传给 pytest,例如 python tests/run.py -q --maxfail=1。分片使用受版本控制的 tests/fixtures/durations.json 慢文件耗时估算:按耗时降序,逐个分给预计总耗时最短的分片; 耗时相同时按路径、分片编号决定归属,片内仍按路径排序。新增或未记录文件使用 1 秒权重, 不依赖本机缓存,确保同一代码版本在本地与 CI 的文件集合和顺序一致。 耗时数据来自成功 Ubuntu/Python 3.14 Coverage 日志的逐文件进度时间戳(含续行), 只记录至少 3 秒的文件并向上取整;后续发现慢文件偏移时可依据成功 CI 日志更新。 --exclude-architecture-gate 跳过 ARCHITECTURE_GATE_TESTS 列出的架构测试文件,这些文件由 CI 的 architecture job 在同一进程内运行并共享全量扫描结果(tests/architecture_cache.py),覆盖率分片不再重复执行; 本地默认全量仍包含它们。 这些估算仅用于调度,不构成性能或覆盖率基线。

  • 不再使用 python -m unittest discover:它不导入 tests 包、收不到纯函数用例,且绕过 conftest.py 的隔离。
  • 不再依赖 python tests/test_xxx.py 直跑:所有 if __name__ == "__main__": unittest.main() 尾巴已移除。
  • 复现 CI 用干净环境:使用 uv sync --locked 从 uv.lock 创建环境,再以 uv run --locked --no-sync 运行测试,避免本地额外包、未锁定解析结果或编译产物掩盖问题。

共享工作区的 .venv-test 与上述 uv 命令映射见 开发环境设置; --no-sync 不会验证已安装依赖是否匹配锁文件。

验证范围与维护者安排

Contributor 默认在提交前运行受影响测试与适用本地检查。依赖或锁文件、共享测试脚手架、数据库、 启动路径、跨模块生命周期、兼容层、大范围行为改动或维护者明确要求时,运行完整 uv run --locked --no-sync python tests/run.py。纯文档及其契约测试采用文本、结构、链接和 focused 测试验证,不要求启动产品全套测试。

已确认的维护者可按 AGENTS.md 明确调整验证范围、时机及交付顺序,复用仍有效的源码、锁文件、 脚手架和环境证据,也可先保存本地 anchor 再补检查。记录依据、未验证项和后续安排;HEAD 变化 本身不要求本地全量重跑,但实际变化使哪些证据失效,就重跑哪些检查。这不改变 GitHub Actions 按精确 merge tree/base 复用的实现合同,也不取消测试隔离或下述 TestCase 整文件迁移要求。

改动涉及的行为必须有可信验证。失败须判断是否由本次改动造成、加重或重新触达;无关失败用当前 目标 base 复现或其他充分证据说明,并按 docs/rules/12-collaboration-and-distribution.md 的已记录维护者决定处置。已预授权的同一范围无需逐次重问,缺少证据时保留未知,不伪报通过。

隔离模型(tests/conftest.py)

收集任何测试模块、import app.* 之前,conftest 完成两件事:

  1. 临时库:把 CONFIG_DIR 指向临时目录并 init_db() 建表。引擎本身已惰性创建(import app.db 不再连库),但 settings 在 import app.runtime.config 那一刻就把 CONFIG_DIR 读进字段并建好配置子目录,之后再改环境变量对 settings.CONFIG_PATH 毫无影响——引擎晚点才建,连的仍是真实 user.db。所以隔离必须早于首个牵入 app.runtime.config 的 import(app.db / app.chain.* 都会牵入);空库会让运行期查表报 no such table,故必须建表。
  2. app.application.site.sites 垫片:该模块由独立资源仓按平台下发,conftest 统一安装最小垫片,普通单测不会加载源码目录中的 .so / .pyd。兼容层会把旧插件的 app.helper.sites 导入路由到同一模块;真实制品由资源与 ABI 专项验收覆盖。

由此推出两条硬规范:

  • 用例不得连接或写入真实数据库、不得读写真实 config/。需要的库状态在用例内构造。
  • 用例不得依赖某个本地才有的动态模块副本;缺失的外部模块由 conftest 兜底或用例自行 mock。

外部依赖:一律 mock,零真实网络

测试禁止发起任何真实外部请求,包括但不限于 TMDB(api.themoviedb.org)、LLM 目录(models.dev)、下载器、媒体服务器、MP 服务器(movie-pilot.org 的共享识别 API)、以及任意外链图片/资源。验收标准是全量跑测零真实出站。

两种标准做法:

1. 在调用边界打桩(外部客户端、helper、SDK 入口):

from unittest.mock import patch, AsyncMock

with patch.object(SomeModule, "fetch", new=AsyncMock(return_value=FAKE)):
    ...

2. 外部 HTTP API 用「录制—回放」(cassette):一次性录制真实响应存入 tests/fixtures/,测试时按请求键回放,使识别/解析等逻辑仍由真实结构数据驱动,但全程离线。参考实现:tests/test_tmdb_recognize.py + tests/fixtures/tmdb_recognize_cassette.json(在 setUpModule 中替换 TMDB 客户端的 HTTP 出入口;重新录制时临时包裹该出入口、跑一遍真实请求并落盘)。

注意:识别这类端到端流程往往不止一个外部出口。例如 TMDB 识别除了目录请求,链路层还会向 MP 服务器上报/查询「共享识别 API」——这类旁路出口必须一并打桩。用下文的 socket 探针确认确实零出站。

存储与监控的边界回归

存储快照用例优先在 SDK 的目录列表、stat、类型查询和连接边界打桩,保留真实的路径映射、 文件项构造、快照遍历及轮询逻辑。仅替换 snapshot_storage 的返回值可以验证轮询器, 但不能证明存储适配器正确区分了空目录与查询失败。

tests/test_smb_storage.py 提供以下离线场景:

  • 单共享和多共享下,祖先目录时间不变时仍发现后代新增、修改、保留旧 mtime 的文件移入和删除。
  • 根目录、子目录、单个文件或类型查询失败时,不提交空快照或部分快照。
  • 连接失效保留旧基线;恢复后发现新文件,再次轮询不重复派发。
  • 真正清空的目录和确认不存在的根路径可以提交空快照。
  • 完整遍历仍遵守递归深度上限,不因本次修复增加扫描频率。

这些场景只承诺已验证的 SMB 查询语义;为其他存储接入严格快照时,应在其 SDK/API 边界复现同样的状态转换,并评估目录时间语义、分页和请求成本。

自隔离:用了什么,就还原什么

用例若修改了进程级状态——sys.modules 桩、单例(Singleton._instances)、lru_cache、环境变量、settings 字段——必须在用例或模块结束时还原。pytest 一次性导入全部测试模块,未还原的污染会扩散到后续用例,产生“单独跑过、一起跑挂”的测不准现象。

正确姿势:

  • 上下文管理器(with patch(...))、setUp + addCleanup、或方法内 patch,退出即还原。
  • 模块级需要的桩用上下文包住 import 段,import 完即还原。

反模式(评审应拒绝):

  • 模块顶层 sys.modules["x"] = stub 且不还原。
  • 桩掉 requirements 里真实可用的第三方包(如把 cn2an.an2cn 换成 str),导致被测行为漂移;真包能用就用真包。
  • 依赖测试执行顺序。

编写新测试:强制 pytest 原生

新增测试一律 pytest 原生风格,评审不接受新写的 unittest.TestCase:

  • 文件名 test_*.py,置于 tests/。
  • 函数式用例 def test_xxx(): + 普通 assert + pytest fixture,不用 self.assertXxx。
  • 涉及外部服务一律 mock(见上)。
  • 异常断言用 pytest.raises,参数化用 @pytest.mark.parametrize。
import pytest

from app.schemas.types import MediaSource

@pytest.fixture
def sample_meta():
    """构造一条可复用的识别元数据。"""
    return MetaInfo(title="示例 (2020)")

def test_recognize_prefers_explicit_identity(sample_meta, monkeypatch):
    """显式媒体来源与原生 ID 时应优先精确识别,而非回退标题搜索。"""
    monkeypatch.setattr(SomeClient, "fetch", lambda *a, **k: FAKE_MOVIE)
    result = recognize(
        sample_meta,
        media_source=MediaSource.TMDB,
        media_id="123",
    )
    assert result.media_source == MediaSource.TMDB
    assert result.media_id == "123"

unittest → pytest 演进路线:改到即转

存量有大量 unittest.TestCase。pytest 原生支持运行 TestCase,所以它们能正常跑——不做大爆炸式重写,避免无谓的回归风险。路线是:

  • 新测试:直接 pytest 原生(见上)。
  • 存量:当你因别的原因改到某个 TestCase 文件时,顺手把它整文件转成 pytest 原生,并跑一遍该文件确认行为不变。
  • 不为转换而转换:没有改动需求的文件可暂时保留 TestCase。

常见转换对照:

unittest pytest 原生
class T(unittest.TestCase): + 方法 模块级 def test_xxx():
self.assertEqual(a, b) assert a == b
self.assertTrue(x) / assertFalse(x) assert x / assert not x
self.assertIn(a, b) / assertNotIn assert a in b / assert a not in b
self.assertIsNone(x) / assertIsNotNone assert x is None / assert x is not None
self.assertRaises(E) with pytest.raises(E):
setUp / tearDown fixture(yield 前为准备、后为清理)
setUpClass / tearDownClass @pytest.fixture(scope="class") 或模块级 fixture
@unittest.skipIf(c, r) @pytest.mark.skipif(c, reason=r)

存量测试清理

删除测试需要明确指出保留的等价覆盖,不能只依据文件年代、执行耗时、名称相似或覆盖率百分比。

  • 可删除的重复:被测入口、输入、fixture、参数化和执行前状态一致,且保留用例包含全部断言。完全相同的执行体可保留一份;同输入的断言子集可并入更完整用例的说明。
  • 不能自动删除的相似用例:同步与异步入口、冷启动与重复重置、过期清理前后、迁移前后、不同平台或可选依赖条件,均可能拥有独立行为。
  • 没有直接 assert 不等于空测试:pytest.raises、辅助断言、迁移 round-trip、导入兼容和“不抛异常”都是有效契约;只有名称或注释声称存在的覆盖则需要进一步核实。
  • 删除后验证:运行受影响文件,核对保留用例及生产代码行/分支覆盖;跨领域清理再运行 python tests/run.py。不降低覆盖率基线、不新增 skip、不削弱架构或兼容门禁。

首轮扫描范围、删除映射和保留理由见 后端测试清理审计。

排查测试问题

  • 收集报错(collection error):多为 import 期副作用或顶层桩污染。优先改成真实 import(conftest 已隔离临时库,真实 settings/helper 可加载)+ 方法内 patch,而不是靠事后还原(收集期污染发生在 import 那一刻,事后还原太晚)。

  • 检测真实网络泄漏:进程级挂一个 socket.getaddrinfo 探针记录非本地出站主机,跑目标用例即可定位是谁在联网:

    import socket
    _orig = socket.getaddrinfo
    hits = []
    def _spy(host, *a, **k):
        if host not in ("127.0.0.1", "localhost", "::1"):
            hits.append(str(host))
        return _orig(host, *a, **k)
    socket.getaddrinfo = _spy
    # 跑用例后断言 hits 为空
    
  • 测试间污染(测不准):定位被改而未还原的进程级状态(单例 / lru_cache / sys.modules / 环境变量 / settings),按「自隔离」补还原。

  • 怀疑用例空过:用变异验证——临时打断对应生产逻辑(让它返回错误值),跑该用例应失败;若仍通过,说明断言没真正覆盖该逻辑。

CI 与 PR

  • 合并检查复用:单测/架构与 Pylint 工作流各自保留 PR、push 和手动入口。PR 完整通过全部门禁后,末尾 CI proof (<github.sha>) job 记录实际验证的模拟合并提交。合并 push 只在同一工作流的最新 PR 运行完整成功、证明成功、代码树完全相同、模拟合并父提交分别等于 push 前的目标分支和 PR head 时跳过重复门禁。直接 push、强制 push、基线变化、旧工作流缺少证明、失败/未完成运行或 API 异常都执行全量;不依赖提交消息,也不把 PR 的 head SHA 当作测试的合并 SHA。标准 merge/squash/rebase 仅在上述证据一致时复用。GitHub 构建与发布工作流保持独立。

  • 去重脚本验证:node --test .github/scripts/reuse.test.mjs 离线覆盖成功复用及保守回退,两个检查工作流均在判定前执行。复用 job 仅持有 contents/actions/pull-requests 读取权限;没有修改分支保护设置。

  • 门禁:.github/workflows/test.yml 在指向 v3 的 pull_request / push 及手动触发时,从 uv.lock 同步环境。宿主架构门禁分为两个并行 job,architecture 运行宿主依赖、运行契约、事件政策测试和基线快照,architecture-ratchets 运行类型、复杂度、并发、Ruff/mypy ratchet 与启动性能检查;其余测试通过 coverage run --parallel-mode tests/run.py --exclude-architecture-gate --shard N/6 分到 6 个 job,一次执行同时验证单测并采集覆盖率;门禁已运行的架构测试不在分片中重复执行。每个分片都有独立进程和临时 CONFIG_DIR,不共用 SQLite 或进程级状态,由单一报告 job 合并后检查 Application 与 Domain 的固定 80% 基线。

  • 跨仓观察:.github/workflows/architecture-observe.yml 每周或手工检出官方插件仓最新 main,使用 --check-plugins 比较公开导入、Hook 和动态 API 契约。它只上传 official-plugin-architecture-report.json,不会自动刷新 fixture;语义变化必须人工审查后显式执行 --write-plugins。

  • 静态检查:.github/workflows/pylint.yml 对指向 v3 的 PR、推送和手工触发运行 Pylint。PR/推送改动到的 Python 文件是硬门禁;app/ 全量扫描保留为建议性 JSON 构建工件,存量告警不会掩盖或阻塞本次增量治理。

  • PR 本地验证:按上文「验证范围与维护者安排」选择 contributor 默认检查或已记录的维护者安排,统一处理证据复用与失败归属;需要断点、输出顺序或测试污染诊断时使用 --serial。确认受影响路径与零真实出站,准确标注验证范围;本地执行安排不改变 CI 的全量验证与复用合同。

  • 覆盖率门禁:Unit Tests with Coverage jobs 会在 v3 的 PR、push 和手工触发中通过 tests/run.py --exclude-architecture-gate --shard N/6 并行采集覆盖率数据,Coverage Report 再合并全部分片并只读检查 Application 与 Domain 是否达到 Ubuntu/Python 3.14 canonical 的固定 80% 行覆盖率基线,同时上传 JSON / XML 工件。低于 80% 会阻塞;达到或超过 80% 不要求同步运行时语句计数。macOS 本地报告只用于诊断,不直接作为可提交基线。

  • 复现 CI 使用 uv sync --locked;主程序运行依赖位于 [project].dependencies,pytest 与覆盖率工具位于默认 dev 依赖组。