PyFlowX 文档

PyFlowX 是一个轻量、类型安全的 DAG 任务调度器:参数名就是依赖声明。 无需装饰器、无需样板包装器,写一个普通函数,框架按参数名自动注入上游结果。

特性

  • 零样板 —— 参数名即依赖,框架自动注入上游结果

  • 四种执行策略 —— sequential(串行)、thread(线程池)、async(事件循环)、dependency(依赖驱动,最大化并行)

  • 类型安全 —— TaskSpec[T] 把返回类型一路传到 RunReport

  • DAG 校验 —— 构建时即时校验重名、缺失依赖、环

  • 自动分层 —— Kahn 算法分组,同层任务可并行

  • 重试与超时 —— 每个任务独立配置 RetryPolicytimeout

  • 并发限制 —— concurrency_key + concurrency_limits 按组限流

  • 断点续跑 —— MemoryBackend / JSONBackend,成功结果可缓存复用

  • 命令任务 —— cmd 参数直接执行外部命令

  • 条件执行 —— conditions 按平台、环境变量等条件跳过任务

  • YAML 任务编排 —— GitHub Actions 风格声明式任务图

  • pf 统一 CLI —— pf <tool> [command] 调用所有工具

  • 最小依赖 —— 仅依赖标准库 + PyYAML

文档导航

索引