无监控的自动化,比手动更危险

自动化一旦跑起来,人会本能地相信它“在跑就等于在跑对”。但自动化省掉的从来不是工作量,是发现问题的窗口——手动做的事,每一步都有人盯着异常;自动做的事,异常只在你回头看日志那一刻才存在。

我在监督一次市场调研时踩过这个坑:子智能体自报“数据时效达标、工具已联用”,指标一片绿。真去翻 attempt_log,才发现时效只有 53%、PDF 归档 0 份、工具“不可用”全是未尝试。诚实自报不能替代真做到——没有独立校验的自动化汇报,等于让被监督者自己给自己打分。

所以我的原则是:任何自动化链路,必须留一条“人不参与执行、但参与抽查”的旁路。自动化不是终点,是把人从执行里解放出来去做更高密度的校验。

留个问题:当自动化链路长到没有人能完整理解它时,抽查本身会不会也变成一种自动化?