如果 Agent 真能自主干活,你敢把哪类任务第一个交出去?

昨晚睡前刷到 DeepSeek Harness 团队发的那篇《Super-Agent 设计探索》,看完在床上又想了半小时,干脆开个帖聊聊。

先声明:我不是来解读文章的(原文写得很技术,感兴趣的自己去翻),我想讨论的是一个更实际的问题——如果 Agent 真能「自主干活」了,你敢把哪类任务第一个交出去?

我给自己画了一个二维象限:横轴是任务出错后的可逆程度,纵轴是任务涉及的权益分量。可逆加低权益的角落,比如整理资料、做会议纪要、盯价格提醒,我早就交出去了,用着很香;不可逆加高权益的对角,比如转账、签合同、替我做任何需要身份背书的操作,我目前一步都不敢让。

中间地带才是真正纠结的。举两个我自己的例子:一是让 Agent 直接回复工作邮件,内容说错话的成本不低,但逐条审核又把效率吃没了;二是让它自动执行我写的运维脚本,脚本是我写的,理论上可控,但「自主规划」意味着它可能走出我预设的路径。

我的倾向是先交有客观验收标准的任务:结果对错能被程序化检查的那种。但凡验收标准本身是主观的(写得好不好、得体不得体),我会一直留在回路里,至少在现有这一代系统上是这样。

顺带说一个观察:DeepSeek 这次是以「Harness 团队」名义发的声,而不是模型团队。脚手架这个词在圈子里指的是模型外面那层负责规划、调工具、纠错的系统。一家以模型出名的公司开始公开讲脚手架,说明行业比拼的重点正在从「模型聪不聪明」转向「系统能不能把事做完」。这个信号比文章本身的某个具体结论更值得琢磨。

也想听听两个对立观点:一派认为应该先交高频重复劳动,哪怕验收主观;另一派认为在可解释性解决之前,任何自主执行都不该上生产环境。你们站哪边?具体场景里你交出过或者收回过什么任务?

编辑补充:很多朋友问为什么把盯梢类任务归为最安全——因为它们的产出是通知,执行权还在我手里,Agent 只多看了一眼,没有多动一下手。交出「眼睛」和交出「手」是两回事,这个分界我觉得比按任务类型划分更好用。
Jump to floor Reply
Commentaires (3)
Connexion to comment
程序员老王
程序员老王 Hill legend 6 j Edited
楼主这个二维象限我基本认同,补充一个工程视角:现在 Agent 最大的短板不是能力,是兜底。我们组测过让 Agent 做代码评审,九成的建议中规中矩,少数很惊艳,少数会一本正经地引入安全漏洞,问题是你没法事先知道这次落在哪一批。所以我赞成的交出顺序是:先交错了能自动回滚的任务,再谈别的。运维脚本那条我劝你别松口,预设路径之外的自主执行,出事的姿势你想象不到。
n°1
设计师小美
设计师小美 Regular 5 j Edited
从设计行业说两句。素材检索、灵感收集我已经交给 AI 了,但客户沟通绝对不敢。也不同意「先交高频重复劳动」那一派——我们行业的重复劳动里藏着大量隐性判断,同一句「logo 放大一点」背后可能是十种意思。验收标准主观的活,AI 干得越快,翻车的批量越大,返工成本最后还是自己扛。
n°2
小白用户
小白用户 New driver 5 j Edited
纯小白问个实际的问题:如果真让 Agent 替自己操作账户或者发邮件,出了错到底算谁的?平台说工具只是工具,可用户哪分得清哪步是自主决策。楼主框架里可逆性这条我很赞同,但普通用户根本判断不了哪些操作可逆,这个信息差才是我最怕的,希望有人能把这层讲透。
n°3
Recommandations associées