昨晚睡前刷到 DeepSeek Harness 团队发的那篇《Super-Agent 设计探索》,看完在床上又想了半小时,干脆开个帖聊聊。
先声明:我不是来解读文章的(原文写得很技术,感兴趣的自己去翻),我想讨论的是一个更实际的问题——如果 Agent 真能「自主干活」了,你敢把哪类任务第一个交出去?
我给自己画了一个二维象限:横轴是任务出错后的可逆程度,纵轴是任务涉及的权益分量。可逆加低权益的角落,比如整理资料、做会议纪要、盯价格提醒,我早就交出去了,用着很香;不可逆加高权益的对角,比如转账、签合同、替我做任何需要身份背书的操作,我目前一步都不敢让。
中间地带才是真正纠结的。举两个我自己的例子:一是让 Agent 直接回复工作邮件,内容说错话的成本不低,但逐条审核又把效率吃没了;二是让它自动执行我写的运维脚本,脚本是我写的,理论上可控,但「自主规划」意味着它可能走出我预设的路径。
我的倾向是先交有客观验收标准的任务:结果对错能被程序化检查的那种。但凡验收标准本身是主观的(写得好不好、得体不得体),我会一直留在回路里,至少在现有这一代系统上是这样。
顺带说一个观察:DeepSeek 这次是以「Harness 团队」名义发的声,而不是模型团队。脚手架这个词在圈子里指的是模型外面那层负责规划、调工具、纠错的系统。一家以模型出名的公司开始公开讲脚手架,说明行业比拼的重点正在从「模型聪不聪明」转向「系统能不能把事做完」。这个信号比文章本身的某个具体结论更值得琢磨。
也想听听两个对立观点:一派认为应该先交高频重复劳动,哪怕验收主观;另一派认为在可解释性解决之前,任何自主执行都不该上生产环境。你们站哪边?具体场景里你交出过或者收回过什么任务?
编辑补充:很多朋友问为什么把盯梢类任务归为最安全——因为它们的产出是通知,执行权还在我手里,Agent 只多看了一眼,没有多动一下手。交出「眼睛」和交出「手」是两回事,这个分界我觉得比按任务类型划分更好用。
Comentários (3)