我越来越觉得,Agent(能自己调用工具、分步骤办事的智能代理)的成败,模型只占三分之一。它像一家饭馆:灶台可以是新的,厨子也会颠勺,可菜单是糊的,传菜口堵着,收银台死机,最后端上桌的不是满汉全席,是一盘热气腾腾的事故。
今天谈 Agent,舆论常常像看赛马,盯着哪匹马腿更长,心肺更强。可真正把车掀翻的,往往不是马,是缰绳、路况和车夫。模型当然重要,它决定这位“伙计”有没有脑子;但脑子只是开张,不是闭环。能不能接单、认路、拿对东西、出事后别把店烧了,这些账,模型只付三分之一。
剩下的三分之二,我的判断很明确:一份给系统,一份给组织。
一份给系统。工具接得稳不稳,状态记得住记不住,权限边界清不清,出错能不能回滚,决定它是帮手,还是一支会自动点火的火柴。
一份给组织。目标写没写清,规则是不是口口相传,验收标准有没有明文,谁能拍板、谁来兜底,决定它是资产,还是一只披着智能外衣的甩锅机。
模型决定它会不会说话,系统决定它会不会闯祸。
这不是抬杠,是地上的账。
周二晚上十点半,一个做跨境小店的运营把调价任务交给 Agent。提示词写得不差,模型也不笨:识别节日、参考库存、生成新价格,一气呵成。问题出在表格。港币列和人民币列挨在一起,接口没做二次校验,Agent把“79港币”当成“79元”,还很勤快地批量提交。第二天早上,二百多单像冬天屋檐下的冰凌,一串串挂在那里。顾客觉得自己捡漏,老板知道自己见血。这里坏掉的不是语言能力,是工具映射和校验机制。厨子没问题,传菜员把糖端成了盐。
一个会说话的天才,抵不过一张写清楚的清单。
再看另一个场景。周一上午,法务助理让 Agent 先筛一遍供应商合同。模型读条款、抓风险、写摘要,样样像模像样,句子甚至比人还周正。可公司内部有一条没写进任何模板的死规矩:回款周期不能超过四十五天,争议解决地不能离仓储地太远。这条规矩,老员工靠眼色知道,新人靠挨骂知道,机器不知道。于是 Agent 把一份“看起来问题不大”的合同推了过去,真正踩雷的恰恰是那两句没进知识库、只活在人情和经验里的潜规则。这里坏掉的不是推理,是组织把自己的生存经验当成了空气,觉得不用写,反正“大家都懂”。
人能靠默契补漏洞,机器只会沿漏洞狂奔。
第三个场景更滑稽,也更残酷。一个客服团队接了退款 Agent,挂在店铺后台,夜里自动回复。模型说话极有教养,像一个永远不发火的前台小姐:先安抚,再解释,再给方案。麻烦在于,它没有稳定的状态管理,也没有明确的升级规则。一个顾客凌晨一点来问发货异常,Agent 承诺“48小时补发”;早上七点,对方追问,Agent 又改口“可以退款”;九点半,人工上线,看到对话记录混成一锅粥,只能再送一张优惠券赔笑。最后顾客不但拿了退款,还把聊天截图发到了群里。这里坏掉的不是嘴,是记忆、权限和交接。嘴甜,不等于账平。
真正昂贵的,从来不是那点聪明,而是不出事的能力。
所以我一直觉得,很多人把 Agent 做坏,不是因为模型选错了,而是因为把它当成“会打字的神童”,没有把它当成“要进车间上班的新人”。神童可以在酒桌上背唐诗,新人却要知道钥匙放哪、单据怎么签、哪条线不能碰、出了错先停机还是先通知。前者拼天赋,后者拼制度。企业迷信模型,像旧时代迷信名医,以为把最贵的请来,家里脏水沟就会自己变成自来水。不会。好大夫治病,不替你修下水道。
Agent不是答题器的加长版,它是流程机器,吃进去的是规则,吐出来的是后果。
这也是为什么,同样一个模型,放在两家公司,命运天差地别。一家把任务拆得像手术刀,输入输出有格式,关键步骤有复核,能读什么、不能改什么,边界写得明明白白;另一家全靠一句“你先帮我弄一下”,把几十年的口头默契、部门政治、临时变通都寄希望于一段提示词。前者像把徒弟带进有章法的厨房,后者像把人扔进菜市场中央,再赏他一口锅。
技术圈爱谈“智能涌现”,仿佛只要模型够大,秩序也会跟着涌现。这话很像指望孩子读了《辞海》,回家就会主动洗碗。知识会增长,家务不会自动完成;道理会说,规矩不一定守。模型擅长在语言里显得明白,Agent 却要在现实里真的不出纰漏。前者像作文,后者像开店;作文能靠才气,开店先得不把客人吃进医院。
一家公司配不配拥有 Agent,不看它买了谁家的模型,要看它有没有把自己的混乱写成规矩。
再往深处看,Agent 真正照见的,不是模型高低,而是组织的骨相。平时靠老员工兜着、靠群聊补着、靠领导一句话压着的含糊地带,一旦交给机器,立刻原形毕露。人类社会有个奢侈的地方:可以靠揣摩、靠情面、靠“差不多”活下去。机器社会很刻薄,它不吃眼色,只吃明文;不懂“你应该知道”,只认“你到底写没写”。所以 Agent 一落地,很多公司第一反应是怪模型不够强,像饭馆老板怪锅不够圆,却不肯承认后厨本来就乱。
别把死因赖给模型。模型只是那个站在台前的人,真正决定一台戏演不演砸的,是后台:提词器有没有字,灯光有没有人管,幕布会不会半截掉下来,导演有没有说过什么时候该停。
我自己的判断就一句话:Agent 成败,模型只占三分之一;另外三分之二,一半是工程,一半是人间。前者解决“能不能做”,后者解决“该不该做、做到哪算对、错了谁收拾”。把这两笔账都赖给模型,不是高估了技术,是偷懒地原谅了混乱。
当一个组织认真做 Agent,它最后得到的,常常不只是自动化,而是一场自我审判。它被迫把模糊说清,把默契写下,把责任钉住,把“差不多”改成“到哪一步就停”。这时候你才会明白,Agent 最像的不是天才,而是镜子。镜子从不负责让你变好看,它只负责让你没法再装看不见。
别人聊 AI,我们测 AI——每个结论都能下载原始数据自己复算。 🔗 官网 👉 https://crawdpad.com