过去两个多月,三家厂商接连发布了同一类产品。八月中旬,xAI 的 Grok Bot;九月初,Meta 的 Muse;九月二十九日,OpenAI 的 dots。官方话术几乎一个模子:“把活交给它,它给你成果。”更早的 Manus 连口号都省了:Leave it to Manus,把它交给 Manus。

从“你问我答”到“我把活给你”,两年之间,人机交互的隐喻悄悄换掉了:对话换成了委托。对律师来说这个词不陌生——我们本来就是受托人。问题是,当你把活委托出去,你能看到受托人是怎么干的吗?

一、先说准:不是全黑箱

较真的朋友会说,这些产品不是什么都看不见。没错,先把这个说准。

Grok Bot 的说法是,机器人只在需要你批准的时候回来找你。Muse 的产品页写着:你可以在 Muse 执行动作之前审查和批准,可以看到完整的审计清单。dots 更进一步,官方明确你可以随时打开你的 dot 的电脑,检查它干了什么。

所以准确的说法不是“完全黑箱”。准确的说法是:审批按钮,不等于可审查的推理。你看到的是动作清单——它打开了哪个网页,写了哪个文件,发了哪封邮件;你看不到的是思考过程——它为什么这么做、依据是什么、有没有漏掉什么。复核真正要审的恰恰是后半截,而它被封装在你看不见的地方。

封装到什么程度,各家还不一样。Muse 的活跑在云端的虚拟机里,产品页通篇不标注它用的底层模型是什么;dots 倒是大方,公开了底层模型,但干活过程照样托管在云端,你默认收到的只有成果。有的产品连替你干活的是谁都不告诉你。这句话放在任何一个人类服务场景里,都够写一篇消费警示了。

二、黑箱有三层

我说的黑箱其实是个宽概念,至少三层,一层比一层难缠。

第一层是技术本身的。大模型有个著名争论叫“涌现”:2022 年 Google、斯坦福等机构的研究者总结,有些能力在小模型上几乎没有,模型规模大到一定程度突然出现。第二年,斯坦福另一组研究者拿了 NeurIPS 杰出论文奖,标题很直白——《大语言模型的涌现能力是海市蜃楼吗》,认为不少“涌现”是评测指标选法造成的错觉。两边到今天还在争。连造模型的人都说不清“它为什么突然会了”,这是第一层。

第二层是我们自己内心的。不了解它的原理,你就不知道它会错在哪,也没法准确判断一次输出的可靠程度。过度信任的根子往往在这里。

第三层最隐蔽:商业趋势造成的。厂商要降低使用门槛,就要把产品封装得越来越傻瓜、越来越好用。这是进步,我完全不反对。但“好用”每推进一步,你和过程之间的距离就远一步。你不知道结果怎么形成的,也没办法准确审计它——好用本身,就在批量制造黑箱。

一家安全公司今年年初的说法很直白:不透明的 Agent 是一种责任敞口,它像一个持有合法凭证的可信内部人在你的系统里行动,而决策逻辑完全不可见。还有研究者把这叫“可解释性悖论”:Agent 越自主、后果越重,过程反而越难解释。

三、看不见过程,复核就是空话

对律师,这件事有一个残酷的加成:你把活交给 Agent,法律责任可没有跟着交接。文书出去,签字的责任还在你身上;而黑箱化的工作流,恰恰把你能复核的对象拿走了。权利和义务在这里结构性地错位。

那怎么办?2023 年有一项实验给了特别干净的答案。斯坦福和爱丁堡的研究者发现:让 AI 自动附带解释,并不能减少人对它的过度依赖;真正有效的,是把验证成本降下来,让人更容易查证 AI 的话。翻译成大白话:道德号召“你要复核”没有用,把“能复核”做得便宜有用。

(要说明:这项实验用的是普通决策任务,不是法律场景,方向可以借鉴,别当成定论。)

所以“要求 AI 交出过程”不是一句道德口号,是有实验支持的制度设计。落到选工具上,我有三条硬标准:给不给引用来源,结论能不能追回原文;给不给工作日志,中间做了什么可查;中间步骤能不能点开看。三条全无的工具,你复核的只是它递给你的答案,而不是它的思路——那样的复核,从开始就缺了对象。

行业里其实已经有光谱可以选。封装产品自带复核面,dots 那个“随时打开它的电脑”就是动作级透明;再往前一档,是 Cline 这类开源工具,默认每一步改动都要人工批准;更彻底的,Dify、n8n 这类可视化工作流平台,每一步调了什么模型、传了什么材料,都写在画布上。透明是有成本的,效率会低一点,上手会慢一点。但让 AI 起草一份要签名的文书时,这句话应该反过来念:复核不了的高效,你要它干什么。


作者简介: 陈石律师(主页 chenshi.ai),浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,宁波市律师协会副秘书长、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办“首宗百亿地王”“长春第一高楼”“台州第一高楼”等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。