你让 AI 替你办一件事，它可能把步骤执行得很漂亮，却在情况稍有变化时彻底跑偏。问题往往不在算力，而在它不知道你为何停顿、何时改主意，也看不见那些没有写进指令的现场条件。Meg Kurdziolek 重访 Lucy Suchman 对 Xerox 复印机的经典研究，想提醒今天设计 AI agent 的人：自动化若把人的行动当成固定脚本，失败几乎从设计之初就已埋下。
这篇文章是作者结合设计史与个人田野观察提出的观点，不是新的实验论文。由于现有供稿摘录末尾被截断，关于历史研究的细节主要依据作者叙述及编辑部补充的公开资料，机器人案例则来自作者个人观察。
蓝莓为什么会对准机器人
Kurdziolek 曾在 Bossa Nova Robotics 担任用户研究员。她走进杂货店过道，观察自主库存盘点机器人如何工作，尤其留意它因障碍物或人的干扰而停下的时刻。这就是田野研究——研究者进入真实现场，通过观察和访谈，寻找实验室测试容易漏掉的行为与限制。
一次观察中，一名顾客走向这台约 300 磅重的机器人。机器人停了下来。她先把一盒蓝莓举到机器人的灯光面板前，又举到顶部的 lidar 装置旁。Lidar 是用激光感知周围距离和形状的传感器。两次尝试都没有得到回应，她只好失望离开。
按作者描述，这台机器配有高端摄像头和机载计算设备，能实时运行感知算法。但它没有理解顾客把它当成了某种扫码设备，也没有告诉对方自己是谁、为何停下、能做什么。它能识别货架和障碍物，却无法与眼前的人建立共同理解。
这正是今天所谓 Agentic UX 的核心难题。Agentic UX 是围绕 AI agent——能够自主规划并执行多步任务的 AI 系统——设计的用户体验。设计重点不再只是一问一答，还包括系统获得了什么授权、进行到哪一步、出错后怎样纠正，以及人如何随时接管。
绿色按钮没有解决问题
类似的误会，四十年前已经发生在一台复印机前。
据 Cambridge University Press 的相关叙述，事情始于 Xerox 位于 Rochester 的客服经理向 PARC 求助：一台刚上市、功能丰富的复印机被客户抱怨太复杂。广告却让科学家形象向顾客保证，只需按绿色启动键即可使用。Lucy Suchman 说服同事把机器装进 PARC，请科学家和工程师完成真实复印任务，并把过程录下来。
其中两名计算机专家需要给一大摞文件做双面复印。机器卡纸后，要求他们依序重新装入全部纸张；使用者却知道工作已接近完成，只要补印最后几页即可。人的判断来自任务进度和眼前局面，机器则只能坚持预设流程。双方都在“正确”行动，却无法配合。
围绕这项研究，后来流传出“人类学家的录像促使 Xerox 发明绿色按钮”的设计传奇。据 UX Magazine 的考证，因果恰好相反：被观察的机器本来就有绿色按钮，广告也已用它宣传简单。问题不是按钮不够醒目，而是按钮只能告诉人“从这里开始”，无法说明机器怎样理解当前状态，也无法理解人为什么临时改变计划。
Suchman 后来在 1987 年出版的《Plans and Situated Actions》中提出，计划更像行动时调用的资源，而不是人会机械执行的脚本。她用独木舟穿越急流来说明这种差异：出发前可以规划路线，真正进入水流后，仍要根据每一次变化即时调整。
自动化最容易漏掉什么
早期人机交互研究中，一种系统中心的思路把人视为信息处理者，试图用足够精密的模型预测行动。Thomas Moran、Stuart Card 和 Allen Newell 合著的《The Psychology of Human-Computer Interaction》代表了这一脉络。Suchman 的挑战在于：现实工作不是把信息包从 A 送到 B。人会凭进度、同伴反应和环境变化不断修正下一步。
这也解释了情境式探询为何重新重要起来。它指研究者在用户实际工作时边观察边提问。面对自动化产品，团队不能只问“任务完成了吗”，还要弄清人为何打断、纠正或绕过系统。顾客把蓝莓举到机器人面前，看似是不可预测的误操作，实际上暴露了产品没有清楚表达自身角色。
对今天的 AI agent，这带来四个直接提醒。第一，计划应允许现场修正，不能把最初指令当成不可更改的施工图。第二，系统要承认自己的感知缺口：人知道现实中正在发生什么，机器只知道传感器和训练数据覆盖的那一小部分。第三，进度和意图必须可见，否则用户无法判断该等待、纠错还是接管。第四，人与系统需要通过来回确认形成共同理解，而不是各自执行一套自认为合理的计划。
这就是人本自动化——让自动化适配人的目标、判断和工作流程，同时保留理解与干预系统的能力。大型语言模型让交互看起来更自然，但说得像人，并不等于理解了人所处的情境。复印机研究今天仍有价值，正因为它没有提供一个神奇控件，而是逼设计者换一个问题：别只问机器能做多少，也要问人在什么现场、凭什么线索，才能与它一起把事做完。
局限与未知
- 现有文章摘录没有完整交代复印机研究的样本、录像分析方法及完整结果，不能把它当作经过重新验证的新研究。
- 蓝莓事件、机器重量和硬件配置均来自作者个人叙述，供稿没有提供产品资料或研究记录交叉印证。
- 文章主张这些早期教训适用于 Agentic UX，但供稿未给出当代 AI agent 的对照实验或量化效果；它提供的是设计参照，而非性能证明。