假设你让 AI 回复客户:“这周做不完,解释一下原因,态度诚恳一点。”
它写:“非常抱歉,我们将在下周一前交付,确保不影响您的安排。”
你从没说过,下周一能做完。
诚恳是 AI 给的,加班是你加的。
这种问题不像编造引用那么显眼。消息读起来合情合理,你扫一眼就发了。客户却不会把“下周一”当成修辞,他们会把它填进日程表。
批准发送,不只有一个需要确认的对象
当助手能够发消息,写作就开始在编辑器之外产生后果。发送权限很重要。Meta 对 Muse 的介绍明确提到,发送邮件、购物等敏感操作需要先获得批准。
但批准界面也应该让人看清具体作出了什么决定。我是允许它执行发送,还是也注意到了,这条消息让我承诺了什么?
一封整体没问题的邮件,第三段可能藏着一个承诺。统一显示“请检查后发送”,并不能保证我会发现。
我希望助手分清两件事:“你允许发送这条消息”和“这条消息包含以下承诺”。
诚恳,不需要一个编出来的日期
工作之外也一样。“这个周末回不去”,被改成“下周末我一定回去”。对话看起来圆满了,另一边也许已经开始安排晚饭。
如果下一次什么时候回去还没定,更忠实的表达可以是:“不好意思,这个周末回不去了。下次时间定下来,我再告诉你。”没决定的事情,就先留着没决定。
反过来的错误也值得在意。如果我已经答应周五,把它改成“之后再确认时间”,又删掉了本来有用的确定性。目标不是尽可能含糊,而是保留当事人真正作出的决定。
知道为什么延期,助手就能帮忙解释;知道下周的安排尚未确定,它也应该避免用一个顺口的承诺填上空白。
标出那些会改变安排的修改
编辑器擅长展示字词层面的增删,但更重要的差异可能在意思上:
- 多了一个交付日期。
- 尚未决定的邀请,变成了接受。
- 出现了原始要求里没有的价格。
这些说明能告诉我,哪里需要自己作决定。它们比把每一个新增形容词都标得同样醒目更有用。
不是每个礼貌用语都需要警告。“收到”改成“谢谢,收到”,与答应占用某人的周五晚上,不是一回事。如果一切看起来都同样重要,真正重要的变化反而会消失在噪声里。
产品需要识别的是:修改文字,什么时候越过了边界,开始替人作决定。
多看一眼那些指向未来的句子
一个实用的检查习惯,是快速看一遍日期、价格、参加安排,以及“会”“一定”“保证”这类词。每看到一个,就问:这是我决定的,还是助手为了让句子显得完整,自己加上的?
这与通常的事实检查互为补充。一句话可能没有写错任何人名或数字,却仍然会让另一个人以为,一项新的安排已经定下来了。
文中的例子是假设的,但设计问题很具体:读到这条消息之后,一个人会合理地采取什么行动?
智能体越来越能干,我希望便捷按钮背后那些不易察觉的承诺越来越少。邮件里几乎不占篇幅的一句话,可能会占掉另一个人生活中的整个晚上。