记忆真的改变了这次决定吗?
分清记忆被读到、行为受影响,以及这种影响对用户有用,是三个不同的问题。
做产品时,也想这些问题
从系统怎样作出一个决定,到这个决定怎样影响一个人的生活。
从这里读起
分清记忆被读到、行为受影响,以及这种影响对用户有用,是三个不同的问题。
06 篇文章
个人 AI 的证据、评估方法与系统设计。
分清记忆被读到、行为受影响,以及这种影响对用户有用,是三个不同的问题。
来源支持、说话人身份和亲身经历,不能当成同一项检查。
判断系统是否懂得克制,先要确认它有行动的机会,也要如实区分执行失败。
守住必须遵守的边界,再让具体任务决定执行结构有多复杂。
选择上下文时,还要考虑时间、不确定性、使用目的,以及谁会收到结果。
反馈需要明确对象和范围,还要在下一次行为中检查它是否真正生效。
06 篇文章
记忆、表达,以及理解一个人的边界。
个人智能体越擅长执行,判断什么值得做就越重要。
记忆有没有用,要看下一次:上次的纠正,能不能省掉这次的返工。
一封润色得体的草稿,可能悄悄加上一个你从未作出的决定。
好的改写既要保留句子的意思,也要保留它原本要让对方做什么。
AI 对生活的解读,不该悄悄变成关于这段生活的事实依据。
长期理解应该让约定更容易调整,而不是让人越来越难摆脱旧画像。
02 篇文章
一个有用的产品,还要解决沟通、持续使用和商业上的问题。
情感价值是真实的。但一个产品仍要让人愿意再用一次,也要承担得起交付成本。
作者和助手共享的背景,可能恰好成了读者进不来的原因。