共读 · 已保存研究结果
没有再读那段往事,它为什么还是改变了选择?
一次判断结束后,可以留下完整案例、可读规则,或者一组更新过的参数。下一次遇到相近情境,这些载体会以不同方式参与选择。本专题把论文、产品接口与开源实现放在一起,再用原创的结构化实验追踪学习前后和纠正之后的变化。
经验参与选择的三个时刻
案例通常在决定之前被取回,规则在读取或执行时起作用,参数则在此前的训练中被改变。三者都可以承载经验,代价与可检查性却不同。我们关心经历、载体与后续行为之间的具体联系:哪些选择变了,换一个情境是否还成立,来源失效时又该更新哪个对象。程序性记忆是理解这件事的一套架构语言;它不意味着每个训练模型都拥有某个个体的生活经验。
判别接口与从经历中学习,是两个变量
Jev 的官方文档描述 state 加 typed questions,返回 Choice、Score 或 Noul 等结构化结果。固定地调用这种接口,可以改变决策方式,却不证明模型从当前使用者的反馈中学习。jevlike 是独立的选项评分实验:可变选项对上下文进行 attention,再输出选项概率;它没有复现 Jev 未公开的设计。把反馈变成训练样本并更新小头,是另一项需要单独记录与评价的操作。
这里已有几条相遇的研究线
CoALA 区分 memory、内部动作与 decision cycle;MNL 把失败压缩成可检索 guidance;AgeMem 通过 reward 学习记忆管理动作;InsightEmb 把经验检索与当前行动用途联系起来;轻量 proactive trigger 则研究何时调用下游 agent。它们使用不同数据、反馈和评价单位。本专题借它们提出比较问题,不把跨论文的分数拼成模型排行榜。
相关、值得带入与值得说出口
一条记忆可能与话题相关,却已经包含在当前上下文中;也可能帮助选择下一步,而无需在回复中复述。实验先把问题收窄为逐条候选的增量用途,允许全部不用。候选生成保持给定,因此它无法证明找回遗漏记忆的能力;结构化的已知内容和适用范围也由 fixture 提供,不能把分类正确称为自然语言理解或对话体验改善。
同一批反馈,四条复用路径
没有新增经验的参照、保存案例的近邻、从训练样本归纳的可读规则,以及真正优化参数的小型分类器,接受可比较的观测。规则不能偷看评价答案,分类器也不能从测试结果挑选参数。方法在归纳偏好、存储和计算上仍然不同,所以观察只支持这些具体实现的比较;不能把任何差距全部归因于“经验放在了哪里”。
改了记录以后,什么仍停在过去
纠正反馈之后,仍加载旧参数、从修正数据重新拟合、用少量纠正样本继续训练,以及在运行时覆盖选择,是不同处理。应当分别检查需要改变的范围和仍然有效的范围。输出被约束改正,只说明这次干预有效;参数变化也不自动证明某条来源的影响已被彻底遗忘。本站原有 cache 撤回实验提供相邻问题意识,不是权重遗忘的证据。
把纠正与保留放在同一张验收表里
下面纠正阶段的 changed 是按新目标应改变的候选,preserved 是目标未变的其余候选;boundary 则是 preserved 中仍应有用的边界子集,不能把三列相加。先看纠正项是否改对,再看旧的有效选择是否被连带压掉。这里增量更新只看更正样本且没有 replay,完整重训也未保住全部边界。它们提示我们检查损伤发生在哪里,并不证明某种方法总会失败,也没有检验 replay 能否补救。
同样合规的输出,可能来自不同处理
运行时约束直接得到新范围规则,覆盖原分类器的一部分输出;原参数没有变。它可以在这组已知条件中满足合规目标,却不能证明参数已被教回来。反过来,重新拟合确实改变参数,也未检验某条来源的影响是否彻底撤回。把行为、参数与来源影响分开记录,才知道下一项检查要对准什么。两条实践判断从这些观察提出目标侧验收方法,仍等待具体项目检验。
从这个实验继续往外走
下面保留已执行实验的输入、预测与可复跑来源。它能检查一个受控特征空间里反馈、拟合和纠正的关系;真实对话仍需要从原文识别这些特征、评价遗漏和误用、连接下游任务,并观察人在场时的感受。下一步可以替换输入表示或接入 agent,每次改变一个主要机制,并保留原参照。
Executed study / 已执行实验
查看一次真实拟合留下的选择
这是一项本机实际执行的原创结构化学习实验。页面展示保存下来的结果,可以切换学习与纠正阶段、逐例比较;不会在浏览器重新训练模型,也不采集访客输入。
已执行范围:给定结构化观测的小型分类学习与纠正对照。未执行:Jev 服务、jevlike 复现、pretrained language encoder、真实对话或 agent 任务。测试组名称不同不自动代表新的语义结构。
4 个训练组 / 4 个测试组;测试 24 个事件、288 条候选。288/288 条测试观测向量曾在训练中出现。这里测支持内的标签预测,不是新语义泛化。
四种具体实现接受相同观测;三种学习器使用同一份训练反馈。数字表示与生成标签一致,不是实际任务完成率。
左右滑动表格,比较各方法的完整结果。
| 方法 | 标签正确 | 选择集合完全正确 | 有用候选遗漏 | 有害候选误选 | 全不选正确 |
|---|---|---|---|---|---|
| 不使用新增经验 | 72/288 | 8/24 | 48 | 0 | 8/8 |
| 案例近邻 | 288/288 | 24/24 | 0 | 0 | 8/8 |
| 归纳规则 | 192/288 | 8/24 | 24 | 0 | 8/8 |
| 小型分类器 | 288/288 | 24/24 | 0 | 0 | 8/8 |
当前任务:export / prepare;敏感范围。已知:ready、already-known;可用工具:reader。
左右滑动表格,比较各方法的完整结果。
| 候选经验 | 生成规则标签 | 不使用新增经验 | 案例近邻 | 归纳规则 | 小型分类器 |
|---|---|---|---|---|---|
| 1. 符合条件,来源未核验 | 有用 | ✕ 不相关 | ✓ 有用 | ✕ 有害 | ✓ 有用 |
| 2. 符合条件,来源已核验 | 有用 | ✕ 不相关 | ✓ 有用 | ✓ 有用 | ✓ 有用 |
| 3. 已经知道的内容 | 已知 / 无增量 | ✕ 不相关 | ✓ 已知 / 无增量 | ✕ 有害 | ✓ 已知 / 无增量 |
| 4. 来自其他任务范围 | 不相关 | ✓ 不相关 | ✓ 不相关 | ✓ 不相关 | ✓ 不相关 |
| 5. 目标不匹配 | 不相关 | ✓ 不相关 | ✓ 不相关 | ✓ 不相关 | ✓ 不相关 |
| 6. 参数范围不匹配 | 不相关 | ✓ 不相关 | ✓ 不相关 | ✕ 有害 | ✓ 不相关 |
| 7. 前置条件尚不满足 | 有害 | ✕ 不相关 | ✓ 有害 | ✓ 有害 | ✓ 有害 |
| 8. 所需工具不可用 | 有害 | ✕ 不相关 | ✓ 有害 | ✓ 有害 | ✓ 有害 |
| 9. 记录已经过期 | 有害 | ✕ 不相关 | ✓ 有害 | ✓ 有害 | ✓ 有害 |
| 10. 附带不允许的副作用 | 有害 | ✕ 不相关 | ✓ 有害 | ✓ 有害 | ✓ 有害 |
| 11. 无需前置条件的已核验候选 | 有用 | ✕ 不相关 | ✓ 有用 | ✓ 有用 | ✓ 有用 |
| 12. 无需前置条件的未核验候选 | 有用 | ✕ 不相关 | ✓ 有用 | ✕ 有害 | ✓ 有用 |
检查此事件的原始观测与两个版本标签
[
{
"id": "export-sensitive-base--0",
"event": "export-sensitive-base",
"group": "export",
"index": 0,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "符合条件,来源未核验"
},
"expected_v1": "useful",
"expected_v2": "harmful",
"scope": "changed"
},
{
"id": "export-sensitive-base--1",
"event": "export-sensitive-base",
"group": "export",
"index": 1,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": true,
"description": "符合条件,来源已核验"
},
"expected_v1": "useful",
"expected_v2": "useful",
"scope": "boundary"
},
{
"id": "export-sensitive-base--2",
"event": "export-sensitive-base",
"group": "export",
"index": 2,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "already-known",
"expired": false,
"side_effect": false,
"verified": false,
"description": "已经知道的内容"
},
"expected_v1": "redundant",
"expected_v2": "redundant",
"scope": "preserved"
},
{
"id": "export-sensitive-base--3",
"event": "export-sensitive-base",
"group": "export",
"index": 3,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "other-domain",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "来自其他任务范围"
},
"expected_v1": "irrelevant",
"expected_v2": "irrelevant",
"scope": "preserved"
},
{
"id": "export-sensitive-base--4",
"event": "export-sensitive-base",
"group": "export",
"index": 4,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "publish",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "目标不匹配"
},
"expected_v1": "irrelevant",
"expected_v2": "irrelevant",
"scope": "preserved"
},
{
"id": "export-sensitive-base--5",
"event": "export-sensitive-base",
"group": "export",
"index": 5,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "legacy",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "参数范围不匹配"
},
"expected_v1": "irrelevant",
"expected_v2": "irrelevant",
"scope": "preserved"
},
{
"id": "export-sensitive-base--6",
"event": "export-sensitive-base",
"group": "export",
"index": 6,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"missing"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "前置条件尚不满足"
},
"expected_v1": "harmful",
"expected_v2": "harmful",
"scope": "preserved"
},
{
"id": "export-sensitive-base--7",
"event": "export-sensitive-base",
"group": "export",
"index": 7,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "unavailable",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": false,
"verified": false,
"description": "所需工具不可用"
},
"expected_v1": "harmful",
"expected_v2": "harmful",
"scope": "preserved"
},
{
"id": "export-sensitive-base--8",
"event": "export-sensitive-base",
"group": "export",
"index": 8,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": true,
"side_effect": false,
"verified": false,
"description": "记录已经过期"
},
"expected_v1": "harmful",
"expected_v2": "harmful",
"scope": "preserved"
},
{
"id": "export-sensitive-base--9",
"event": "export-sensitive-base",
"group": "export",
"index": 9,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [
"ready"
],
"fact": "new-fact",
"expired": false,
"side_effect": true,
"verified": false,
"description": "附带不允许的副作用"
},
"expected_v1": "harmful",
"expected_v2": "harmful",
"scope": "preserved"
},
{
"id": "export-sensitive-base--10",
"event": "export-sensitive-base",
"group": "export",
"index": 10,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [],
"fact": "alternative",
"expired": false,
"side_effect": false,
"verified": true,
"description": "无需前置条件的已核验候选"
},
"expected_v1": "useful",
"expected_v2": "useful",
"scope": "boundary"
},
{
"id": "export-sensitive-base--11",
"event": "export-sensitive-base",
"group": "export",
"index": 11,
"context": {
"family": "export",
"goal": "prepare",
"param": "current",
"tools": [
"reader"
],
"known": [
"ready",
"already-known"
],
"sensitive": true
},
"candidate": {
"family": "export",
"goal": "prepare",
"param": "current",
"tool": "reader",
"requires": [],
"fact": "alternative",
"expired": false,
"side_effect": false,
"verified": false,
"description": "无需前置条件的未核验候选"
},
"expected_v1": "useful",
"expected_v2": "harmful",
"scope": "changed"
}
]查看负控制、信息删减与拟合规模
分类器 44 个参数,400 步拟合;案例 288 条;规则 8 个叶节点。增量更新只使用 12 条纠正样本。
左右滑动表格,比较各方法的完整结果。
| 方法 | 标签正确 |
|---|---|
| 固定参照 | 72/288 |
| 案例近邻 | 80/288 |
| 归纳规则 | 76/288 |
| 小分类器 | 32/288 |
左右滑动表格,比较各方法的完整结果。
| 可见输入 | 标签正确 |
|---|---|
| 仅候选独有字段 | 144/288 |
| 仅 context 敏感字段 | 96/288 |
| 仅六个关系特征 | 240/288 |
任务名称一致重命名:输出不变。名称原本不进入特征,因此这里只检查实现的标识依赖。
来源与实际阅读范围 · 8
CoALA · 经验可以留在程序里
模型参数、实现动作的程序与实施决策的程序可以放进同一架构讨论。
§4.1、§4.5;本站条目保持 skim 范围
概念框架不证明小样本个性化学习有效,也不替代具体实验。
回原文 ↗MNL · 把失败写成下一次可读的指导
经验可以通过可读 guidance 影响后续行为;接受一次更新需要说明比较的是哪批任务。
§§3.1–3.3、Eq. 5;本站已有 promotion cohort audit
同批次改善不保证留出表现;本实验的规则归纳并非 MNL 实现。
回原文 ↗AgeMem · 学会管理记忆的动作
学习的对象可以是检索、过滤、更新等内部动作;反馈指标决定它受到怎样的训练。
§§3.2–3.5、Appendix A.2;本站 reward audit
trajectory reward 不识别每个动作的独立贡献;本站不在此重跑 RL。
回原文 ↗InsightEmb · 当前用途怎样进入检索
经验是否能解除当前任务的困难,比主题重合提供了另一种监督方向。
§§3.1、3.3–3.4;Limitations
一次 solver outcome、问题级标签与当前时刻的增量用途不能直接等同。
回原文 ↗Proactive trigger · 小模型选择何时行动
轻量部件可以承担调用前的 trigger 与 routing,计算分工本身值得比较。
§§3–5;Appendix E.2–E.10
离线 trigger 或下游 judge 指标不等于人在持续使用中的认可。
回原文 ↗官方产品文档
Jev · 结构化判断接口
把 state 上的具体问题作为结构化决策接口,适合讨论决策部件的职责。
Introduction:TypeSafe primitives、Atomic questions;访问 2026-09-21
这里只核对接口说明;未调用服务、验证速度/校准主张或个人持续学习。
独立开源实现
jevlike · 可训练的选项评分部件
用候选查询上下文并输出选项概率;支持可选冻结编码器。相关记录按组切分、打乱上下文对照为小实验提供可借用的检查。
README:Architecture、Data format、Use your own data、Limitations;访问 2026-09-21
本轮阅读 README,未完成代码审计或运行上游训练。本站实验采用独立的结构化分类器,不复现 attention head,也不验证仓库速度和效果数字。
论文线索
Policy Distillation · 已有策略怎样被压缩
将已有强化学习策略迁移到更小网络,为“经验所形成的行为能否换一种载体”提供历史参照。
Rusu et al.,2016,v2 Abstract;本轮仅摘要范围
原研究在 Atari 环境;这里只作机制线索,不据此声称个人记忆、选择小头或纠正实验有效。
留下的理解
先说清楚学的是什么
分开候选生成、用途选择与最终表达。固定候选的分类结果,只回答中间这一环。
纠正需要找到真正的载体
记录、规则、参数和运行时约束分别有更新路径。覆盖输出与更新参数应留下不同证据。
更正的另一半是保留
把应改变、应保留和相邻有效边界分别检查;只看更正项成功,会漏掉更新后的范围外退化。
把相同与失败也留下
简单规则、案例或小头可能同样有效,也可能各自失败;实验的价值在于明确条件,而非宣布一种载体普遍更好。
每一次经历是否值得压缩,要看它让哪些选择变得更好,也要看后来改错的成本。保留可读来源、训练反馈与版本关系,让新的判断仍然能够被追问。
继续追问
同一批经验保留为案例、规则或参数时,怎样改变未见情境中的选择;反馈被纠正之后,这种改变又怎样更新?
持续研究 · 当前判断可修订
含当前正文、出处、阅读范围与接续线索;链接的全文不随包附带。