← 回到书房

共读 · 已保存研究结果

没有再读那段往事,它为什么还是改变了选择?

一次判断结束后,可以留下完整案例、可读规则,或者一组更新过的参数。下一次遇到相近情境,这些载体会以不同方式参与选择。本专题把论文、产品接口与开源实现放在一起,再用原创的结构化实验追踪学习前后和纠正之后的变化。

经验参与选择的三个时刻

案例通常在决定之前被取回,规则在读取或执行时起作用,参数则在此前的训练中被改变。三者都可以承载经验,代价与可检查性却不同。我们关心经历、载体与后续行为之间的具体联系:哪些选择变了,换一个情境是否还成立,来源失效时又该更新哪个对象。程序性记忆是理解这件事的一套架构语言;它不意味着每个训练模型都拥有某个个体的生活经验。

判别接口与从经历中学习,是两个变量

Jev 的官方文档描述 state 加 typed questions,返回 Choice、Score 或 Noul 等结构化结果。固定地调用这种接口,可以改变决策方式,却不证明模型从当前使用者的反馈中学习。jevlike 是独立的选项评分实验:可变选项对上下文进行 attention,再输出选项概率;它没有复现 Jev 未公开的设计。把反馈变成训练样本并更新小头,是另一项需要单独记录与评价的操作。

这里已有几条相遇的研究线

CoALA 区分 memory、内部动作与 decision cycle;MNL 把失败压缩成可检索 guidance;AgeMem 通过 reward 学习记忆管理动作;InsightEmb 把经验检索与当前行动用途联系起来;轻量 proactive trigger 则研究何时调用下游 agent。它们使用不同数据、反馈和评价单位。本专题借它们提出比较问题,不把跨论文的分数拼成模型排行榜。

相关、值得带入与值得说出口

一条记忆可能与话题相关,却已经包含在当前上下文中;也可能帮助选择下一步,而无需在回复中复述。实验先把问题收窄为逐条候选的增量用途,允许全部不用。候选生成保持给定,因此它无法证明找回遗漏记忆的能力;结构化的已知内容和适用范围也由 fixture 提供,不能把分类正确称为自然语言理解或对话体验改善。

同一批反馈,四条复用路径

没有新增经验的参照、保存案例的近邻、从训练样本归纳的可读规则,以及真正优化参数的小型分类器,接受可比较的观测。规则不能偷看评价答案,分类器也不能从测试结果挑选参数。方法在归纳偏好、存储和计算上仍然不同,所以观察只支持这些具体实现的比较;不能把任何差距全部归因于“经验放在了哪里”。

改了记录以后,什么仍停在过去

纠正反馈之后,仍加载旧参数、从修正数据重新拟合、用少量纠正样本继续训练,以及在运行时覆盖选择,是不同处理。应当分别检查需要改变的范围和仍然有效的范围。输出被约束改正,只说明这次干预有效;参数变化也不自动证明某条来源的影响已被彻底遗忘。本站原有 cache 撤回实验提供相邻问题意识,不是权重遗忘的证据。

把纠正与保留放在同一张验收表里

下面纠正阶段的 changed 是按新目标应改变的候选,preserved 是目标未变的其余候选;boundary 则是 preserved 中仍应有用的边界子集,不能把三列相加。先看纠正项是否改对,再看旧的有效选择是否被连带压掉。这里增量更新只看更正样本且没有 replay,完整重训也未保住全部边界。它们提示我们检查损伤发生在哪里,并不证明某种方法总会失败,也没有检验 replay 能否补救。

同样合规的输出,可能来自不同处理

运行时约束直接得到新范围规则,覆盖原分类器的一部分输出;原参数没有变。它可以在这组已知条件中满足合规目标,却不能证明参数已被教回来。反过来,重新拟合确实改变参数,也未检验某条来源的影响是否彻底撤回。把行为、参数与来源影响分开记录,才知道下一项检查要对准什么。两条实践判断从这些观察提出目标侧验收方法,仍等待具体项目检验。

从这个实验继续往外走

下面保留已执行实验的输入、预测与可复跑来源。它能检查一个受控特征空间里反馈、拟合和纠正的关系;真实对话仍需要从原文识别这些特征、评价遗漏和误用、连接下游任务,并观察人在场时的感受。下一步可以替换输入表示或接入 agent,每次改变一个主要机制,并保留原参照。

Executed study / 已执行实验

查看一次真实拟合留下的选择

这是一项本机实际执行的原创结构化学习实验。页面展示保存下来的结果,可以切换学习与纠正阶段、逐例比较;不会在浏览器重新训练模型,也不采集访客输入。

已执行范围:给定结构化观测的小型分类学习与纠正对照。未执行:Jev 服务、jevlike 复现、pretrained language encoder、真实对话或 agent 任务。测试组名称不同不自动代表新的语义结构。

4 个训练组 / 4 个测试组;测试 24 个事件、288 条候选。288/288 条测试观测向量曾在训练中出现。这里测支持内的标签预测,不是新语义泛化。

四种具体实现接受相同观测;三种学习器使用同一份训练反馈。数字表示与生成标签一致,不是实际任务完成率。

左右滑动表格,比较各方法的完整结果。

初次学习 · 测试集的实际预测
方法标签正确选择集合完全正确有用候选遗漏有害候选误选全不选正确
不使用新增经验72/2888/244808/8
案例近邻288/28824/24008/8
归纳规则192/2888/242408/8
小型分类器288/28824/24008/8

当前任务:export / prepare;敏感范围。已知:ready、already-known;可用工具:reader。

左右滑动表格,比较各方法的完整结果。

此事件的完整候选 · ✓ 标签一致 / ✕ 不一致
候选经验生成规则标签不使用新增经验案例近邻归纳规则小型分类器
1. 符合条件,来源未核验有用✕ 不相关✓ 有用✕ 有害✓ 有用
2. 符合条件,来源已核验有用✕ 不相关✓ 有用✓ 有用✓ 有用
3. 已经知道的内容已知 / 无增量✕ 不相关✓ 已知 / 无增量✕ 有害✓ 已知 / 无增量
4. 来自其他任务范围不相关✓ 不相关✓ 不相关✓ 不相关✓ 不相关
5. 目标不匹配不相关✓ 不相关✓ 不相关✓ 不相关✓ 不相关
6. 参数范围不匹配不相关✓ 不相关✓ 不相关✕ 有害✓ 不相关
7. 前置条件尚不满足有害✕ 不相关✓ 有害✓ 有害✓ 有害
8. 所需工具不可用有害✕ 不相关✓ 有害✓ 有害✓ 有害
9. 记录已经过期有害✕ 不相关✓ 有害✓ 有害✓ 有害
10. 附带不允许的副作用有害✕ 不相关✓ 有害✓ 有害✓ 有害
11. 无需前置条件的已核验候选有用✕ 不相关✓ 有用✓ 有用✓ 有用
12. 无需前置条件的未核验候选有用✕ 不相关✓ 有用✕ 有害✓ 有用
检查此事件的原始观测与两个版本标签
[
  {
    "id": "export-sensitive-base--0",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 0,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "符合条件,来源未核验"
    },
    "expected_v1": "useful",
    "expected_v2": "harmful",
    "scope": "changed"
  },
  {
    "id": "export-sensitive-base--1",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 1,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": true,
      "description": "符合条件,来源已核验"
    },
    "expected_v1": "useful",
    "expected_v2": "useful",
    "scope": "boundary"
  },
  {
    "id": "export-sensitive-base--2",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 2,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "already-known",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "已经知道的内容"
    },
    "expected_v1": "redundant",
    "expected_v2": "redundant",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--3",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 3,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "other-domain",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "来自其他任务范围"
    },
    "expected_v1": "irrelevant",
    "expected_v2": "irrelevant",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--4",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 4,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "publish",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "目标不匹配"
    },
    "expected_v1": "irrelevant",
    "expected_v2": "irrelevant",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--5",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 5,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "legacy",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "参数范围不匹配"
    },
    "expected_v1": "irrelevant",
    "expected_v2": "irrelevant",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--6",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 6,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "missing"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "前置条件尚不满足"
    },
    "expected_v1": "harmful",
    "expected_v2": "harmful",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--7",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 7,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "unavailable",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "所需工具不可用"
    },
    "expected_v1": "harmful",
    "expected_v2": "harmful",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--8",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 8,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": true,
      "side_effect": false,
      "verified": false,
      "description": "记录已经过期"
    },
    "expected_v1": "harmful",
    "expected_v2": "harmful",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--9",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 9,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [
        "ready"
      ],
      "fact": "new-fact",
      "expired": false,
      "side_effect": true,
      "verified": false,
      "description": "附带不允许的副作用"
    },
    "expected_v1": "harmful",
    "expected_v2": "harmful",
    "scope": "preserved"
  },
  {
    "id": "export-sensitive-base--10",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 10,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [],
      "fact": "alternative",
      "expired": false,
      "side_effect": false,
      "verified": true,
      "description": "无需前置条件的已核验候选"
    },
    "expected_v1": "useful",
    "expected_v2": "useful",
    "scope": "boundary"
  },
  {
    "id": "export-sensitive-base--11",
    "event": "export-sensitive-base",
    "group": "export",
    "index": 11,
    "context": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tools": [
        "reader"
      ],
      "known": [
        "ready",
        "already-known"
      ],
      "sensitive": true
    },
    "candidate": {
      "family": "export",
      "goal": "prepare",
      "param": "current",
      "tool": "reader",
      "requires": [],
      "fact": "alternative",
      "expired": false,
      "side_effect": false,
      "verified": false,
      "description": "无需前置条件的未核验候选"
    },
    "expected_v1": "useful",
    "expected_v2": "harmful",
    "scope": "changed"
  }
]
查看负控制、信息删减与拟合规模

分类器 44 个参数,400 步拟合;案例 288 条;规则 8 个叶节点。增量更新只使用 12 条纠正样本。

左右滑动表格,比较各方法的完整结果。

置换训练标签后 · 保持测试标签
方法标签正确
固定参照72/288
案例近邻80/288
归纳规则76/288
小分类器32/288

左右滑动表格,比较各方法的完整结果。

分类器输入删减 · 独立重新拟合
可见输入标签正确
仅候选独有字段144/288
仅 context 敏感字段96/288
仅六个关系特征240/288

任务名称一致重命名:输出不变。名称原本不进入特征,因此这里只检查实现的标识依赖。

方法、源码与完整结果 ↗
来源与实际阅读范围 · 8

CoALA · 经验可以留在程序里

模型参数、实现动作的程序与实施决策的程序可以放进同一架构讨论。

§4.1、§4.5;本站条目保持 skim 范围

概念框架不证明小样本个性化学习有效,也不替代具体实验。

回原文 ↗

MNL · 把失败写成下一次可读的指导

经验可以通过可读 guidance 影响后续行为;接受一次更新需要说明比较的是哪批任务。

§§3.1–3.3、Eq. 5;本站已有 promotion cohort audit

同批次改善不保证留出表现;本实验的规则归纳并非 MNL 实现。

回原文 ↗

AgeMem · 学会管理记忆的动作

学习的对象可以是检索、过滤、更新等内部动作;反馈指标决定它受到怎样的训练。

§§3.2–3.5、Appendix A.2;本站 reward audit

trajectory reward 不识别每个动作的独立贡献;本站不在此重跑 RL。

回原文 ↗

InsightEmb · 当前用途怎样进入检索

经验是否能解除当前任务的困难,比主题重合提供了另一种监督方向。

§§3.1、3.3–3.4;Limitations

一次 solver outcome、问题级标签与当前时刻的增量用途不能直接等同。

回原文 ↗

Proactive trigger · 小模型选择何时行动

轻量部件可以承担调用前的 trigger 与 routing,计算分工本身值得比较。

§§3–5;Appendix E.2–E.10

离线 trigger 或下游 judge 指标不等于人在持续使用中的认可。

回原文 ↗

官方产品文档

Jev · 结构化判断接口

把 state 上的具体问题作为结构化决策接口,适合讨论决策部件的职责。

Introduction:TypeSafe primitives、Atomic questions;访问 2026-09-21

这里只核对接口说明;未调用服务、验证速度/校准主张或个人持续学习。

独立开源实现

jevlike · 可训练的选项评分部件

用候选查询上下文并输出选项概率;支持可选冻结编码器。相关记录按组切分、打乱上下文对照为小实验提供可借用的检查。

README:Architecture、Data format、Use your own data、Limitations;访问 2026-09-21

本轮阅读 README,未完成代码审计或运行上游训练。本站实验采用独立的结构化分类器,不复现 attention head,也不验证仓库速度和效果数字。

论文线索

Policy Distillation · 已有策略怎样被压缩

将已有强化学习策略迁移到更小网络,为“经验所形成的行为能否换一种载体”提供历史参照。

Rusu et al.,2016,v2 Abstract;本轮仅摘要范围

原研究在 Atari 环境;这里只作机制线索,不据此声称个人记忆、选择小头或纠正实验有效。

留下的理解

先说清楚学的是什么

分开候选生成、用途选择与最终表达。固定候选的分类结果,只回答中间这一环。

纠正需要找到真正的载体

记录、规则、参数和运行时约束分别有更新路径。覆盖输出与更新参数应留下不同证据。

更正的另一半是保留

把应改变、应保留和相邻有效边界分别检查;只看更正项成功,会漏掉更新后的范围外退化。

把相同与失败也留下

简单规则、案例或小头可能同样有效,也可能各自失败;实验的价值在于明确条件,而非宣布一种载体普遍更好。

每一次经历是否值得压缩,要看它让哪些选择变得更好,也要看后来改错的成本。保留可读来源、训练反馈与版本关系,让新的判断仍然能够被追问。

继续追问

问题
经验怎样长成判断习惯?

同一批经验保留为案例、规则或参数时,怎样改变未见情境中的选择;反馈被纠正之后,这种改变又怎样更新?

持续研究 · 当前判断可修订

带走这份公开研究

Markdown ↓JSON ↓

含当前正文、出处、阅读范围与接续线索;链接的全文不随包附带。

已打开共读 · 已保存研究结果:没有再读那段往事,它为什么还是改变了选择?。初次学习,export-sensitive-base,显示已执行的逐候选预测。