久忆:住在你电脑里的私有脑——量化分析、多维懂你、会遗忘、真对话夜训;叫外部大模型前渐进披露,把外援瞄准你的坐标系。
久忆价值 ≈ 训练内化(LoRA 里的你 + 量化手艺) × 披露对齐(调大模型前的 L0/L1 卡) × 遗忘预算(热集/核心有顶,权重滚动)
反复出现的你与手艺,焊进权重;本机越聊越像你。
调云端前对齐坐标系;大模型能力 × 你的先验。
头骨容积写死;废话进冷藏;铁律定期复习。
只训不披露 → 上云仍像陌生人。只披露不训 → 每次贴长文、本机无人格。不遗忘 → 盘和内存先死。
数据:基金对话、fund-estimator 规则、错题纠正。
数据:真对话、USER/MEMORY、审过的画像 QA。
稳定期样本: 40% quant · 40% self · 20% 高分 replay 禁止:编造个人事实 · 密钥进训练集 · 保证收益喊单
24G 峰值训练已 ~16–17GB;fused 一份数 GB;无限样本会让模型变平均。
| 规则 | 动作 |
|---|---|
| 纠正 / 红线 / 量化铁律 | 分=5 + pin · 定期 replay · 不自动删 |
| ≤2 分且 >14 天 | 出热集 → archive |
| 热集超顶 | 先踢低分,再踢最老 |
| fused 权重 | 仅 1 套线上 + 1 backup,滚动覆盖 |
| Metal OOM | 降 iter / 停训,不硬刚 |
| 来源 | 存哪 | 抽数脚本 |
|---|---|---|
| Hermes / 飞书 | ~/.hermes/state.db | extract-training-data.py |
| Grok TUI | ~/.grok/sessions/**/chat_history.jsonl | extract-grok-training-data.py |
| 审计(Grok) | ~/Desktop/lora-facts-v6/sources/grok-pairs.jsonl | |
| 训练集 | ~/Desktop/lora-facts-v6/train.jsonl | |
| Adapter / Fused | memory-lora-v6-weights · memory-model-v6-fused | |
| Cron | 久忆-每日增量训练 · 0 3 * * * · enabled | |
与 Grok 聊 = 自动落盘;夜里自动进训练,不必手动点保存。
管道记的是「对话发生过」;assistant 侧驱动模型常常是 DeepSeek(Hermes) 或 Grok,不等于久忆权重本人。训练要把「你的信号」和「外援示范」分开看。
flowchart TB
subgraph DAY["白天 · 采数"]
U["你 miluokou"]
U -->|飞书 / TUI| H["Hermes Agent"]
U -->|Grok TUI| G["Grok 葛老师"]
H -->|"session.model 多为
deepseek-v4-flash"| DB[("~/.hermes/state.db
sessions + messages")]
G -->|"assistant = Grok"| CH[("~/.grok/sessions/**/
chat_history.jsonl")]
end
subgraph EXTRACT["抽数 · 写入训练集"]
E1["extract-training-data.py
非 cron · user↔assistant"]
E2["extract-grok-training-data.py
user_query ↔ 最终回复"]
DB --> E1
CH --> E2
E1 --> TJ[("~/Desktop/lora-facts-v6/
train.jsonl")]
E2 --> TJ
E2 --> AUD[("sources/grok-pairs.jsonl
审计·管道来源≠作者")]
end
subgraph NOTE["重要区分"]
N1["用户信号 金
提问 / 纠正 / 偏好"]
N2["外援示范 银
DeepSeek 或 Grok 的答"]
N3["钉死真值 铂
pin 纠错 / 量化铁律 / 审过 QA"]
end
TJ -.-> N1
TJ -.-> N2
N3 -.->|压舱·高权重| TRAIN
subgraph CRON["每天 03:00 · daily-train.sh"]
C0{"已训过今天?"}
C1{"机器空闲?"}
C2["Hermes 抽数 --days 1"]
C3["Grok 抽数 --days 1"]
C4{"新增合计 ≥ 5?"}
C0 -->|是| SKIP1["SKIP"]
C0 -->|否| C1
C1 -->|否| SKIP2["SKIP 防打断"]
C1 -->|是| C2 --> C3 --> C4
C4 -->|否| SKIP3["SKIP 样本不足"]
C4 -->|是| LOCK["写 advisory-training.lock"]
end
subgraph TRAIN["训练 · MLX LoRA"]
LOCK --> STOP["停 :18000 推理服务"]
STOP --> LORA["mlx_lm.lora
Qwen3-8B-4bit · 16 layer
工作日 300 / 周末 800 iter"]
LORA --> FUSE["mlx_lm.fuse
→ memory-model-v6-fused"]
FUSE --> SRV["启动 mlx_lm.server :18000"]
SRV --> QUIZ["验题:你是谁 / 环境等"]
QUIZ --> OK["写 daily-train.state
清理 lock"]
end
subgraph LIVE["线上久忆"]
SRV --> BRAIN["久忆权重
量化手艺 + 懂你"]
BRAIN -->|可选| DISC["渐进披露包 L0/L1"]
DISC --> CLOUD["再调外部大模型
DeepSeek / Grok / …"]
end
classDef store fill:#1a2332,stroke:#6fcf97,color:#cfe
classDef warn fill:#2a2210,stroke:#ffd54f,color:#edc
classDef go fill:#14281c,stroke:#6fcf97,color:#cfe
class DB,CH,TJ,AUD store
class N1,N2,N3 warn
class LORA,FUSE,SRV,BRAIN go
图例:绿框 = 存储/权重 · 黄框 = 数据性质区分 · 流程以本机脚本为准(extract* + daily-train.sh)。
flowchart LR
subgraph IN["进入 train.jsonl 的一对"]
Q["user 问题
始终是你"]
A["assistant 回答
作者可能是
DeepSeek / Grok / 其他"]
end
Q --> PAIR["一条训练样本"]
A --> PAIR
PAIR --> TAG["理想元数据
channel + driver_model
+ domain + importance"]
TAG --> HOT["热集 低分可忘"]
TAG --> CORE["核心 仅 pin/铁律/你审过"]
HOT --> NIGHT["03:00 采样训练"]
CORE --> NIGHT
NIGHT --> W["久忆 LoRA 权重"]
第二张图强调:管道来源 ≠ 认知作者;core 应用你钉死的真值压舱,避免久忆变成外援平均回声。
| 层 | 内容 | 何时 |
|---|---|---|
| L0 | 身份 · 双能力 · 沟通 · 红线 | 几乎每次外援(短) |
| L1 | quant 铁律 或 self 阶段/纠错 | 按问题 domain |
| L2 | 持仓 / 盘面 / 文件摘要 | 需要算或复盘 |
| L3 | 冷归档长史 | 默认不进 |
用户问题 → 判 domain → 拼披露包 D(L0+L1,必要时 L2) → 外部大模型(system=D + user=问题) → (可选)久忆红线/风格检查 → 答案
协助 miluokou(小久)。双能力:量化 + 懂当事人。结论先;要批判;厌鸡汤。不编造个人事实;无依据不承诺收益。偏好:多因、置信度、符号/物理 bit、批评成本、跨域类比。
训练减少每次要贴的字。披露保证上云仍对齐。渐进=先少而硬,不够再加层——不是倾倒一生日记。
bash ~/.hermes/scripts/daily-train.sh # 内含:Hermes 抽数 + Grok 抽数 + mlx_lm.lora + fuse + 健康检查
| 项 | 初值 | 超限 |
|---|---|---|
| 热集 | ~1200 条 | → archive |
| 核心 | ~600 条 | 仅更高分替换 |
| 日新增热集 | ≤80 | 降采样 |
| iter | 300 / 周末 800 | OOM 减半 |
| fused | 1 + 1 backup | 删更旧 |
| 训练峰值 | <18GB 目标 | 关大软件 |
| 披露包 | 优先 <800 token | 先砍 L2/L3 |
先定天花板,再谈变聪明——像人先有头骨容积。
| P | 事 |
|---|---|
| P0 | 盘 ≥50GB;03:00 不 OOM |
| P0 | disclose L0 / L1-quant / L1-self |
| P1 | domain + importance + pin |
| P1 | 热集顶 + archive 挂日训前 |
| P1 | 各 50–100 条 quant/self core |
| P2 | 验题自动 + 失败回滚 |
不做:多厂商中台 · 无限堆日志 · 每天新拷全量模型
| 周期 | 标准 |
|---|---|
| 一周 | 日训跑通;两边样本涨;L0 披露在用 |
| 一月 | 基金像你的语法;偏好像长期搭档;资源不失控 |
| 长期 | 拔云仍有双能力;换外援靠同一披露包对齐 |
| 人脑 | 久忆 |
|---|---|
| 白天经历 | Hermes / Grok 真对话 |
| 海马体 | 热集 jsonl |
| 皮层 | core + LoRA |
| 睡觉巩固 | 03:00 夜训 + 高分 replay |
| 遗忘 | importance × age → archive |
| 头骨 | 条数 / 内存 / 磁盘预算 |
| 开口前整理思绪 | 渐进披露包 → 再调大模型 |
久忆 =
量化手艺
+ 懂你
+ 会忘(预算内活着)
+ 会睡(真对话夜训)
+ 会先自报家门再借外脑(渐进披露)
住在 M4 Pro 24G 的头骨里。
下一步最小动作:固化三份披露 md → 继续聊天采数 → 看 03:00 日志是否 Hermes+Grok 合计训练成功。