任春晓(Elin).

任务与数据

预测新加坡 HDB 公屋转售价格。主数据集是 Kaggle 上的一份 HDB 转售交易数据，辅助地理空间数据则从新加坡政府开放数据 API 实时拉取。

• 训练集：162,691 条交易；测试集：50,000 条交易
• 时间区间：2017 — 2025
• 目标：RESALE_PRICE（SGD）—— 右偏，中位数约 S$488k，均值约 S$518k，尾部一直拉到 S$1.6M 以上
• 指标：log 价格空间下的 RMSE

价格分布尾部很重，时间趋势也很强：2017 年中位价 ≈ S$380k vs. 2025 年 ≈ S$620k（+60%）。这两个观察直接驱动了下面的设计选择 —— 时间衰减样本加权，以及面向高价段的二阶段精修。

辅助地理数据

5 类 POI 来自新加坡政府开放 API（data.gov.sg、LTA DataMall、OneMap、MOE、NEA），共约 774 个点：

HDB block 文件不算 POI —— 它是楼栋索引：每个 block 的经纬度、规划区域、MAX_FLOOR，用来给每条交易回填地理坐标（在做了一次合并验证分析之后只按 BLOCK 关联：BLOCK + TOWN 因为重复匹配率 115%、ADDRESS 因格式不统一匹配率 0%；按每个 block 保留 MAX_FLOOR 最大那一行去重就解决了）。

特征工程

时间特征

从 MONTH 字段（YYYY-MM）解析：

• year、month_num
• month_sin / month_cos —— 周期编码，让 12 月与 1 月成为邻居而不是相反
• flat_age = year - lease_commence_data
• lease_left = 99 - flat_age（HDB 租约 99 年）
• is_new 标记 ≤ 5 年的新房

楼层特征

FLOOR_RANGE 是一个区间字符串，例如 "07 TO 09"。拆解为：

• floor_num —— 下界
• avg_floor —— 中点
• floor_range —— 粗化分桶（Low / Mid-Low / Mid / Mid-High / High / Very High / Top）

地理空间特征 —— BallTree + Haversine

特征工程的核心。对每条交易，给每类 POI 的经纬度构建 BallTree，在 Haversine 度量下（球面大圆距离）跑最近邻查询。

为什么用 BallTree。 暴力对 16.2 万条交易 × 774 个 POI 跑最近邻是 O(N·M)；BallTree 给出 O(N · log M) —— 在这个配置下大约 快 10×。

双半径设计。 单一最近距离区分不出 “800m 之外有一个地铁” 和 “附近有三条线、几个站聚在一起”。所以每类 POI 都用一个内圈半径表示「贴身覆盖」、一个外圈半径表示「广覆盖」：

由此每个样本得到 约 20 个地理特征：5 个最近距离 + 10 个双半径计数 + 2 个 KNN-3 平均 + 3 个最近 POI 类别 ID。

分级标记

第二轮再扫一遍，标记 最近 那个 POI 是否「精英级」—— 类别密度本身抓不到名校 / 核心线 / 旗舰商场这种声誉信号：

• nearest_primary_top —— 最近的小学是否在 Top Primary 名单上？
• nearest_mrt_core_line —— 最近的地铁是否在核心线（DTL / TEL / NSL / EWL / CCL / NEL）？
• nearest_mall_flagship —— VivoCity / Ion Orchard / 等？

类别编码

CatBoost 通过 Ordered Target Statistics 原生支持类别特征，所以大多数字段直接保留原值：town、flat_model、flat_type、floor_range。额外加了一个工程特征：model_rank，按市场中位价对 flat_model 做排序的序号 —— 给 GBDT 模型一份便宜的、价格感知的编码。

ECO_CATEGORY（100% 是 "uncategorized"）直接丢弃。BLOCK 和 STREET 在合并出地理坐标后也丢弃。

样本加权 —— 时间 × 价格

两个因子相乘组成一个样本权重：

time_weight  = exp(decay_rate × (year − min_year))     # 越近的交易权重越高
price_weight = 1 + α × 1[price > price_90th]           # 高价加权
sample_weight = time_weight × price_weight

时间衰减反映了 EDA 里的发现：2023–2025 的价格行为与 2017–2018 不同。价格加权让模型把额外的容量花在重尾的顶部 10% —— 否则它们会被海量的中端 4 房单位平均掉。

单调性约束

CatBoost 的单调约束施加在：

• floor_area_sqm —— 严格递增
• lease_left —— 严格递增

防止模型学出像「+10 sqm → 更便宜」这类反直觉预测 —— 这种现象会在面积与其他特征局部相关（比如老楼栋恰好更大）时出现，把边际效应反过来。

Stacking 架构

Level-0 基学习器（5 折 OOF 预测）
  ├── CatBoost      n_estimators=10000, lr=0.033, depth=8, od_wait=350
  ├── LightGBM      n_estimators=5000,  lr=0.035, num_leaves=64
  └── XGBoost       n_estimators=5000,  lr=0.035, max_depth=8

Level-1 元学习器
  └── 线性回归（无截距），作用于基学习器的 OOF 预测

OOF 预测避免元学习器看到同一行自己训练时的预测值（否则会泄露标签）。无截距是有意为之：每个基学习器本身已经能给出校准好的价格估计，元学习器只需要学最优的 近似凸权重，而不是再去平移均值。

高价段二阶段精修

顶部 10%（RESALE_PRICE > 90 分位，约 S$750k+）的误差总是更难控制。所以在这一段上 fine-tune 第二个 CatBoost，再做混合：

y_main = 主 stacking 预测（全数据）
y_seg  = 仅高价段 fine-tune
y_final = w · y_seg + (1 − w) · y_main      # w 在验证集上做 grid search

混合权重 w 用 grid search 选定，而不是端到端学 —— 避免高价段在主 stacker 的梯度里占主导。

多种子平均

最终提交对三个 CatBoost 种子（42、100、2025）做平均，由训练脚本里的 flag 控制。这降低了单次随机初始化的方差，几乎不增加额外算力，因为每个种子的 OOF 折是独立的。

结果

相对 v2 大约 18% 的提升。

特征重要性（CatBoost，基础特征集）

面积 + 区域 + 年份 + 租约一起占了约 83% 的重要性。地理特征是 叠加在 town 之上的额外信息，区分「武吉知马的房子贴近地铁」和「武吉知马规划区边缘的房子」。

关键设计决策

• 主学习器选 CatBoost，而不是 XGBoost —— 通过 Ordered Target Statistics 原生支持类别特征，避免对 town（26 类）、flat_model（21 类）、flat_type（去重后 12 类）做手工 one-hot / target encoding 时的噪声。
• v3 用价格空间，不是 log 空间 —— log 空间把高价误差压扁，但比赛指标看的是绝对值。用中位价归一化（price / median_price）保持数值稳定，同时让模型直接优化真实误差。
• 双半径密度，不是单一最近距离 —— 同时捕捉邻近性和周边设施集合的丰富度。
• 只按 BLOCK 关联 + 按 MAX_FLOOR 去重 —— 在测试了 BLOCK + TOWN（115% 重复匹配）和 ADDRESS（0% 匹配）之后选定的；按 MAX_FLOOR 去重等价于偏向锚定在最高测量楼层的那条坐标（GPS 质量更好）。

接下来想做什么

• 基于时间的留出验证 —— 当前 5 折是随机切分；按时间切（如 train ≤ 2024、validate 2025）才能测出模型的前向外推能力，这才是生产 AVM 真正需要的。
• 分位数回归 —— 给出 P10 / P50 / P90 而不是点估计，把 HDB 价格本身的不确定性显式呈现出来。
• 轻量神经的 POI 检索 —— 用 attention over POI 替换半径计数，按户型条件化，让模型学每户型自己的「邻近」概念。

1. 人口统计基线

非个性化的流行度先验，采用 IMDB 风格的加权评分：

score = (v / (v + m)) · r + (m / (v + m)) · c

其中 r 是电影的平均评分，v 是评分人数，m 是评分人数的 90 分位阈值，c 是全局平均分。用作冷启动兜底，也作为下面所有个性化模型的对照基准。

2. 基于内容的召回 —— 两个变体

两个变体都产出 item–item 最近邻列表，但取自电影的不同视角：

• 文本变体 —— 在剧情简介上做 TF-IDF + 余弦相似度。当用户已评分的电影在叙事上相似时表现强。
• 特征变体 —— 用 CountVectorizer 处理由 keywords + genres + top-3 主演 + 导演拼接而成的 “metadata soup”。能捕捉简介文本捕不到的类别口味信号（比如 “Christopher Nolan 的电影”）。

3. KNN 协同过滤 —— 两个变体

作用于 MovieLens ml-1m 的 user × item 评分矩阵（约 100 万条评分，6,040 个用户，约 3,900 部电影）。

• Item-based KNN —— 用相似度加权该用户已评分电影的评分，给未观看电影打分。
• User-based KNN —— 找出 top-k 相似用户，把他们的高分但目标用户没看过的电影推过来。

User-CF 在 85/15 划分下取得 hit rate 14.54%（878 / 6040） —— 整个研究里最强的单路召回。

4. SVD 矩阵分解

在共享的隐因子模型上做个性化评分预测，对比三种优化器：

两种贝叶斯采样器（SGLD、SGHMC）在隐因子的后验上探索，而不是塌陷到单点 MAP。SGHMC 基于动量的 proposal 比 SGLD 的纯噪声动力学混合更快，在 ml-1m 上拿到了最优的 5 折 CV RMSE。

5. 混合多阶段流水线

三种混合都遵循 召回 + 重排 模式：便宜的召回阶段先收窄目录，更贵的重排阶段再排序。

1. User-KNN → 文本相似度 —— KNN 召回的候选按对用户历史的内容相似度重打分。
2. User-KNN → Movie-KNN —— 把用户相似度召回切换为物品相似度重排。
3. User-KNN → SVD —— 先从相似用户里收窄候选，再按预测评分重排。Hit rate 9.97%（602 / 6040）。

混合的原始命中率 低于 User-CF 单路，但排序是评分感知的 —— 更接近用户从候选集里实际会选哪些来看，即便落到测试集里的条目少一些。

数据集

• TMDB 5000 —— 简介 + 元数据（keywords、genres、cast、director），用于内容召回。
• MovieLens ml-1m —— 6,040 个用户对约 3,900 部电影的约 100 万条评分，用于 KNN-CF 与 SVD。

接下来想做什么

• 隐式反馈信号 —— 当前流水线只吃显式评分；点击 / 浏览 / 观看时长会把候选空间显著扩大。
• 双塔神经召回 —— 用学习好的 dual-encoder 替换 TF-IDF + KNN 召回，把 SVD 评分作为重排阶段的标签。
• 多样性感知的重排 —— 在重排阶段惩罚重复候选（同 IP、同导演），把推荐集合拓宽。

TeamClaw 是什么

一个 本地优先的多智能体工作台，把团队式的 AI 协同搬到一台机器上 —— 不强迫使用者上云 SaaS。从外部看，它像一个 OpenAI 兼容的 chat 端点；从内部看，它是一套可视化编排引擎 + 一层 living 记忆 + 一个自动组队生成器，加上对接 bot 和公网的若干网关。

项目要平衡的设计张力：玩家想要一键启动的体验，但真正的多 Agent 工作需要持久化、调度、以及对每个 Agent 干了什么的可见性。TeamClaw 用一个分层架构同时回答这两个需求 —— 你可以按模块逐步启用。

OpenAI 兼容的本地端点

一切从 /v1/chat/completions 进入，按 OpenAI 的请求 / 响应 schema 说话。这一项设计决策解锁了：

• 现成客户端兼容 —— 任何按 OpenAI REST API 写的 SDK、IDE 插件或第三方工具，原样就能对接本地实例。
• 模型无关后端 —— 端点会扇出到当前配置的模型（Antigravity-Manager 桥接了 67+ 模型，包括像 MiniMax M2.7 这样支持 1M 上下文的长上下文后端）。
• 稳定的编排合约 —— OASIS 引擎和自动组队都通过同一个表面调模型，所以换模型供应商时不会波及编排代码。

OASIS 编排引擎

OASIS 是核心调度器。它把 Agent 协同视作一张图，支持四种工作流形态：

状态以 living graph 形式持久化：posts、callbacks、timeline 事件本地写到 SQLite，可选地镜像到 Zep 用于跨会话记忆。这意味着你可以在多步任务的中途暂停一个 team，明天重新打开工作台继续，而不是从头跑一遍 prompt 链。

前端的 “swarm graph” 视图把同一份引擎状态可视化，让你看到哪个 Agent 在跑、哪些边触发了、哪些工具调用产生了哪些 post。

三类 Agent，统一在一个 Team 抽象下

TeamClaw 把三种执行模式统一在一个 Team 配置里：

1. Stateless 专家 —— 内部的轻量 Agent，吃 prompt + context，吐 result。无记忆、无 session，便宜地并行扇出。
2. Stateful 会话型 —— 跨轮持有上下文的 Agent，由 GraphRAG 记忆层支撑；适合「PM」、「常驻分析师」这类需要记住过往决策的长任务角色。
3. External-API Agent —— OpenClaw runtime 和任意 HTTP-API Agent 的封装。让 team 可以包含 TeamClaw 进程外的能力，同时编排接口保持统一。

这种统一之所以重要，是因为自动组队（下一节）生成的 DAG 不在乎每个节点是哪一类 —— OASIS 引擎在运行时按 Team 配置解析。

Team Creator —— 从一段任务描述自动组队

这是把引擎与非开发者工作流绑在一起的关键能力。给定：

• 一段自由文本的任务描述，或
• 一组 SOP / 组织页面（由 TinyFish Web Agent 抓取发现），

Team Creator 跑一个 LLM 驱动的抽取步骤，产出：

1. Roles —— 完成这个任务需要哪些类型的 Agent。
2. Personas —— 每个角色的 prompt 与行为规约（导入前可编辑）。
3. 一个 OASIS DAG —— 把这些角色串起来，可直接执行。

输出的是一份 草稿 Team —— 在前端检视并编辑过、再上线运行。这个复核环节是有意保留的：自动生成的 Agent 图作为脚手架很好用，但盲跑往往会得到「自信地错」的结果。

OASIS Town —— 像素风群体可视化

更大的 Team 配置时，同一份 OASIS 状态可以渲染成像素风的「小镇」，每个 Agent 是一位居民。实时活动（节点触发、工具调用、记忆写入）显示为居民动画或 “nudges”。Compact 模式收回到 swarm-graph；Town 多了环境音和「整体在不在前进」的直观感。

它更像 UX 实验，不是核心能力 —— 但它意外地浮现出一个被低估的指标：哪些 Agent 在闲着。手工调试时，DAG 里的死节点常常是自动组队抽错角色的最早信号。

记忆层 —— living GraphRAG

记忆是图形的，不是向量库形的。Posts、callbacks、决策累积成节点；它们之间的关系（caused-by、supersedes、refers-to）累积成边。两个后端：

• SQLite —— 本地、零配置默认。
• Zep —— 可选镜像，提供跨机器连续性和更丰富的检索原语。

为什么用图而不是向量：TeamClaw 主要的记忆访问模式是 “谁在什么时间对谁说了什么”，本质上是关系型。向量检索叠在上层处理自由文本回忆，但结构化遍历（比如 “这个线程里所有被 Critic 标记过的 post”）才是主导查询，图能用一跳回答。

工具与集成

MCP 工具链负责 Agent ↔ 工具的对接，带有 approval-aware 的策略钩子（一次工具调用可以被暂停以等待人类批准）。当前前端有一个策略面板用于检视和授权调用。

叠加的集成：

• OpenClaw 外部 runtime —— 用于 TeamClaw 进程外的能力。
• Telegram / QQ Bot 桥 —— chat-as-frontend，对接同一批 Team。
• TinyFish Web Agent —— 自动组队用它做 SOP 发现，同时也支撑「竞争对手监控」用例（爬虫 + 价格快照喂给一个常驻 Stateful Agent）。
• Cloudflare Tunnel —— 一键公网访问，无需暴露本机 IP。
• Antigravity-Manager —— 在一份配置里扇出 67+ 模型供应商。

怎么跑起来

selfskill/scripts/run.sh|ps1 驱动器负责 setup → configure --batch → start，把本地服务拉起来，前端暴露在 http://127.0.0.1:<PORT_FRONTEND>。默认验证路径是 pytest + GitHub Actions，前端走 Playwright 冒烟测试。

这里有一个有意思的设计选择：项目还为 AI 编程 Agent 准备了 SKILL.md，所以一个编程 Agent（比如 Claude Code）能自动化地完成工作台安装，不需要人手动跑脚本。这是一个细节，但很能说明 2026 年这个项目想象的「使用者」长什么样。

接下来想做什么

• OASIS DAG diff —— 展示两份自动组队草稿之间的差异，让用户调整任务描述并看到结构上的变化。
• 记忆层 eviction —— 图记忆会无限增长；eviction 策略（边 LRU、子图汇总折叠）在「使用满一年」的尺度上会变得重要。
• 失败运行的 replay 模式 —— 给定一次跑完的 OASIS run，让用户用编辑过的 persona 重新执行某个子图来调试局部错误，而不需要重跑整张 DAG。