SenseAI：一个用于 RLHF 对齐金融情感推理的人机协同数据集

本文介绍了 SenseAI，这是一个经人机协同验证的金融情感数据集，旨在捕捉模型输出及其背后的完整推理过程。与现有资源不同，SenseAI 整合了推理链、置信度评分、人类修正信号及真实市场结果，其结构符合基于人类反馈的强化学习范式。该数据集包含 40 只美股和 13 类金融数据的 1439 个标注样本，可直接集成至现代大语言模型微调流程。分析揭示了模型行为的系统性规律，包括一种称为“潜在推理漂移”的新型失败模式，即模型引入非输入依据的信息，以及一致的置信度校准偏差和前向投影倾向。