情节中的似曾相识：利用检索增强型LLM进行直播风险评估的跨会话证据分析

随着直播的兴起，在线互动方式发生了巨大变化，带来了大规模实时参与，但也使平台面临诸如诈骗和协调恶意行为等复杂风险。由于有害行为通常逐渐累积并在看似无关的直播中重复出现，因此检测这些风险具有挑战性。为了解决这一问题，我们提出了CS-VAR（跨会话证据感知检索增强检测器），用于直播风险评估。在CS-VAR中，一个轻量级、领域特定模型执行快速会话级别的风险推理，并在训练过程中由一个大型语言模型（LLM）指导，该模型通过检索到的跨会话行为证据进行推理，并将局部到全局的见解传递给小模型。这种设计使小模型能够识别跨直播的重复模式，进行结构化风险评估，并保持实时部署的效率。在大规模工业数据集上的大量离线实验，结合在线验证，证明了CS-VAR的先进性能。此外，CS-VAR提供了可解释的、本地化的信号，有效支持了直播的实际内容审核。