基于大语言模型的政策合规推理的知识图谱表示

随着 AI 功能快速集成至软件应用，其潜在风险日益增加，促使相关安全法规与标准的提出。本文提出一种智能体框架，从 AI 政策文档构建知识图谱（KG），并检索相关政策信息以回答问题。研究基于两种本体模式从三项 AI 风险相关政策中构建 KG，并在涵盖从实体查找到跨政策推断等六种推理类型的 42 个政策问答任务上评估了五个大语言模型。结果显示，知识图谱增强显著提升了所有模型的表现，且由 LLM 自主发现的开放模式效果媲美甚至优于形式化本体。