原文标题：Grounded in Knowledge, Guided by Reason: Automated Fake Cyber Threat Intelligence Detection via Knowledge-Augmented LLM Rationales
原文作者：Lingjia Guo, Ziyi Yan, Zhengwei Jiang, Chunyan Ma, Fangming Dong, Zhao Tong, Xixun Lin代码和数据集链接：https://github.com/Eternaljj/TRAIL发表会议：International Symposium on Research in Attacks, Intrusions and Defenses (RAID 2026)笔记作者：郭凌嘉@中国科学院信息工程研究所主编：黄诚@安全学术圈
1. 人工智能生成时代下的威胁情报真实性挑战
网络威胁情报（Cyber Threat Intelligence, CTI）是网络主动防御的重要基础。然而，随着大语言模型和智能体技术的发展，攻击者可以快速生成具有专业表达和高仿真性的虚假威胁情报。这些信息可能通过威胁情报平台进行分发应用，误导安全分析人员，并影响自动化安全系统的决策。常规的检测方法主要依赖文本语义和语言模式分析，难以识别语义正确但事实错误的高级伪造情报。
通过建设和运营国家网络空间威胁情报共享开放平台CNTIC，中国科学院信息工程研究所的威胁情报智能分析团队针对近年来这一日益突显的挑战，提出了名为TRAIL的虚假情报检测框架，首次将知识增强的大模型推理机制引入虚假CTI检测，通过事实验证而非文本判断提升检测可靠性。
2. 现有虚假CTI检测方法的三大核心问题
当前虚假网络威胁情报（Fake CTI）检测方法大多依赖文本语义分析或黑盒分类模型，难以应对攻击者生成的高度拟真的虚假情报。现有方法主要面临三方面局限：
语义正确但事实错误：现有检测方法主要关注CTI文本的语言模式、词汇分布和语义特征。然而，现代虚假CTI往往具有专业术语、完整攻击流程和符合安全报告习惯的表达方式，仅从文本层面难以区分真假。攻击者可以通过保持语言真实性隐藏关键事实错误，使传统语义检测方法难以发现。
缺乏知识支撑的推理能力：现有基于大语言模型的检测方法虽然能够生成解释，但通常依赖模型自身参数知识或浅层语义推理，容易产生泛化解释，无法明确指出CTI声明与已有威胁知识之间的支持关系和冲突关系。缺少外部威胁知识约束，使检测结果难以验证和审计。
黑盒判断难以满足安全分析需求：现有方法通常输出简单的真假分类结果，将虚假CTI检测视为二分类任务。然而，在真实安全分析场景中，分析人员不仅需要知道“是否虚假”，还需要了解“为什么虚假”以及“错误发生在哪里”。缺乏可审计推理过程限制了自动化CTI检测系统在实际环境中的应用。
(a) 仅依赖声明的小型模型容易被语言上真实但事实不一致的CTI所误导。(b) 在没有外部知识的情况下引入LLM生成的理由，对最终预测的提升有限。(c) 由知识引导的知识增强型理由可实现可审计推理，并提升最终预测效果。
对应 TRAIL 的解决思路：
语义正确但事实错误 → 引入CTI知识图谱进行事实一致性验证
缺乏知识支撑推理 → 利用知识增强LLM生成支持/反驳双向推理
黑盒判断难审计 → 输出可追踪证据链，实现可解释虚假CTI检测
3. 提出的方法：让大模型基于威胁知识进行事实验证
TRAIL提出知识增强大模型推理框架，将CTI知识图谱、LLM推理和判别模型结合，实现从黑盒分类到可解释验证的转变。方法主要包括三个阶段：
威胁要素提取与知识路径检索：从CTI声明中提取攻击者、工具、技术等关键元素，并从知识图谱中检索相关证据路径。
双向知识增强推理：利用检索知识约束大模型生成支持性解释和反驳性解释，分别描述声明被支持和存在冲突的证据。
多证据融合检测：结合原始声明与推理结果，通过判别模型输出最终真实性判断。
TRAIL框架图
4. 构建面向事实一致性的虚假CTI数据集
针对现有数据集容易被文本风格特征影响的问题，本文构建FCTI-HAL数据集。该数据集基于真实人工标注CTI，通过模拟真实攻击中的情报篡改方式生成虚假样本，包括：攻击组织替换、工具和恶意软件实体替换, 攻击步骤顺序错误、技术细节扰动等。生成样本保持语言真实性，同时引入关键事实错误，更符合实际威胁情报污染场景。并且通过实验验证了数据集的质量，为后续相关研究提供了数据支持。
5. 实验结果：虚假CTI检测性能提升
实验结果表明，TRAIL在FCTI-HAL数据集上Accuracy达到87.62%，Macro-F1达到87.58%。相比现有最佳方法Accuracy提升11.46%，F1-score提升12.01%。
不同方法下的主实验结果对比
消融实验证明了论文方法论各模块的有效性。
TRAIL消融实验
使用GPT-5.2在四个维度上评估不同LLM backbone下Rationale的质量。
Rationale质量评估实验
实验还验证了TRAIL在知识缺失和信息污染情况下仍保持较好的鲁棒性以及运行时间成本和大模型Token花费。
6. 案例分析：输出可审计的威胁情报验证过程
TRAIL不仅输出真假判断，还提供对应的证据链。对于一条CTI声明，系统能够定位知识图谱中的相关事实，随后生成解释说明哪些内容被知识支持，哪些内容存在冲突，使安全分析人员能够快速理解检测依据。
案例分析
为说明 TRAIL 在真实分析场景中的作用，论文选取了一个典型案例：
CTI 声明
FIN6 used a Windows batch file with Adfind to perform internal reconnaissance and query Active Directory.
从声明中提取关键事实
TRAIL 首先将原始声明拆解为三个核心事实三元组：
T1：
T2：
T3：
这一步将一段自然语言描述转换为可以逐项验证的攻击事实。
从知识图谱中检索证据路径
围绕上述实体与关系，TRAIL 在 CTI 知识图谱中检索到多条相关路径：
FIN6 → uses → Windows batch file
Windows batch file → leverages → Adfind
Adfind → used for → internal reconnaissance
这些路径分别对应声明中的攻击组织、工具使用关系和侦察目的。
生成可追踪的支持性解释
基于检索结果，TRAIL 生成如下支持性解释： The paths explicitly state that FIN6 uses a Windows batch file (T1), and that the Windows batch file leverages Adfind (T2). Additionally, one path indicates that Adfind is used for internal reconnaissance (T3). These facts directly align with the claim"s core triples.
表面上看，这条声明具有完整的攻击主体、工具和行为描述，语言表达也符合常见的威胁情报写作方式。仅依赖文本语义，很难判断其真实性。
该案例体现了 TRAIL 的核心优势：
定位关键事实：将复杂 CTI 文本分解为可验证的实体关系。
提供明确证据：每个判断都能追溯到具体知识路径。
解释判断依据：系统能够说明哪些事实被支持，以及支持来自哪里。
辅助人工复核：分析人员无需重新检索全部背景资料，即可快速核验结论。
7. 这项工作为什么重要？
论文首次将知识增强型大语言模型推理引入虚假CTI检测。
提供了知识增强型推理输出，能够明确揭示潜在冲突及缺失的支撑证据。这不仅使安全分析师能够有效识别虚假CTI，还能将检测从黑箱分类提升为白盒验证，从而支持可信的决策。
构建了一个名为FCTI-HAL的基准数据集，用于虚假CTI检测，其中包含大量CTI声明信息，以便进行对比评估和系统研究。
在两个数据集上进行了大量实验，结果表明TRAIL在准确率上比现有基线高出11.46%，在F1分数上高出12.01%，并且通过案例研究讨论了TRAIL的鲁棒性及其实际应用价值。
8. 总结
论文首次探索了知识增强LLM推理在虚假网络威胁情报检测中的应用，通过知识约束、双向解释生成和证据融合，实现高准确率、可解释、可验证的自动化CTI真实性分析，该研究为构建可信威胁情报生态提供了新的技术路径。
作者团队
论文来自
中国科学院信息工程研究所威胁情报智能分析团队。团队主要从事网络威胁狩猎、APT攻防对抗、大模型与智能体安全等方面的研究，在S&P、USENIX、FSE、RAID等国内外顶级会议与权威期刊上发表论文70余篇，发明专利授权20余项，国标行标起草10余项；历年在知名网络攻防演练、安全大数据分析实战大赛、AI检测模型测试中取得冠军或一等奖的佳绩。联系邮箱jiangzhengwei#iie.ac.cn
安全学术圈招募队友-ing
有兴趣加入学术圈的请联系 secdr#qq.com
声明：本文来自安全学术圈，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
