刘明录, 郑彦, 韩雪, 袁向阳, 邓超

中国移动通信有限公司研究院，北京 100053

【摘 要】基于人工智能内容生成（AIGC）技术生成文本具有道德、法律的合规性风险，需要对生成文本内容的流通进行规范和监管，因此对 AIGC 生成文本版权保护的迫切需求随之出现。水印技术是目前使用最广泛的数字版权保护方式。提出了一种应用于生成式因果语言模型的生成文本的水印添加技术，采用事中水印嵌入的方式在文本生成过程中隐式地嵌入文本水印特征编码，相较于传统事后水印添加技术对生成文本质量影响小，具有低感知、透明、鲁棒等优点。实验结果表明，提出的水印嵌入策略具有较好的鲁棒性，经过用户一定程度的编辑后仍旧能有效检出文本嵌入水印。与原有生成策略进行对比，所提方法与现有模型耦合度低，无须调整原有模型结构、训练策略、部署方式，不增加原有生成过程计算成本。

【关键词】 人工智能内容生成 ; 因果语言模型 ; 数字水印 ; 数字版权

【引用格式】

刘明录, 郑彦, 韩雪, 等. 基于生成式因果语言模型的水印嵌入与检测[J]. 电信科学, 2023, 39(9): 32-42.

LIU M L, ZHENG Y,HAN X, et al. Watermark embedding and detection based on generative causal language model[J]. Telecommunications Science, 2023, 39(9): 32-42.

0 引言

随着人工智能内容生成（artificial intelligence generated content，AIGC）技术的逐渐成熟，越来越多的 AIGC 模型开始落地商用，其中文本生成式 AI 模型可以基于用户给定的需求描述使用大规模语言模型内嵌的知识和文法表示能力，快速生成自然流畅、符合指令要求的高质量文章，帮助用户高效完成大量文字处理任务。作为一个强大的生产力工具，AIGC在带来了巨大的商业价值的同时也引入了潜在的使用风险和安全合规问题。因此，如何对AIGC生成内容进行版权保护、来源认证、内容追溯是一个亟待解决的问题。

数字产品的版权保护通常使用电子水印技术实现，基于文本内容使用非加密的策略，将与版权相关的水印特征编码嵌入数字产品中，能够在不影响数字产品本身使用的情况下实现对数字产品的版权保护。目前的文本水印嵌入技术方案主要应用对象是人工书写的文本，由于文字书写人员往往并非信息安全专家，难以在书写文字的同时考虑水印添加策略。因此，现有的技术方案是一种事后水印添加技术，需要在给定文本上进行二次处理实现水印的添加，这种方式大大限制了水印的添加手段。而通过 AIGC 完成的文章，文章本身生成自动化、效率高、过程可控，因此可以在文章生成的过程中采用事中水印添加的方式，实现低感知、透明、鲁棒的水印添加。

文本生成的因果语言模型是一种基于深度神经网络的自然语言处理模型，通过对历史文本的建模预测下一个文本标记的概率分布，并根据特定算法对文本标记进行连续决策，直到完成整个文本生成。本文提出了一种可以应用于生成式因果语言模型的文本水印添加技术，不影响用户对文本本身的阅读体验，通过修改文本生成策略上的隐式嵌入文本电子水印。在本文提出的水印嵌入方案中，用户输入文本生成的需求指令以及指令描述（instruction and input），首先生成一个先导文本上下文（prior text context），然后以句子为单位迭代完成整个文本的生成，在生成文本过程中基于本文提出的句子采样策略控制算法生成嵌入水印的子句，逐句生成直到完成整个文本生成过程，将水印序列编码隐式嵌入生成句子序列中，实现用户低感知的文本水印嵌入。通过本案提出的水印提取算法，用户在进行有限的编辑、删除、插入等操作过程中，仍旧能够有效地提取文本水印，从而实现对人工智能生成文本的版权保护。

1 相关工作

1.1 文本水印的研究现状

传统的文本水印添加技术可以主要分为以下几种策略。

文献将文本视为一个通过文本行进行排版的图片，从而能够将图像领域成熟的水印技术直接应用于文本领域中。具体地，可以通过嵌入背景图片，改变文字的字体、颜色、字号、间距，修改文字本身的像素特征等手段对原始文本进行数字水印的嵌入。基于图像特征的电子水印极易被用户感知发现，并且在一定程度上对用户的阅读体验造成影响。用户可以通过对原始文本图片的二次截图、格式转换、图像压缩等手段来模糊原有的水印特征，甚至可以通过OCR技术对原始文本的字符串进行识别，并直接对原文本内容进行复制，从而彻底消除原文水印。

文献基于文本本身的字符串特征和水印位置计算策略，在文本的特定位置对原始文本进行直接修改。具体地，可以利用文本本身的语义特征进行等价代换，如同义词替换、句式替换、标点替换，也可以基于具有掩码字符预测功能的模型（如 Bert），寻找与当前位置词语嵌入表示相近的语义向量词作为替换词，甚至可以通过相近字形引入一些错别字或语法错误实现文本水印添加。采用的文字替换的方案会更改原始文本内容，甚至导致文本语义的变化，与水印的透明性相违背。语言本身具有多义性和模糊性，一对同义词在不同的语境下不一定能够成为可替换的同义词，受限于自然语言处理技术能力，现有的替换方案往往会导致原始文本阅读流畅度下降，甚至导致文本出现语义偏移和语法错误。

文献利用文本字符串、段落序号、页码等文字版式特征，使用零宽度的Unicode字符集对上述特征进行编码形成标记字符串，并隐写在文本相对不易感知的隐蔽位置（如标题、页码、目录等），从而在不改变文本内容、不影响用户阅读体验的同时实现数字水印的嵌入。零宽度字符水印添加策略能够保持嵌入水印前后原始文本内容上的一致性。零宽度字符虽然能够在常规阅读软件上隐藏，但是使用专业的软件工具能够将零宽度字符进行可视化展示，并且零宽度字符种类有限且可枚举，用户可以使用简单的程序对隐写字符进行显示和批量删除，从而造成水印的失效。

1.2 生成式因果语言模型

AIGC 技术是指基于人工智能的内容生成技术，使用千亿级的模型参数在海量数据上进行训练，从而使模型能够拟合真实场景的数据分布，在本文中AIGC特指利用AI技术进行文本生成。因果语言模型（causal language model，CLM）是一种特殊的AIGC模型，它通过对前文的输入进行建模，并预测下一个文字的概率分布，通过若干次循环执行上述动作从左至右完成整个文本的生成，典型的因果模型有 ChatGPT、ChatGLM等。一个典型的CLM可以使用式（1）进行概括：

CLM(x)表示基于该模型的一段文本 x 的出现概率，其中，P为基于模型输出结果归一化的概率函数，Θ为模型参数，V为模型解码空间字典。通常在超大参数Θ的情况下，对整个V空间进行解码具有较大的计算复杂度，因此一般使用集束搜索技术——beam search进行优化解码优化：beam search通过维护n个输出候选输出结果，每一轮下一词预测时对每一个候选结果分别进行预测，并在全部组合中保留最优的 n 个组合作为本轮预测的输出结果。

在海量训练数据上进行训练的 CLM 通常具有一定程度的语言理解和文本续写能力，但在一些特定任务以及用户的复杂生成需求下往往表现不理想。文本生成式模型如 ChatGPT、ChatGLM等模型采用了指令微调（instruction supervised finetuning，SFT）算法对原始语言模型进行精调，使语言模型能够理解用户的文本生成指令（prompt），从而生成符合用户预期的文本输出。经过SFT后的CLM模型的生成过程可以使用式（2）进行概括：

其中，p0, p1,…, pm是用户输入文本生成指令prompt，在本文中用于进行嵌入水印的生成文本，均为经过SFT后的CLM进行文本生成。

2 水印嵌入算法

在本文中用户输入文本生成的需求指令以及指令描述（instruction and input）作为文本生成的prompt 提示，水印嵌入过程分为两个阶段：首先在导引上下文生成阶段生成一个先导文本上下文（prior text context）；然后在水印嵌入生成阶段以句子为单位迭代完成整个文本的生成，在生成文本过程中基于本文提出的句子采样策略控制算法生成嵌入水印的子句，逐句生成直到完成整个文本生成过程，将水印特征编码隐式嵌入生成句子序列中。由于在生成过程中，本文不直接修改最终的生成内容，而是仅对模型输出的候选子句采样的方式嵌入一位水印，因此用户几乎无法感知到生成文本中水印的存在。水印嵌入实施流程如图1所示。

图1 水印嵌入实施流程

2.1 算法符号定义

水印特征编码 watermark_code是一个长度为hash_len 的有限长度列表，在算法的生成和检出过程中水印特征编码需保持不变，一个水印特征编码满足如下特征：

其中， ，引导上下文长度prior_len引导上下文子句数目。

可读性阈值 用于调整水印嵌入策略，控制生成文本可读性：

2.2 引导上下文生成

引导上下文为一段由 prior_len 个子句构成的生成文本，由式（2）可知，在水印嵌入阶段CLM基于用户prompt进行文本生成，通过深度神经网络对用户prompt进行复杂的编码和推理，并生成与 prompt 高度相关的文本输出。但是在水印检测阶段很难直接获得待检测文本的prompt，因此在生成过程中本文基于用户的prompt生成一段无水印的先导文本，从而能够将prompt信息直接编码在生成文本中；并在水印检出阶段作为CLM的后文生成prompt，从而能够在没有用户原始 prompt 的情况下对待检测文本进行建模。引导上下文的生成采用传统因果语言模型的生成方式直接生成，引导上下文的生成方式见算法1。

算法1 引导上下文的生成方式

输入：文本生成指令prompt

（1）初始化句子计数s id =0，引导上下文句子列表priori_context_sents=[]

（2）基于 beam search 生成子句：sent =

top1(beam_search(prompt+prior_context_sents))

（3）sid+=1

（4）将生成句子s加入priori_context_sents列表末尾

（5）如果sid ＜prior_len重复执行第（2）、（3）、（4）行

输出：引导上下文priori_context_sents

2.3 水印嵌入文本生成

水印嵌入生成阶段是在文本中嵌入水印的核心阶段。传统事后水印技术需要直接对最终文本进行修改，这会导致原文语义的漂移，违背了水印透明性的原则。本文基于 AIGC 自动化、高效的文本生成模式，在生成过程中直接生成带嵌入水印的文本。

AIGC 通常基于历史文本对下一个文本标记（token）进行预测，在本文中AIGC模型的历史文本为前文所述的引导上下文，在文本生成过程中以子句为生成单位，同时生成多个子句候选，并根据当前位置的水印特征编码值对子句进行采样决策。

假设当前待生成水印嵌入子句句子序号为 ，当前水印特征编码 ，则当前子句待嵌入的一位水印特征编码为：

在水印嵌入候选子句生成中，基于引导上下文作为生成提示，首先采用beam search策略进行子句解码搜索，获得 n 个候选子句，然后根据候选子句生成概率、s code和可读性阈值，从候选子句中选择一个句子作为最终输出，水印嵌入文本生成见算法2。

算法2 水印嵌入文本生成

输入：引导上下文句子列表

（1）初始化句子计数sid =prior_len，水印嵌入子句列表watermark_sents=priori_context_sents

（2）根据式（5）计算当前子句s code

（3）基于beam search生成候选子句：

（4）计算候选子句分值：对于子句s p ，使用式（6）计算概率分值：

（5）将分值从高到低排序，不失一般性地假设第一分值、第二分值对应子句为sub_sent 0、sub_sent 1 ，确定输出嵌入水印子句方式为：

如果 ,则s=sub_sent 1

否则s=sub_sent 0

（6）将生成句子 s 加入watermark_sents列表末尾，s id+=1

（7）如果 s 包含结束符则结束，否则重复执行第（2）～（6）行

输出：水印嵌入文本watermark_sents

在无水印嵌入生成过程中，生成单位为token，每生成一个token会计算候选token的分数选择最高的概率，依次循环生成一直到结束符。在水印嵌入文本生成的过程中，对比无水印嵌入过程多了算法2的第（5）行：固定生成模型参数使其返回两条候选子句，第（5）行对比两条候选子句的分值，按照概率选择子句，同时第（5）行相对于其他步骤时间复杂度忽略不计，由此可知加入水印嵌入后的算法复杂度不变。

在水印嵌入文本生成过程中，本文仅通过对CLM 推送的若干候选子句进行采样的方式编码一位水印，相较于基于图像技术的水印嵌入方式，本文的水印嵌入具有极低的感知性，用户无法通过文本本身判断是否有水印以及水印的内容。另外，本文通过子句级别的采样以及可读性阈值保证了生成文本的可读性，确保了生成文本的流畅性，并具有较高的水印透明度。最后，本文通过在多个子句的生成过程中对水印特征编码的循环利用，确保了用户在一定程度增删改的基础上仍旧能够实现水印的检出，实现了鲁棒性的水印嵌入。

3 水印检测算法

3.1 算法原理

水印检测算法是水印嵌入过程的逆过程。在水印检测过程中，首先需要进行待检测文本的水印特征编码序列抽取：将待检测文本的头部片段作为引导上下文，将待检测文本的剩余部分视为水印嵌入生成文本，基于 beam search 生成候选子句，并与待检测文本的真实子句进行距离比较。如果真实子句与Top1候选子句距离最近，则认为当前待检测文本嵌入的水印特征编码为 0，否则为 1。以子句为单位依次进行遍历，直到获得整个水印特征编码序列。水印检测实施流程如图2所示。

图2 水印检测实施流程

3.2 水印特征编码抽取

待检测文本的水印特征编码是一个由 0、1组成的序列，待检测文本的每一个子句可以抽取一位水印特征编码。在水印特征编码抽取阶段，CLM 模型基于历史文本对每一个子句进行生成预测，通过生成的候选子句与原始句子进行文本距离比较，并根据比较的结果确定当前子句的水印特征编码值。文本水印特征编码抽取见算法3。

算法3 文本水印特征编码抽取

输入：待检测文本子句列表 ，文本距离比较函数distance

（1）初始化句子计数=prior_len，引导上下文句子列表 ，文本水印特征码列表textmark_code=[]

（2）获取当前待提取水印特征编码子句

（3）基于beam search生成候选子句：

（4）采用式（6）计算候选子句分值，获取分值第一、第二高的子句sub_sent 0、sub_sent 1

（5）比较sub_sent 0、sub_sent 1与sent的距离：

如果 则当前子句水印特征编码s s code=1，否则s code=0

（6）将s code加入 textmark_code 列表末尾，s id+=1

（7）重复执行第（2）～（6）行

输出：待检测文本水印特征编码：textmark_code

在算法3中distance(*，*)是一个文本距离的比较函数，在后文的实验中本文使用基于编辑距离的距离函数度量文本距离。

3.3 水印特征编码匹配度计算

待检测文本的水印特征编码（textmark_code）与系统的水印特征编码（watermak_code）匹配可以视为两个序列之间的距离匹配，本文使用 Levenstein 距离进行编码的匹配度计算。Levenstein距离评估了两个序列——a和b，a要做多少个操作可以转换为b，其中Levenstein距离计算包含3种操作——增加、删除、替换，在本文中分别对应用户对生成文本的插入新子句、删除子句、修改子句。由于系统的水印特征编码watermak_code 长度通常远小于待检测文本的水印特征编码 textmark_code，因此采用循环重复的方式对watermak_code进行拓展：

最后使用 Levenstein 距离计算两个特征编码匹配，采用式（8）计算最终匹配度：

4 实验与分析

4.1 数据集与实验设置

为验证文本提出的水印嵌入与检测算法，本文选择使用中文开源大规模语料集WuDaoCorpora2.0和CLUEbenchmark作为算法评测语料，具体如下。

WuDaoCorpora2.0 是由北京智源人工智能研究 院 发 布 的 大 规 模 自 然 语 言 语 料 集。WuDaoCorpora2.0包含200 GB开源语料，语料中每一个样本带有一种类型标签，本文过滤了标签类型为“问答”的样本，并使用样本的标题作为用户文本生成指令prompt。

CLUEbenchmark是一个由开源组织维护的大规模文本语料，语料由多个数据集构成，包含多种自然语言处理子任务，本文使用了其中的问答子任务数据集baike2018qa。baike2018qa的每一个样本由一个问题和答案对组成，本文使用问题作为用户文本生成指令prompt。

在不影响实验结果正确性的前提下，本文使用了启发式的数据清洗规则，删除了数据集中的空行，删除了数据中连续标点符号的空子句。由于本文需要通过截取引导上下文对后文水印嵌入进行检测，因此过滤了子句数量少于10个的数据样本。最后受限于生成式因果语言模型庞大的计算开销，本文采用均匀抽样的方式抽取 400 条样本作为本文的水印嵌入与检出的评测数据，实验数据具体统计特征见表1。

在生成式因果语言模型上，本文使用基于超 大 规 模 语 料 预 训 练 并 经 过 SFT 的ChatGLM-6B作为本文的文本生成模型。实验参数配置见表2。

实验中，本文使用样本的prompt作为文本生成指令，采用本文所提出的水印嵌入生成策略生成嵌入水印文本（后文简称水印嵌入回答）作为测试正样本集，使用CLM基于beam search top_1 的无水印嵌入回答（后文简称无水印回答）作为测试负样本集，并使用本文所提出的水印检出策略判断正负样本集的数据是否由水印嵌入的CLM模型生成，实验数据样例如图3所示。

图3 实验数据样例

为评估文本水印嵌入前后的流畅性，本文引入 GPT-2 语言模型计算正负样本的文本困惑度（perplexity PPL）作为文本流畅性评测指标。为评估水印嵌入前后对生成文本一致性的影响，本文采用BLEU值比较水印嵌入前后对文本的影响。

4.2 实验结果及分析

水印可读性阈值 时，水印特征编码长度对水印检出影响如图4所示。从图4可以发现，使用 4 位及以上水印特征编码，已经能够使水印检出的曲线下面积（area under the curve，AUC）值达到0.98以上，具有较高的检出性能。同时水印编码长度增长也会提升水印检出正确率。这是由于生成文本嵌入的水印特异性主要由水印特征编码的长度决定，与非水印嵌入文本具有更大的差异性。不同长度水印特征编码长度对生成文本困惑度（PPL）的影响见表3。

图4 水印可读性阈值时，水印特征编码长度对水印检出影响

表3 比较了不同水印特征编码长度对生成文本困惑度的影响。与无水印回答相比，水印编码长度较低时PPL均值变动较低，更接近原始文本生成策略，采用较高的水印长度时PPL均值变动会上升。通常情况下 6 位以下的水印编码已具有良好的效果，从实验结果可知，此时对PPL的影响小于 10%。结果表明，本文的水印嵌入策略具有较低的感知度，从人类阅读的角度看几乎不会对可读性造成影响。

水印可读性阈值对水印检出ROC曲线如图5所示，其比较了水印长度为 6 时，不同下水印检出的性能，较低的阈值会使水印检出有更强的鲁棒性，较高的阈值会使生成文本更接近模型最优生成效果，但同时导致更多的子句无法编码正确的水印，整体AUC值仍旧能够保持在0.8以上，具有较好的检出效果。

图5 水印可读性阈值对水印检出ROC曲线

水印可读性阈值对生成文本的影响见表4。为了比较水印嵌入前后对文本困惑度、文本内容一致性的改变，表7比较了不同水印可读性阈值对生成文本的影响。与无水印回答相比，采用较低的时PPL均值变动会上升，但上升幅度在7% 以内。实验结果表明，本文的水印嵌入策略具有较低的感知度，从人类阅读角度看几乎不会对可读性造成影响。为了评估水印嵌入前后对文本内容的影响，本文使用BLEU值作为评估手段，将无水印嵌入回答作为参考标准，比较水印嵌入回答的BLEU值。从表4中可以看出，在文本生成时未使用限制时，嵌入水印回答和无水印嵌入的回答的BLEU值为67%，随着使用值越高，嵌入水印的回答会越来越与无水印嵌入的回答相似，在为 0.5 时，BLEU 的值上升了15%，上升比例可接受，表明本文的水印嵌入策略具有较高的透明度，采用水印嵌入的文本生成策略对最终的文本生成影响较小。

通常用户在使用机器生成文本时会进行一定程度的编辑，对嵌入水印文本的内容修改会影响水印的检出效果。为模拟用户对于生成文本的修改，本文分别按照 10%、20%、30%的概率对子句进行修改，修改包括插入、删除、替换3种操作。水印随机编辑后水印检出结果如图6所示，水印随机编辑后水印检出结果见表5。从图6可以看出，一定程度的文本修改（20%以内），本文提出的水印检出算法F1仍旧能达到90.85%；文本修改在10%以内时，相对于无修改的水印检出策略，本文算法的性能损失小于 1%，该实验结果表明本文所提水印嵌入策略具有比较好的鲁棒性。

图6 水印随机编辑后水印检出结果

为了检验文本水印嵌入时的复杂度，本文分别在4位、6位、8位、12位的水印长度上针对水印嵌入和无水印嵌入的文本生成各2 000次，文本水印嵌入复杂度对比见表6，即显示水印嵌入对比无水印嵌入生成每个 token 的平均时间的比。可以看到，每组有水印嵌入和无水印嵌入生成token时间均值差距不大，通过对每组生成时间做T检验，各组P值远大于5%无法拒绝原假设，那么生成时嵌入水印和无水印嵌入在时间花销上不存在显著差异。该实验结果表明，本文所提的水印嵌入策略复杂度较低，时间复杂度上与默认文本生成时间复杂度一致。

5 结束语

本文提出的一种应用于因果语言模型的生成文本水印嵌入与检测技术，在文本生成过程中自动将水印嵌入生成文本中。实验表明，本文所提水印嵌入技术具有低感知、鲁棒性、透明性等优点。

（1）低感知

通过在文本生成过程中控制采样概率的方式在生成文本中直接嵌入水印，是一种平滑的水印添加策略。在水印嵌入过程中没有使用任何显示或隐式的额外标记添加文本中，用户不易感知到水印的存在。

（2）鲁棒性

语言模型本身是一个基于深度学习网络的平滑概率分布，因此对原始文本进行一定程度的编辑不会导致句子预测概率的大幅度波动。通过多次循环嵌入水印编码来提升水印特征的冗余度，同时采用编辑距离等模糊匹配策略，经过用户一定程度的修改后仍旧能够有效地检测文本水印特征编码。

（3）透明性

在文本生成过程中采用事中水印生成的方案，而非全文完成后对文本进行修改，保证了文本生成前后上下文的一致性。通过可读性阈值保证了文本本身的可读性，水印嵌入不影响文本本身质量，具有较好的透明性。

作者简介

刘明录（1987-），男，中国移动研究院人工智能与智慧运营中心算法研究员，主要研究方向为自然语言处理、知识图谱等 。

郑彦（1993-），男，中国移动通信有限公司研究院人工智能与智慧运营中心算法研究员，主要研究方向为大型语言模型及模型的可解释性、公平性 。

韩雪（1981-），女，博士，现任中国移动通信有限公司研究院人工智能与智慧运营中心研究科学家，主要研究方向为NLP和多模态融合技术 。

袁向阳（1978-），男，中国移动通信有限公司研究院人工智能与智慧运营中心副总经理，主要研究方向为BSS、OSS等IT支撑系统及AI技术在网络智能化中的应用 。

邓超（1978-），男，中国移动通信有限公司研究院人工智能与智慧运营中心常务副总经理，主要研究方向为人工智能、通信网络智能化、大数据和IT技术研发 。

声明：本文来自电信科学，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。