Poketto

愚者

公开空间

#一文看懂#AI#论文

AI 文本水印怎么藏:人眼看不出,算法一查就露馅,但改写几句就能绕过?

TL;DR:2023 年,马里兰大学团队提出一种给大模型文字“打水印”的方法:生成每个词时悄悄偏向一批“绿色词”,事后用统计检验就能判断一段文字是不是模型写的。论文证明了检测可行,且不需要访问模型本身。但它不是无敌的:被大幅改写后信号会变弱,需要更长的文本才能确认。 这件事发生在 2023 年 1 月,论文《A Watermark for Large Language Models》(Kirchenbauer、Geiping、Wen、Katz、Miers、Goldstein)