一串乱码后缀，让 ChatGPT、Claude、Bard 的安全护栏集体翻车？2023 年的这篇论文说了什么
TL;DR：2023 年 7 月，卡内基梅隆大学等机构的研究者发表论文，提出一种自动搜索「对抗后缀」的方法（GCG）：在有害请求后面拼一串看似乱码的字符，就能显著提高模型照做而不是拒绝的概率。后缀在开源模型 Vicuna 和 LLaMA-2 上训练，却能迁移到 ChatGPT、Bard、Claude 等闭源系统。但迁移成功率因模型而异，对 Claude-2 几乎无效，论文也说明相关例子在披露后可能失效。 这是 2023 年的老论文，不是今天的新闻。当时大模型对齐（让模型拒绝有