网页里藏一行字，Bing Chat 就被“策反”：间接提示注入的开山论文
TL;DR：2023 年的这篇论文提出“间接提示注入”：攻击者不跟模型对话，只把指令藏进模型之后会读到的内容里，模型就可能照办。作者在 Bing Chat 等系统上演示了诈骗、套取信息、恶意链接等攻击。需要说明的是，这些演示是研究者自己搭环境做的，论文没有量化成功率，也没有证明现实中已有人这样攻击过用户。 这是一篇 2023 年的老论文，2023 年 2 月 23 日首次发布到 arXiv（5 月更新过一版），作者来自 CISPA、萨尔大学等机构，Kai Greshake 是