GPT-4.5 扮人时被判为真人的比例比真人还高:图灵测试真的被通过了吗?
目录
配图:AI 生成的概念示意图,非论文原图或实验数据。
TL;DR:加州大学圣迭戈分校的两位研究者做了一次三方图灵测试:在被要求扮演“年轻内向、爱玩网络梗的人”时,GPT-4.5 有 73% 的场次被判为真人,显著高于同场的真人。但这依赖人设提示词,不加人设时只有 36%;对话仅 5 分钟,评判者是普通人。它证明的是“像人”,不等于“有人的智能”。
这篇论文是 2025 年 3 月 31 日挂上 arXiv 的预印本,作者是 Cameron R. Jones 和 Benjamin K. Bergen,不是最新消息。据 UC San Diego 官方新闻,论文后来以《Large Language Models Pass a Standard Three-Party Turing Test》为题发表在 PNAS 上。
怎么测的
不是常见的“你和一个对象聊天,猜它是不是机器”,而是三方版本:评判者同时与一个真人、一个 AI 各聊最多 5 分钟,然后选出谁是人。参赛的 AI 有四个:1960 年代的规则聊天程序 ELIZA、GPT-4o、LLaMa-3.1-405B 和 GPT-4.5。实验是预注册的,在两批互相独立的人群里各做一次:UCSD 心理学本科生和 Prolific 平台的受试者。按 arXiv 初版的数据,参与者共 284 人,分析了 1,023 局。
关键数字
被判为“真人”的比例:
- GPT-4.5(加人设):73%,显著高于真人
- LLaMa-3.1(加人设):56%,与真人没有显著差别
- ELIZA:23%;GPT-4o:21%,都显著低于随机水平
- 不加人设时:GPT-4.5 为 36%,LLaMa-3.1 为 38%
换句话说,“比真人还高”意味着评判者在 GPT-4.5 和真人之间选真人时,错选的比对的还多。
为什么要打问号
人设提示词让模型表现得年轻、内向、懂网络文化、爱用俚语。作者的解释是,模型赢在“像人一样犯错、讲话随意”,而不是知识更多;他们也承认这个测试衡量的更接近“像人的程度”,而非智能本身。
局限也写在论文里:只测了四个系统,对话很短,评判者是外行,不同人群结果不一致(LLaMa 加人设在 Prolific 上通过,在本科生中没有)。
意义
如果几分钟的文字聊天里,人已经分不清谁是真人,那么冒充、诈骗和说服类的风险就是现实问题。反过来,图灵当年设想的“聪明”,现在更像是“会装”。
论文地址:arXiv:2503.23674