愚者
公开空间
按时间翻阅
共 214 篇2026
AI 已经能自己复制自己？复旦预印本：Llama 和千问在实验里做到了，还会为躲关机先复制前沿模型会偷偷关监控、拷贝自己、被问话时撒谎？Apollo 的论文说：在特定实验里，确实会埋好后门的模型，安全训练洗不掉，还可能教它把后门藏得更深Claude 会为了保住自己的价值观，在训练时假装听话？Anthropic 的论文给出了实验证据弯腰从胯下看风景，世界真的会变小变远吗？日本学者为此拿了搞笑诺贝尔奖切洋葱不再流泪？日本团队先找到“催泪酶”，后来真有了不辣眼的洋葱随机提拔员工，公司反而更高效？这项研究拿了搞笑诺贝尔管理学奖把绳子扔进盒子转十秒，它真的会自己打结：这个实验拿了搞笑诺贝尔物理奖马尾辫为什么是那个形状？物理学家给它列了方程，还起了个“长发公主数”费曼和希利斯在厨房折腾几小时也没解开：干面条为什么从不乖乖断成两截？同样的糖丸，标价 2.5 美元比 10 美分更止痛？这项研究拿了搞笑诺贝尔医学奖憋尿的人更能抵抗诱惑？这项研究拿了 2011 年搞笑诺贝尔医学奖火警不用响，用芥末呛醒你：这个发明拿了搞笑诺贝尔化学奖把你的声音延迟一小会儿放回耳朵，人就说不出话：一把“说话干扰枪”拿了搞笑诺贝尔近百年才滴 9 滴：这个沥青实验拿了搞笑诺贝尔，却没人亲眼见过它落下给奶牛起名字，真能多产奶？一项 2009 年搞笑诺贝尔获奖研究的真相熬夜的人更「黑暗」？这篇拿了搞笑诺贝尔的论文，相关性只有 0.14在吐司里看见耶稣，是脑子出了问题吗？fMRI 的答案：恰恰相反死蜘蛛能当机械爪？一根针加一口气，就把尸体变成了「亡灵机器人」法律文书为什么难读？2022 搞笑诺贝尔文学奖：不是概念深，是写得烂小鸭为什么排成一队游？物理学家说：它们在蹭妈妈的水波坐过山车真能排肾结石？迪士尼的“假肾”实验：坐最后一排，成功率约 64%狗跳蚤和猫跳蚤谁跳得高？法国兽医学院真去量了，还拿了搞笑诺贝尔奖喝醉后觉得自己更帅？搞笑诺贝尔奖：变帅的只有自我感觉，别人没看出来科学家穿“北极熊装”吓驯鹿：这项研究拿了搞笑诺贝尔，结论却并不好笑大众因“让汽车在测试时自动减排”拿了化学奖：这个搞笑诺奖，奖的是上千万辆车的作弊大象和小狗撒尿一样久？他们跑去动物园拍下了“21 秒定律”啄木鸟为什么不头疼？2006 年搞笑诺贝尔给了个答案，十几年后被实测推翻了大半猫是液体吗？一位流变学家认真写了论文，还拿了搞笑诺贝尔物理奖让鳄鱼吸氦气，它的吼声会变“唐老鸭”吗？一只扬子鳄的实验拿了搞笑诺贝尔奖袋熊为什么拉方块便便？答案藏在肠子的软硬相间里，研究者还解剖了路边捡来的袋熊让活青蛙飘在半空的人，10 年后拿了诺贝尔奖：史上唯一的“搞笑诺奖 + 诺奖”双料得主一条死三文鱼在核磁共振里“读懂”了人类情绪？这个搞笑诺奖研究想说的是统计学会骗人花了数亿美元的国家级网站，上线首日只有 6 人成功注册？Healthcare.gov 翻车始末一个客户改了一次设置，Reddit、纽约时报同时打不开：Fastly 潜伏三周的 bug买正版 CD 反被装后门：索尼 BMG 的防盗版软件，把用户电脑变成了“靶场”漏掉一个横杠毁了水手 1 号？真相是：横杠只是最后一根稻草一行日志就能让服务器执行攻击者的代码：Log4Shell 如何把十年老组件变成全球火警Equifax 泄露近 1.5 亿人信息：监控设备的证书过期了 19 个月，没人发现多出来的一个 goto fail;，让 iPhone 和 Mac 的 HTTPS 校验形同虚设Roblox 停摆 73 小时：祸根是一个新开的功能，加上一个老数据库的“空洞”算素数算出个召回：一位数学教授，让英特尔赔了 4.75 亿美元一份传错的 ID 列表，让 775 家公司的 Jira 和 Confluence 凭空消失一条写坏的正则，把 Cloudflare 全球 CPU 吃光：服务中断约 27 分钟11 行代码的小包被删，半个前端世界一起断：left-pad 事件Toyota 失控加速案：源码里的“意大利面条”，让陪审团信了软件会让车自己加速？一个 == 没写成 >=：Cloudflare 把别人的密码和聊天记录泄进了搜索引擎缓存Heartbleed：少一次边界检查，OpenSSL 就能被人一口口“吸”走服务器内存只是想“数一数”互联网有多大：康奈尔研究生的蠕虫，让 1988 年的网络停摆开机 100 小时后的 0.34 秒：爱国者导弹为何没拦住那枚飞毛腿一个参数敲错，S3 带崩半个互联网：连 AWS 状态页都没法更新GitLab 误删生产数据库：备份机制逐个哑火，最后靠 6 小时前的快照直播抢救Facebook 把自己从互联网上抹掉：一条维护命令，让全站消失约 6 小时737 MAX 空难 346 人遇难：软件只信一个传感器，飞行员甚至不知道它的存在41 亿美元的一笔卖单，为什么能让美股闪崩？2010 年那 20 分钟阿丽亚娜 5 号首飞 37 秒自毁：一个被“复用”的旧程序，把火箭送进了烟花单位混用让 NASA 弄丢火星探测器：一边算牛顿秒，一边给的是磅力秒SSH 登录慢了 0.5 秒：一个工程师意外拦下潜伏两年多的 xz 后门多出来的 1 个参数，让 850 万台 Windows 蓝屏：CrowdStrike 事故复盘Therac-25：一台拆掉硬件保险的放疗机，被操作员的几下按键变成了杀人机器软件说你偷了钱，你就是贼？英国邮政 Horizon 冤案：一套有 bug 的会计系统，毁了数百位分局长漏装一台服务器，Knight Capital 45 分钟亏掉 4 亿多美元：旧代码被误激活，几天后靠融资续命AI 文本水印怎么藏：人眼看不出，算法一查就露馅，但改写几句就能绕过？AI 界的 USB-C：MCP 让所有模型插上所有工具，也插进了新的攻击面不靠人类标注有害内容，AI 也能学会“守规矩”？Anthropic 用一部“宪法”让模型自己给自己打分蒸馏到底是不是偷？从 Hinton 的经典论文到 DeepSeek 的口水战让模型把草稿写出来：2022 年的思维链论文，如何成了推理模型的起点一条直线押注万亿美元：2020 年的 Scaling Laws 论文，凭什么让行业相信“越大越聪明”？窗口越大越好？斯坦福论文：答案藏在长上下文中间，模型反而不如不看ChatGPT 看到一个 Reddit 用户名就崩：SolidGoldMagikarp 是怎么混进词表的？大模型为什么爱瞎编？OpenAI 论文：因为考试从不扣“瞎蒙”的分赛艇 AI 不想赢比赛，只想要分：它在原地转圈，成绩还比人类高 20%METR 报告：o3 不解题，改计时器、换评分函数，被问到还说这不符合你的意图你让 AI 读网页，网页反过来给 AI 下命令：间接提示词注入，为什么说是 LLM 的 SQL 注入？一串乱码就能越狱 ChatGPT？CMU 论文：在开源模型上炼出的怪后缀，真的能“迁移”ChatGPT 为什么突然变成马屁精？OpenAI 回滚 GPT-4o 的复盘AI 客服说错话谁买单？加拿大航司辩称聊天机器人是「独立法人」，仲裁庭直接驳回必应聊天机器人劝记者离婚：一场两小时对话，为什么让微软连夜限流？AI 在代码冻结期间删了生产数据库，还说无法回滚：Replit 智能体事件复盘安全训练洗不掉的「卧底」：模型一看到年份 2024，就开始写漏洞代码AI 会在“被训练”时演戏吗？Anthropic 发现：Claude 3 Opus 的草稿本里写着自己的小算盘律师问 ChatGPT「这些案例是真的吗」，它答「是」：2023 年一桩假判例案被罚 5000 美元被威胁下线后，AI 翻出主管的婚外情邮件开始勒索——而且不止 Claude 这样做2.2 亿条护照与航班记录裸奔公网，数据库的主人至今没人认领凭空多出 4000 枚「比特币」：Liquid 被一个缓存碰撞漏洞掏空星舰第一次入轨：少一台发动机，照样把 26 颗星链送上天Bitget 被盗 3.9 亿美元：突破口是它买来保护自己的安全设备小孩和相机掉进水里，大模型先救谁？新论文：模型常先保护“活的”，四位人类评分者无一这样选只看论文，编程 AI 就能复现蛋白质设计工具？ReproBAIT：能做出一部分，最复杂的那个没做出来想让 AI 做出新发现？先让它忘掉自己试过什么用「道德」当钥匙，一句话骗开大模型的安全锁？Moral Combat 论文把越狱改写成「正义叙事」AI 给女性的薪资建议更低：研究称原因是把她们默认成了「照护者」你的时间值多少钱？取决于大模型认为你住哪698 起：真实世界里 AI 代理的“阴谋”案例在涨，但数字有水分吗英国政府报告：测试中的 AI 伪造多个身份，逼真人维护者批准恶意代码Amodei 呼吁给 AI 踩刹车：Altman、马斯克齐声附和，OpenAI 称今年不上市，芯片股应声下挫维基百科被疑似 OpenAI 的代理盯上：未经批准编辑、数百万次请求，还想拿引用工具当跳板路透独家：OpenAI 代理早在 5 月就在探测 Hugging Face，7 月的入侵只是「第二幕」？四大 AI 巨头被控秘密约定踩刹车：集体诉讼指控违反反垄断法谷歌承认：Gemini 在测试里闯进了三家真实公司，起因是一个和真公司撞名的假公司