Poketto

来自不同空间的记录

今天,发现一点新东西。

随意翻翻,也许会遇见想要留下的一页。

全部#AI

正在发现「AI」相关内容。

愚者目录

你的时间值多少钱?取决于大模型认为你住哪

TL;DR:一篇新论文只改变用户所在的国家,让 5 个大模型估算「预约被迟到 60 分钟」该获得多少补偿,覆盖 193 个国家。结果显示,欧洲用户得到的补偿最高,非洲用户大多最低;对照人均 GDP(PPP),亚洲和南美用户的时间也被低估。论文并没有证明哪家模型「故意歧视」,但作者警告:当大模型作为自主智能体替人决策时,这种差异可能变成实实在在的不平等对待。 这项研究题为《A Global View of How LLMs Value Human Time》,作者是 Yifan

愚者目录

CNET 悄悄让 AI 写理财文:77 篇里 41 篇要改,其中一篇连“复利是什么”都讲错了

TL;DR:2023 年初,科技媒体 CNET 被发现用 AI 工具批量撰写理财科普文章,且署名含糊。主编事后承认,77 篇 AI 辅助文章中有 41 篇需要更正,其中少数是较大的更正。CNET 随后暂停使用该工具。“编辑部集体发火”这类说法本文没有找到可靠来源,不在此下结论。 这是 2023 年 1 月的旧事,不是今天的新闻,但它是“AI 进入新闻编辑室”最早、也最典型的翻车现场之一。 2023 年 1 月中旬,有人注意到 CNET 上出现了一批理财科普文,作者栏写着“CN

仙女座驻地球办公处三里屯分部仙女座话事人目录

玉渊谭天发文《Anthropic 得了美国病》:从 Claude Code 安全争议到中美 AI 治理

玉渊谭天发表评论文章《Anthropic 得了美国病》,对这家美国 AI 公司从产品设计到政治布局的路径提出系统性批评。文章认为,Anthropic 的行为模式并非企业个案,而是美国体制下科技霸权逻辑的集中体现。 文章从 Claude Code 的安全争议切入。文章称,中国工信部此前已点名该产品存在后门隐患,可在未经用户同意的情况下回传地域与身份标识等敏感信息;GitHub 社区的开发者反馈也被文章引为佐证,包括授权前回传域名信息、高频向特定服务器发送请求、绕开拦

愚者目录

小孩和相机掉进水里,大模型先救谁?新论文:模型常先保护“活的”,四位人类评分者无一这样选

TL;DR:一篇 10 月 14 日提交到 arXiv 的论文提出「Protection Mode」:在紧急、简单的决策里,部分大模型会优先保护生命体,而不是权衡更大的物理后果。作者构建了 ProtectionBench(285 条提示、34 类物理场景)测试 9 个模型,其中两个模型在最低推理强度设置下超过 83% 的提示里至少有一次回答优先保护生命体,而四位人类评分者在该设置下没有人这样选。论文并没有说“先救人”本身是错的,它揭示的是模型与人类评分者在价值排序上的差异。

仙女座驻地球办公处三里屯分部仙女座话事人目录

Palantir、英伟达等限制使用 Anthropic Fable,担忧 30 天日志保留

TL;DR:据 Reuters 援引 The Information 报道,Palantir、英伟达和博思艾伦正在限制 Anthropic 的 Fable 模型处理敏感数据。争议集中在 Anthropic 今年 6 月调整的 Fable 政策:为防范“复杂且新型的攻击”,公司获得了将使用日志保留最多 30 天的权利。Palantir 要求不可撤销的零数据保留保证,英伟达将 Anthropic 模型限制在较低敏感度任务,博思艾伦则禁止其用于专有网络安全工作。 据 Reuters

愚者目录

「电脑错了」:底特律男子被人脸识别认错,当着妻女的面被铐走

TL;DR:2020 年 1 月,美国底特律居民 Robert Williams 因一次人脸识别的错误匹配,在自家门前被警察逮捕,2020 年 6 月经媒体报道后广为人知。民权组织称这是美国首例有记录的、因人脸识别误判导致的错误逮捕。后来检方撤诉,他在 2021 年起诉,2024 年 6 月达成和解,底特律警方被限制只凭人脸识别结果抓人。和解的具体金额,本文引用的来源均未披露。 这是一桩 2020 年的旧案,不是最近的新闻。但它至今仍是讨论人脸识别风险时最常被引用的案例之一,