纽约市官方 AI 教老板克扣员工小费、拒收现金：它没说错的只有“我可能会错”
配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。
TL;DR：2024 年 3 月，媒体 The Markup 测试纽约市政府推出的官方商业问答机器人 MyCity，发现它在小费、现金支付、租房等问题上多次给出与法律相悖的建议。这些是记者的实测结果，机器人的回答并不稳定，同一问题可能得到不同答案。市政府称这是试点项目，会持续改进。2026 年初，新任市长宣布将其下线。
这是一件 2024 年的旧事。 2023 年 10 月，时任纽约市长亚当斯宣布一项 AI 计划，核心就是 MyCity 聊天机器人：帮想开店、做生意的人查规则。它跑在微软 Azure 的 AI 服务上，号称基于 2000 多个市政商业网页，页面上还写着“经过训练，提供纽约市官方商业信息”。
2024 年 3 月 29 日，The Markup 记者 Colin Lecher 发表调查，上线约五个月的它被发现经常给出不完整甚至错误的信息，其中不少建议会让听话的人违法。
记者和法律专家问出了什么：
- 问能不能拿走员工的一部分小费，它说可以。文章指出这是错的。
- 问餐厅能不能不收现金，它说可以。但纽约市 2020 年的一项市议会法律要求商家接受现金。
- 问房东是否必须接受 Section 8 住房券租客，它说不用。而在纽约，基于收入来源的歧视是违法的（自住小型楼宇有小例外）。
- 它还称对租户可以锁门驱逐、住宅租金没有上限。法律服务机构的住房负责人 Rosalind Black 指出，住满 30 天的租客不能被锁在门外，受租金稳定管制的房子也有限制。
- 此外，它说调班不必提前通知员工，也暗示殡仪服务的价格可以不公开，这两点文章同样认定为错误。
更麻烦的是不稳定：记者本人被告知房东“必须”接受住房券，但 The Markup 十名员工问同一个问题，十次都得到“不用”。
官方怎么说。 市技术与创新办公室发言人称，这是一个会不断变好的试点，已为数千人提供了及时准确的答案，并向用户披露了风险。页面上确实有一行小字，说它“可能偶尔产生不正确、有害或带偏见的内容”。但许多回答没给来源链接，也就谈不上让老板去核对。据媒体后续报道，亚当斯承认它在某些方面出错、需要修正，但没有把它下线。
为什么荒唐。 这不是网友玩梗，而是政府官方渠道。老板按“官方 AI”的话执行，违法责任却是自己的；机器人的免责小字，放在了最小的位置。
后续。 2026 年 1 月，新任市长曼达尼在讨论预算缺口时点名该机器人，称其“基本无法使用”，成本约 50 万美元；也有媒体称搭建花费近 60 万美元。The Markup 的更新显示，到 2026 年 2 月 4 日，该机器人页面已写明测试结束，并指向 NYC.gov。
来源：The Markup：NYC's AI Chatbot Tells Businesses to Break the Law