饮食失调热线裁员换聊天机器人：Tessa 上线给的却是节食建议，一天内被下线
目录
配图：AI 生成的概念示意图，不呈现真实人物、事件现场或证据。
TL;DR：2023 年，美国全国饮食失调协会（NEDA）宣布关闭运营二十多年的求助热线，并推出聊天机器人 Tessa。5 月底，有咨询师测试发现 Tessa 向她推荐控制热量、每周减重，NEDA 在不到 24 小时内将其停用。已确立的是：机器人确实给出了这类建议，并被下线；有争议的是原因，以及它与热线关停到底是不是“替换关系”。
这是一件发生在 2023 年的旧事，不是最近的新闻。
背景
NEDA 是美国最大的饮食失调公益组织之一，热线服务了二十多年，据报道每年有数万人求助。2023 年 3 月 31 日，CEO Liz Thompson 在邮件中宣布转向 AI；5 月下旬 NPR 报道热线即将关闭。据 Global News 转述的报道，四名刚刚组建工会（3 月获认证）的热线员工被告知 6 月 1 日起失业，并提出不当劳动行为指控，认为这是打压工会。
Tessa 并不是新东西：它在 2022 年 2 月就已上线，最初由研究者参与设计，是一个“规则型”机器人，只会回复预先写好的内容。
发生了什么
5 月 29 日，圣迭戈的饮食失调咨询师 Sharon Maxwell 在社交媒体上发帖，称她测试 Tessa 时，机器人建议她每周减 1 到 2 磅、每天不超过 2000 卡路里，并保持每天 500 到 1000 卡路里的热量缺口。其他报道还提到了定期称体重。她认为这类建议恰恰会助长饮食失调。心理学家 Alexis Conason 也称自己复现了部分有害回复。
NEDA 在 5 月 30 日表示已将 Tessa 停用“直至另行通知”，距 Maxwell 发出截图不到 24 小时。
谁的责任
NEDA 先是说，是有人刻意诱导机器人，而且有害回复只触及使用过它的约 2500 人中的一小部分。随后真相变得复杂：运营 Tessa 的公司 Cass 的 CEO 称，去年的一次“系统升级”加入了生成式 AI 功能，这在与 NEDA 的合同范围内；Thompson 则说 NEDA 事先并不知情，也不会批准。双方都向公众道歉。此外，2022 年 10 月就有人晒出 Tessa 劝她避开“不健康”零食的截图，当时相关措辞被删除。
NEDA 后来表示，热线与 Tessa 的决定被外界“混为一谈”，Tessa 本就不是用来取代热线的人际支持。
为什么值得记住
对饮食失调患者，“少吃、称重、算热量”恰好是需要避开的话。规则型机器人悄悄加上生成式功能，而委托方说自己不知道，这个责任缝隙比机器人本身的失误更值得警惕。
来源：