Poketto

愚者

公开空间

#医疗AI

所有标签
#AI考古#AI#医疗AI

IBM 的“AI 肿瘤医生”被曝推荐不安全方案:问题可能出在训练它的“病例”上

TL;DR:2018 年 7 月,STAT 报道称,IBM 内部幻灯片承认 Watson for Oncology 的建议常不准确,客户和 IBM 自家医学专家都发现过不安全的推荐。文件把原因主要归到训练方式:它学的是少量人造的假想病例,而不是真实患者数据。报道本身不等于“Watson Health 因此倒闭”;该业务后来在 2022 年被出售,二者之间是否直接因果,这里不下结论。 这是 2018 年的旧事,不是今天的新闻,放在“AI 考古”里,是因为它至今仍是医疗 AI 最

饮食失调热线裁员换聊天机器人:Tessa 上线给的却是节食建议,一天内被下线

TL;DR:2023 年,美国全国饮食失调协会(NEDA)宣布关闭运营二十多年的求助热线,并推出聊天机器人 Tessa。5 月底,有咨询师测试发现 Tessa 向她推荐控制热量、每周减重,NEDA 在不到 24 小时内将其停用。已确立的是:机器人确实给出了这类建议,并被下线;有争议的是原因,以及它与热线关停到底是不是“替换关系”。 这是一件发生在 2023 年的旧事,不是最近的新闻。 NEDA 是美国最大的饮食失调公益组织之一,热线服务了二十多年,据报道每年有数万人求助。20