三星工程师把芯片源码贴进 ChatGPT:20 天三起泄密,公司随后禁用生成式 AI
目录
配图:AI 生成的概念示意图,非真实现场、产品截图或研究数据。
TL;DR:2023 年春,三星半导体部门在开放 ChatGPT 后不到一个月,就发现三起员工把内部代码和会议内容输入聊天机器人的事件。同年 5 月初,彭博社等媒体报道,三星通知员工暂时停止在公司设备上使用生成式 AI。可以确认的是“员工输入了敏感信息”和“公司出台限制”;至于这些数据后来是否被他人看到,公开报道并没有证实。
这是一件发生在 2023 年的旧事,不是今天的新闻。当年 ChatGPT 刚火起来几个月,很多公司还没想好员工能不能用,三星是最早被公开报道“翻车”的大厂之一。
20 天里发生了什么
据韩国媒体及转述报道,三星设备解决方案(DS,负责半导体)部门在 2023 年 3 月 11 日前后允许员工使用 ChatGPT,之后不到 20 天内出现了三起事件:
- 一名员工把有问题的半导体数据库相关源码复制进去,想让它帮忙找 bug;
- 另一名员工为排查设备故障,同样输入了内部内容;
- 第三名员工把一整场内部会议的内容贴进去,让它生成会议纪要。
动机都很朴素:省事。但输入的内容会被传到外部服务商的服务器上,这正是问题所在。具体日期和“20 天”的说法在不同媒体间略有出入,这里以多数报道为准。
三星怎么应对
事发后,三星先是把单次提问的上传量限制在约 1024 字节,并警告再出问题可能直接切断公司网络对 ChatGPT 的访问。5 月 1 日起,另一个部门(设备体验,DX)的备忘录写明,将“暂时”禁止在公司电脑上使用生成式 AI 工具。彭博社报道称,限制涉及 ChatGPT、Google Bard、Bing 等,理由是数据存放在外部服务器上,难以取回和删除,还可能被披露给其他用户。
备忘录还提到,违反安全规定可能面临纪律处分,严重者包括解雇。据报道,三星当时做过一次内部调查,约 65% 的受访者认为这类服务有安全风险;公司同时在研发自家的翻译、文档摘要和软件开发工具。各报道对禁令覆盖范围的描述不完全一致(有的说包括公司手机和平板,有的强调不得在个人设备上上传敏感信息),且称其为“临时”措施。
为什么值得回头看
这件事常被当成“AI 泄密”的开篇案例,但它暴露的其实是流程缺口:公司放开了工具,却没有同步告诉员工哪些内容绝对不能贴。后来不少企业走了类似的路线,先限制,再采购企业版或自建内部模型。
它也提醒我们一个朴素的事实:把东西粘贴进第三方服务,就等于把它交了出去。调 bug 的那一刻,没有人觉得自己在“泄密”。
来源: