三星电子( )引入聊天机器人不到20天，便曝出机密资料外泄。
据韩国媒体《》3月30日报道，近日，三星内部发生三起涉及误用与滥用案例，包括两起“设备信息泄露”和一起“会议内容泄露”。报道称，半导体设备测量资料、产品良率等内容或已被存入学习资料库中。
据悉，三起泄密事件均发生在三星电子半导体暨装置解决方案( ，简称“DS”)部门。而最初三星也因担忧内部机密外泄而禁用，不过基于半导体是“生成式AI”的建构基础，三星自今年3月11日起允许DS部门使用，但装置体验( ，简称“DX”)部门仍禁用。
据《》报道，三星DS部门的A职员，日前在执行半导体设备测量资料库(DB)下载程序的源代码时出现了错误，便复制出有问题的原始代码到，并询问了解决方法。另外，三星DS部门的B职员把为了把握产量、不良设备而编写的源代码输入到，并要求其优化。另外，三星DS部门的C职员则将手机录制的会议内容转换为文件后输入到，要求其制作会议纪录。
据媒体报道，三星向职员公布了上述内容，并要求员工注意的使用方式。该公司通过内部公告解释道，在输入内容后，相关资料都将传送到外部服务器，如果让学习三星内部资料，可能会让敏感内容外泄。
韩媒向三星方面确认消息真实性时，相关负责人表示“因为是公司内部情况，所以很难确认”。
为杜绝类似事故再发生，三星正在制定相关保护措施，防止通过发生信息泄露事故。该公司向员工表示“若采取信息保护紧急措施后仍发生类似事故，公司内部网络可能会切断连接”。
不止公司层面，已经有国家监管机构注意到了数据安全风险。当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人，限制其开发公司处理意大利用户信息，并开始立案调查。个人数据保护局认为，3月20日平台出现了用户对话数据和付款服务支付信息丢失情况。而该平台没有就收集处理用户信息进行告知，且缺乏大量收集和存储个人信息的法律依据。
此前3月23日，的首席执行官Sam 公开承认开源库中出现错误，导致部分用户与的聊天记录被泄露。当天他发布致歉推文，表示已经修复了错误并完成验证。
相关报道
德国考虑“封杀”！意大利副总理：对的禁令有些过分了
反AI同盟已集结？聊天机器人泄露隐私、“闹出人命” 技术远虑已成近忧
30岁男子频繁与聊天机器人对话后自杀！AI已有自主意识？硅基时代要来了？
发表回复