三星正式禁止员工使用，ChatGPT类工具要被关进笼子里？

来源:电子发烧友网发布时间:2023-05-081486浏览

电子发烧友网报道（文/吴子鹏）近日，又一科技巨头加入到了禁用ChatGPT类工具的行列，它就是三星。据报道，三星近期推出了一项新政策，禁止员工在工作场所使用生成式人工智能工具，包括OpenAI的ChatGPT和谷歌Bard等。

此前，三星发现有员工将敏感的代码上传到ChatGPT，不慎将其泄漏。据悉，三星并不清楚此次泄露的敏感代码具体内容是什么，不过该公司随后启动了内部调查。三星表示，调查中公司65%的受访者认为此类工具构成安全风险。

巨头公司纷纷禁用ChatGPT类工具

根据此前的报道，虽然三星没有透露泄露信息的内容，不过有用户在ChatGPT上发现了该公司半导体设备测量资料、产品良率等机密内容，相关内容出现在ChatGPT的学习资料库中。并且，该报道指出，三星的泄密并不是由一个工程师造成的，而是出现了三个典型的泄密事故。

泄密事件一是一名三星员工让ChatGPT帮助修复半导体设备测量资料库中下载的软件；泄密事件二是一名三星员工让其帮助优化用于识别产品良率的程序代码；泄密事件三是一名三星员工把会议纪要发给了ChatGPT让其帮助整理。

三星泄密事件表明，生成式AI会让人在不经意间就导致泄密。当然，这主要还是和生成式AI的工作原理有关。生成式AI本质通过处理大量视觉或语言数据来生成新数据，其主要分为训练阶段和生成阶段，用户主要接触到的就是生成阶段。在这一阶段里，为生成新数据，模型将根据给定的输入提示（如关键词、图像或文本片段等）生成新图像或文本。模型利用所学规律和模式生成新数据，并将其输出给用户。

因此不难看出，生成式AI在实际的使用阶段和传统搜索引擎很类似，有输入才有输出，但由于ChatGPT类工具过于强大，其能够处理很复杂的句式和指令，这就导致一些在职人员可能采用ChatGPT类工具走捷径，将工作任务输入到工具里，进而造成泄密。

目前，很多巨头公司都意识到这一点。在三星之前，韩国另一大科技巨头SK海力士也已经宣布，“除必要时刻外”，几乎禁止公司内部网使用ChatGPT类工具；韩国面板巨头LG为了防止员工使用ChatGPT类工具发生泄密，已经通过公司内部帖子和教育、活动等，随时强调公司内部信息保护和防止泄漏等信息安全认识。

更为谨慎的是银行领域。据不完全统计，目前包括瑞穗金融集团、三菱UFJ银行、三井住友银行、摩根大通、美国银行和花旗等大型银行都已经对人工智能下了禁令，这些公司是首批限制员工访问ChatGPT类工具的公司。

如何安全使用ChatGPT类工具

竟然行业巨头带头，那么商业公司真的要全面禁止ChatGPT类工具吗？笔者的答案是大可不必。

生成式AI工具的价值是巨大的，它能够给各行各业带来四大创新性改变。首先，生成式AI可以创造新内容，可用于艺术、音乐和其他形式的创造性表达等方面；其次，生成式AI可以提高效率和生产力，可以显著减少新闻、内容创作、数据注释和分析等领域的人工投入；第三，生成式AI可以提高生成内容的质量，这是让机器和人类自如交流的关键所在；最后，生成式AI可以实现新的应用和用途，可用于打造各种个性化的创新方案。

据波士顿咨询公司预测，生成式AI市场规模将在2027年达到1210亿美元，是2022年的13倍多。

价值大、前景好，那么行业该如何利用好生成式AI呢？

首先需要有专门的法规限制。目前，全球各国都在加紧制定针对生成式AI的法律法规。在国内，4月11日，国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》，明确国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作。当然，征求意见稿也对生成内容、算法框架、知识产权和商业道德等方面做出了明确的限制。每一个健康发展的行业都需要有完善法规的引导，生成式AI也不例外。目前，美国、英国、日本和欧盟等国家和地区都在积极推动生成式AI相关法规的落地。

其次，推出ChatGPT类工具的公司需要进一步增强工具的安全性和脱敏属性。比如，谷歌表示，将通过自动化工具帮助删除用户的个人身份信息，来改进Bard的隐私安全。显然这还不够，基于开放数据库训练而来的ChatGPT类工具，进化的源泉就是新的数据，那么如何保证新数据的安全是一个大挑战。

第三是各行各业针对使用ChatGPT类工具需要进行专业的员工培训，要明确哪些是员工可以做的，那么是员工不能做的。

第四是针对高科技行业以及金融证券等保密性要求严格的公司，全面杜绝ChatGPT类工具肯定是不可取的，这些行业需要一套自己的ChatGPT类工具，也就是从源头构建自己的工具，使得数据从最开始就被保护，没有对外的接口可以泄露。目前，行业也在探索轻量级的ChatGPT类工具，这些工具具备基本的功能，能够在企业私有云上去部署，如果可以实现将大幅降低数据泄露的风险。

后记

目前很多行业、学校、国家都在推动全面禁止ChatGPT类工具，笔者认为这样做并不可取。生成式AI作为一次革命性的科技升级创新，有着颠覆各行各业的巨大潜力。而且，这种颠覆更多是正向的、积极的，帮助各行各业完成数智化升级。当然，作为一项创新技术，在完善的过程中会露出它的獠牙。正确的做法是将这只猛兽关在圈子里进行驯化，让其不再具有攻击性。