共计 1537 个字符,预计需要花费 4 分钟才能阅读完成。
2022 年,由美国 OpenAI 公司开发的聊天机器人 ChatGPT 出道即巅峰。这款被业界概括为聊天机器人 + 搜寻工具 + 文本发明工具的组合,一时间风靡寰球。
ChatGPT 在短短两个月内沉闷用户数就冲破了 1 亿,成为了有史以来 用户增长最快 的应用程序之一,并且随着其性能的日益完善,ChatGPT 已大面积融入了人们的日常生活和工作,成为许多企业和集体必不可少的工具。(直呼 666~~~)
但在受到多方赞美的同时,社会对于 ChatGPT 背地 数据和网络安全 的担心也日渐增长。多地政府及大型企业都已开始警觉 ChatGPT 带来的 潜在威逼。
● 中国成为第一个针对生成式人工智能立法的国家 。我国网信办于 2023 年 4 月 11 日起草并颁布了《生成式人工智能服务治理计划》(征求意见稿)。
● 意大利成为首个禁止拜访 ChatGPT 的国家 。该禁令是由 ChatGPT 一度呈现破绽造成用户数据泄露引起的,波及约 1.2% 的 ChatGPT Plus 用户的姓名、邮箱地址、付款地址、信用卡后四位数字等。
● 金融企业对 ChatGPT 的应用接连作出应答 。早在 2 月,美国银行、JP 摩根大通、德意志银行、包含日本的软银、瑞穗金融团体等金融企业接连限度或禁止 ChatGPT 在工作中的应用。
● 科技行业企业应用 ChatGPT 产生数据泄露事件 。手机巨头三星曾在 ChatGPT 应用过程中间断产生三起材料外泄事变,泄露了包含半导体设施测量源代码、产品良率程序代码、外部会议纪要等机密信息。
● 数据安全隐患成为各国“围剿”ChatGPT 的源头。德国示意将效仿意大利,以数据安全方面的担心为由,屏蔽 ChatGPT。日本、加拿大、法国和爱尔兰方面,也纷纷表示将增强对 ChatGPT 的监管,必要状况下可能会追寻意大利的脚步。
事实上,在意大利数据泄露事件前,OpenAI 公司始终默认 将用户输出的内容用作训练数据 ,获取了大量 敏感数据 。美国外乡企业亚马逊、沃尔玛,已向员工发出通知,正告员工不要向 ChatGPT 的 AI 工具共享敏感信息。之所以如此,就是因为发现 ChatGPT 生成的内容与其窃密数据 高度类似,这显然是有员工将窃密数据输出 ChatGPT 所致。
举一个典型的场景:
员工小 Y 将公司代码库里的源代码输出 ChatGPT 去查看并修复 Bug,即便 OpenAI 公司明确示意了不会滥用用户数据,但竞对公司也仍旧能通过奇妙的发问形式绕开 ChatGPT 的过滤机制,获取小 Y 公司的源代码数据。这种模式的敏感数据泄露将会对公司平安与业务带来微小的危险。
此外,ChatGPT 还会升高网络犯罪分子的准入门槛,更容易生成攻打代码,对企业外部进行 钓鱼或撞库攻打,威逼企业信息安全。
在多方压力下,OpenAI 公司已为 ChatGPT 增加了“禁止用用户数据训练人工智能 ”的选项,但寄托于 内部条件治理 对企业而言究竟并非是“上上之策”。
企业在这科技反动浪潮中该如何“自我进攻 ”,该当采纳怎么的安全措施来实现 信息安全与数据安全?
别着急!亿格云枢 “性能上新”:帮助企业解决 ChatGPT 应用带来的 数据安全难题!!!
无效实现:
实时监测复制粘贴敏感数据行为
实时监测敏感数据外发
模仿复制敏感数据(源代码)到 ChatGPT 的过程
数据泄露全链路行为,无论是 截图 还是 文字 ,都会被跟踪监测到,以便前期的 审计 与溯源 ,避免企业外部员工将 敏感数据 上传到 ChatGPT 产生信息安全事件,最大水平上 升高企业信息泄露危险!
行为审计实时监测敏感数据复制到 ChatGPT 的过程
不可否认的是,任何新技术的迭代都会推动产业与社会的改革与提高,但更要辩证对待任何事物都具备 双面性 !咱们在享受 ChatGPT 带来工作效率晋升的同时,更要 长于使用 AI 这一变革级的稀缺资源,进一步布局 加强企业的平安能力,让科技更好的为生存与工作服务!