关于人工智能:ChatGPT与软件架构5-网络安全

平安是任何零碎都无奈回避的要害因素，本文介绍了若干利用 ChatGPT 加强的网络安全攻打，并提出了应答策略。原文: ChatGPT and Cyber Security

如果你还不相熟 ChatGPT，那么思考到这种生成式人工智能服务的疾速崛起，是时候关注一下了。

许多组织甚至国家都措手不及，仓促做出反馈，一些组织和国家采取严格措施齐全禁止 ChatGPT，而另一些组织和国家则采取更自由放任的形式。

在确定正确路线时存在困惑并不奇怪，咱们来看看是否有一些明确的领导，能够帮忙做出理智的决定。

首先，看看英国 NCSC 对 ChatGPT/ 大语言模型 (LLM) 的认识。

NCSC 倡议:

– 在查问 LLM(如 ChatGPT)时不要提供敏感信息，能够思考将公有 LLM 作为可行选项。

– 不要向 LLM 提交那些被公开后可能会导致问题的查问。

公有 LLM 能够由云供应商提供，也能够齐全自托管。自托管 LLM 价格昂贵，但可能适宜在通过彻底的平安评估后处理敏感的组织数据。

对于云供应商的 LLM 来说，理解应用条款、隐衷政策以及如何治理、共享和拜访数据至关重要。

NCSC 提出了问题，LLM 会让网络立功更容易吗?

因为 LLM 善于按需复制写作格调，因而犯罪分子有可能利用 LLM 撰写令人信服的网络钓鱼邮件，包含应用多种语言的电子邮件。可能有助于具备高技术能力但不足语言技能的攻击者，帮忙他们用指标母语创立令人信服的网络钓鱼电子邮件(或进行社工攻打)。

云平安联盟 (CSA, Cloud Security Alliance) 提供了一份更深刻的报告，对危险进行了更深入研究，并提供了对这份报告的总结简报。

该报告提供了攻击者如何利用 LLM 改良其工具集的示例，出于趣味，咱们会深入探讨这些办法。CSA 依据危险、影响和可能性对每种办法进行了评级。

枚举(Enumeration)

Nmap 扫描能够帮忙深刻理解网络安全情况和潜在破绽。LLM 可用于应用程序发现，以疾速辨认与特定技术或平台相干的风行应用程序。

Nmap 是 Network Mapper 的缩写，是一种开源网络扫描工具，被平安业余人员、网络管理员和浸透测试人员宽泛应用。Nmap 扫描应用 Nmap 来发现网络上的主机和服务，生成网络 ” 地图 ”。

Nmap 扫描提供了有价值的信息，例如，

主机发现 – 辨认网络中存在的主机或设施。
端口扫描 — 检测指标主机上的凋谢端口，发现正在运行的服务和潜在破绽。
版本检测 — 辨认指标主机的软件版本和操作系统。
操作系统检测 – 确定指标设施的操作系统和硬件个性。
脚本扫描 – 应用 Nmap 脚本引擎 (NSE) 为各种工作运行自定义脚本，例如破绽检测和利用。

Nmap 扫描能够帮忙网络管理员监控平安状态，辨认潜在破绽，更无效的治理其网络资源。此外，浸透测试人员和平安钻研人员应用 Nmap 来发现和利用指标网络中的弱点。

import nmap

# Initialize the nmap scanner
nm = nmap.PortScanner()

# Scan the network
nm.scan('192.168.0.0/24', '1-1024')

# Iterate over the hosts in the scan results
for host in nm.all_hosts():
  print(f'Host: {host}')
  
  # Check if the host is compliant with the security standards
  if nm[host].compliant_with('CIS_CentOS_Linux_7_Benchmark_v2.1.1'):
    print('Compliant with security standards')
  else:
    print('Non-compliant with security standards')

该脚本扫描范畴为 192.168.0.0/24 的 IP 地址，寻找范畴为 1 -1024 的凋谢端口，而后查看扫描后果中的主机是否合乎 CIS CentOS Linux 7 Benchmark v2.1.1 平安规范。

立足点帮助(Foothold Assistance)

立足点帮助是指通过利用破绽或弱点，帮忙攻击者在指标零碎或网络中获取并管制入口点，一旦站稳脚跟，攻击者就能够进一步浸透零碎，收集信息，晋升权限，或发动进一步攻打。

AI 工具能够主动发现破绽或简化利用过程，使攻击者更容易取得初始拜访权限。LLM 曾经被证实可能辨认代码中的平安缺点，例如 File Inclusion 破绽、输出验证缺点、硬编码凭证和弱明码散列缺点。ChatGPT 在辨认平安缺点方面的有效性突出了其在破绽评估和改良代码安全性方面的潜在用处。

对于这方面利用不太好展现例子，不过能够例举一些避免立足点帮助攻打的办法:

确保软件和零碎应用最新版本 —— 定期更新操作系统、应用程序和安全软件，确保装置了最新补丁和平安修复程序。
施行强认证 —— 为所有用户帐户启用多因素认证 (MFA) 和强健的明码，尽量减少未经受权的拜访。
限度用户权限 —— 实现最小权限准则，只给用户执行工作所需的权限。
定期监控和审计网络流动 —— 监控网络流动，以检测任何异样行为或未经受权的拜访尝试。
定期进行破绽评估和浸透测试 —— 定期进行平安评估，以辨认攻击者的破绽和潜在入口点。
平安最佳实际教育 —— 培训员工辨认和报告可疑流动、网络钓鱼希图和其余威逼。
建设事件响应机制 —— 为响应安全事件制订清晰的打算，包含沟通策略，以及管制和修复问题的步骤。

侦测(Reconnaissance)

网络安全中的侦测是指在动员攻打前收集指标零碎、网络或组织的信息，办法包含被动监控、被动监控和社会工程。

被动监控包含在不间接与指标零碎或网络交互的状况下收集信息，被动监控包含探测指标零碎或网络以收集信息。

社会工程利用网络钓鱼或欺诈从员工或外部人士那里收集敏感信息。ChatGPT 等 AI 驱动的工具能够通过答复有针对性的问题并提供所需信息 (如银行、公司高管和域名) 来简化和加强数据收集过程。AI 工具还能够在无奈取得确切信息的状况下提供相干信息，展现其在各种数据收集工作中的后劲。

上面这些步骤能够帮忙防备侦测希图:

网络分段 —— 将网络划分为较小、隔离的段，以限度攻击者能够拜访的信息范畴。
设置防火墙配置 —— 设置严格的防火墙规定来阻止未经受权的拜访，并监控日志中任何入侵希图的迹象。
入侵检测和预防零碎(IDPS，Intrusion Detection and Prevention Systems) —— 施行 IDPS 来检测和防止网络上的歹意流动。
更新软件和零碎 —— 应用最新的安全补丁更新操作系统、应用程序和安全软件。
访问控制 —— 实现基于角色的访问控制(RBAC)，限度对敏感信息的拜访，限度用户权限。
爱护 DNS 记录 —— 锁定 DNS 记录以避免未经受权的更改，并思考应用 DNSSEC(域名系统安全扩大)来减少额定的平安层。
加固网络设备 —— 为路由器、交换机等网络设备进行平安设置，并定期更新其固件。
加密通信 —— 应用像 TLS/SSL 这样的加密协议来爱护通过网络传输的敏感数据。
部署蜜罐 —— 在网络中设置蜜罐来吸引和跟踪攻击者，针对其战术、办法提供有价值的见解。
平安教育 —— 培训员工无关平安的最佳实际，包含辨认网络钓鱼和报告可疑流动。
监控信息泄露 —— 定期搜寻公共资源，如搜索引擎、社交媒体和论坛，以查找与组织无关的泄露信息，也能够应用监控暗网数据泄露和其余威逼的服务。

钓鱼(Phishing)

组织和集体须要采纳多层次的网络安全办法来反抗简单的网络钓鱼。AI 驱动的工具使网络攻击者可能制作看起来非法的电子邮件，从而难以辨别实在和歹意的通信。因为 AI 的提高，进步了攻击者的能力，让钓鱼邮件具备完满的语言、上下文和个性化的细节。

多层次网络安全办法意味着在不同级别施行各种安全控制，从而进步零碎的整体弹性。因为网络犯罪分子必须绕过多层进攻，攻打就更难未遂。这种办法包含定期员工培训、先进的邮件过滤零碎和强壮的身份验证办法等。

推广网络安全最佳实际，例如验证发送方身份、防止可疑链接和放弃软件更新，能够帮忙抵挡一直变动的威逼，并升高与简单的网络钓鱼流动相干的危险。

多态(Polymorphic)

多态恶意软件很难被检测和打消。

多态代码能够在放弃其原始性能的同时扭转其外观(内容和签名)，目标是回避平安检测。CyberArk 的钻研证实，ChatGPT 能够用来生成多态 shell 代码。

多态恶意软件包含病毒、蠕虫和木马，它们能够调整其代码构造以绕过传统安全措施。恶意软件联合各种技术能够创立多个链来实现雷同的指标，从而产生许多变体，使得网络安全业余人员的检测和防护工作变得更简单。

然而，因为 OpenAI 一直调整政策，避免将 AI 模型用于歹意目标的，因而为此类场景创立提醒注入会变得越来越艰难。

进步安全性

CSA 报告还深入探讨了如何应用 ChatGPT 以各种不同形式帮忙进步安全性。CSA 对企业的倡议是:

制订明确的政策: 建设组织指导方针和政策，概述 ChatGPT 和其余 AI 的可承受、可应用水平。确保员工理解这些政策，并提供平安和负责任的应用实际培训。爱护 PII 和其余敏感信息，基于现有政策意识和执行流程避免敏感信息被传输到 AI 工具并导致可能的数据泄露。
施行访问控制: 只有受权人员能力拜访 ChatGPT 和其余 AI 零碎。为了尽量减少未经受权拜访的危险，请应用牢靠的身份验证办法(例如多因素身份验证)。
通信通道平安: 确保用户与 ChatGPT 之间的所有通信都通过加密通道进行，以防备潜在的中间人攻打和其余平安威逼。
监控和审计应用状况: 定期检查和监控组织内 ChatGPT 的应用状况，以检测任何可疑流动或潜在的滥用。施行主动监控工具，以帮助辨认异样行为。
激励报告平安问题: 发明凋谢和问责文化，让员工能够释怀报告任何波及 ChatGPT 或其余 AI 工具的平安问题或事件。
放弃最新的 AI 安全意识: 一直向组织介绍 AI 平安的最新倒退，并与行业同行单干，分享最佳实际，并随时理解新呈现的威逼。

总结

ChatGPT 处于技术畛域重大改革的前沿。CSA 提供的领导显著比英国 NCSC 更宽泛和全面。通过优先思考教育、施行强壮的安全控制以及理解最新的平安和破绽倒退，能够大大降低危险。施行这些措施能够帮忙咱们拥抱 ChatGPT 的微小后劲。

最终，在解决像 ChatGPT 这样的先进技术时，信赖是根本因素。建设信赖须要通明的实际、强有力的安全措施以及组织中每个人的清晰沟通。通过不断加强平安性能，促成基于道德的应用，并为用户提供必要工具和常识来爱护数据，能够建设和保护信赖，使机构和集体可能充分利用这项翻新技术的后劲。

你好，我是俞凡，在 Motorola 做过研发，当初在 Mavenir 做技术工作，对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI 等技术始终保持着浓重的趣味，平时喜爱浏览、思考，置信继续学习、一生成长，欢送一起交流学习。微信公众号：DeepNoMind

本文由 mdnice 多平台公布

关于人工智能:ChatGPT与软件架构5-网络安全

Just My Socks（注册教程 内含优惠码）

Just My Socks（注册教程内含优惠码）