关于aigc:第41期-GPTSecurity周报

4次阅读

共计 1654 个字符,预计需要花费 5 分钟才能阅读完成。

GPTSecurity 是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练 Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等平安畛域利用的常识。在这里,您能够找到对于 GPT/AIGC/LLM 最新的钻研论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的奉献内容,现总结如下。

Security Papers

1. 利用 AI 布局检测云安全漏洞

简介:随着云计算服务在数据存储、解决和合作方面的高效性和经济性受到宽泛认可,其安全性问题也逐步成为关注的焦点。特地是,安全漏洞引发的数据泄露和简单攻打(例如勒索软件)曾经变成了重要的平安危险。为了应答这些挑战,钻研人员提出了一个新的通用框架,该框架旨在分明地定义云零碎中各种实体(如用户、数据存储和平安角色)之间的关系,并在此基础上构建和优化拜访控制策略。进一步地,钻研人员开发了一个基于 PDDL(布局畛域定义语言)的模型,专一于辨认可能导致宽泛攻打(如勒索软件)和敏感数据泄露的平安弱点。通过这个模型,平安规划者能够模仿潜在的攻打场景,以便疾速发现并修复云环境中的安全漏洞。为了证实所提出办法的成果,钻研人员对 14 个来自不同商业组织的实在 Amazon AWS 云配置进行了测试,展现了这些配置的宽泛代表性。测试结果显示,该办法可能胜利地辨认出一系列宽泛的安全漏洞,这些破绽通常难以被现有的工业级工具发现。这一成绩进一步证实了该办法在进步云计算服务安全性方面的实用性和有效性。

链接:https://arxiv.org/pdf/2402.10985.pdf

2. 修复行将产生:应用 LLMs 的多语言程序修复

简介:在编程畛域,谬误普遍存在,且即使是经验丰富的程序员也时常遇到挑战。为应对此问题,钻研人员推出了 RING——一个由大型语言模型(如 Codex)反对的多语言代码修复引擎。与以往的代码倡议技术不同,RING 扭转了传统编程辅助模式,为程序员编写代码时能提供 AI 驱动的实时修复倡议。钻研人员在六种不同的编程语言上评估了 RING 的效力,并将其与语言特定的修复引擎比照。结果显示,在这些语言中,RING 在三种语言上的体现超过了语言特定的引擎。RING 的推出为编程谬误的修复提供了一种新鲜的办法。它不仅跨语言无效,还能模仿程序员的修复办法,提供即时且准确的倡议。随着 RING 的进一步欠缺和优化,预计它将在将来编程实际中表演更加重要的角色,助力程序员更高效、便捷地编写出高质量代码。

链接:https://arxiv.org/pdf/2208.11640.pdf

3. 对 LLMs 解决攻击性平安挑战的实证评估

简介:随着大语言模型(LLMs)的崛起,越来越多的 Capture The Flag (CTF) 参与者转向这些模型以了解和应答挑战。只管 LLMs 在 CTF 比赛中越发风行,目前尚无钻研评估其在齐全自动化工作流程中解决 CTF 挑战的成果。为填补这一钻研空白,研究者开发了两种 CTF 解决策略:人机交互(HITL)和齐全自动化模式。这两种流程的指标是测试 LLMs 在解决一系列特定 CTF 挑战时的体现。钻研发现,LLMs 的成功率超过了平均水平的人类参赛者。该钻研全面评估了 LLMs 在 CTF 挑战中的利用能力,从理论较量到齐全自动化的流程。这些成绩为 LLMs 在网络安全教育中的应用提供了贵重的见解,并为零碎评估 LLMs 在网络安全攻防能力方面奠定了根底。

链接:https://arxiv.org/pdf/2402.11814.pdf 

Security tools

HackerGPT-2.0

简介:HackerGPT-2.0 的定位是破绽赏金猎人的 AI 助手,装备了宽泛前沿的常识数据库,蕴含相干技术、工具和策略等常识。据开发者称,HackerGPT-2.0 在应用过程中会为用户平安地解决每个查问,特地是在移除集体敏感信息后再与 OpenAI 等内部模块进行交互。

链接:https://github.com/Hacker-GPT/HackerGPT-2.0

正文完
 0