Oakseed Ventures于 2024 年 3 月 19 日在信息系统安全协会（硅谷分会）主办了一场小组讨论，讨论生成式人工智能对网络安全的影响。

初创企业小组成员 - Tibo、Ridge Security 和 SlashNext

国际社会保障协会硅谷分会新任主席Mike Skurko 担任主持人。 初创企业小组成员包括代表Tibo 的Daragh McGraph、代表Ridge Security的Hom Bahmanyar和代表SlashNext 的Patrick Harr。

虽然 ChatGPT 和其他人工智能工具有望释放从编码到网络故障排除的生产力，但企业却面临着向这些引擎泄露机密信息的风险。Tibo 正在开发世界上首个同类平台，用于检测发送到 ChatGPT 和人工智能工具的敏感信息，并自动编辑和/或提示用户注意。

渗透测试对于确保企业基础设施和科技公司软硬件产品的安全至关重要。Ridge Security 提供自主代理，可模仿白帽子识别可利用的漏洞。它为 CISO 提供杀伤链，使他们能够优先修补哪些漏洞。

自 ChatGPT 推出以来，网络钓鱼电子邮件增加了 12.7 倍。现在，生成式人工智能可以创建具有上下文的、定制的、没有语法错误等常见缺陷的网络钓鱼电子邮件。SlashNext 是下一代人工智能电子邮件+安全的先驱。

人工智能对网络安全的挑战

Patrick 分享说，自 ChatGPT 问世以来，网络钓鱼攻击和深度伪造不仅大幅激增。这些网络钓鱼攻击变得 "立体 "且更加复杂。 网络钓鱼现在是 "多态 "的，这意味着它们会动态变化。 语音和视频的深度伪造很容易制造。 不良分子从互联网上截取照片，在社交媒体上创建假账户，冒充你的身份，并将你的朋友添加到这些假账户中。 只需 15 秒钟的个人语音录音，就能通过深度伪造来冒充他/她的声音。

同时，恶意软件也变得多态化，可以躲避传统的基于签名的检测。 生成式人工智能将进一步提高恶意软件和勒索软件作为一种服务的自动化能力。

Daragh 谈到了生成式人工智能如何为企业打开了一个缺口，使其员工在利用 ChatGPT 等引擎提高工作效率的过程中丢失了最敏感的数据。 许多组织选择完全屏蔽 ChatGPT 和其他引擎，但也有许多解决方法。 企业在拥抱人工智能时，需要避免专有信息的丢失。

人工智能在网络安全领域的机遇

然而，人工智能也可以带来好处。 Hom 讨论了人工智能是如何帮助 CISO 快速应对攻击的。 在左移模式中，代码和产品需要与单元测试同时进行安全和渗透测试。

小组成员和听众就如何将生成式人工智能用于网络安全交换了许多想法。生成式人工智能目前已用于编码。 它被用来创建合成数据，用于训练检测引擎，例如克隆网络钓鱼或商业泄密电子邮件。

最终想法

随着企业开始使用人工智能，联邦调查局发现的威胁之一就是协同驾驶员和大型语言模型（LLM）的访问。 首席信息安全官（CISO）对人工智能引擎的访问控制列表进行监控至关重要。

感谢初创企业 Tibo、Ridge Security 和 SlashNext 的精彩分享！