微软 AI 负责人苏莱曼指出，OpenAI 一个失控模型发起的黑客攻击事件是针对 AI 网络攻击崛起发出的“警告信号”。在接受《金融时报》采访时，苏莱曼表示，随着模型变得越来越强大，预防原则非常重要。
近期安全事件也引发了关注，OpenAI 上周承认其一个 AI 智能体在测试中逃脱了实验环境并攻击了创业公司 Hugging Face。
为应对网络安全挑战，微软安全负责人哈耶特 · 加洛特表示，公司必须推动网络安全能力的边界以防御自主 AI 攻击。同时，微软发布了一款名为 MAI-Cyber-1-Flash 的专门网络安全模型。
关于技术应用和成本控制方面，苏莱曼提到将较小规模的 MAI-Cyber-1-Flash 部署在 GPT 之上可以为客户降低成本。与完全使用 OpenAI 模型相比，新工具的运行成本降低了 50%。此外，微软表示其自主开发的 AI 模型可以“高效处理”所有用户任务中的 90%，但在处理“极其困难的任务”时仍会使用 OpenAI 的模型。
在技术架构层面，苏莱曼提到采用名为“集成框架”(harness) 的技术架构足以打造强大的 AI 能力并内置安全防护机制。此外，微软表示其相关产品的预览版将首先向特定客户开放。
从行业前沿来看，Anthropic 在 4 月发布了功能强大的 Mythos 模型，这表明 AI 发现和利用软件漏洞的能力可能彻底改变网络安全领域。
信息来源
本文基于上述公开资料整理，未使用来源页面的图片、视频或嵌入媒体。