人工智能領先企業 Anthropic 近日宣佈，將對其最新開發的網絡安全專用 AI 模型「Mythos」實施嚴格的訪問限制。這項決定是在該模型展現出超乎預期的軟件漏洞利用能力後作出的，引發了業界對 AI 安全與雙重用途技術監管的廣泛討論。
Mythos：強大的網絡防禦與進攻工具
Mythos 是 Anthropic 專門為網絡安全領域設計的大型語言模型。與通用模型不同，Mythos 在代碼審計、漏洞識別及修補建議方面進行了深度優化。然而，正是這種強大的分析能力，使其在「進攻性」任務中也表現出色。
據 Ars Technica 報導，Mythos 能夠在極短時間內掃描數百萬行代碼，並精確定位高風險的安全漏洞。更令人擔憂的是，它還具備生成相應漏洞利用腳本（Exploits）的能力，這使得大規模自動化網絡攻擊成為可能。
出於安全考慮的限制措施
Anthropic 表示，為了防止 Mythos 被惡意利用於發起大規模網絡攻擊，公司決定僅向經過嚴格審核的網絡安全研究機構、政府防禦部門及部分受信任的企業合作夥伴開放訪問權限。普通開發者和公眾將無法直接調用該模型的完整功能。
「我們意識到 Mythos 是一把雙刃劍，」Anthropic 的發言人在聲明中提到，「雖然它能極大地提升網絡防禦者的效率，但如果落入錯誤的人手中，其造成的破壞力也是巨大的。限制訪問是目前最負責任的做法。」
AI 安全與創新的平衡
這項舉措再次將「AI 安全」推向了風口浪尖。隨著 AI 模型能力的爆炸式增長，如何防止強大技術被武器化已成為全球監管機構和科技巨頭必須面對的難題。Mythos 的案例表明，僅靠技術手段（如安全對齊）可能不足以完全消除風險，物理層面的訪問控制正成為必要的補充手段。
資料來源：Ars Technica, Coaio