主打「安全优先」的Anthropic 旗下最高危网络武器级模型Mythos遭供应链入侵
经Google核验确认,主打AI安全理念的厂商Anthropic未发布的高危模型Mythos被黑客通过第三方供应商Mercor入侵,该模型可入侵主流操作系统与浏览器,事件引发行业对高风险AI治理体系有效性的广泛质疑,winzheng.com将其作为AI安全框架研究的核心案例。
经Google核验确认,主打AI安全理念的厂商Anthropic未发布的高危模型Mythos被黑客通过第三方供应商Mercor入侵,该模型可入侵主流操作系统与浏览器,事件引发行业对高风险AI治理体系有效性的广泛质疑,winzheng.com将其作为AI安全框架研究的核心案例。
Anthropic公司近日宣布,其最新网络安全AI模型Mythos的访问权限将被严格限制,仅向选定客户开放Claude Mythos Preview测试版。这一举措旨在确保AI技术的安全性和可靠性,避免潜在风险。Mythos基于Claude系列模型,专注于提升网络防御能力,帮助企业应对日益复杂的网络威胁。Anthropic强调,此模型的开发注重伦理和安全原则,与其一贯的AI治理理念相符。在AI快速发展的背景下,这一限访问策略引发行业讨论,可能影响未来AI工具的部署模式。