Anthropic限制对AI模型的访问，担心网络攻击风险

据报道，领先的AI研究和开发公司Anthropic已采取措施限制对其一种AI模型的访问，原因是越来越担心其在网络攻击中被滥用的可能性。这一决定突显了人们对先进AI双重用途性质的日益增长的认识和担忧，特别是其识别和利用软件系统中漏洞的能力。

该公司表示，其AI模型已达到复杂的编码水平，在发现和利用软件漏洞方面，可能超过许多人类专家的能力。这种增强的能力引起了人们对恶意行为者可能利用这些模型进行攻击性网络操作的重大担忧。

专家观点

Anthropic的举动凸显了大型语言模型（LLM）和其他先进AI系统的开发和部署中的一个关键转折点。虽然AI为创新和社会利益提供了巨大的潜力，但其被滥用的能力，特别是在网络安全领域，正变得越来越明显。AI自主识别零日漏洞（以前未知的软件缺陷）的能力构成了重大威胁。这种能力可能会大大降低复杂网络攻击的门槛，从而可能赋予包括民族国家和犯罪组织在内的更广泛的行为者权力。

限制对模型的访问是一种主动的，尽管可能是被动的措施。它突显了在AI研究中平衡开放访问和协作的好处与减轻潜在风险的必要性之间的内在挑战。问题不仅仅在于防止恶意使用，还在于制定强大的保障措施和道德准则，以管理AI技术的负责任的开发和部署。此外，这一事件迫使人们对AI生成的代码的安全含义进行严格审查，并需要先进的工具来检测和减轻AI辅助的网络威胁。

关注事项

以下关键领域将在未来几个月内受到密切关注：

• AI安全协议的开发：增加投资并侧重于开发专门用于应对AI驱动的网络攻击的安全协议。
• 政府法规：有关AI模型（特别是那些具有高风险应用的模型）的开发和部署的潜在监管框架。
• AI红队演练：使用“红队”演练来主动识别和解决AI系统中的潜在漏洞，模拟对抗性攻击以加强防御。
• 开源安全审计：审查开源AI项目，以确保代码完整性并识别可能被利用的潜在弱点。
• AI开发人员和网络安全专家之间的协作：AI开发人员和网络安全专家之间加强协作和信息共享，以培育更安全的AI生态系统。

随着AI能力的不断进步，围绕AI的负责任的开发和使用的持续辩论可能会加剧。Anthropic的决定有力地提醒人们潜在的危险，以及采取积极措施防范AI驱动的网络威胁的迫切需要。

来源：Cointelegraph