中国AI大厂开始给开源模型“阉割”黑客技能以防范风险

背景

随着人工智能模型的代码编写能力变得足够强大，能够自主开发复杂的网络攻击，企业正面临着日益严峻的滥用风险。与可以通过监控用户行为并封禁违规者的闭源模型不同，开源模型允许任何拥有足够硬件的人下载和修改软件，这使得设计阶段的安全性变得至关重要。

细节

为了应对这一挑战，中国科技巨头腾讯剥离了其最新Hy4模型的网络黑客能力，同时保留了防御功能，此前月之暗面也在10月采取了类似举措。企业并没有放弃开源路线，而是选择在训练过程中有选择地清除攻击性网络数据。不过，专家指出这存在明显的取舍：月之暗面承认，其过滤后的模型在内部安全基准测试中得分为81%，而无限制版本则为90.5%。此外，网络安全技能具有军民两用性，这意味着防御工具依然有可能被恶意行为者所利用。

影响

这种新兴的安全实践突显出中国AI企业在试图维持市场优势时，必须在不违反日益收紧的政府出口管制和风险阈值之间艰难平衡。虽然有针对性的限制可能会削弱专门的安全性能，但整体竞争力仍将取决于代码质量、成本和部署的灵活性。