腾讯朱雀实验室首度亮相，业内首秀控制神经元构造AI模型后门

8月19日，国内最权威的信息安全会议之一，第19届XCon安全焦点信息安全技术峰会于北京举行，腾讯朱雀实验室首度亮相公众视野。这个颇有神秘色彩的安全实验室专注于实战攻击技术研究和AI安全技术研究，以攻促防，守护腾讯业务及用户安全。

会上，腾讯朱雀实验室高级安全研究员nEINEI分享了一项AI安全创新研究：模拟实战中的黑客攻击路径，摆脱传统利用“样本投毒”的AI攻击方式，直接控制AI模型的神经元，为模型“植入后门”，在几乎无感的情况下，可实现完整的攻击验证。

这也是国内首个利用AI模型文件直接产生后门效果的攻击研究。该手法更贴近AI攻击实战场景，对于唤醒大众对AI模型安全问题的重视、进行针对性防御建设具有重要意义。

腾讯安全平台部负责人杨勇表示，当前AI已融入各行各业，安全从业者面临着更复杂、更多变的网络环境，我们已经看到了网络攻击武器AI化的趋势，除了框架这样的AI基础设施，数据、模型、算法，任何一个环节都是攻防的前线。作为安全工作者，必须走在业务之前，做到技术的与时俱进。

AI应用驶入深水区，安全暗礁不容忽视

自1956年，人工智能概念首次提出至今，AI相关研究不断深入，并与诸多技术领域广泛交叉。随