全国政协委员周鸿祎：构建大模型应用安全体系，推动AI技术安全发展

随着国产推理大模型DeepSeek-R1的推出，我国AI技术实现了从“追赶者”到“领跑者”的转变，成为新的生产力工具。开源、透明和免费等特性使其特别适用于政府和企业的私有化部署。然而，随之而来的是日益突出的安全问题。全国政协委员、360集团创始人周鸿祎在今年两会期间再次关注大模型安全问题，呼吁各方共同努力，构建更加完善的应用安全治理体系，确保大模型技术的安全性和潜力得到最大化释放。

周鸿祎指出，DeepSeek-R1等先进模型带来了前所未有的机遇，但也面临着无法通过传统网络安全手段解决的新挑战。未来，随着各类专业大模型、垂直大模型和场景大模型的广泛应用，这些模型将以智能体的形式在众多政府机构和企业中部署，推进数字化转型和智能化改造，实现降本增效。然而，大模型存在的幻觉、内容安全等问题难以通过传统安全方案有效解决，任何环节的安全隐患都有可能引发系统性风险。

大模型应用安全的三大关键领域

周鸿祎认为，大模型应用安全主要集中在基座模型、知识库和智能体三个方面。首先，基座模型安全方面，由于大模型生成的文本可能存在与现实不符的情况，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。其次，知识库安全方面，政府和企业的重要数据存储在内部知识库中，如果缺乏有效的安全控制措施，未授权用户可能通过与大模型的交互窃取这些数据。最后，智能体安全方面，智能体通常连接政府和企业内部的各种IT系统、邮件和控制系统，一旦遭受攻击，可能会引发一系列连锁反应，如发送有害邮件或中断生产线运作，造成严重损害。

360的解决方案：“以模制模”

为应对这些挑战，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系，保护政府与企业在数字化转型中的信息安全。为进一步强化这一防御体系，周鸿祎建议采取以下两项措施：

推动安全技术创新与成果转化

周鸿祎建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的企业，针对人工智能应用所涉及的安全问题，基于安全大模型技术开展研发工作，加速技术成果转化，将安全要素深度嵌入人工智能应用的全流程。

组建产业联盟，推广安全产品

周鸿祎还建议，引导相关企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部实现技术成果共享，共同开展产品及服务测试，待产品与服务成熟稳定后，向更广阔的市场推广，助力大模型安全保障普及至各行各业。

通过这些措施，周鸿祎希望能够在保障安全的前提下，最大化地释放大模型技术的潜力，推动我国AI技术的安全发展。