企业动态

    以大模型为基础的生成式AI的高速发展，给数字化领域带来了强大的驱动力，各行各业如何利用大模型创造新质生产力，是2023世界互联网大会乌镇峰会的热门话题之一。

    在11月9日举行的“下一代前沿数字技术创新与安全论坛”上，奇安信集团总裁吴云坤表示，工业级大模型应用可以解决安全生产力短缺的问题，但需要以大模型应用安全作为生产力输出的前提和基础。

    网络安全的本质是攻防对抗，攻防对抗是能力和效率的对抗。目前，在安全事件响应、安全运营、攻防演习等实战攻防场景下，普遍存在“安全告警疲劳、安全专家稀缺、安全效率瓶颈”三大生产力短缺难题，迫切需要安全大模型来创造新质生产力，然而当前大多数大模型应用无法真正解决网络安全生产力问题。

    吴云坤指出，安全大模型达到工业级应用，需要满足三个关键条件。

    一是工业级应用需要高质量知识数据、专家队伍、实战经验和场景支撑。安全大模型的工业级应用，更依赖于高质量知识数据和实践训练。首先高质量、数量庞大的安全大数据是安全大模型的基础；其次需要庞大的安全专家团队持续为大模型提供渗透测试、威胁情报、病毒样本分析、漏洞挖掘、代码审计、安全测试、应急响应、安全运营等不同的维度的专业知识，这些知识来自于专家持续的实践经验总结；最后需要丰富的实战场景和经验，只有足够多的个性场景和基于这些场景的实践经验持续的投喂，安全大模型才能持续提供能力。

    二是工业级应用必须基于多种安全任务的强化学习和顶尖专家的反馈训练。训练是大模型能力生成的关键。安全大模型的训练过程共分为安全知识预训练、安全任务微调、反馈学习和推荐加速四个环节，其中根据安全任务进行微调模型是大模型能力生成的关键环节，需要通过大量安全设备间数万个API接口任务进行不同领域的微调，才能具备足够的任务能力；另外一个关键环节是顶尖专家的反馈学习，根据大量顶尖安全专家的反馈进行强化学习，对安全任务要求，进一步强化执行安全任务的能力。

    三是工业级应用需要面向安全生产场景中的任务和应用强化实战能力。奇安信面向网络安全工业级应用推出了Q-GPT安全大模型，这个大模型致力于解决“安全告警疲劳、运营效率瓶颈、安全专家稀缺”三大生产力短缺难题，面向安全运营、安全事件响应和攻防演习等实战安全场景，强化了智能研判、智能溯源、智能处置、智能报告、智能问答五大能力，通过实战能力的强化，确保在网络安全生产过程中输出能力，实现提升生产力和生产效率的目标。

    吴云坤介绍，目前Q-GPT安全大模型已经在安全运营、事件响应、攻防演练等场景中进行大量实践验证，大幅度提升了相关应用场景的安全能力和效率。比如在安全运营场景下，经过初步测算，Q-GPT大模型每分钟可以研判16条告警，是安全专家平均水平的16倍；年运营效率可以达到人工运营的70倍。

    同时，大模型技术是一把双刃剑，要以大模型应用安全作为生产力输出的前提和基础。奇安信推出的大模型卫士，可防范大模型应用中数据投喂造成的敏感数据泄露、避免触发数据跨境安全监管红线、建立身份识别与溯源机制，对企业的大模型应用进行安全管控。

    吴云坤表示，安全大模型是网络安全新质生产力的希望和未来，只有将既有网络安全知识和能力、网络安全实战场景和实践充分结合、深度融合，才能真正让大模型应用落地，解决网络安全生产力短缺难题。