奇安信集团将基于内部安全大数据分析、安全运营实践案例分析、各领域市场调研分析及与第三方合作产出的研究成果,以研究报告的形式对外发布。为方便学习分享和二次研究,绝大多数研究报告都为用户提供了PDF、WORD和PPT三种不同格式的下载方式,部分PPT还有专家的配音解读。欢迎大家下载和使用。
本报告由奇安信数据安全总体部、奇安信人工智能研究院、奇安信观星实验室、奇安信网络安全部联合编写。报告总结了政务大模型主要安全风险类型,结合大模型应用建设场景,制定了政务大模型安全治理框架,以探索包容、审慎的大模型安全管理模式。
政务大模型安全风险主要包括七个主要类型,即数据安全风险、训练语料安全风险、模型安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险。
政务大模型的安全治理框架是保障其安全、合规运行的基础。全面的安全治理框架,需要满足合规要求、建立完善安全机制、提供安全技术保障。其中,合规是首要原则,涉及多项法律法规、规章制度的遵循。安全技术保障是政务大模型安全治理框架的核心,涵盖从基础安全措施、数据安全、大模型开发安全到运行安全等方面。
政务大模型的安全治理上,需要政府、企业、研究机构、监管机构等各方协作,形成良性互动生态体系,构建安全、可靠、有序的环境,充分发挥政务大模型在提升政府服务效能、推动社会进步方面的积极作用。
人工智能(AI)是新一轮科技革命和产业变革的核心技术,被誉为下一个生产力前沿。具有巨 大潜力的 AI 技术同时也带来两大主要挑战:一个是放大现有威胁,另一个是引入新型威胁。
奇安信预计,未来十年,人工智能技术的恶意使用将快速增长,在政治安全、网络安全、物理 安全和军
研究发现:
AI已成攻击工具,带来迫在眉睫的威胁,AI相关的网络攻击频次越来越高。
AI加剧军事威胁,AI武器化趋势显现。
AI与大语言模型本身伴随着安全风险,业内对潜在影响的研究与重视程度仍远远不足。
AI 技术推动安全范式变革,全行业需启动人工智能网络防御推进计划。
2024年上半年,奇安信集团安服团队共接到应急服务需求336起。金融机构、制造业、政府部门的业务专网是2024年上半年攻击者攻击的主要目标。
当前国内绝大多数政企机构在网络安全基础设施建设和网络安全运营能力方面存在严重不足。一方面,仅有15.3%的政企机构能够通过安全巡检提前发现问题,避免损失,而绝大多数政企机构只能在重大损失发生之后,或被第三方机构通报后才能发现安全问题;另一方面,攻击者利用弱密码、永恒之蓝等常规漏洞攻击主机、服务器的事件占比近二分之一。
安全意识问题已经成为制约政企机构安全生产的根本性问题:由内部人员违规操作触发的应急响应事件约占2024年上半年95015服务平台接报事件总量的四分之一。公网泄露敏感信息、高危端口对公网开放、下载盗版软件等由于安全意识淡薄而引发的内网服务器受感染导致勒索病毒蔓延、数据泄露甚至是服务器失陷事件层出不穷。由此可见,大中型政企机构加大力度提升内部员工网络安全防范意识迫在眉睫。
95015服务平台2024年上半年接报的安全事件中有小部分来自政企机构内部实战攻防演习活动,通过实际的攻击模拟和防御演练,企业可以更好地发现和识别可能存在的安全漏洞,能够尽早发现并修复潜在的威胁,防止实际攻击的发生,减少潜在的损失。
在中国职教学会领导的高度关注和支持下,奇安信行业安全研究中心、中国职业技术教育学会网络安全专委会、全国网络空间安全行业产教融合共同体、北京理工大学、重庆电子科技职业大学等机构的网络安全专家、学者,历时半年多,共同开发了出了这套“网络安全技术技能人才职业能力图谱”。并于2024年世界职业技术教育大会期间正式发布。
图谱主要包括安全运营、网络攻防、安全管理、开发与测试、安全分析等5个通用安全技术方向,以及电子数据取证、工控安全、内容安全等3个专向安全技术方向,共8大方向、49大类、152小类、734项具体能力,是目前国内外最为系统、最为全面、最细粒度,也是最为接近中国网络安全实战、实践要求的网络安全人才能力图谱。
本报告由奇安信数据安全总体部、奇安信人工智能研究院、奇安信观星实验室、奇安信网络安全部联合编写。报告总结了政务大模型主要安全风险类型,结合大模型应用建设场景,制定了政务大模型安全治理框架,以探索包容、审慎的大模型安全管理模式。
政务大模型安全风险主要包括七个主要类型,即数据安全风险、训练语料安全风险、模型安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险。
政务大模型的安全治理框架是保障其安全、合规运行的基础。全面的安全治理框架,需要满足合规要求、建立完善安全机制、提供安全技术保障。其中,合规是首要原则,涉及多项法律法规、规章制度的遵循。安全技术保障是政务大模型安全治理框架的核心,涵盖从基础安全措施、数据安全、大模型开发安全到运行安全等方面。
政务大模型的安全治理上,需要政府、企业、研究机构、监管机构等各方协作,形成良性互动生态体系,构建安全、可靠、有序的环境,充分发挥政务大模型在提升政府服务效能、推动社会进步方面的积极作用。
人工智能(AI)是新一轮科技革命和产业变革的核心技术,被誉为下一个生产力前沿。具有巨 大潜力的 AI 技术同时也带来两大主要挑战:一个是放大现有威胁,另一个是引入新型威胁。
奇安信预计,未来十年,人工智能技术的恶意使用将快速增长,在政治安全、网络安全、物理 安全和军
研究发现:
AI已成攻击工具,带来迫在眉睫的威胁,AI相关的网络攻击频次越来越高。
AI加剧军事威胁,AI武器化趋势显现。
AI与大语言模型本身伴随着安全风险,业内对潜在影响的研究与重视程度仍远远不足。
AI 技术推动安全范式变革,全行业需启动人工智能网络防御推进计划。
2024年上半年,奇安信集团安服团队共接到应急服务需求336起。金融机构、制造业、政府部门的业务专网是2024年上半年攻击者攻击的主要目标。
当前国内绝大多数政企机构在网络安全基础设施建设和网络安全运营能力方面存在严重不足。一方面,仅有15.3%的政企机构能够通过安全巡检提前发现问题,避免损失,而绝大多数政企机构只能在重大损失发生之后,或被第三方机构通报后才能发现安全问题;另一方面,攻击者利用弱密码、永恒之蓝等常规漏洞攻击主机、服务器的事件占比近二分之一。
安全意识问题已经成为制约政企机构安全生产的根本性问题:由内部人员违规操作触发的应急响应事件约占2024年上半年95015服务平台接报事件总量的四分之一。公网泄露敏感信息、高危端口对公网开放、下载盗版软件等由于安全意识淡薄而引发的内网服务器受感染导致勒索病毒蔓延、数据泄露甚至是服务器失陷事件层出不穷。由此可见,大中型政企机构加大力度提升内部员工网络安全防范意识迫在眉睫。
95015服务平台2024年上半年接报的安全事件中有小部分来自政企机构内部实战攻防演习活动,通过实际的攻击模拟和防御演练,企业可以更好地发现和识别可能存在的安全漏洞,能够尽早发现并修复潜在的威胁,防止实际攻击的发生,减少潜在的损失。
在中国职教学会领导的高度关注和支持下,奇安信行业安全研究中心、中国职业技术教育学会网络安全专委会、全国网络空间安全行业产教融合共同体、北京理工大学、重庆电子科技职业大学等机构的网络安全专家、学者,历时半年多,共同开发了出了这套“网络安全技术技能人才职业能力图谱”。并于2024年世界职业技术教育大会期间正式发布。
图谱主要包括安全运营、网络攻防、安全管理、开发与测试、安全分析等5个通用安全技术方向,以及电子数据取证、工控安全、内容安全等3个专向安全技术方向,共8大方向、49大类、152小类、734项具体能力,是目前国内外最为系统、最为全面、最细粒度,也是最为接近中国网络安全实战、实践要求的网络安全人才能力图谱。
95015服务热线
微信公众号