企业动态

    4月27日，由全国工商联主办，全国工商联网络与数据安全委员会、商会发展服务中心、组织建设部承办的第64届德胜门大讲堂在京举行。活动以“‘人工智能+安全’护航数字经济”为主题，邀请主管部门、研究机构、算法、算力、数据等人工智能与安全产业链代表，共同探讨“人工智能+安全”前沿技术、创新思路和实践经验。

    全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在《高质量发展：数字经济时代的“人工智能+安全”》主题演讲中表示，“人工智能+”为我国迈向数字经济强国提供宝贵机遇的同时，也带来难以回避的安全风险。网络安全行业作为人工智能技术最快落地应用且最快见到实效的行业之一，应积极探索“人工智能＋安全”创新应用，夯实数字经济高质量发展的安全底板。

    01  “人工智能+”激化三大安全风险  给数字经济高质量发展埋下隐患

    奇安信发布的国内首份《2024年人工智能安全报告》中指出，人工智能是一种通用技术，“通用”就意味着既可以用来做好事，也可以被用来干坏事。齐向东总结了“人工智能+”激化的三大安全风险。

    一是人工智能加剧传统安全威胁，比如数据泄露、欺诈攻击、社会治理安全等。犯罪分子还能利用“深度伪造”技术，用来伪造声音、图像、视频和其他证据，“眼见未必为实”、“耳听未必为真”将成为常态，网络诈骗大增。

    二是人工智能加剧攻防失衡，利用和针对人工智能的攻击层出不穷，网络安全“易攻难守”。人工智能大模型懂得更多的漏洞知识，懂得更多攻击方法，相当于给了普通人一本“武功秘籍”；而专业黑客可以利用人工智能工具发动饱和式攻击，轻松打垮原有的网络安全体系。

    三是人工智能加剧军事威胁，人工智能武器化趋势显现。人工智能技术的发展促进了军事科技的创新，让新型武器装备和战术战略不断涌现出来，越来越多的国家已经开始探索AI在军事领域的应用；同时，人工智能还成了发动舆论战的最佳工具，通过实施立体式“攻击”、全时段发布，改变传统舆论手段单一时效性慢的问题。

    02  加快推进“人工智能+安全”创新实践   护航数字经济高质量发展

    “人工智能带来的问题，还是要靠人工智能来解决。”齐向东表示，具体到“人工智能+安全”的创新实践方面，需要做好两件事：

    第一件事，是依托“人工智能+安全”，推动网络安全产业的升级和革新。在人工智能赋能网络安全方面，奇安信始终保持领先。一方面，奇安信高度重视人工智能技术的基础研究，并将“人工智能+”应用于公司全线产品中；另一方面，奇安信创新研发了首个工业级大模型安全人工智能产品QAX-GPT安全机器人，并已面向全行业推出。

    他介绍，QAX-GPT安全机器人能让安全运营实战效果大幅提升。它的告警研判效率能达到人工研判的60多倍，研判能力已经接近中级安全专家水平。预计在安全机器人的助力下，政企客户的网络安全防护效率将大幅提高，未来将可能逐步实现95%全自动化安全运营；安全专家也能从繁重的日常工作中解脱出来，转而深入更多业务场景，完成更高价值的任务，最终重塑传统安全运营模式。

    第二件事，则是用“人工智能＋安全”，确保人工智能大模型全生命周期的安全性、可靠性，让千行百业更放心地向人工智能要生产力。随着人工智能技术在各领域的广泛应用，更多新的、复杂的安全问题也逐渐凸显，尤其是大语言模型的快速发展，带来了数据安全、模型安全，以及内容安全、AI伦理等各类风险。这些安全风险不仅影响大模型技术的效果，还可能造成企业和用户的经济损失、信誉危机。

    对此，奇安信创新打造了AI安全整体应对方案，填补了行业空白。借助这套方案，政企机构可以看清AI安全的全貌，提前洞察风险并采取应对措施。方案包括了包括AI安全框架，以及基于安全框架下的AI安全解决方案、AI评估服务和安全检测工具等。

    “未来，还要继续强化‘人工智能＋安全’创新应用，夯实数字经济高质量发展的安全底板。”齐向东建议，各行业头部企业与专业安全厂商可以结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品应用，在实战中推动“人工智能+安全”进入越用越强的良性循环，推动网络安全攻防技术走向新平衡；并希望有积极的政策来推动人工智能相关产品落地应用，比如设置专项基金，对率先取得技术突破、成果转化的企业机构给予奖励，对积极使用相关技术、产品和服务的企业给予补贴等。