企业动态

    “人工智能是创造美好未来的高科技手段，但是要始终以安全保障为前提，才能促进智慧生活发展。”作为AI“四小龙”之一的某人工智能公司网络安全部门负责人表示，当我们在享受人工智能技术带来的便捷与高效的同时，更有必要防止该技术被滥用的可能性，尤其是要重视黑客对人工智能公司发起的攻击，因为以“勒索病毒、信息泄露”为代表的网络攻击会给企业资产、企业声誉造成重大影响。同时，在《网络安全法》《数据安全法》《个人信息保护法》等法规之下，注重网络安全合规开展应该放在所有企业的首位。

    作为全球AI独角兽，该公司拥有的人工智能算法、模型等核心技术都是公司的重要资产和竞争力所在。由于人工智能技术应用广泛，所涉及的数据量和信息也较为庞大，因此成为了黑客的重要攻击目标。同时，因为人工智能类公司通常需要使用不同的系统、应用程序及设备来处理数据和训练模型，复杂程度非常高，再加上供应链环节中供应商代码不可避免存在质量等问题，最终导致人工智能各业务及系统产生诸多漏洞和弱点，容易被攻击者利用。以上这些，都给该AI公司的网络安全提出了严峻挑战。

    在这种情况下，该AI龙头企业选择与奇安信天眼达成合作。通过部署天眼系统，该AI公司数据中心及下属9个职场办公区实现内网全流量威胁监测、分析、处置为一体的可视化安全运营，进而提升了集团数据中心及各地职场的整体防护协同能力，确保及时发现各业务中隐藏的安全风险及威胁，准确快速地定位并阻断勒索病毒投递、挖矿木马外联、内外网渗透等各类恶意攻击。最终，保证人工智能业务相关的人脸、声音等关键信息数据传输安全、存储安全，保障业务稳定运行。

    人工智能公司的数据，成黑客觊觎的目标

    人工智能高度依赖海量数据的采集和训练分析，而海量数据意味着更复杂、更敏感的数据也会更多，大量敏感数据的汇集使得黑客在一次攻击中可能获得更多收益，从而导致AI公司面临更大的威胁。该AI公司网络安全部门相关负责人介绍，很多专业从事人工智能的公司业务覆盖都比较广，涉及教育、医疗、遥感、广电、商业、工业、金融等多个行业的数据，因此，黑客攻击人工智能类的公司，主要是看中了“数据”，想通过窃取数据来获得盈利，主要体现在以下几个方面。

    首先，黑客通过非法手段进入AI公司内网，窃取大量数据和知识产权信息，这些数据和信息将被用于出售或者勒索钱财。例如，美国纽约的一家AI面部识别公司曾经遭到黑客公司攻击，致使其全部客户名单以及30亿张照片库被黑客窃取；某知名AI智能工业芯片制造商曾被勒索软件袭击，黑客要求支付1300万美元赎金。

    其次，攻击者还可能对窃取到的数据信息进行“移花接木”，利用人工智能技术对人脸、声音等个人隐私敏感数据进行深度伪造，后利用其重新实施诈骗。例如：攻击者利用人工智能技术将窃取到的照片“活化”、合成动态视频，之后或直接骗过社交平台、支付宝账户的人脸核验机制，进行非法获利。

    另外，除了获利之外，黑客还可能篡改内部数据，故意制造混乱，从而导致AI公司内的人工智能系统做出完全错误的决策。在这种干扰下，原本精确的人工智能，瞬间沦为“人工智障”。例如：黑客攻击智能驾驶系统，导致明明是右转标志，自动驾驶系统却识别为左转，极其容易酿成交通事故。

    安全响应滞后， AI公司三大安全问题尤为突出

    “很多数据安全事件都是出事之后，受害单位才知道，甚至还有很多公司受了攻击却不知道。”该AI公司网络安全部门相关负责人表示，全世界的力量都在打击网络犯罪，但是从黑客的攻击手法来看，过去的“小毛贼”已经鸟枪换炮，升级为专业化的网络犯罪组织，许多网络攻击来无影、去无踪，更看不见，无法做溯源和调查分析，很多厂商都只能打掉牙齿往肚子里咽。

    造成这种现象的原因就是，企业割裂式的安全建设，资产和未知风险看不全，碎片化的威胁检测，孤岛式的应急响应。

    在没有部署天眼之前，该AI公司面临的安全挑战主要也是体现在这几个方面：

    首先，针对内网间传输的未知流量，以及来自外部的攻击流量不可视，这两部分流量就像“暗箱”，根本无法看清、看全威胁。

    该AI公司网络安全部门相关负责人介绍到，内网间传输的未知流量，主要分为两个部分。

    一是职场和职场间互访的流量，这部分流量面临的威胁主要体现在，当攻击者拿到某个职场某台机器的权限时，他可以将这台主机视作跳板，进而对更多职场发起攻击；

    二是职场访问部署在公有云、数据中心、服务器等相关业务的流量，这部分流量面临的主要威胁多为攻击者窃取敏感口令信息之后登录核心业务系统，窃取重要数据。

    而来自外部的攻击，则主要是攻击者会利用各种手段尝试攻击企业内网，包括漏洞攻击、钓鱼邮件攻击、侦测踩点攻击等等。

    其次，部署在各职场办公区的不同防护设备之间数据相对割裂，碎片化的检测根本无法贯通攻击链数据，无法对攻击进行快速阻断和高效分析。

    “和我们公司一样，大部分企业都有同样的困惑，那就是企业虽然有防火墙、有杀毒软件，但是就和瞎子一样，眼睛成了摆设。”该AI公司网络安全部门相关负责人表示，这也是导致目前各类网络攻击屡禁不绝的原因之一。

    最后，不同职场分布在全国不同区域，威胁检测与分析的工作基本都是“各管各的”，异常线索无迹可寻，协同联动防护的能力差，无法满足对所有职场的全局态势进行掌控和分析。

    由此看来，如何构建一套能够“看见风险、抵御威胁、制止攻击”的协同联动体系，是该人工智能公司在数字化时代需要迫切解决的问题。

    天眼助力AI巨头  看见、看清、看全网络威胁

    基于该AI公司的网络安全现状，以及各地职场单位的整体情况，该AI公司与奇安信天眼达成合作。天眼系统按照集群部署的方式，完成该AI公司数据中心及9个职场的整体威胁态势感知平台的搭建，将告警统一收集至数据中心进行集中展示和按需分析。

    在各职场侧，通过在9大职场核心交换机侧部署天眼探针设备，把各地职场办公内网，以及内网访问互联网、阿里云等的流量日志和告警信息，全部上传到数据中心机房的天眼分析平台集群。分析平台通过对收集到的信息进行综合分析后，可精准发现数据中心及各大职场所存在的安全威胁。

    在全局方面，以集群式部署在数据中心的天眼分析平台，既可以监测到各区域天眼探针上传的异常流量日志和告警信息，以及天眼文件沙箱传递的异常文件告警信息，还可以保证对其他9个职场的威胁情况进行全面掌控，并可根据需要呈现出数据中心、多地职场的各自安全态势，方便日常安全运营，确保威胁监测的全面性与稳定性。

    “我们部署了天眼之后，公司内网互访，以及内外网互联的全场景、收发双向流量全部都能监测到，再也没有了盲区。”

    该AI公司网络安全部相关负责人表示，天眼基本做到100%覆盖业务网络安全，将网络安全和AI业务运营紧密地融合到了一起，同时能快速定位各类已知、未知安全风险，联动其他环节，阻击潜伏在内外网的挖矿、勒索、APT组织等，真正做到了看清、看全威胁。

    该AI公司网络安全部相关负责人说：“现在打通9个职场之间的数据孤岛后，我们做到了对威胁进行智能关联，比如根据某些职场的某些事件关联攻击者画像，模拟出攻击者的攻击路径，能看到攻击者是谁、使用了什么手段、进行到什么环节、做了哪些事情等，攻击过程知根知底。”

    看清看全威胁、对攻击过程知根知底之后，还需要通过可视化展现出来，这样对于日常运维的安全人员来说，才能真正做到让威胁“可见”。有了天眼之后，该AI公司网络安全部门相关负责人表示，公司安全运维人员既可以从整体综合安全态势来分析威胁，还能单独调取某地职场的态势来进行分析，同时还能按照外部威胁态势、外部访问状态、横向访问等多个角度来按需进行分析，提高对高级威胁的处置效率。

    后记

    当前，人工智能已广泛应用于人们日常生产、生活的方方面面，对其安全可信的需要已经提升到前所未有的高度。人们不仅要关注人工智能应用暴露出的各种安全风险和挑战，更要关注人工智能公司内部的网络安全，毕竟AI技术源起于人工智能公司，一旦人工智能公司遭受网络攻击，那么人工智能算力基础设施将会受到破坏，人工智能发展蓝图的底色安全可信可靠将被摧毁。

    奇安信天眼作为网络威胁检测与分析领域的领头羊，为各行业客户提供专业的集威胁检测、响应、溯源为一体化的网络安全解决方案，同时也积累了大量实践经验。未来，天眼将持续协助人工智能行业客户做好网络安全威胁风险监测防范工作，保障算法运行时的机密性与完整性，人工智能数据的安全传输与存储，携手AI公司打造可信、可用、好用的人工智能算力底座，共同营造安全、健康、合规发展的人工智能产业生态。