企业动态

     8月31日凌晨，百度旗下大模型应用文心一言正式面向社会全面开放。目前，用户已可以在App Store和安卓应用商店下载“文心一言APP”或通过文心一言官网直接体验，百度搜索栏也加入了AI对话按钮。

    与此同时，包括百度在内，字节、商汤、中科院旗下紫东太初、百川智能、智谱华章等8家企业/机构的大模型位列首批通过《生成式人工智能服务管理暂行办法》备案的名单，可正式上线面向公众提供服务。

    在8月15日《生成式人工智能服务管理暂行办法》正式实施的半个月内，首批8家大模型产品已然拉开了“八仙过海”的序幕。根据百度官方数据，在文心一言开放首日，App已经被下载超过100万次，回答了超过3342万个问题。

    毋庸置疑的是，大模型将会带来巨大的生产力提升。据麦肯锡《生成式人工智能的经济潜力：下一波生产力浪潮》报告显示，如果将分析的63种生成式AI应用于各行各业，将为全球经济每年带来2.6万亿-4.4万亿美元的增长。这一预测还未将所有的生成式AI应用计算在内，若将尚未研究的应用计算在内，生成式AI所产生的经济影响可能会翻倍。

    然而，纵使八仙法力再高，想要过海也离不开“法器”护身：铁拐李有拐杖和葫芦、汉钟离有蒲扇、张果老有倒骑的毛驴……大模型自然也少不了法器护身。据国外大模型应用的情况显示，在其使用过程中引起的数据泄露隐患，已经引起了广泛关注。公开统计显示，在使用ChatGPT的员工中大多数会泄露数据，其中11%的数据为包含企业商业机密的敏感数据。

    “大模型风险管理需要持续的运行监控及保护，发现、检测、策略、保护、响应、处置缺一不可。”奇安信大模型卫士负责人刘岩强调，目前大模型应用的安全存在以下三个方面的挑战：

    首先是大模型应用的监测和风险评估难，大模型应用的数量飞速增加、应用更新变化快，缺少风险评估工具，企业使用风险难以评估；

    其次是上传敏感数据等异常高危行为，将会引发敏感信息泄漏或其他风险；

    最后大模型工具的使用缺乏有效的记录手段，各类信息缺失，使用风险难以追溯。

    需要注意的是，大模型应用除了训练数据、输出数据时可能引发隐私数据泄漏外，还可能面临法律合规、内容违规、知识产权、非法使用等风险。近些年，我国相继出台了《网络安全法》、《数据安全法》、《中华人民共和国个人信息保护法》，以及数据跨境相关法律监管体系，这要求企业在使用大模型时亟需守住数据安全合规底线。

    “如果说8月31日之前，国内的大模型还只是小范围的应用，那么从九月份开始，大模型将进入规模化落地的新阶段，大多数政企机构都会加入到向大模型要生产力的队伍中去，这必然会导致企业数据泄露的风险成几何倍数扩大。对此，奇安信早已做好了准备，此前发布的业内首款大模型卫士产品，就是为了解决广大企业客户对于大模型想用不敢用的顾虑，让他们能够用好大模型提升核心竞争力。”刘岩说，并且除了以上8家企业和机构外，包括阿里巴巴的“通义千问”以及科大讯飞的“讯飞星火”也都公开表示，目前已经通过了备案，相关消息预计将在未来一周内陆续公开。

    针对这些情形，奇安信发布了大模型卫士，为企业在使用大模型过程中提供四重防护：

    第一是防止数据投喂造成的敏感数据泄露。包括建立内部技术监管手段，防止员工向大模型投喂敏感数据。

    第二是建立身份识别与溯源机制。把身份与数据关联，在发生数据泄露风险时，找到数据泄露的主体。

    第三是避免触发数据跨境安全监管红线。有效监控对ChatGPT等国外大模型的数据投喂行为，避免数据跨境安全违法的发生。

    第四是对企业内部大模型应用状况全面分析。对员工的大模型应用状况进行分析，快速、有效的利用大模型技术重构企业经营生产活动流程，调整资源配置。

    目前，大模型卫士能够完美适配主流大模型应用，并在终端侧和网络侧，通过奇安信可信浏览器、安全代理网关（SWG）等全链条工具，对大模型应用实现精准管控，全面降低数据安全风险。

    刘岩表示，针对汹涌而来的大模型浪潮，促进发展和防范风险需要两者并重。奇安信大模型卫士将成为大模型的“过海法器”，帮助企业发现大模型使用过程中的安全风险、实时管控大模型访问和数据投喂过程、提升企业的大模型应用能力、溯源违法违规行为，最终让企业更放心地使用大模型技术，更安全地提升生产力，为大模型健康发展保驾护航。