越来越多企业选择拥抱大模型，以帮助业务实现提质增效。而随着DeepSeek等AI大模型的快速发展和开源，出于获得更好的响应速度、更高的数据安全性以及在特定任务上更好的表现等考虑，私有化部署也成为企业应用大模型的首选方式。
然而，大模型本地化部署在云端环境中带来了诸多便利的同时，也使得AI工具更容易暴露在公网环境中，引入潜在安全隐患。近期，腾讯朱雀实验室就发现了多个广受欢迎的AI工具中普遍存在的安全漏洞，这些漏洞一旦被利用将造成严重后果，包括不限于数据泄露、知识库污染、算力劫持、设备接管等。
● 数据泄露： 通过API接口漏洞、未加密传输或权限配置缺陷，窃取模型训练数据、用户隐私信息及模型参数等敏感资产。
● 知识库污染： 当知识库管理接口存在未授权上传权限时，攻击者可实施定向内容投毒攻击，导致合规风险。
● 算力劫持： 非法占用GPU/TPU/CPU集群资源进行DDoS攻击或竞品模型训练。
● 设备接管： 使用RCE漏洞，接管控制服务器，如Ollama远程代码执行漏洞（CVE-2024-37032）。
为了帮助企业及时发现并应对这些风险，腾讯云安全中心依托强大的体检能力自动发现AI风险。云安全中心支持一键同步云上资产，支持添加云外资产，实时/定期对资产进行全端口扫描、服务识别、指纹测绘、漏洞扫描、暴露路径管理（CLB、安全组等配置识别）。
该体检能力主要功能包括四大方面：
● 全面资产扫描： 支持对云上和云外的所有资产进行全面扫描，全端口扫描。
● 实时漏洞检测： 集成多款漏扫引擎，风险指纹识别，实时检测潜在的暴露面和漏洞风险。
● 云资源风险检查： 支持对 CVM、CLB、容器镜像、COS等云数据库，共10类云资产的配置风险检查及统一安全管理。
● 体检报告生产： 自动生成详细的报告，根据扫描结果，提供针对性的安全防护建议和解决方案。
借助这一体检能力，企业能及时发现和应对大模型部署和应用中对外暴露的风险，保护自身数据和算力资源，保障业务的稳定运行。使用云安全中心的“体检”能力也非常简单，只需以下几个步骤：
● 登录腾讯云控制台： 访问腾讯云官网，登录您的账户。
● 进入云安全中心： 在控制台中找到并进入云安全中心模块。
● 启动体检任务： 在资产中心—点击资产更新后，选择漏洞与风险中心—安全体检—标准体检，选择全部资产。
● 查看报告： 扫描完成后，系统会自动生成详细的报告，您可以在控制台中直接查看。
暴露面扫描配置示意图
● 测绘结果查看： 在漏洞与风险中心-风险服务暴露页面查看大模型应用等对外暴露的风险服务。
风险服务对外暴露-高危提示
云安全中心漏扫结果
此外，腾讯主机安全（云镜）支持检测大模型是否存在漏洞（根据版本号匹配）。
扫描配置界面
“大模型如今是黑灰产重点盯防和攻击的对象，也是供应链攻击的重点突破口。因此，企业在部署和应用大模型时应树立安全意识，例如从正规渠道获取模型文件，即时修复模型漏洞、配置安全组权限收敛AI敏感工具避免对外暴露，并通过部署专业安全产品来抵御潜在风险。”云鼎实验室相关技术专家表示。
人工智能安全态势管理（AI-SPM）现状和规划
随着生成式AI在企业中的应用更加广泛，其对企业组织安全基础设施和数据治理的挑战将会更大。目前，人工智能安全态势管理（AI-SPM）正在以工具或产品的形式，保障企业人工智能和机器学习系统的安全性和可靠性。
AI-SPM通过持续检测、评估AI模型和数据的安全态势，协助企业应对挑战。目前，众多厂商已经开始提供AI-SPM产品与工具，其中部分厂商从零开始构建，也有公司基于CSPM上拓展，但AI技术引发的变革高速且持续，行业中大多数产品都无法实现足够全面、足够集成的应对风险。
对于企业来说，基于AI-SPM掌握自身全部的模型、训练数据、供应链和web接口安全情况，都是非常必要的。腾讯云安全中心将继续快速迭代，帮助云上客户增强AI系统的安全性、提升防御主动性、降低攻击面，通过自动化管理和响应提升运营效率。
