派拓网络：2024年为AI助力的应用程序建立治理框架白皮书

今天分享的是：派拓网络：2024年为AI助力的应用程序建立治理框架白皮书

报告共计：13页

《为AI助力的应用程序建立治理框架》白皮书由派拓网络发布，聚焦AI助力应用程序的安全风险与治理，核心观点是企业需构建新治理框架应对AI带来的挑战，保障其安全、合规、负责任地应用。

1. AI发展现状与安全隐患：AI发展迅速，企业积极部署AI助力的应用程序。“传统的”AI和ML在多领域广泛应用，其安全隐患包括数据完整性、模型性能监控、偏见审核等。大型语言模型（LLM）功能强大，应用广泛，不同实现模式如预训练模型、微调和RAG、自定义模型训练等，分别存在影子AI项目、数据隐私、数据中毒攻击等安全风险。

2. AI风险的独特性：AI带来的安全挑战与以往不同。变化速度快，新技术不断涌现，企业快速采用易忽视安全问题，但也为从设计上保障AI安全提供机遇。影响更广泛，涉及法律、道德等多领域，需多部门协同管理风险。需要新型监督，传统安全框架已无法满足需求，需关注公平性、透明度等新维度。威胁检测和补救困难，现有工具难以检测新威胁，AI模型问题补救成本高、效果有限。

3. AI应用程序治理框架建议：企业应采用新治理框架，重点关注可视性和控制能力。可视性要求了解AI使用情况，如模型、数据、用例、访问等方面信息。控制能力则通过制定政策、流程和技术措施实现，涵盖模型认可政策、数据治理政策、用例审批政策等多个方面。

展开剩余74%

4. Prisma Cloud AI - SPM解决方案：面对AI风险，企业需要新工具。Prisma Cloud AI Security Posture Management（AI - SPM）可防范AI相关风险，提供模型生态系统可视性，具备模型发现盘点、预防数据暴露、态势和风险分析等功能，还能与Code to CloudTM平台集成，助力企业实现安全策略，遵守法规。

以下为报告节选内容

发布于：广东省