HyperAI超神经
11 days ago

HySafe-AI:AI系统混合安全架构分析框架:案例研究

Mandar Pitale, Jelena Frtunikj, Abhinaw Priyadershi, Vasu Singh, Maria Spence
HySafe-AI:AI系统混合安全架构分析框架:案例研究
摘要

人工智能(AI)已成为自动驾驶系统(ADS)和机器人技术等安全关键领域的核心组成部分。近年来,自主系统的架构正朝着端到端(E2E)单体架构发展,例如大型语言模型(LLMs)和视觉语言模型(VLMs)。本文回顾了不同的架构解决方案,并评估了常见的安全分析方法的有效性,如失效模式与效应分析(FMEA)和故障树分析(FTA)。我们展示了这些技术如何可以针对基础模型的复杂特性进行改进,特别是在它们形成和利用潜在表示的方式上。我们引入了HySAFE-AI,一种混合型AI系统安全架构分析框架,该框架适应传统方法以评估AI系统的安全性。最后,我们提出了未来工作的方向和建议,以指导未来AI安全标准的发展。