Robust Intelligence 提供了一个端到端的AI应用安全解决方案,旨在保护企业免受AI安全和安全漏洞的威胁。通过自动化方法评估和缓解威胁,Robust Intelligence 平台由两个互补的组件组成:AI验证和AI保护。AI验证自动化评估AI模型、数据和文件的安全性和安全性漏洞,并确定生产环境中安全AI部署所需的防护措施。AI保护则为生产中的AI应用提供防护,防止完整性、隐私、滥用和可用性违规,并通过自动化威胁情报平台更新。
Robust Intelligence 平台的核心是其专有技术,包括专有的算法红队、威胁情报管道和政策映射。这些组件共同构成了模型引擎,负责生成暴露模型和应用漏洞的输入示例。这一循环过程不断改进AI验证和AI保护产品。
此外,Robust Intelligence 在AI安全标准的制定中发挥了重要作用,包括共同开发AI风险数据库以评估供应链风险,共同编写NIST对抗性机器学习分类法,以及为OWASP LLM应用Top 10做出贡献。
Robust Intelligence 的合作伙伴包括Lena Smart,首席信息安全官,她表示生成式AI引入了未管理的安全风险,特别是在用补充数据丰富LLM时。Robust Intelligence 的AI防火墙解决了这一关键问题,使企业有信心大规模使用LLM。
Robust Intelligence 还提供了丰富的资源和洞察,包括算法AI红队、Llama-2风险评估和NIST对抗性ML分类法等,帮助企业更好地理解和应对AI安全挑战。