登录格式
当公司已经拥有人工智能试点、RAG、聊天机器人或使用外部人工智能服务,但对安全、数据和风险管理没有信心时,就需要进行安全人工智能审计。
包含什么
数据
什么被传输到人工智能,其中存储请求和响应。
访问权限
角色、管理员、用户、来源和权限。
建筑学
模型、RAG、集成、日志、循环和操作。
风险
PD、商业秘密、幻觉、即时注入、供应商锁定。
如果审核表明场景可以投入商业运营,下一步就是设计 安全的人工智能自动化:人工智能代理的架构、角色、日志、人机交互和操作规则。
输出端的伪影
| 人工制品 | 为什么需要它? |
|---|---|
| Risk register | AI环境的优先事项和风险。 |
| Security checklist | 数据、访问和日志的控制要求。 |
| Architecture notes | 当前架构的注释。 |
| Remediation roadmap | 修正和发展计划。 |
团队构成
常见问题
这是模型代码审核吗?
不会。主要关注的是AI的企业架构、数据、集成、接入和运营。
适合外部AI服务吗?
是的,如果您需要了解哪些数据和流程属于外部循环。
它可以与飞行员结合吗?
是的,安全审计可以在飞行员之前或与他同时进行。
外部人工智能服务和攻击面
如果 AI 脚本使用公共 API、Web 小部件、代理、云存储、回调端点或外部 LLM 服务,则应将它们视为外部攻击面的一部分。作为安全AI审计的一部分,RESTART不仅检查数据和角色,还检查AI环境的哪些技术点对外部可见以及它们是如何控制的。
给我们发邮件
写信给我们: info@restart.re 或点击下面的按钮。对于第一封信,简要描述概要、组织的作用、当前系统、局限性和期望的结果就足够了。
给我们发邮件让我们讨论一下您的环境
描述任务、当前系统、约束和预期结果。我们将提供实用的第一步:诊断、试点、审计、路线图或项目团队。





