Находим первый сценарий
Фиксируем бизнес-процесс, источники, пользователей, роли, ограничения ИБ и критерии успеха.
Результат: scope пилота и карта зависимостей.Посадочная
Безопасность ИИ: защита LLM, RAG и данных в корпоративном контуре
Безопасность ИИ в компании — это контроль над тем, какие данные попадают в модели, кто получает доступ к знаниям через ИИ-ассистента и что остаётся в журналах. РЕСТАРТ проводит аудит безопасности ИИ-систем, проектирует и внедряет защищённый ИИ-контур: защиту LLM и RAG от утечек данных и prompt injection, права доступа, журналы и размещение моделей on-premise или в частном облаке.
Безопасность ИИ-систем: от чего защищаем
ГК РЕСТАРТ — безопасность корпоративных ИИ-систем: аудит, защита LLM и RAG, контроль утечек данных через ИИ для компаний с требованиями информационной безопасности.
Риски ИИ-системы возникают не в самой модели, а вокруг неё: в данных, которые уходят в запрос, в индексе базы знаний, в правах доступа, журналах и интеграциях. Ниже — типовые угрозы и меры, которые РЕСТАРТ закладывает в архитектуру.
Утечка данных через ИИ
ПДн, коммерческая тайна или код попадают во внешний сервис, RAG-индекс, промпт, ответ или журнал без оснований. Защита: Классификация данных, маскирование, DLP, частный контур, политики хранения и минимизация.
Prompt injection
Документ или команда пользователя заставляют модель игнорировать правила или раскрыть данные. Защита: Фильтрация источников, системные политики, sandbox для инструментов, red teaming и мониторинг.
Обход прав в RAG
Ассистент показывает сотруднику сведения из документа, к которому у него нет доступа. Защита: Наследование прав из IAM/IDM, фильтрация индекса, ссылки на источники, проверка журналов.
Избыточные полномочия агента
ИИ-агент получает слишком широкие права и выполняет действие без согласования. Защита: Минимальные права, лимиты действий, подтверждение человеком, журналирование — подробнее о безопасной автоматизации ИИ-агентами.
Недостоверные ответы
Модель уверенно отвечает без источника или смешивает устаревшие документы. Защита: RAG с источниками, quality gates, версии документов, проверка человеком в ответственных сценариях.
Внешняя поверхность атаки
Публичные API, виджеты, прокси и внешние LLM-сервисы видны наружу. Защита: Проверка внешних точек ИИ-контура, пентест AI/API-контура.
Типовые уязвимости LLM-приложений описаны в OWASP Top 10 for LLM Applications, тактики атак на ИИ-системы — в MITRE ATLAS. В российской практике ИИ-контур связывается с 152-ФЗ и ИСПДн, требованиями к КИИ и ГИС, внутренними политиками ИБ и коммерческой тайной.
Аудит безопасности ИИ
Если ИИ-пилот, RAG, чат-бот или внешний ИИ-сервис уже используется, начинать стоит с аудита безопасности ИИ — пакета Secure AI audit. За 10 рабочих дней проверяется один согласованный ИИ-контур: какие данные уходят в модель и внешние сервисы, кто получает доступ к источникам через ИИ, полны ли журналы, где риски утечек, prompt injection и зависимости от одного поставщика.
Реестр рисков
Найденные риски с оценкой значимости, приоритетом, рекомендуемой мерой и ответственной ролью.
Разбор архитектуры
Где данные выходят за контур, где не хватает журналов, где размыты роли.
Контрольный список
Требования к данным, доступам и журналам, по которым контур можно перепроверить своими силами.
Дорожная карта
Что закрыть до промышленной эксплуатации, что можно отложить, в каком порядке.
Активное тестирование — пентест AI/API-контура — и проверка мер защиты в лаборатории ИБ идут отдельными позициями после аудита.
Защита LLM и RAG
Защита LLM и RAG строится из нескольких слоёв; ни один компонент не закрывает риски в одиночку.
Контур и размещение
Модели и данные — on-premise, в частном облаке или гибридно. Внешние LLM-сервисы — только после анализа данных, договорных условий, хранения и логирования.
Права доступа в RAG
Права пользователя наследуются из IAM/IDM, групп и ролей; индекс фильтруется, ответ ссылается на источник.
Маскирование и DLP
Чувствительные поля маскируются до попадания в модель и индекс — маскирование и обезличивание данных.
Слой промптов
Модель, системные инструкции, политики ответа, ограничения инструментов и фильтры — отдельный контролируемый слой.
Журналы и мониторинг
Фиксируются запросы, ответы, источники, ошибки, эскалации, действия агента и события ИБ.
Проверка до запуска
Тестируются prompt injection, утечки, доступы, права агента, логи, поведение при ошибках и реакция на спорные запросы.
Безопасность ИИ и ИИ в информационной безопасности
Эта страница — о безопасности самих ИИ-систем. Обратная задача — применить ИИ в информационной безопасности: анализ событий SOC, SGRC, подготовка к проверкам по 152-ФЗ, КИИ и ГИС. Для неё есть модуль Security & Compliance AI.
Общая практика защиты информации — информационная безопасность; путь от обследования процессов до эксплуатации ИИ — внедрение ИИ в бизнес.
Кому подходит
CIO и CDTO
Нужно перейти от хаотичных AI-пилотов к платформенной архитектуре, понятной интеграциям, эксплуатации и бизнесу.
CISO
Важно не выпускать данные, документы, исходный код и персональные данные в неконтролируемые внешние сервисы.
Бизнес-владельцы
Нужен быстрый эффект в знаниях, документах, сервис-деске, финансах, закупках или разработке без потери контроля.
Проектный офис
Нужно формализовать roadmap, KPI пилота, роли, бюджетный контур и правила масштабирования.
Боль и управленческий риск
Главная проблема enterprise AI — не отсутствие модели, а отсутствие управляемой архитектуры вокруг данных, доступа, качества и ответственности.
| Боль | Что происходит без подготовки |
|---|---|
| AI-пилоты не масштабируются | Команды запускают отдельные сценарии, но не могут подключить реальные источники, роли и аудит. |
| Данные выходят из-под контроля | Документы, коммерческая тайна, ПДн и код попадают в сервисы без понятного режима использования. |
| Нет доверия к ответам | Пользователь получает текст без источников, без проверки оснований и без понятного процесса улучшения качества. |
| CIO и CISO спорят о рисках | Архитектура, ИБ, данные и бизнес-эффект обсуждаются отдельно, поэтому решение зависает. |
Что делает РЕСТАРТ
Проектируем безопасный AI-контур
Описываем целевую архитектуру: RAG, модели, хранилища, журналы, интеграции, доступы, контуры dev/test/prod.
Результат: HLD и требования к платформе.Запускаем управляемый пилот
Подключаем ограниченный набор данных, настраиваем роли, промпты, quality gates и процесс обратной связи.
Результат: работающий сценарий с метриками.Готовим промышленный запуск
Формируем backlog, эксплуатационную модель, владельцев, риски, бюджет и план тиражирования.
Результат: roadmap на 3-6 месяцев.Артефакты на выходе
AI opportunity map
Карта сценариев, приоритетов, владельцев и ожидаемого эффекта.
Secure AI architecture
Схема контуров, источников, ролей, журналов, интеграций и ИБ-ограничений.
Pilot backlog
План пилота с критериями качества, данными, метриками и приемкой.
Risk register
Регистр рисков: ПДн, коммерческая тайна, hallucinations, доступы, эксплуатация, vendor lock-in.
Срок первого этапа
Оптимальный старт — AI-discovery за 2 недели. Этого достаточно, чтобы отделить реальные сценарии от красивых идей, оценить данные и принять управленческое решение о пилоте.
Состав команды
| Роль | Зона ответственности |
|---|---|
| AI architect | AI-платформа, RAG, модели, orchestration, критерии качества. |
| Data architect | Источники, качество данных, векторизация, DWH/BI/ERP-интеграции. |
| Security architect | ПДн, доступы, журналы, контуры, угрозы и ИБ-требования. |
| Business analyst / PM | Процесс, stakeholders, backlog, приемка, roadmap и коммуникации. |
Типовой план
1
Контекст и цели
Интервью с CIO, CISO и владельцами процессов, фиксация целей и ограничений.
2
Данные и риски
Оценка источников, доступа, качества данных, ПДн, коммерческой тайны и ИБ-рисков.
3
Архитектура пилота
Проектирование RAG/AI-контура, интеграций, ролей, журналов и критериев качества.
4
Roadmap
План пилота, команда, сроки, артефакты, бюджетные ориентиры и следующий этап.
Релевантные кейсы и опыт
Публичные кейсы не раскрывают конфиденциальные детали заказчиков, но показывают опыт РЕСТАРТ в смежных enterprise-контурах.
Граница с автоматизацией действий
Здесь речь о контуре: источники, модели, роли, журналы, размещение и эксплуатация. Как только ассистент перестаёт отвечать текстом и начинает выполнять действия в системах — создавать заявки, менять записи, обращаться к внешним API, — включается отдельная дисциплина: полномочия агента, подтверждения человеком и возможность отката.
Эта часть описана на странице безопасной автоматизации процессов ИИ-агентами. Обычно порядок такой: сначала построен контур, потом агенту выдаются права на действия.
Частые вопросы
Что такое безопасность ИИ-систем?
Это меры, которые не дают корпоративному ИИ стать каналом утечки или атаки: контроль данных, попадающих в модель и индекс, наследование прав доступа, журналы запросов и ответов, защита от prompt injection, ограничение полномочий ИИ-агентов и проверка человеком в ответственных сценариях.
Как предотвратить утечку данных через ИИ?
Классифицировать данные, маскировать чувствительные поля, использовать DLP, держать модели и индекс в частном контуре, задать политики хранения запросов и ответов и передавать в модель только минимально нужные сведения.
Как защитить LLM от prompt injection?
Фильтровать источники, закреплять системные политики, изолировать инструменты агента в sandbox, проводить red teaming и мониторить журналы. Перед запуском prompt injection проверяется тестами.
Как защитить RAG от утечек?
Нужны классификация источников, наследование прав доступа, фильтрация индекса, маскирование чувствительных данных, контроль ответов, ссылки на источники и проверка журналов.
Что проверяет аудит безопасности ИИ?
Secure AI audit за 10 рабочих дней проверяет один ИИ-контур: данные, доступы, архитектуру, журналы, интеграции и риски — ПДн и коммерческую тайну в запросах, prompt injection, зависимость от поставщика. Результат — реестр рисков и дорожная карта устранения.
Можно ли начать без платформы?
Да. Первый этап нужен как раз для выбора архитектуры: отдельный пилот, платформенное ядро или гибридный путь.
Можно ли работать без передачи данных во внешний AI-сервис?
Да. Архитектура может быть on-prem, private cloud или гибридной, с ограничением источников, журналированием и контролем доступа.
Что считать успехом пилота?
Не количество запросов, а качество ответов по источникам, снижение ручного труда, понятные риски и готовность к промышленной эксплуатации.
Весь путь — от обследования процессов до эксплуатации — описан на странице корпоративного ИИ для бизнеса.
Написать нам письмо
Напишите нам на info@restart.re или нажмите кнопку ниже. Для первого письма достаточно коротко описать контур, роль организации, текущие системы, ограничения и желаемый результат.
Написать нам письмоЗапросить формат
Согласуем объём, сроки и артефакт на выходе — и запустим за короткий срок.
