Типовой контур платформы: веб-интерфейс, backend API, база данных PostgreSQL, векторное хранилище, файловое хранилище, очередь задач и обработчики, адаптеры к LLM, GPU-узел и мониторинг. Ниже — ориентиры по ресурсам для каждого контура; конкретная конфигурация зависит от числа пользователей, частоты обращений и выбранных моделей и фиксируется в ТЗ.
| Контур | Назначение | Пример ресурсов |
|---|
| Development | Разработка, отладка, эксперименты | 4–8 vCPU, 16–32 GB RAM, 150–300 GB SSD, GPU по необходимости |
| Test / Staging | Пилот, проверка релизов и интеграций, приёмка | 8+ vCPU, 32+ GB RAM, 300+ GB SSD/NVMe, L4 / A10 / L40S или эквивалент по задаче |
| Production | Работа пользователей, API, ИИ-чат, RAG, базы знаний | 16+ vCPU, 64–128+ GB RAM, 1+ TB NVMe, L40S 48 GB / A100 80 GB или эквивалент по согласованию |
| Backup / Storage | Резервные копии, исходные документы, журналы | Отдельный storage-контур с регламентом хранения и выгрузки данных |
GPU нужен не всегда: он требуется для локальных LLM, эмбеддингов, reranking, обработки больших массивов документов и сценариев с высокой нагрузкой. Для части сценариев достаточно CPU-контура или внешних LLM-провайдеров по согласованной архитектуре.
Пример из банковского кейса: пилот работал на 2 × A5000 24 GB (2 параллельных потока к GPU), продуктив во внутреннем контуре — на 4 × A5000 24 GB (6 потоков); для внешних пользователей заложены 2 × A100 80 GB, параметры уточняются после нагрузочного тестирования.