Блог

Почему AI-проект начинается с данных

Модель не устраняет противоречия в данных — она их усиливает и делает убедительными. Там, где отчёт показал бы две несходящиеся цифры, языковая модель выберет одну и объяснит связным текстом. Разбираем, что должно быть готово до внедрения.

Hero-картинка для страницы «Почему AI-проект начинается с данных»

Пилот работает, промышленное внедрение — нет

Знакомая траектория: пилот на выгрузке из трёх файлов показал отличный результат, решение утвердили, начали подключать реальные источники — и качество рухнуло. Причина почти всегда одна и та же. В пилоте данные были подготовлены руками: один человек выбрал актуальные файлы, выбросил дубли, исправил формат дат. В продуктиве этого человека нет, а есть шесть систем, в каждой свой справочник контрагентов и своё представление о том, что такое «активный договор».

Модель не устраняет противоречия в данных — она их усиливает и делает убедительными. Там, где отчёт показал бы две несходящиеся цифры и вызвал вопросы, языковая модель выберет одну и объяснит её связным текстом. Это хуже, чем ошибка: ошибка заметна, а уверенный неверный ответ — нет.

Тест на готовность. Возьмите вопрос, ответ на который знаете точно, и задайте его системе на реальных данных десять раз в разных формулировках. Разные ответы означают не проблему модели, а противоречия в источниках.

Из чего состоит фундамент данных

«Навести порядок в данных» — задача необъятная, пока не разложена на слои. Каждый слой отвечает на свой вопрос и может развиваться отдельно.

СлойВопросЧто ломается без него
ИсточникиГде вообще живут данныеПоловина нужного не подключена, потому что о ней не знали
ПриёмКак данные попадают в контур и с какой периодичностьюОтветы на вчерашних данных, о чём никто не предупреждён
ХранениеГде лежат сырые и обработанные данныеКаждый проект строит своё хранилище заново
МоделированиеЧто считать сущностью и как связаны справочникиОдин контрагент существует как четыре разных
КачествоКак проверяется полнота, непротиворечивость, свежестьПроблему находит пользователь в ответе модели
ДоступКто что имеет право видетьУтечка через AI-ответ по данным, к которым нет прав
Каталог и происхождениеОткуда взялась цифра и кто её владелецОтвет невозможно проверить, значит нельзя применить

Это ровно тот контур, который мы строим в направлении Data, BI, DWH и управленческая отчётность. Для AI он нужен не «в идеале», а как условие воспроизводимости ответов.

Пять свойств, без которых AI не взлетает

1. Доступность

Данные должны извлекаться программно, а не выгружаться человеком по заявке. Если единственный путь к цифре — попросить коллегу сделать выгрузку, автоматизация невозможна в принципе.

2. Непротиворечивость

Одна сущность — одно определение. Пока «выручка» в отчётности и в CRM считается по-разному и нигде не написано, чем именно, любой ответ модели будет спорным. Начинать стоит не с полного словаря, а с двух десятков ключевых показателей, вокруг которых идут решения.

3. Происхождение

У каждого значения должен прослеживаться путь: из какой системы, каким преобразованием, когда. Без этого невозможно ни проверить ответ, ни разобрать инцидент, ни объяснить регулятору, откуда взялась цифра.

4. Разграничение

Права должны быть свойством данных, а не настройкой конкретного приложения. Иначе каждый новый AI-сценарий требует отдельного разбора «а кому это можно», и в какой-то момент разбор пропускают.

5. Свежесть

У каждого набора есть допустимое отставание, и пользователь должен его понимать. Ответ на данных недельной давности не ошибочен — он опасен ровно тогда, когда об этом не сказано.

Неструктурированные данные: отдельная дисциплина

Большинство корпоративных AI-сценариев работает не с таблицами, а с документами: регламентами, договорами, протоколами, перепиской. Здесь свои требования, и привычные практики хранилищ не переносятся напрямую.

  • Нарезка. Документ разбивается на фрагменты. Слишком мелкие теряют контекст, слишком крупные размывают поиск. Разбиение по смысловым разделам почти всегда лучше разбиения по числу символов.
  • Метаданные фрагмента. Источник, раздел, дата, версия, владелец, гриф. Без них ответ невозможно атрибутировать, а права — применить.
  • Дедупликация и актуальность. В корпоративных хранилищах типична ситуация: семь версий регламента, из них действует одна. Если в индекс попали все семь, система будет уверенно цитировать отменённую.
  • Разграничение на уровне фрагмента. Документ может быть общедоступен, а его приложение — нет.
  • Обновление индекса. Нужен процесс: как изменения в источнике доезжают до индекса и за какое время. Разовая загрузка устаревает за недели.
  • Качество распознавания. Сканы и PDF без текстового слоя дают мусор на входе; это отдельная работа, которую нельзя пропустить.

Инженерная часть этой работы — Enterprise RAG. Проверять гипотезы дешевле на ограниченном контуре: RAG-пилот по одной реальной базе знаний показывает и качество ответов, и состояние документов.

Что измерять

  • Полнота: доля обязательных полей, заполненных корректно, по ключевым сущностям.
  • Дубликаты: доля записей, у которых есть двойник по бизнес-ключу.
  • Свежесть: фактическое отставание набора от источника против заявленного.
  • Покрытие происхождением: доля показателей, для которых прослеживается путь до источника.
  • Доля документов с корректными метаданными — для неструктурированного контура.
  • Доля ответов с подтверждённым источником — итоговая метрика, в которой отражается всё предыдущее.

Как двигаться поэтапно

Вывод «сначала построим хранилище, через три года займёмся AI» неверен так же, как и попытка обойтись без данных вовсе. Работающий порядок — узкий контур под конкретный сценарий, расширяемый по мере пользы.

  • Шаг 1. Выбрать сценарий с измеримой ценностью. Не «внедрить AI», а «сократить время подготовки ответа на запрос клиента». Инвентаризация сценариев и уже используемого в компании AI — AI-discovery.
  • Шаг 2. Разобрать данные только этого сценария. Какие источники, какое качество, какие права, какое допустимое отставание. Объём работы становится обозримым.
  • Шаг 3. Закрыть найденные разрывы. Обычно это два-три справочника, одно определение показателя и один процесс обновления.
  • Шаг 4. Пилот на реальных данных, а не на выгрузке. Только так проверяется то, что действительно ломается.
  • Шаг 5. Промышленный контур. Сценарий переносится в общую платформу — Restart AI Enterprise Platform, — и следующий сценарий стартует уже на готовом фундаменте.

Отдельно: если сценарию не нужны настоящие персональные данные, маскирование и обезличивание снимает половину согласований и заметно ускоряет пилот.

Чек-лист готовности данных

  • Известен перечень источников, релевантных сценарию, и способ программного доступа к каждому.
  • Для ключевых показателей есть согласованные определения, зафиксированные письменно.
  • Справочники сведены: одна сущность не существует под четырьмя идентификаторами.
  • Прослеживается происхождение значений до системы-источника.
  • Для каждого набора известно допустимое отставание, и оно видно пользователю.
  • Права описаны как свойство данных, а не настройка отдельного приложения.
  • Для документов: определены правила нарезки, состав метаданных и процесс обновления индекса.
  • Из индекса исключены недействующие версии документов.
  • Сканы и PDF без текстового слоя обработаны или исключены осознанно.
  • Определено, какие данные вообще нельзя отправлять в модель, и это ограничение применяется технически.
  • Есть регулярные проверки качества, а не разовая чистка перед пилотом.

Чем помогаем

Про безопасность такого контура — отдельный материал «Безопасный корпоративный AI». Нужен разбор ваших источников — напишите нам.

Практика данных РЕСТАРТ — внедрение BI-системы и корпоративного хранилища данных.

Обсудим ваш контур

Опишите задачу, текущие системы, ограничения и ожидаемый результат. Мы предложим первый практичный шаг: диагностику, пилот, аудит, дорожную карту или проектную команду.

Связаться
AI-помощник
Привет! Я AI-помощник РЕСТАРТ. Помогу найти нужный раздел сайта, ответить по услугам, лицензиям, партнерствам, контактам или сформулировать обращение в отдел продаж.