ИИ-стратегия в России
Искусственный интеллект сегодня применяют все больше компаний — по итогам 2024 года объем рынка Big Data и искусственного интеллекта в нашей стране составил порядка 320 млрд руб., сообщила президент Ассоциации больших данных Анна Серебряникова.
По ее словам, большие данные и ИИ-технологии сегодня это ключевые драйверы экономического роста страны. За пять лет эффект от их внедрения увеличился с 0,4 трлн руб. до 3,4 трлн руб. в 2024 году. К 2030 году этот показатель может достичь планки в 10,6 трлн руб., что обеспечит их вклад в экономику на уровне 10–15%.
Такие прогнозы не кажутся сверхоптимистичными: ИИ-системы действительно помогают поддерживать технологические процессы управления стратегией и тактикой бизнеса, формируют независимые и обоснованные рекомендации по принятию решений, “не завязанные” на мнении конкретного сотрудника. Актуально внедрение ИИ для всех отраслей экономики — финансовой, транспортной и логистической отраслей, ТЭК, нефтегазовой промышленности, производства, ритейла, госсектора и пр.
По мере того, как появляется все больше кейсов успешного применения ИИ, растет и количество запросов компаний на разработку и внедрения таких систем.
Разработка ИИ-систем: этапы
При создании ИИ-систем используют технологии машинного обучения, нейронных сетей и глубокого обучения. Главное для ИИ-системы — это создание моделей и алгоритмов, которые умеют самостоятельно обучаться, опираясь на поступающие им данные.
Существуют несколько методов обучения ИИ. Модели машинного обучения бывают:
- с учителем (ИИ обучается по размеченным данным и только правильным ответам);
- без учителя (модель не получает верные ответы, а сама находит скрытые закономерности);
- с частичным привлечением человека (часть данных размечена);
- с подкреплением (модели дается задача, затем человек оценивает результат, в зависимости от оценки алгоритмы перенастраиваются и корректируются).
Также есть метод разбиения на обучающую, валидационную и тестовую выборки — он применяется в крупных проектах с большой и неоднородной базой данных. Обучающую составляющую используют для получения базовых навыков, тестовую — чтобы оценивать качество и работоспособность, валидационную — чтобы настраивать гиперпараметры.
Классический подход к разработке системы искусственного интеллекта для компании включает в себя следующие этапы:
- Постановка целей и задач, которые должна решать система. Для этого стоит сначала выделить проблемы. Например, в компании менеджеры не успевают доводить “теплых” клиентов до договоров, потому что тратят время на обзвон по холодной баз. Как раз с этим могут помочь умные голосовые роботы.
- Формулирование технических требований, включая все функции системы, которыми она должна обладать.
- Логический анализ области/процесса, в которых будет задействован ИИ.
- Разработка софта для систем ИИ (создание собственной команды, поиск вендоров и интеграторов на рынке).
- Сбор данных для обучения моделей.
- Выбор модели.
- Обучение и тестирование модели для оценки ее эффективности.
- Оптимизация для повышения точности и производительности модели.
- Промышленная эксплуатация решения.
Безопасность ИИ-систем
ИИ-системы “потребляют” огромное количество данных, поэтому важно уделить внимание информационной безопасности таких систем, чтобы предотвратить возможные утечки персональной информации и той, что содержит охраняемую государством тайну — банковскую, медицинскую и пр. Законодательство в области персональных данных в России было серьезно ужесточено, так что компании, допустившей такую утечку, грозят серьезные штрафы, административная и уголовная ответственность.
Кстати, в России скоро появится Реестр доверенных ИИ-решений, куда будут включать инструменты искусственного интеллекта, которые можно безбоязненно внедрять в организации. Пока, правда, это могут делать только организации, которые не являются субъектами критической информационной инфраструктуры.
Также с 1 сентября 2025 г. государственные органы и ИИ-разработчики смогут получать доступ к обезличенным данным через специальную государственную информационную систему Минцифры — их можно будет использовать для создания ИИ-систем. Об этом в июне 2025 г. упоминал замглавы Минцифры Александр Шойтов на CNews FORUM Кейсы.
Он рассказал также, какие подходы ведомство будет использовать при тестировании ИИ-технологий на безопасность.
Подход 1. Регулятор ИИ (отраслевые регуляторы и Минцифры) выбирает общедоступные модели ИИ и датасеты для их обучения. При выборе опираются на следующие критерии:
- по виду обучения (контролируемое, без учителя, с подкреплением, глубокого обучения, переноса обучения);
- по специализации (машинное зрение, генеративные, поддержка принятия решений, автономное управление и пр.);
- по требованиям (тип задач, характеристики данных, инфраструктура, объяснимость, мониторинг дрейфа и пр.)
Затем модели обучают, дорабатывают и передают на тестирование регуляторам информационной безопасности (ФСТЭК, ФСБ, Минцифры). Испытывать их будут на “полигоне” с помощью матрицы угроз для модели, настройки тестовой среды под модель ИИ и модель угроз, симуляции атаки и тестирования на конкретные уязвимости.
Лишь после успешного прохождения таких испытаний ИИ-система попадает в Реестр доверенных решений ИИ.
Подход 2. Этот подход пока не применяется, но на него Минцифры ориентировано в ближайшем будущем. Он позволит затем использовать искусственный интеллект на объектах КИИ.
Подход предполагает, что регулятор ИИ берет общедоступные модель и датасеты, модель проходит предварительное обучение. Затем специалисты отделяют данные от модели и тестируют их отдельно — в итоге получаются доверенные и эталонные датасеты, а также доверенные фреймворки TrustTorch и TrustFlow. Далее безопасно разработанная модель и обучается и отправляется все на тот же полигон для прохождения ИБ-испытаний.
Как внедрять ИИ-системы
Интеграция любых новых механизмов или систем управления и поддержки принятия решений с ранее существовавшими в организациях, как правило, вызывает трудности и даже неприятие у сотрудников.
Поэтому в первую очередь необходимо подумать, как обучить персонал работе с новыми системами и адаптировать его к работе с ИИ. В частности, стоит объяснить работникам, что внедрение искусственного интеллекта не означает тотальную замену человеческого труда и не сулит людям сокращения. Важно донести до персонала, что новые инструменты помогут им в рутинной работе, возьмут на себя скучные и повторяющиеся задачи. Если предполагается серьезное изменение бизнес-процессов — важно также предупредить об этом сотрудников.
Хорошая стратегия — привлекать сотрудников как экспертов для тестирования и проверки результатов работы ИИ-систем, выводов ИИ-решений на достоверность и эффективность. Это поможет им лучше понять, как работает модель (и справиться с предрассудками).
Что касается руководителей компаний — им также лучше воспринимать ИИ как ценный и передовой инструмент, который может помочь в решении сложных бизнес-задач, повысить эффективность и найти новые возможности для роста. Сегодня успех внедрения ИИ часто зависит от того, насколько в него верит глава организации — важна “воля” руководителя.
Разумеется, стоит подумать о технической интеграции новых ИИ-систем с уже существующими. Именно поэтому важно действовать постепенно и начинать с небольших пилотных проектов. Это помогает выявить возможные проблемы и скорректировать подход перед более масштабным внедрением. Затем важно тщательно отслеживать результаты внедрения ИИ, чтобы вовремя внести корректировки.
