Концепция «золотой клетки»: как обеспечить безопасность решений ИИ в энергетике

26 февраля Центром компетенций НТИ «Технологии транспортировки электроэнергии и распределенных интеллектуальных систем» (ЦК НТИ МЭИ) был организован вебинар, посвященный применению искусственного интеллекта (ИИ) в программно-аппаратном комплексе «Цифровой двойник энергосистемы» (ПАК «ЦДЭС»). В ходе мероприятия были не только рассмотрены теория и основная проблематика применения ИИ в электроэнергетике, но и продемонстрированы практические решения, которые уже сегодня меняют подход к проектированию энергообъектов и управлению ими. К вебинару подключилось более 140 слушателей. Обзор ключевых моментов — в материале, подготовленном специалистами журнала «ЭЛЕКТРОЭНЕРГИЯ. Передача и распределение».

Модератор мероприятия, генеральный директор ЗАО «ЭнЛАБ», к.т.н. Михаил Шамис, открывая вебинар, подчеркнул, что интеграция ИИ в программно-аппаратные комплексы, применяемые в нашей отрасли, является одной из самых актуальных тем современной энергетики. Также модератор представил основного спикера семинара — заведующего кафедрой РЗиАЭ НИУ «МЭИ», директора ЦК НТИ МЭИ, главного разработчика ПАК «Цифровой двойник энергосистемы», к.т.н., доцента Александра Волошина.

«Золотая клетка» для ИИ

Александр Волошин начал выступление с важного тезиса: искусственный интеллект в энергетике — это не дань моде, а инструмент, требующий особого подхода. Спикер подчеркнул, что, в отличие от применения ИИ в офисных задачах, где человек выступает цензором, в критической инфраструктуре (в том числе в энергосистемах) необходим принципиально иной уровень безопасности.

Было отмечено, что современные большие языковые модели (LLM), такие как ChatGPT, DeepSeek или GigaChat, обладают рядом недостатков: они далеко не всегда работают корректно (по выражению спикера, «склонны к галлюцинациям»), имеют ограниченное окно контекста, не понимают специфику конкретного энергообъекта. Вследствие перечисленных факторов, применение ИИ подобного рода в энергетике просто небезопасно.

Чтобы нивелировать означенные риски, команда разработчиков предложила концепцию «золотой клетки» для ИИ, которой выступает ПАК «ЦДЭС». Он служит прослойкой между «сырым» искусственным интеллектом и реальным миром. Все команды и проектные решения, сгенерированные нейросетями, сначала проверяются на цифровой модели, проходят верификацию и только после этого могут быть применены на практике. Это обеспечивает принцип «нулевого доверия» к выходным данным нейросетей.

Мультиагентный подход

Первоначальная попытка создания одного универсального агента для управления всей системой провалилась из-за ограничений контекста и скорости работы, решением стала мультиагентная архитектура, рассказал Александр Волошин.

Суть подхода в том, что вместо одного большого «мозга» система состоит из множества специализированных субагентов. Каждый такой субагент ориентирован на работу с конкретным приложением внутри цифрового двойника. У него есть своя инструкция и набор кейсов на разные случаи.

Над субагентами в свою очередь стоит агент-менеджер. Он получает верхнеуровневую задачу от человека (например: «спроектируй защиту для участка сети»), планирует последовательность действий и распределяет подзадачи между профильными субагентами.

Для коммуникации между собой субагенты используют стандартизированный протокол A2A (Agent-to-Agent). Для взаимодействия с внешним миром (запуск расчетов, чтение файлов, опрос датчиков) применяются MCP-серверы (Model Context Protocol). Важно, что вся система может работать в защищенном контуре предприятия, используя локальные серверы с открытыми моделями (OpenSource) или корпоративные версии GigaChat, что критически важно для объектов энергетики.

Ключевые разработки, итоги и перспективы

В практической части вебинара Александр Волошин продемонстрировал на конкретных примерах работу трех ключевых продуктов, созданных командой разработчиков ЦК НТИ МЭИ.

Первая разработка — голосовой помощник диспетчера. Этот продукт позволяет управлять моделью энергосистемы с помощью голосовых команд. Спикер показал, как ассистент, интегрированный с цифровым двойником, понимает различные команды.

Еще один продукт — система управления знаниями и проектной документацией. Разработка предназначена для автоматизации рутинной работы с документами. В системе хранятся нормы технологического проектирования (НТП), стандарты (например, МЭК 61850) и файлы проектов (SCD).

Третья разработка — блок онтологического контроля и верификации знаний. Данный продукт решает проблему «галлюцинаций» ИИ и логической противоречивости. Здесь используется гибридный подход: большая языковая модель (LLM) работает одновременно и с онтологиями, и с машинами логического вывода.

Подводя итоги вебинара, Александр Волошин отметил, что, несмотря на незавершенность работы над комплексной мультиагентной системой, базовый набор технологий на текущий момент уже создан и готов к внедрению. По его словам, это первый в мире программно-аппаратный комплекс для моделирования и управления энергосистемами со встроенными средствами доверенного ИИ.

Конечная цель таких разработок — радикальное повышение производительности труда в условиях кадрового голода в энергетике. Концепция «10 инженеров на 100 объектов» становится достижимой, когда у этих инженеров появляются интеллектуальные ассистенты, берущие на себя рутину и сложные расчеты, резюмировал Александр Волошин.

Фото спикеров — из архивов журнала «ЭЛЕКТРОЭНЕРИЯ. Передача и распределение»