Искусственный интеллект: держим на поводке и контролируем

Тема обеспечения кибербезопасности отечественного программного обеспечения уже давно стала ключевой для ежегодной научно-практической конференции OS DAY. Не удивительно, что и на OS DAY 2025, состоявшейся в Москве на базе Российского экономического университета имени Г.В. Плеханова, представители ведущих научных институтов и компаний, разрабатывающих отечественные ОС, вновь обратились к технологиям, напрямую связанным с безопасной разработкой ПО. Главной темой конференции стало использование методов построения изолированной среды исполнения в операционных системах. Однако наряду с этим обсуждалась и принципиально новая тематика, не затронутая за двенадцать лет существования конференции, – использование потенциала искусственного интеллекта.

Завышенные ожидания

Открывая дискуссию, ведущий – Андрей Духвалов, вице-президент и руководитель департамента перспективных технологий «Лаборатории Касперского» – отметил, что генеративный искусственный интеллект стремительно развивается и осваивает новые сферы.

– ИИ – мощный инструмент, и ущерб от его неправильного применения может быть тоже мощный, – предостерег он, отвечая на вопросы журналистов. – На современном уровне развития ИИ трудно априори предсказать вероятность ожидаемого и непредсказуемого его поведения. Понимая это, технологию нужно использовать в тех направлениях, где она может принести пользу, и не использовать в тех, где – вред.

Однако, как подчеркнул Михаил Новосёлов, инженер-разработчик НТЦ ИТ РОСА, в реальности использование генеративного ИИ в сложных проектах сопряжено с трудностями — система часто ошибается в логике и допускает «галлюцинации». Кроме того, без глубоких знаний и профессиональных навыков ИИ не способен полноценно заменить программистов, которые по-прежнему остаются ключевыми специалистами в создании кода. 

– Для использования искусственного интеллекта нужно, как минимум, приложить изрядные усилия интеллекта естественного, – убежден Евгений Синельников, руководитель саратовского обособленного подразделения «Базальт СПО». – При работе с нейросетями необходима критичность мышления, критичность восприятия этого инструмента. Нужно понимать его возможности и ограничения, области его возможного применения. Это просто еще один инструмент наряду с множеством других.

Держать под контролем

Как следствие, – пришли к напрашивающемуся выводу эксперты, – генеративный ИИ эффективен лишь для узкоспециализированных задач, таких, как обработка данных, особенно когда речь идет о больших объемах, с которыми человеку сложно справиться вручную. Но и в этом случае результаты его работы нуждаются в обязательном контроле из-за склонности ИИ к ошибкам, которые специалисты остроумно именуют «галлюцинациями».

Впрочем, Екатерина Свиридова, руководитель экспертизы по СУБД в «Газпромбанке» и преподаватель РЭУ им. Г. В. Плеханова, выделила ещё одну потенциальную сферу применения генеративного ИИ — помощь в миграции с зарубежных на российские системы управления базами данных: использование нейросетей может упростить адаптацию SQL-запросов и перенос бизнес-логики. В «Газпромбанке» ИИ тестируют для миграции кода между СУБД — задача, где сочетаются аудит и трансформация кода.

Другой задачей для искусственного интеллекта может стать автоматизированный перевод кода между языками программирования, требующий обычно немалых затрат времени. Впрочем, это – вопрос будущего. Сегодня уровень развития ИИ таков, что и тут без контроля со стороны человека не обойтись. Даже крупные компании, внедряющие ИИ-инструменты, как, например, Amazon Code Whisperer, подчеркивают важность человеческой проверки сгенерированных результатов.

Есть такие области!

Тем не менее, есть сегодня и такие области, в которых искусственный интеллект уже нашел себе применение, – например, аудит программного кода. ИИ-ассистента GitHub Copilot для работы с репозиториями внедрил GitHub. Пока что новый инструмент находится в стадии тестирования, но первый шаг сделан. Это подтверждает тренд на поэтапное внедрение с фокусом на узкоспециализированные задачи, хотя индустрия пока осторожно оценивает возможности ИИ для таких критически важных задач, как аудит безопасности.

Преимущества использования нейросетей очевидны – автоматизация рутинных проверок, ускорение анализа больших кодовых баз, снижение нагрузки на разработчиков. Константин Сорокин, возглавляющий в ИСП РАН исследовательскую группу по внедрению ИИ в программную инженерию, подчеркивает ценность искусственного интеллекта как вспомогательного инструмента для специалистов по безопасной разработке. Однако эксперт делает важное уточнение: на текущем этапе ИИ эффективен преимущественно в роли интеллектуального помощника, особенно когда речь идет о работе с системным программным обеспечением. Это мнение подтверждает и прогноз американской исследовательской и консалтинговой компании Gartner, специализирующейся на рынках информационных технологий. В прогнозе говорится, что к 2027 году ИИ станет стандартным инструментом в SDLC, но его роль останется вспомогательной — для усиления, а не замены человеческой экспертизы. 

Человек незаменим (пока)

Участники круглого стола отметили, что ожидания, которые многие возлагают на искусственный интеллект, сегодня, мягко говоря, завышены. Мечта о том, что нейросети смогут заменить множество низкоуровневых специалистов в целом ряде профессий, а работа программистов ограничится лишь формулировкой запросов для ИИ и подбором оптимальных решений, пока остается мечтой.

Конечно, как отметил начальник отдела продуктовой экспертизы компании «Открытая мобильная платформа» Сергей Аносов, задачи по анализу кода, которые обычно доверяли стажерам и младшим специалистам, можно передоверить ИИ. Но, во-первых, именно эта рутинная работа традиционно используется для «натаскивания» новичков, – именно на ней они набирают необходимый опыт для перехода к более сложной работе. А во-вторых, как уверенно говорит Андрей Духвалов, уровень развития современных нейросетей таков, что даже самого слабого программиста они заменить не в силах.

– По-хорошему, современные нейросети – это что-то вроде улучшенного поисковика, – считает он. – Обращаясь к ним, программисты получают советы, как решить ту или иную задачу. 

Применение найдется

Впрочем, российские вендоры ОС стремятся по максимуму использовать уже имеющийся потенциал нейросетей. Ведущие ИТ-компании уже начали передачу части функций системного программного обеспечения искусственному интеллекту. Однако этот процесс внедрения происходит избирательно — на первом этапе автоматизируются только те задачи, которые не вызывают сопротивления у пользователей.

– Мы проводим исследования и тестирование возможностей ИИ в различных направлениях, – рассказал журналистам Роман Симаков, директор департамента развития системных продуктов РЕД СОФТ. – Например, в техподдержке планируем оценить перспективность разработки решений на основе экспертных систем и чат-ботов. Такие системы позволяют автоматически обрабатывать запросы клиентов и давать быстрые и точные ответы. Внедрение ИИ в этом направлении должно снизить нагрузку на сотрудников и повысить качество обслуживания. Также рассматриваем использование ботов-помощников для первой линии помощи клиентам. 

А Михаил Новосёлов в ходе дискуссии предположил, что ИИ может оптимизировать распределение процессорного времени, частично взяв на себя функции планировщика задач.

В целом эксперты сошлись во мнении, что искусственный интеллект станет неотъемлемой частью экосистемы системного ПО, но пока его роль ограничивается вспомогательными функциями. Когда и насколько глубоко нейросети смогут интегрироваться в критически важные процессы без ущерба для безопасности и надежности, сегодня неясно. В современном положении дел речь идет об удобном инструменте, хотя интеграция ИИ в программное обеспечение требует пересмотра традиционных подходов к защите данных.