Госсектор осваивает нейросети с фокусом на безопасность
Интеграция искусственного интеллекта в государственное управление идёт по двум направлениям: Минцифры завершает работу над стратегией регулирования ИИ до 2030 года, а правительство уже внедряет технологии в экономику и социальную сферу. Для ведомств разрабатываются универсальные решения на базе доверенного ИИ, при этом эксперты обращают внимание на необходимость усиления защиты — только 36% компаний, использующих нейросети, внедрили меры кибербезопасности.
Стратегия развития: этика и контроль
В Минцифры сообщили о завершающем этапе доработки «Концепции регулирования ИИ до 2030 года». Особый акцент сделан на этических аспектах и сохранении человеческого контроля над системами. На Петербургском юридическом форуме представители ведомств обсудили подходы к управлению рисками, связанными с автономностью ИИ-решений.
Типовые решения для регионов
Под руководством вице-премьера Дмитрия Григоренко создаются масштабируемые ИИ-платформы для федеральных и региональных органов власти. Универсальные инструменты разрабатываются с учётом запросов регионов, а на базе правительственного аналитического центра планируется создать координационный центр по развитию ИИ-технологий.
AppSec Solutions предупреждает о рисках
Антон Башарин, руководитель AppSec Solutions, на форуме «Технологии доверенного ИИ 2025» отметил рост киберугроз через ИИ-системы. Эксперт подчеркнул: 43% компаний используют нейросети, но лишь треть из них внедрила базовые протоколы безопасности. Корпоративные ассистенты с доступом к внутренним данным становятся новым вектором атак.
Скрытые угрозы в обучении ИИ
Специалисты выделяют риски использования заражённых датасетов с бэкдорами, которые превращают нейросети в «троянских коней». Также злоумышленники могут перегружать системы запросами, вызывая сбои в работе. Современные ИИ-модели способны автономно собирать и передавать данные пользователей, что требует усиления регуляторных мер.
Перспективы безопасного внедрения
Несмотря на вызовы, в России активно развивается инфраструктура для ответственного использования ИИ. Совместные инициативы государства, бизнеса и экспертов, включая AppSec Solutions, направлены на создание надёжных решений, которые откроют новые возможности для цифровой трансформации страны.
Источник: www.kommersant.ru
