Человек vs ИИ-агент. На Международном форуме обсудили, грозит ли нам восстание машин

Пока в одном зале миниатюрные танки с грохотом крушили друг друга, в соседнем — обсуждали то, что может оказаться куда опаснее: как не дать искусственному интеллекту выйти из-под контроля. С 29 по 31 октября в Казани прошёл Международный форум Kazan Digital Week — 2026, на который съехались 23,5 тысячи человек из 76 стран. 

И если «Битва роботов» была лишь зрелищной метафорой, то дискуссии о рисках ИИ — вполне серьёзной попыткой заглянуть в ближайшее будущее. Чего на самом деле боятся создатели умных машин?

«Помощник и вредитель» в одном лице

Главная тема форума — практическое применение искусственного интеллекта. Тон задал Раис Татарстана Рустам Минниханов, который не стал делать вид, что всё безоблачно. 

«Искусственный интеллект — он и помощник, и вредитель. Мы должны быть готовы к этому вызову. Будем и защищаться, и реализовывать новые вещи, которые десять лет назад мы бы назвали фантастикой». 

Вступительное слово стало лейтмотивом всей деловой программы.

В Татарстане создали платформу «ГосПромпт». Она уже решила более 6,5 миллиона задач, а число пользователей среди бюджетников превысило 10 тысяч человек. На базе работают 330 ИИ-агентов, которые помогают чиновникам в повседневной рутине. 

«Искусственный интеллект становится повседневным инструментом государственного управления», — резюмировал Минниханов на пленарном заседании.

Но чем эффективнее ИИ как помощник, тем страшнее как вредитель. И здесь слово взяли специалисты по кибербезопасности.

ИИ-агенты выходят на охоту. И не только за данными

Одна из самых тревожных тем форума — стремительный рост кибератак. Заместитель технического директора компании «Innostage» Рустем Ясовеев в своём выступлении поделился: 

«В этом году мы наблюдаем стремительный рост числа атак с использованием ИИ-агентов, которые ускоряют действия атакующих и снижают требования к их компетенциям». 

Проще говоря, то, что раньше требовало команды опытных хакеров и месяцев подготовки, теперь может сделать студент за пару дней.

Коллега спикера, директор по развитию международного бизнеса «Innostage» Дмитрий Шепелявый, добавил цифр: 

«Скорость появления новых атак, их мощность и скорость поиска уязвимостей… выросли за последние полгода-год на два порядка… Когда искусственный интеллект атакует, у человека просто нет времени принять решение самому, поскольку ИИ “думает” в 10 тысяч раз быстрее».

Именно поэтому ИИ-агенты — это не только инструмент атакующих, но и головная боль защитников. Треть крупных компаний в мире уже считает ИИ перспективной технологией для кибербезопасности, но доверять роботам полностью пока не готов никто, сообщил первый заместитель генерального директора ЦИТ Республики Татарстан Василий Зинкин.

Некоторые крупные корпорации придумали, как обезопасить себя и оптимизировать процессы. Например, ВТБ совместно с МГУ создали систему контроля токсичности и галлюцинаций для своих ИИ-агентов, чтобы те не наговорили клиентам лишнего. Однако предусмотреть все возможные варианты событий и предугадать алгоритмы всё ещё задача не из лёгких.

Восстание машин отменяется? Не спешите радоваться

На форуме разговоры о «восстании машин» из фантастики превратились в инженерную задачу. Пока одни спорят, заменит ли ИИ человека, другие напоминают: полностью автономные системы — это пока теория. 

Генеральный директор «Proto» Денис Безкоровайный описал стадии зрелости ИИ: от анализа данных до самостоятельной инфраструктуры, но подчеркнул, что до последней ещё не дошли.

А вот гендиректор «Таттелекома» Айрат Нурутдинов и вовсе уверен, что человек незаменим. ИИ может занять многие ниши, но не вытеснит человеческий труд полностью.

«Для того чтобы избежать происшествия, машина должна предсказывать и определять состояние человека. Искусственный интеллект не сможет распознать пьяного человека, вследствие чего может произойти авария».

На форуме заявили, что крупные корпорации уже задумываются над тем, чтобы притормозить безоглядное внедрение ИИ. Остановка обучения ИИ-агентов не говорит об отказе от технологии, а позволяет трезво оценить риски. 

Допустим, робот может нажать не ту кнопку и остановить зарплатный проект, а «галлюцинации» модели могут загубить репутацию, которая строилась годами. Спикеры Kazan Digital Week — 2026 уверены: сегодня  энтузиазм сменяется осторожностью.

Что останется после форума

Kazan Digital Week — 2026 завершился. Победители «Битвы роботов» получили награды, стартапы — инвесторов, чиновники — новые идеи. Но главный итог сформулировал премьер-министр Татарстана Алексей Песошин: 

«Безусловно, сквозной темой форума стало внедрение технологий искусственного интеллекта. Мы обсуждали не только экономические эффекты от его применения, но и вопросы доверия, этики и безопасности».

Пожалуй, участники все три дня пытались ответить на один вопрос — вопрос рисков. Искусственный интеллект уже здесь. Да, он помогает и ускоряет, но иногда пугает. Задача человека — научиться держать руку на пульсе. Судя по казанским дискуссиям, пока эта рука ещё на месте.

Текст: Диана Масюта

Фото: официальная страница Международного форума Kazan Digital Week — 2026