IT-инженер Никита Кузнецов смотрит на искусственный интеллект без восторгов о «технологической революции» и без прогнозов о скором исчезновении профессий. Его интересует более практический вопрос: что уже изменилось в работе инженера, какие задачи можно передать нейросети и почему вместе с возможностями растёт ответственность человека.
Ещё недавно нейросеть оставалась вспомогательным инструментом. Она могла написать черновик, объяснить фрагмент кода, помочь с документацией или предложить несколько вариантов решения. Основную работу выполнял человек.
По словам Никиты Кузнецова, сейчас эта граница постепенно исчезает.
«Мы находимся в точке, когда нейросеть перестает быть просто надстройкой и становится полноценным соавтором технических решений, способным анализировать объемы данных, непосильные для человеческого восприятия за короткий срок».
Разница существенная. Теперь модели можно отдать не только конкретное поручение, но и большой массив исходной информации: технические логи, историю обращений пользователей, документацию, результаты тестирования, фрагменты кода, описания ошибок и внутренние инструкции.
Человек физически не способен за несколько минут внимательно изучить десятки тысяч записей. Нейросеть может быстро сделать первый проход: сгруппировать похожие ошибки, найти повторяющиеся события, сопоставить жалобы пользователей с техническими сбоями, выделить аномалии и предложить возможные причины проблемы.
Но Никита Кузнецов подчёркивает принципиальную границу: найденная моделью закономерность ещё не является доказанной причиной. Нейросеть способна неправильно понять контекст или выдать убедительное, но ошибочное объяснение. Поэтому ИИ сокращает путь от проблемы к гипотезе, но проверять эту гипотезу всё равно должен специалист.
Никита Кузнецов о нейросети как усилителе человека
Кузнецов не рассматривает ИИ как простую замену специалисту. «Важно понимать, что нейросети — это не замена человеку, а мощнейший мультипликатор наших способностей, который требует грамотного управления и этического контроля».
Опытный инженер с помощью модели может быстрее анализировать проблему, разбираться в незнакомом коде, работать с документацией, готовить тесты, искать ошибки и строить прототипы.
Но тот же принцип работает и в обратную сторону. Нейросеть позволяет быстрее производить не только хорошие решения, но и ошибки.
Это особенно заметно в программировании. Модель способна за секунды написать аккуратный и убедительно выглядящий код. Он может прекрасно работать в демонстрации, но совершенно иначе повести себя под нагрузкой или при неожиданном ответе внешнего сервиса.
Код может содержать уязвимость, неправильно работать с пользовательскими данными или ломаться в сценарии, которого не было в исходном запросе.
Поэтому, считает Никита Кузнецов, чем проще становится генерировать код, тем важнее способность инженера понимать архитектуру, ограничения системы и последствия конкретного решения.
Чем больше возможностей получает ИИ, тем дороже его ошибка
Для Кузнецова особенно важна цена ошибки. Если модель предложила плохой заголовок или неудачно сформулировала письмо, результат можно просто исправить. Но ситуация меняется, когда нейросеть получает возможность совершать реальные действия.
Одно дело — подготовить ответ клиенту. Другое — самостоятельно его отправить. Ещё серьёзнее, если система может изменять данные, управлять доступом, выполнять команды или проводить операции с деньгами.
Поэтому управление ИИ для Никиты Кузнецова — вполне конкретная инженерная задача.
Какие данные видит модель? Какие действия ей разрешены? Где требуется подтверждение человека? Сохраняется ли история операций? Можно ли отменить действие или быстро остановить систему?
Чем выше цена ошибки, тем жёстче должны быть ограничения.
Никита Кузнецов об ИИ-агентах
Особенно это касается ИИ-агентов, которые способны не только отвечать, но и действовать.
Такой агент может прочитать письмо, найти клиента в CRM, проверить историю взаимодействия, подготовить ответ, изменить статус сделки и создать новую задачу сотруднику.
Это позволяет заменить одной командой целую цепочку ручных операций. Но вместе с эффективностью резко увеличивается риск.
Если обычный чат-бот ошибся, пользователь получил неправильный ответ. Если агент ошибся после получения доступа к корпоративной системе, последствия могут быть намного серьёзнее.
Поэтому, по логике Никиты Кузнецова, хороший агент — не тот, которому разрешили всё. Он должен получать только те права, которые необходимы для конкретной задачи.
Если системе нужно читать календарь, ей необязательно разрешать удалять встречи. Если агент готовит финансовую операцию, окончательное подтверждение может оставаться за человеком.
Ответственность всё равно остаётся у человека
Фраза «это сделала нейросеть» не снимает ответственности с человека или компании, которые встроили её в продукт.
Модель сама не решает, какие данные ей предоставить и какие полномочия получить. Эти границы определяют разработчики и владельцы системы.
Поэтому Никита Кузнецов рассматривает внедрение ИИ не как исчезновение ответственности, а как её изменение. Раньше специалист непосредственно выполнял действие. Теперь он всё чаще определяет правила, по которым система может выполнять это действие автоматически.
Причём ошибка в таких правилах иногда опаснее одной человеческой ошибки: автоматизированная система способна повторить её тысячи раз.
Никита Кузнецов о сервисе, который нельзя просто запустить и забыть
Разговор об искусственном интеллекте Кузнецов связывает и с более общей проблемой современной разработки — устойчивостью продуктов.
«Мы стараемся думать о сервисе как о живой структуре. Его параметры меняются, и наша задача — обеспечить устойчивость к этим изменениям».