AI-кодинг переходит от помощи к делегированию#
На лондонском мероприятии Anthropic Code with Claude удивляло не то, что разработчики используют AI для написания кода. Во многих командах это уже норма.
Гораздо важнее другое: сколько ответственности некоторые разработчики готовы передать инструменту.
По данным MIT Technology Review, инженер Anthropic Jeremy Hadfield спросил зал, кто за последнюю неделю отправлял в продакшен pull request, полностью написанный Claude. В переполненной аудитории руки подняли почти половина участников. Затем он спросил, кто отправлял такой pull request, вообще не читая код. По сообщению издания, большинство этих рук осталось поднятым.
Это небольшая аудитория на мероприятии вендора, а не репрезентативный опрос всей индустрии разработки. К тому же там, вероятно, было много активных сторонников продукта. Но сигнал заметный. Центр тяжести в AI-кодинге смещается от «сгенерируй эту функцию» к «возьми задачу, пройди через ошибки и доведи до состояния, которое можно отправлять».
Anthropic не скрывает таких амбиций. На мероприятии Hadfield сказал, что большую часть ПО в Anthropic теперь пишет Claude, и что Claude написал большую часть кода в Claude Code. Другие крупные AI-компании тоже заявляли о росте продуктивности благодаря своим инструментам. Детали различаются, а сравнивать такие заявления извне трудно. Но направление уже ясно.
Разработка ПО перестраивается вокруг AI-агентов, которые могут писать, тестировать, исправлять и запоминать.
Anthropic хочет вывести Claude за пределы окна промпта#
MIT Technology Review описывает цель Anthropic как попытку продвинуть автоматизацию программирования настолько далеко, насколько получится. Старый сценарий был под контролем человека: попросить AI-инструмент написать код, проверить результат, исправить ошибки и встроить изменения в проект.
Цель Anthropic более агентная. Claude должен уметь проверять и исправлять собственную работу. Boris Cherny, руководитель Claude Code, описал новый стандартный подход так: не разработчик напрямую дает Claude подсказки, а Claude сам формулирует подсказки для себя.
В такой модели человек не обязательно видит каждую неудачную попытку. Claude запускает тесты, сталкивается с ошибками, меняет реализацию и повторяет цикл, пока не придет к рабочему состоянию. Инженер Anthropic Ravi Trivedi коротко сформулировал рабочий принцип: не мешать Claude — “Let it cook”.
Одна из функций, на которую обращает внимание MIT Technology Review, — “dreaming”, анонсированная незадолго до мероприятия. Агенты Claude Code могут писать заметки самим себе о конкретных задачах. Позже другие агенты, работающие с тем же кодом, используют эти заметки, чтобы быстрее получить контекст и не повторять известные ошибки. Затем система dreaming читает эти заметки, объединяет их и ищет закономерности или повторяющиеся проблемы.
В теории это помогает Claude Code лучше понять конкретную кодовую базу: локальные соглашения, старые решения, хрупкие места и типовые сценарии сбоев.
Это полезно. Но это также меняет модель доверия. Ассистент, который генерирует фрагменты кода, — одно. Агент, который накапливает память о кодовой базе, пишет большую часть изменений, сам проходит цикл отладки и передает контекст следующим агентам, уже ближе к автоматизированному слою разработки.
Риск не в том, что это не сможет работать. Риск в том, что это начнет работать достаточно хорошо, чтобы стать стандартом раньше, чем организации перестроят ревью, безопасность, владение кодом и практики сопровождения.
Главная проблема безопасности — пропускная способность ревью#
Самый практичный вопрос не в том, всегда ли AI-сгенерированный код плох. Нет, не всегда. Код, написанный людьми, тоже бывает ошибочным, небезопасным, непоследовательным и тяжелым в поддержке.
Более острая проблема — объем.
Если AI-инструменты позволяют командам выпускать больше кода быстрее, узкое место переезжает в ревью. Кто-то все равно должен понимать, что изменилось, зачем это изменилось, как это взаимодействует с остальной системой и какие новые пути отказа появились. Если разработчики перестают читать pull request, сгенерированные AI, ревью может превратиться в формальность.
MIT Technology Review отмечает, что за пределами конференции часть разработчиков уже сопротивляется этому сдвигу. Среди жалоб — менеджеры, которые гонятся за ростом продуктивности, пока инженерам достается все больше сгенерированного кода для проверки, поддержки и отладки. Исследователи также предупреждали, что AI-инструменты могут создавать небезопасный код, из-за которого ПО становится более уязвимым к атакам.
Эти опасения не новые, но масштаб меняется. Плохая подсказка автодополнения обычно локальна. Полностью делегированный pull request может затронуть архитектуру, зависимости, разрешения, обработку ошибок, проверку входных данных, логирование и тесты. Если он уходит без чтения, организация может не понимать, что именно приняла.
Именно здесь AI-кодинг становится вопросом безопасности, а не только историей про продуктивность.
Ревью безопасности держится на понимании. Если кодовая база меняется быстрее, чем старшие инженеры, ревьюеры и команды безопасности успевают в ней разобраться, организация накапливает неизвестности. Часть окажется безвредной. Часть приведет к инцидентам в продакшене. Часть может тихо ждать, пока ее найдет атакующий.
Anthropic говорит, что старые инженерные правила никуда не делись#
MIT Technology Review спросил руководителя инженерного направления Claude Katelyn Lesse и руководителя продукта Claude Angela Jiang об опасении, что большие объемы AI-сгенерированного кода могут попадать в продакшен без нормального человеческого контроля.
Ответ Lesse был прямым: прежние лучшие практики разработки ПО по-прежнему применимы. Она также сказала, что некоторые команды могли потерять их из виду в текущий момент.
Это важное признание. Проблема не только в качестве инструмента. Проблема в поведении вокруг инструмента.
В той же статье говорится, что, по словам Lesse, некоторые технические менеджеры в Anthropic устали от необходимости поспевать за объемом кода, который теперь производят их команды. Она описала Claude как инструмент, который сегодня, вероятно, пишет код на уровне middle-инженера, но для проектирования систем и более сложной отладки все еще нужны эксперты. Jiang сказала, что “absolute end state”, к которому стремится Anthropic, — Claude, способный строить самого себя.
Эта конечная точка может быть скорее ориентиром, чем ближайшей реальностью. Она может наступать неравномерно. Для одних категорий ПО это сработает раньше, чем для других. Но траектория понятна: меньше ручного набора кода, больше человеческого надзора, а затем — больше автоматизации самого надзора.
Неприятный вопрос в том, останется ли надзор достаточно сильным, когда инструмент будет выглядеть настолько компетентным, что его захочется обходить.
Что командам стоит проверить уже сейчас#
Командам, которые используют Claude Code, Codex или похожие инструменты, не нужно отказываться от AI-кодинга, чтобы серьезно относиться к рискам. Им нужно явно обозначить точки контроля.
Несколько проверок важнее широких политик на бумаге:
- Требуйте человеческое ревью для pull request, сгенерированных AI, особенно в коде, важном для безопасности.
- Отслеживайте, действительно ли ревьюеры читают diff, а не просто одобряют изменения после зеленых тестов.
- Разделяйте «тесты прошли» и «дизайн корректен». Это разные утверждения.
- Следите за добавлением зависимостей, изменением разрешений, логикой аутентификации, разбором входных данных, сериализацией и обработкой ошибок.
- Сохраняйте четкое владение. За код, написанный агентом, все равно отвечает человеческая команда.
- Измеряйте нагрузку на ревью. Если AI удваивает выпуск кода, а пропускная способность ревью не растет, риск уходит дальше по цепочке.
- Относитесь к памяти агента и заметкам о кодовой базе как к части среды разработки. Они могут влиять на будущие изменения.
Главная привычка проста: не позволяйте сгенерированному коду стать невидимым кодом.
AI-инструменты для разработки становятся достаточно сильными, чтобы менять сам процесс создания ПО. Это не отменяет старые инженерные обязанности. Это делает их проще пропустить.
Пока будущее кодинга похоже не на исчезновение людей из цикла, а на выбор: какие циклы люди все еще будут требовать видеть своими глазами.