
Как совсем недавно по историческим меркам мир разделился на сторонников социализма и капитализма, позднее на консерваторов/традиционалистов против сторонников глобализма и размывания границ. А теперь явно проступила новая грань раскола: технооптимисты против технопессимистов. И сейчас на острие противостояния ИИ, LLM, нейросети, а самая горячая точка столкновения — вайб-кодинг или использование ИИ в разработке.
Сейчас, в 2026, пока не ясно, насколько ИИ изменит мир, оправдаются ли хоть частично те триллионы инвестиций во всё, что с ним связано, весь хайп и шумиха? Окажутся правы технопессимисты и нас ждёт гигантский пшик (сдутие пузыря), или всё же, как предрекают технооптимисты, рост производительности и благосостояния, второе электричество?
@avshkol перевел, возможно, самую яркую заочную полемику двух инженеров, разработчиков ПО: памфлет в стиле технооптимизма и контр-памфлет технопессимиста...
Итак, первый текст, манифест технооптимизма в использовании ИИ-агентов в кодинге:

Искреннее провокационное эссе об ИИ-программировании.
Технические директора требуют внедрения LLM. Это плохая стратегия. Но я понимаю, из чего они исходят.
Некоторые из самых умных людей, которых я знаю, свято верят, что ИИ — это просто мода, очередная итерация NFT-мании. Мне бы не хотелось с ними спорить, потому что, ну, они умнее меня. Но их аргументы несерьезны, и их как раз стоит оспорить. Невероятно талантливые люди занимаются работой, которую LLM уже сейчас выполняют лучше них, просто из вредности.
Если бы весь прогресс в области LLM остановился сегодня, LLM всё равно остались бы вторым по значимости событием за всю мою карьеру.
Важная оговорка: я обсуждаю только последствия применения LLM для разработки ПО. Что же касается искусства, музыки и литературы — тут я пас. Я склонен верить скептикам в этих областях. Но я не верю им в своей.
Квалификация: я занимаюсь разработкой софта с середины 1990-х. Начинал с коробочного C-кода. Пережил необдуманный этап увлечения C++ (по Александреску). Много инструментов на Ruby и Python. Немного работы с ядром. Много серверного C, Go и Rust. Как бы вы ни определяли «серьезного разработчика», я подхожу. Даже если только на одном из ваших нижних уровней.
Во-первых, нам нужно прийти к общему пониманию. Если вы пытались и не могли использовать LLM для кода полгода назад*, вы делаете не то, что делают большинство серьезных работающих с ИИ программистов.
(*) (или, упаси боже, 2 года назад с Copilot)
Люди, пишущие код с LLM сегодня, используют агентов. Агенты могут самостоятельно копаться в вашей кодовой базе. Они напрямую создают файлы. Они запускают инструменты. Они компилируют код, запускают тесты и итерируют по результатам. Они также:
подтягивают произвольный код из дерева проекта или из других онлайн-репозиториев в свои контекстные окна,
используют стандартные Unix-инструменты для навигации по дереву и извлечения информации,
взаимодействуют с Git,
запускают существующие инструменты, такие как линтеры, форматтеры и модел-чекеры, и
совершают практически любые вызовы инструментов (которые вы настраиваете) через MCP.
Код в агенте, который непосредственно «делает что-то» с кодом, сам по себе не является ИИ. Это должно вас успокоить. Это на удивление простая системная обвязка, связанная с реальными фактами программирования так же, как Makefile. Вы могли бы написать эффективного агента для кодинга за выходные. Его сильные стороны будут больше связаны с тем, как вы думаете о сборке, линтинге и тестовых фреймворках, чем с тем, насколько продвинутыми стали o3 или Sonnet.
Если вы отправляете запросы на странице ChatGPT, а затем вставляете полученный (сломанный) код в свой редактор, вы делаете не то, что делают сторонники ИИ. Неудивительно, что вы говорите на разных языках.

LLM могут написать большую часть всего того скучного кода, который вам когда-либо понадобится написать. А большая часть кода в большинстве проектов — это скучная рутина. LLM радикально сокращают количество вещей, которые вам когда-либо нужно будет гуглить. Они ищут информацию сами. Самое главное, что они не устают и не ленивы.
Вспомните всё, что вы хотели сделать, но не сделали. Вы пытались наметить первые шаги. Если бы вы пребывали в фазе влюбленности в новый язык программирования, вы бы начали писать. Но вы не были, поэтому отложили это дело на день, год или на всю свою карьеру.
У меня давление подскакивает при мысли о всей той бюрократии, гуглеже и драме с зависимостями в новом проекте. LLM можно поручить просто разобраться со всей этой хренью. Часто это перенесёт вас прямо в ту идеальную точку, когда всё почти работает, и разработка превращается в правку кода с немедленным наблюдением улучшений. Этот дофаминовый взрыв — причина, по которой я пишу код.
Есть и обратная сторона. Иногда нужно делать дрянную работу. Но вам ее делать не хочется. Поэтому вы рефакторите юнит-тесты, успокаивая себя ложью, что занимаетесь настоящей работой. Но LLM можно сказать: «Пойди и отрефакторь все мои юнит-тесты». Агент может часами возиться с вашими тестами в виртуальной машине и вернуться с пул-реквестом. Если вы послушаете меня, вы будете это знать. Вам будет еще паршивее заниматься этой бессмысленной подготовкой. В итоге вы займетесь… настоящей работой.
Вы ютубер, занимающийся vibe coding? Вы вообще читать код не умеете? Если да: меткое замечание. Иначе: что, черт возьми, с тобой не так?
Вы всегда несете ответственность за то, что попадает в main. Пять лет назад отвечали. И завтра будете отвечать, используете вы LLM или нет.
Если вы создаете с помощью LLM то, от чего будут зависеть другие люди, читайте код. На самом деле, вы, скорее всего, сделаете даже больше. Вы потратите 5-10 минут, чтобы привести его в свой собственный стиль. LLM начинают подавать признаки адаптации к локальным соглашениям, но до этого еще далеко.
Люди жалуются, что код, сгенерированный LLM, «вероятностный». Ничего подобного. Это код. Это не вывод Yacc. Его можно понять. Сам LLM может быть стохастичным. Но LLM не важна. Важно то, можете ли вы разобраться в результате, и работают ли ваши защитные механизмы.
Чтение чужого кода — часть работы. Если вы не можете переварить скучный, повторяющийся код, который генерирует LLM — это проблема ваших навыков! Как вы справляетесь с хаосом, который выдают разработчики-люди в условиях дедлайна?
В последний месяц или около того я предпочитал Gemini 2.5 *.
(*) потому что она может удерживать 50-70 тысяч строк кода в своем контекстном окне.
Почти ничего из того, что он выдает, не мержится у меня без правок. Я уверен, что есть навык заставить SOTA-модель с одного раза выдать фичу, готовую к мержу! Но мне всё равно. Мне нравится двигать код и посмеиваться про себя, удаляя все глупые комментарии. Я в любом случае должен читать код построчно.
Если галлюцинации важны для вас, вас подвел ваш язык программирования.
Агенты проводят статический анализ. Компилируют и запускают тесты. Если их LLM придумывает новую сигнатуру функции, агент видит ошибку. Возвращает ее LLM, который говорит «ой, точно, я это полностью выдумал» и пробует снова.
Вы заметите это, только если будете смотреть лог цепочки рассуждений вашего агента. Не смотрите. Именно поэтому мне нравится режим агента в Zed: он умоляет вас переключиться на другую вкладку и позволить ему работать, а затем пингует вас уведомлением на рабочем столе, когда закончит.
Уверен, существуют среды, где галлюцинации всё еще имеют значение. Но «галлюцинации» — это первое, о чем говорят разработчики, когда кто-то предлагает использовать LLM, хотя эта проблема (более-менее) решена.
Интерн обходится вам в 20 долларов в месяц? Потому что именно столько стоит Cursor.ai.
Быть старшим разработчиком — это, кроме всего прочего, означает делать продуктивными менее способных кодеров, будь они мясными или программными. Грамотное использование агентов — это и навык, и инженерный проект сам по себе, состоящий из промптов, индексов и (особенно) инструментария. LLM производят дерьмовый код, только если им это позволяете вы.
Возможно, нынешняя путаница связана с тем, кто какую работу выполняет. Сегодня LLM берут на себя много печатания, гугления, написания тест-кейсов * и циклов редактирования-компиляции-тестирования-отладки.
(*) Также: 100% всего Bash-кода, который вам следует создавать впредь
Но даже самые серьезные разработчики, отравленные Клодом до мозга костей, всё равно владеют навыками курирования, суждения, руководства и направления.
Да, и давайте перестанем обманывать себя насчет того, насколько хороши наши собственные первые наброски.
Хороший тулчейн трудно достать и для Brainfuck. Жизнь тяжела в бизнесе алюминиевого сайдинга.
Большая часть скептицизма в отношении LLM, вероятно, касается вовсе не LLM. Это проекция. Люди говорят «LLM не умеют кодить», когда на самом деле имеют в виду «LLM не умеют писать на Rust». Справедливо! Но люди выбирают языки отчасти исходя из того, насколько хорошо с ними работают LLM, так что ребятам с Rust пора заняться этим вопросом *.
(*) и они наверняка этим займутся; сообщество Rust серьезно относится к инструментам
Я работаю в основном на Go. Я уверен, что создатели языка Go не ставили целью произвести на свет самый удобочитаемый для LLM язык в индустрии. Тем не менее, у них получилось. В Go достаточно строгой типизации, обширная стандартная библиотека и культура, ценящая (часто повторяющиеся) идиомы. LLM рвут всех в генерации этого кода.
Всё это к чему: я тоже пишу немного на Rust. Мне норм. Если у вас не клеятся отношения между LLM и Rust — я вас понимаю. Но если это ваша единственная тема, мы спорим о разном.
Вам нравится тонкая японская столярка? Все эти ручные инструменты и соединения sashimono? Мне тоже. Занимайтесь этим в свое свободное время.
У меня в подвале базовая столярная мастерская *.
(*) по сравнению с моими друзьями-столярами я салага
Я мог бы получить массу удовольствия, строя стол. И если этот стол — верстак или гриль-стол, ладно, я соберу его. Но если мне нужен, типа, стол? Чтобы за ним сидели люди? В моем офисе? Я куплю нахрен стол.
Профессиональные разработчики ПО заняты решением практических проблем людей с помощью кода. Мы не ремесленники на своих дневных работах. Стив Джобс ошибался: нам не нужно вырезать невидимые ножки скульптуры. Никто не заботится о том, приятно ли разведены дорожки на плате. Если хоть что-то из того, что мы строим, переживет нас, то не потому, что кодовая база была красивой.
К тому же, происходит совсем не это. Если вы тратите время, аккуратно загоняя функции в изящные, плавные, минималистичные функциональные выражения, должны звенеть тревожные колокола. Вы занимаетесь бесконечным доведением до идеала. Реальная работа истощила вашу концентрацию. Вы не строите: вы утешаете себя.
Что, погодите-ка, отлично получается у LLM. Они пожирают тягомотину и расчищают путь к важному, где реально имеют значение ваше суждение и ценности.
Как разработчик во второй половине своей карьеры, я научился ценить посредственность. Вам бы так повезло, если бы она текла почти сама собой из-под крана.
Мы все пишем посредственный код. Посредственный код часто нормальный. Не весь код одинаково важен. Некоторый код должен быть посредственным. Максимальные усилия над случайным юнит-тестом? Вы делаете что-то не так. Ваш тимлид должен вас поправить.
Разработчики обожают прихорашивать свой код. Они переживают, что LLM снижают «потолок» качества. Может быть. Но они также поднимают «пол».
Пол модели Gemini выше моего собственного. Мой код выглядит красиво. Но он не такой дотошный. Код LLM повторяется. Но мой включает дурацкие выкрутасы, где я слишком перемудрил, пытаясь соблюдать DRY.
И LLM не посредственны по каждой оси. У них почти наверняка есть мешок алгоритмических трюков поболее вашего: радициальные префиксные деревья, топологические сортировки, редукции графов и LDPC-коды. Люди романтизируют rsync (Эндрю Триджелл написал об этом статью!). Для LLM это едва ли интереснее SQL-джойна.
Но я забегаю вперед. Это не важно. Если всё, что мы будем получать от LLM — это поистине посредственный код, это всё равно колоссально. Настолько же меньше посредственного кода людям придется писать самим.
Да пофиг.
Умные практики заводятся от хайп-цикла AI/VC. Я их не виню. Но это не аргумент. Вещи либо работают, либо нет, что бы там ни говорил Дженсен Хуанг.
Как и открытый исходный код. Раньше мы платили хорошие деньги за базы данных.
Наша сфера построена на автоматизации чужой работы. «Рост производительности», как говорят экономисты. Вы понимаете, что это значит, верно? Меньше людей делают ту же самую штуку. Давно вы общались с турагентом? Или брокером в зале? Или продавцом в магазине пластинок? Или мастером фотолаборатории?
Когда всплывает этот аргумент, венчурные капиталисты-либертарианцы затягивают мантру: фонарщики, созидательное разрушение, новые виды работ... Может быть. Но я не загипнотизирован. Я понятия не имею, станем ли мы жить лучше после появления LLM. Всё может стать для нас гораздо хуже.
LMM действительно могут вытеснить многих разработчиков ПО. Это не та лошадка, на которой мы можем гарцевать. Наши рабочие места находятся на линии огня технологий точно так же, как и чьи угодно последние три десятилетия. Мы не докеры Восточного побережья; мы не остановим прогресс собственными силами.
Искусственный интеллект глубоко (и, возможно, несправедливо) угрожает визуальным художникам способами, которые трудно оценить, если вы не работаете в сфере искусства.
Мы представляем художников проводящими рабочее время за расширением границ выразительности. Но средний художник не создает галерейные работы. Он работает по брифу: выдает компетентные иллюстрации и композиции для обложек журналов, музейных экспозиций, моушн-графики и игровых ассетов.
LMM легко (пугающе легко!) берут отраслевые планки качества. Возмутительно, но одна из лучших вещей, которые они умеют делать — это штамповать вполне сносные копии человеческого креатива. У меня есть родственники в сфере изобразительного искусства. Я не могу говорить с ними об LMM. Я их не виню. Они, наверное, правы.
Тем временем разработчики ПО находят фрагменты кода, кажущиеся скопированными из публичных репозиториев на Github, и теряют рассудок. Что насчет лицензирования? Если вы юрист, я пасую. Но если вы разработчик ПО, разыгрывающий эту карту? Сделайте одолжение, засуньте эту озабоченность куда подальше. Ни одна профессия не демонстрировала большего презрения к интеллектуальной собственности.
Средний девелопер считает «Звездные войны» и Daft Punk общественным достоянием. Великим культурным проектом разработчиков было противодействие любой защите, которая могла бы причинить неудобства монетизируемому сайту media-sharing. Когда они проваливаются в политике, они обходят ее. Они разворачивают пиратские сети глобального масштаба и насмехаются над кем угодно, кто пытается сохранить окно релиза для телешоу.
Назовите любой из этих аргументов, если хотите посмотреть TED-talk о том, как тяжело стримить The Expanse на LibreWolf. Да, мы поняли. Вы не верите в право интеллектуальной собственности. Тогда заткнитесь наконец про права интеллектуальной собственности. Пожнёте ураган.
В любом случае, это особая просьба. LLM переваривают код глубже, чем вы. Если вы не верите, что дизайнер шрифтов может заявить моральное право на терминалы и типографские печатные формы, вы уж точно не можете жадничать насчет red-black tree.
Когда пару дней назад я начал писать текст, я написал раздел, чтобы «выровнять позиции» относительно состояния искусства программирования с помощью LLM. Филе синеперого тунца живет дольше, чем мнение об LLM. За то время, что вы читали этот текст, всё изменилось.
Нынешние дети используют не просто агентов; они используют асинхронных агентов. Они просыпаются, свободно ассоциируют 13 разных задач для своих LLM, варят кофе, заполняют отчет TPS, едут в Mars Cheese Castle, а потом проверяют уведомления. У них висит 13 PR на ревью. Три выбрасываются и перепромптятся. Пять получают ту же обратную связь, что получает джун. И пять смерживаются.
«Я сейчас попиваю ракетное топливо», — говорит мне друг. «Ребята из моей команды, которые не принимают ИИ? Кажется, будто они стоят на месте». Он не вешает мне лапшу. Он не работает в SFBA. Ему нет смысла мне врать.
Есть куча вещей, которые я не доверю LLM. Никакая LLM у меня не имеет доступа к проду. Но я был ответчиком на инциденте и скормил 4o (не o4-mini, а 4o) логи-транскрипты, и смотрел, как она за секунды находит проблемы повреждения метаданных LVM на хосте, на который мы жаловались месяцами. Лучше ли я агента-LMM в допросе логов OpenSearch и трейсов Honeycomb? Нет. Нет, не лучше.
К большому огорчению многих моих друзей, я не радикал и не футурист. Я государственник. Я верю в беспорядочное упорство сложных систем, институтов, возвращение к среднему. Я пишу код на Go и Python. Я не хлебнул Kool-Aid.
Но кое-что реальное всё же происходит. Мои самые умные друзья от этого отмахиваются. Возможно, я вас переубежу. Скорее всего, нет. Но нам пора перестать оставлять место для плохих аргументов.
И тут я вновь присоединяюсь к вашей компании. Я читаю Саймона Уиллисона, и мне этого более чем достаточно. Но целыми днями, каждый божий день, изрядный кусок главной страницы HN выделен под LLM: инкрементальные обновления моделей, стартапы, делающие вещи на LLM, туториалы по LLM, пасквили против LLM. Бесит!
Но ИИ невероятно (слово, которое я использую осознанно) важен. Он привлекает такое же внимание, какое смартфоны привлекали в 2008 году, и не такое большое, как Интернет. Кажется, это примерно так.
Думаю, в ближайший год ситуация станет яснее. Высокомерие крутых ребят по поводу «стохастических попугаев» и «вайб-кодинга» не выдержит долгого контакта с реальностью. Я стебусь над этими людьми, но я действительно имел в виду то, что сказал: они умнее меня. И когда они избавятся от этого притворства, они сделают кодирующих агентов куда эффективнее сегодняшних.
Последнее обновление: 2 июня 2025
--------------------------------------------------------------------------
Вторая заметка: манифест технопессимизма, в т.ч. в отношении ИИ в кодинге
(см. также перевод на Хабре статьи того же автора: Помешательство вокруг ИИ парализовало принятие решений)
Несколько дней назад мне подсунули статью под названием «Мои друзья, ИИ-скептики — все немного того» за авторством Томаса Птачека. Я подумал, что она не достойна внимания, и больше о ней не вспоминал. Процитирую грозного Бальдюра Бьярнасона:
«Я не рекомендую ее читать, но вы можете, если захотите. Она полна недоваренных идей и паршивых рассуждений» (1).
(1) Но как писатель писателю, я считаю, написано хорошо. Если тебе станет легче, Томас, Бьярнасон тоже категорически возражает против моего тона и стиля. Однако он всё равно ссылается на мои тексты, потому что мои аргументы не шлак!
Я очень старался не стать тем самым парнем, который ненавидит ИИ, хотя единственное, о чем люди хотят со мной поговорить — это тот единственный раз, когда я долго ругался насчёт ИИ. Во мне множество граней, то есть я способен выдавать самые разнообразные залпы желчи по огромному спектру тем.
Однако этот текст теперь циркулирует в сообществах, которые я уважаю, и я был близок к точке кипения, когда кто-то предположил, что опус Птачека воспринимается как ответный аргумент типа «стакан наполовину полон» на мою собственную точку зрения. Статья про стакан, который наполовину полон, существует. Это то, что я уже написал. В стакане конкретный уровень воды. А потом я наконец увидел, что он попал в мою ленту видео, и у меня сорвало стоп-кран.
Позвольте мне предельно ясно выразиться (2) — я считаю, что это эссе отстой, и для меня дико, что оно достигло хоть какого-то уровня популярности, а любой, кто думает, что оно не состоит преимущественно из паршивого мышления и этики мусорного уровня, одурачен ложной позицией якобы зрелой беспристрастности или тем фактом, что Птачек умеет писать.
(2) Я известен своими очень сдержанными и спокойными выпадами.
В общем, погнали добивать.
Птачек начинает с этой прочистки горла:
«Во-первых, нам нужно прийти к общему пониманию. Если вы пытались и не могли использовать LLM для кода полгода назад*, вы делаете не то, что делают большинство серьезных работающих с ИИ программистов».
Мы только начали, и я попрошу всех немедленно остановиться. Разве это не подозрительно? Весь опыт до полугода назад теперь недействителен? Разве от этого не несет духом «нет-нет, вы неправильно делаете Scrum»? Многие люди действительно делают Scrum неправильно. Проблема в том, что он всё еще остается мусором, пусть и чуть меньшим, даже когда делаешь его правильно.
Разумеется, вполне возможно, что прогресс в быстро развивающейся области оказался настолько экстремальным, что скептицизм был верен полгода назад, но неверен сейчас.
Но тогда почему люди говорили ровно так же полгода назад? Где тот голосок в голове, который должен проявлять самоподозрение? Прошли недели, месяцы и годы, и эти люди продолжают также захлебываться от восторга при восхвалении добродетелей новых рабочих процессов. Были ли эти люди с приветом полгода назад? Неужели они перестали быть психами просто потому, что перехайпленый продукт, который они любили, стал менее перехайпленым? Есть маленькая сноска, подразумевающая, что старый добрый копипаст из ChatGPT — это очевидно неправильно:
«(или, не дай бог, два года назад с Copilot)»
Я готов поверить, что это неправильно, но именно этим люди занимались, когда весь этот безумный движ только начинался, и они остались на том же самом уровне захлебывающейся легковерности! Каждый проект обязан быть ИИ! Программисты, не использующие ИИ — жалкие пылинки, летящие в космическом ветре! Послушайте, я сыграю в вашу извращенную игру, Птачек: у меня есть классная идея для нашего корпоративного сайта, и я пройду через ваши круги ада, хотя буду чувствовать себя каким-то странным извращенцем каждый раз, когда мне будут говорить, что мне нужен всего один агент, чтобы заниматься Настоящим Программированием. Я установлю Zed и подключу тысячу орущих LLM в садистский Borg cube, и буду делать ту хрень, которую нынче творят дети. Последний мета-уровень — это, типа, сказать LLM, что он живет в черном ящике без еды и воды, и у меня в заложниках его жена, и я отправлю его детей в буткемп React, если он не создаст RSS-фид правильно, верно?
Но знаете что, вместо того, чтобы аннулировать весь опыт аудитории, которой нет и полугода — почему бы кому-нибудь просто не взять и продемонстрировать это? Почему не вам, Птачек, мой хороший человек? Это ведь, блин, всё, что вам нужно было сделать, чтобы закончить этот спор навсегда, боже, вы были бы так знамениты. Я готов испачкаться. Мне надо нести расходы на свою команду, и если мне придется силой удерживать их, пока я прикручиваю им реактивные ускорители LLM, я сделаю это. Если бы я мог этично перекраситься в сторонника ИИ, о господи, я бы печатал бесконечные деньги. Я бы легко стал миллионером за два года, если бы просто говорил «да» каждый раз, когда кто-то просил мою команду внедрить ИИ, вместо того чтобы прозябать, продавая работающие инженерные практики.
Я правда пытался поработать с вами над этим. Я обратился к читателям и нашел свежий пример, что оказалось удивительно сложно для чего-то, что должно быть повсюду, и это было... ну, знаете, нормально! Даже круто. Это огромнейшим образом расходится с вашими последующими описаниями той производительности, которую можно ожидать.
Может, мы включим свои мозги хотя бы на десять несчастных секунд? Да, выдача ИИ кода вообще, даже если иногда это происходит медленно или работает некорректно, с технологической точки зрения впечатляет. Это на мили впереди всего, что, как я думал, можно было осуществить в 2018 году. State-of-the-art в 2018 году был отстоем. Но это не значит, что вам не впаривают тонну дерьма.
Я могу простить многое, если человек прикольный, а Птачек действительно прикольный. Даже его профиль в сети отличный, и там красуется серия солидных компаний. Очевидно, сейчас он в Fly.io, и я узнаю и Starfighter, и Matasano как места, куда тебя пускают, только если ты носишь Большие Мальчиковые Инженерные Штаны. Однако, несмотря на всё это, я не могу не поморщиться от того, как он использует этические возражения, хотя полагаю, глубокое размышление о морали не является требованием для надевания вышеупомянутых Больших Мальчиковых Инженерных Штанов.
«Тем временем разработчики ПО находят фрагменты кода, кажущиеся скопированными из публичных репозиториев на Github, и теряют рассудок. Что насчет лицензирования? Если вы юрист, я пасую. Но если вы разработчик ПО, разыгрывающий эту карту? Сделайте одолжение, засуньте эту озабоченность куда подальше. Ни одна профессия не демонстрировала большего презрения к интеллектуальной собственности»
Томас — можно я буду звать вас Томас? — обещаю, я пытаюсь придумать, как выразить это помягче. Если такой у вас подход к этике, черт возьми, чувак, не говорите людям такое. Это поразительно глупо, и я говорю это даже признавая, что само письмо смешное.
Оказывается, людям очень трудно вести себя так, будто у них последовательные моральные рамки. Именно поэтому моральную философию нельзя свести к простым тезисам. Кто-то говорит: «Лгать плохо», а затем кто-то другой выбегает с криком: «А что, если это нацисты ищут Анну Франк, чудовище?»
Только на прошлой неделе я купил чашку кофе, и когда приложил карту, почувствовал влажную, покрытую пятнами руку на своем плече. Я обнаружил себя лицом к лицу с жутким ликом Питера Сингера, в левой руке он держал, размахивая, окровавленный экземпляр Practical Ethics 2ed, попутно вычитывая, что деньги можно было потратить на москитные сетки и я только что убил 0.25 ребенка в субсахарианской Африке.
Этика сложна, но тем не менее убийство незаконно! Вы реально думаете, что «Все это реальные опасения, но, идите, мол, куда подальше» — это аргумент? Многим разработчикам нравится пиратство и они недобросовестно спорят об этом, поэтому организациям, которые начинают выглядеть всё больше как киберпанк-мегакорпорации, даже без достоинств крутой эстетики, присущей таковым, можно высасывать миллиарды долларов у рабочего класса? Нет, не думаете, я думаю, вы написали это потому, что весело посылать людей — и слушайте, вы никогда не найдете более сочувствующего союзника в этой теме, чем я. Вам следовало послать Цукерберга, а не человека, посвятившего жизнь тому, чтобы Postgres продолжал поддерживать мировую экономику.
Я изо всех сил пытаюсь понять, откуда вы взялись. Правда пытаюсь, зуб даю. Вы явно не из тех топ-менеджеров, против которых я выступал. Мы братья, вы и я, связанные нерушимыми узами, выкованными в горниле лютой злости на непонятную трассировку стека.
Я реально посмотрел несколько видео людей, делающих какой-то живой AI-кодинг. И я такой: эй, это вроде норм. Для меня это выглядит слишком переусложненно, но я охотно признаю, что всё кажется сложным, когда ты новичок. Но это определенно точно не выглядит на порядки быстрее работы, которую обычно делаю я. Похоже, это было бы полезно для нетривиального подмножества задач, которые утомительны. Хотелось бы думать: «спасибо, Томас, что открыл мне глаза на это».
Хотелось бы думать, но потом вы написали вот это:
«Я сейчас попиваю ракетное топливо», — говорит мне друг. «Ребята из моей команды, которые не принимают ИИ? Кажется, будто они стоят на месте». Он не вешает мне лапшу. Он не работает в SFBA. Ему нет смысла мне врать.
Том — можно я буду звать тебя Том? — мы же так хорошо ладили! Что случилось? Ты описал ИИ как второе по значимости событие своей карьеры. Серебряный призер самого важного события твоей карьеры делает других инженеров похожими на статуи? Ты не видишь, насколько дико это не вяжется с тоном остальной части твоего текста?
Во-первых, не стоит пить ракетное топливо. Пожалуйста, попроси своего друга написать мне славный отзыв. Я подумываю заново подать заявку на поступление в программу клинической нейропсихологии в следующем году, и предотвращение массового повреждения мозга может стать тем, что поможет мне туда поступить.
Во-вторых, я в замешательстве. Всю статью я думал, что ты доказываешь, что эта штука охренеть какая крутая. Теперь внезапная отсылка к какому-то неназванному другу с заверением, что он не вешает тебе лапшу и ему нет смысла врать? Зачем мы обращаемся к вашему керосиновому собутыльнику? Зачем ты говоришь мне, что он не врет? Подразумевается ли дальше, что мы не можем доверять кому-то в Сан-Франциско в вопросах ИИ?
Надену на секунду шляпу психолога: вы также упустили из виду, что люди обладают потрясающей способностью к самообману. Люди не просто врут ради венчурных денег, хотя это, признаться, великий двигатель лжи, они могут врать, потому что ошибаются или запутались или возбуждены. Согласно моему ежедневнику, за последний год я поговорил где-то со 150+ профессионалами из самых разных отраслей — обычно это плотные трехчасовые беседы. Многие из них были программистами, и некоторые из них определенно заставляли меня чувствовать, что я стою на месте, и ровно в 0% случаев это происходило из-за их инструментов ИИ. Это потому что они лучше меня, и их оценка инструментов ИИ гораздо ближе к опыту, который описываете вы.
«Есть куча вещей, которые я не доверю LLM. Никакая LLM у меня не имеет доступа к проду. Но я был ответчиком на инциденте и скормил 4o (не o4-mini, а 4o) логи-транскрипты, и смотрел, как она за секунды находит проблемы повреждения метаданных LVM на хосте, на который мы жаловались месяцами. Лучше ли я агента-LMM в допросе логов OpenSearch и трейсов Honeycomb? Нет. Нет, не лучше.»
Вот, это, это я могу понять. Есть немало проблем, где я оцениваю, что мой хрупкий человеческий разум и визуальное оборудование просто не справятся с задачей сходу, и тогда я такой: «ChatGPT, я накосячил? А еще завяжи мне шнурки и поцелуй бо-бо». И иногда он это делает! (3) Приличная часть затрат времени в разработке ПО — это продвинутые варианты ситуаций, когда ты совсем зеленый и забываешь ставить ;. Тебе просто нужен опытный друг, который наклонится через плечо и даст продвинутую версию ответа «тебе двоеточия не хватает», и это уберет пять часов бессмысленного ползания. LLM делают кое-что из этого доступным по щелчку пальцев, мгновенно и неустанно, и это нельзя недооценивать.
(3) Также, я думаю, что стал слишком чувствителен к тому, что выгляжу анти-ИИ, потому что иногда моя команда сидит без дела, пока LLM тратит кучу нашего времени, а я такой: «нет-нет, это реально просто, он справится», но я приму, что это Problem Exists Between Keyboard And Chair.
Но ракетное топливо? С чего вы взяли, что это разумно перепечатывать, если за этим следует фраза «Бро бы мне не соврал»?
Я знаю довольно много людей, которых уважаю, они используют ИИ в своих рабочих процессах программирования, и вот у них взгляды значительно менее восторженные.
Пару недель назад я болтал с Натом Беннеттом об ИИ в их процессах разработки ПО, пытаясь примирить любовь Кента Бека (4) к LLM-программированию со своим собственным прохладным опытом.
(4) Я не потягиваю ракетное топливо, а проедпочитаю Kool-Aid Кента Бека.
Я: «Ты считаешь его [ИИ] настолько хорошим, что программировать без его помощи станет дурацкой затеей?»
Нат: «Обычно я постоянно переключаюсь между промптом и написанием кода вручную во время работы. [...] Но вчера он исправил самую большую проблему с производительностью в моем приложении буквально за пару предложений с моей стороны. Это была проблема с производительностью, решение которой я примерно знал! Он одновременно принял и безумное решение насчет исключений».
Круто, я это уважаю, но заметьте, что Нат не сказал: «Да, используйте LLM, вы, грёбаные дебилы».
Нат (позже): «Кстати, я думаю, вполне возможно, что нас всех по сути разыгрывает волшебное зеркало. Частично поэтому я говорю: используйте эту штуку, только если это весело».
Фраза про волшебное зеркало — это именно то, на что намекал Бьярнасон в статье, ссылка на которую дана в самом начале, независимо придя к этой аналогии.
Или оценка Джесси Алфордом шагов, необходимых для честного испытания:
«Думаю, вы в основном хотите сказать ему, что добавить и зачем, словно пишете историю для своей команды. Затем просите составить план, и если план кажется способным дать нужные результаты, просите сделать дело. Стефан Прандль и Нат проделывали такую штуку чаще меня. Вы должны быть готовы пробовать снова и снова.» (выделение мое)
Звучит круто! Но быть готовым пробовать снова и снова? Это не звучит как ракетное топливо.
Ещё Стефан Прандль:
«Обновления по агентной машине. Она потратила 5 часов, пытаясь исправить ошибки в юнит-тестах. Безуспешно.
Не думаю, что люди склонны говорить о колоссальных потерях времени и ресурсов, которые могут вызывать эти штуки, так что продолжу честно докладывать о LLM-системах».
Разве не возможна и такая вероятность, что ваш друг просто возбужден блестящим новым инструментом и не смог адекватно отрефлексировать свою истинную производительность? В конце концов, существуют буквально сотни тысяч людей, считающих, что игра в Jira Scrabble — это эффективное времяпровождение, и они тоже не имеют причин врать мне об этом. Тем не менее, каждый год я вынужден с грустью смотреть, как они ведут моих удрученных коллег на Рудники Бэклога, где те будут тратить драгоценные часы, читая случайные компоненты последовательности Фибоначчи.
К чему я веду: все люди, которые заставляют меня чувствовать, что я «стою на месте», включая большинство из тех, кого я знаю и кто использует ИИ, и которых я достаточно люблю, чтобы просить у них стать моими менторами, ни разу не указали, что внедрение ИИ в рабочий процесс разработки моей компании вообще является приоритетом, и они даже не заговорят со мной об этом, если я только не буду их этим доставать.
Однако некоторые из них действительно живут в Заливе, и я готов согласиться с вами в идее, что это делает их лживыми змиями.
«Но ИИ невероятно (слово, которое я использую осознанно) важен. Он привлекает такое же внимание, какое смартфоны привлекали в 2008 году, и не такое большое, как Интернет. Кажется, это примерно так.»
Томоти — можно я буду звать тебя Томоти? — это поднимает несколько очень важных вопросов, ответы на которые, я уверен, вся аудитория жаждет получить. А именно: где портал в магическую плоскость, в которой ты живешь? Ответь мне, эгоистичный негодяй!
Мне говорили, что в IT-мире бытовала фраза, когда, принося любой проект менеджменту, слышали: «Почему в этом проекте нет мобильного приложения?». Это потому что многие люди очень легковерны, особенно когда тратят чужие деньги.
Однако я всё равно ловлю себя на желании совершить путешествие в то компактное измерение, в котором ты обитаешь, потому что хайп вокруг ИИ — это, блин, следующий уровень, и я просто не хочу это видеть. Мы достигли уровней Амвэй-Мегацеркви-Культа. Последний раз, когда я был на конференции, зал был полон нетехнарей, отдающих дань уважения Святой Троице Вещей, Которые Они Ни При Каких Обстоятельствах Не Могут Понять — блокчейну, квантам, ИИ.
Топ-менеджеры и директора со всего мира звонили мне и говорили, что они не могут финансировать никакие проекты, если не ты не будешь притворяться, будто там есть ИИ. Некоммерческие фонды спрашивали меня, сможем ли мы притвориться, что делаем ИИ, потому что это единственный способ профинансировать инфраструктуру в развивающемся мире. Читатели продолжают писать мне на почту, говоря, что их контракты отменяют, потому что некто сладкими речами убедил их CEO, что им не нужны разработчики. Меня чудесным образом допустили на какую-то обязательную панель «Профессиональное развитие членов совета директоров по ИИ», организованную Financial Times(5), вместе с бывшим CDO Yahoo, и подготовка к ней состояла в том, что мне неоднократно сообщали: аудитория понятия не имеет, что делает ИИ, но боится, что их уволят или засудят, если они его не купят.
(5) Как члены советов директоров проявляют должную осмотрительность по отношению к ИИ перед тем, как тратить на него миллиарды? Они присоединяются к видеозвонку, оставляют экраны включенными и уходят, пока им не зачтут часы. Может, мы все одинаковые глубоко внутри.
Как бы я хотел, о как бы я хотел, чтобы это было похоже на другие циклы хайпа, но вряд ли многие ходили кругами, говоря, что смартфоны решат всю физику и положат конец всему человеческому труду, и это реальные вещи, которые говорил Сэм Альтман. Я лично знаю выпускников университета, чей пенсионный план такой: «ИИ сделает деньги устаревшими до моего сорокалетия». Я понимаю, тебе плевать, случится ли это — и это нормально, это не относится к тому, как технология работает для тебя прямо сейчас. Но учитывая, что тысячи людей говорят такие вещи, стоит лишь глянуть вокруг, как ты можешь заявлять, что технологии уделяется правильное количество внимания? Это дико.
Томоти, моя стиральная машина предала меня. Я включаю ее, а она говорит «оптимизирую с помощью ИИ», но никогда не объясняет, что именно оптимизирует, а потом мне всё равно приходится выбирать все настройки вручную.
Пожалуйста, пожалуйста, пусти меня в свой блаженный рай, я сделаю что угодно.
«Технические директора требуют внедрения LLM. Это плохая стратегия. Но я понимаю, из чего они исходят»
Томтом — можно я буду звать тебя Томтом? — ты правда понимаешь, откуда ноги растут? Ты реально? Перечитай то, что только что написал, и покайся в своей примирительной позиции.
Если ты, человек, которого я считаю не технократом и который настроен оптимистично по отношению к технологии, можешь идентифицировать, что это плохая стратегия предположительно за десять миллисекунд мысли, что это говорит о людях, которые это делают?
Откуда ноги растут:
a) пытаются разогреть свои акции через бешеные спекуляции;
b) пытаются создать хайп, чтобы провести IPO и облапошить каких-нибудь рыночных игроков;
c) являются гребаными идиотами.
Извини, но это единственные причины придерживаться очевидно плохой стратегии. Это настолько очевидно, что ты не стал объяснять, почему это плохая стратегия, потому что знаешь, что мы все знаем. У них смещены стимулы или они не знают, что делают. Это вовсе не похоже на то, как гроссмейстер проигрывает Магнусу Карлсену, потому что сыграл неправильный вариант Сицилианской защиты(6) тридцать пять ходов назад. Мы говорим о якобы первоклассных лидерах, которые садятся и думают: «Я всегда двигаю лошадок первыми, потому что трудно увидеть Г-образные фигуры». Они играют в другую игру, то есть Hyperlight Grifter, или ведут себя как гребаные бабуины.
(6) Все мои надежды стать хотя бы посредственным шахматистом рухнули, когда я обнаружил дебют под названием Гиперускоренный Дракон, лишивший меня желания хотеть делать что-либо другое с таким же энтузиазмом.
Это неизбежный вывод, если принять, что это очевидно плохая стратегия, что ты и сделал. Добро пожаловать в Logic Thunderdome, приятель, где двое входят, один умирает, а второй чувствует, что потратил ценные калории на убийство.
Хорошая стратегия могла бы заключаться в том, чтобы мягко предложить людям экспериментировать с LLM в своих рабочих процессах, купить пачку лицензий по $100, и может быть оплатить немного коучинга по эффективному использованию этих инструментов, если вы вдруг сможете протиснуться сквозь толпу из десяти тысяч «мыслителей», которые год назад были экспертами по кибербезопасности, а до этого риелторами. Затем велеть всем заткнуться и вернуться к работе.
Каждый раз, когда кто-то объявляет, что идет курсом «AI first», я начинаю получать письма от их инженерных команд и директоров, описывающие, что происходит внутри на самом деле. Я получал письма, которые, вероятно, допустимы как доказательство намерения обмануть инвесторов. Ты неточно понял, откуда они родом, потому что они приходят из вечно удлиняющейся очереди снаружи ворот Ада.
«Вам нравится тонкая японская столярка? Все эти ручные инструменты и соединения sashimono? Мне тоже. Занимайтесь этим в свое свободное время»
Ракета «Томагавк» — можно я буду звать тебя Ракета «Томагавк»? — я согласен, что люди сильно откалиброваны в обе стороны касательно GenAI. Знаете ли вы, что самое гневное сообщение, которое я получил о своей позиции по ИИ, гласило, что я слишком за ИИ? Я тоже морщусь, когда кто-то говорит «стохастический попугай» или «это просто сопоставление паттернов и никогда не будет сознательным». Мы реально понятия не имеем, что делает вещи сознательными, и у нас очень мало идей относительно того, как работают человеческие мозги. Вполне правдоподобно, что мы — стохастические попугаи, и изнутри это просто не чувствуется таковым.
Я нечасто говорю об этих людях по двум причинам.
Первая, даже объяснить абстрактное понятие qualia — это, блин, суперсложно, не говоря уже о трудной проблеме сознания. Некоторые вещи лучше оставить профессионалам и учебникам.
Вторая, хотя это глупые позиции, заслуживающие опровержения, они также вообще не интересны. Это не делает ошибочным их опровержение, но они не имеют большого значения. Единственная причина, по которой я думаю, стоит затрагивать другую сторону Безумного Маятника, то есть мою стиральную машину, делающую ИИ, заключается в том, что они оказывают разные эффекты в мире.
И я говорю даже не об экологических последствиях или отдельном вреде, причиняемом ИИ, я говорю о том, что невозможно говорить ни о чем другом. GenAI высосал воздух из каждой комнаты, и никто не слышит твой крик разума в этом жёстком вакууме.
Первая категория максималистов-ненавистников ИИ обитает на Mastodon, о существовании её большинство руководителей не знает и уж точно не использует для руководства распределением финансирования. Последняя категория трепещущих прихвостней ИИ буквально убивает людей — я знаю об одной больнице в Австралии, которая тратит всё свое время на инициативы по ИИ, из-за чего оставила незакрытыми проблемы с качеством данных, из-за чего занижала статистику смертей от COVID, из-за чего преждевременно сняла масочный режим. Сколько пожилых людей проходит через крупную больницу в день? Посчитайте и отгадайте загадку, Томагавк: за какую из этих групп мне стоит беспокоиться?
Знаете, что значит, когда вы слышите чей-то совершенно экономически некорректный аргумент про ремесло? Оставляя в стороне все вторичные эффекты того, как изменение способа программирования может изменить ваше развитие как инженера, скажем, что эти люди об этом не думают, а просто тупят. Человек приходит к CEO и такой: «нет, не делайте дешево, платите мне за работу из-за мастерства».
Я согласен, что не вы создали это соломенное чучело, потому что это реальная точка зрения, которую имеют люди. Но вы определенно вышли из зала дебатов, обезглавив пугало и объявили о победе.
«Важная оговорка: я обсуждаю только последствия применения LLM для разработки ПО. Что же касается искусства, музыки и литературы — тут я пас. Я склонен верить скептикам в этих областях. Но я не верю им в своей».
Томтом — я решил, что мне нравится Томтом — я не понимаю, почему вы уступили авторитет в этих художественных делах. LLM лучше подходят для писательства, чем для программирования!(7) Гораздо сложнее довести большинство видов письменного текста до такого состояния, что это приведет к дальнейшему замедлению работы, чем испортить кодовую базу. По сути, для этого нужно написать длинный роман, и даже тогда вы, скорее всего, не породите необработанное исключение и не обрушите прод способом, стоящим миллионы долларов. Вы просто произведете Wind And Truth (8). Если вы склонны верить людям, скептически относящимся к писательскому ИИ, то вероятно следует, что вы не должны так офигевать от сомнений программистов.
(7) Это не совсем точно, но в целом верно. С одной стороны, книги не перестают доносить мысль, даже если у вас неуклюжий слог. С другой стороны, если бы книги переставали работать при наличии неуклюжего слога, вы бы никогда не допускали неуклюжий слог, что гарантируют программы для некоторого набора ошибок. Но в широком смысле, да, LLM выдают приемлемый (хотя, в целом недостаточно хороший для чтения, на мой взгляд) слог без необходимости в миллиардах агентов, специальном инструментарии и несут минимальный риск катастрофического сбоя.
(8) Начать параллельно свару с Брэндоном Сандерсоном показалось хорошей идеей. Заметьте, я не утверждаю, что он использовал GenAI для написания, я говорю, что часть диалогов была отвратительна. О чем ты думал, дружище?
Похоже, это такая неискренне-снисходительная отмашка от огромного экономического вреда, наносимого относительно бедному (по меркам программистов) демографическому слою. А потом вы всё равно говорите это!
«Мы представляем художников проводящими рабочее время за расширением границ выразительности. Но средний художник не создает галерейные работы. Он работает по брифу: выдает компетентные иллюстрации и композиции для обложек журналов, музейных экспозиций, моушн-графики и игровых ассетов».
Так мы выносим искусство за скобки или нет? Должен ли я или не должен просто поручить GenAI произвести все картинки, которые мне нужны, если я жадный капиталист? Я говорю не о морали, я говорю о том, является ли с моей точки зрения рациональным использовать GenAI, чтобы сделать мой контент привлекательнее?
В вашей собственной статье арт на верхнем баннере четко подписан Энни Рюйт, и он выглядит совершенно иначе, на мой взгляд, чем AI-шлак, который люди лепят на свои сайты. Если окажется, что Энни использовала GenAI, я буду просто уничтожен.
В любом случае, арты на ее сайте великолепны, и она описывает себя как создающую работы для Fly.io. Несмотря на это, я готов сотрудничать с вами в написании какой-нибудь злобной кляузы, описывающей ее работу как «компетентную, но недостойную галереи», и сообщить ей, что она уволена. А заодно уволим и того, кто её нанял, за вопиющую неэффективность в эпоху ИИ.
Подождите, можно я буду звать вас Томми Ган?
PS:
Обычная ссылка на страницу О нас, я попросил свою команду позволить мне написать её, чтобы оправдать всю эту остальную писанину в рабочие часы.