
«Молох, чей ум — чистая механика, а кровь — текущие деньги!»
(Аллен Гинзберг)
В четыре часа утра первого августа 2012 года на серверах компании Knight Capital, крупнейшего на тот момент брокера американского фондового рынка, завершилось плановое обновление. А уже через 45 минут после открытия биржи фирма потеряла 440 миллионов долларов и навсегда перестала существовать как независимый бизнес.
Причина тому не вирус и не хакерская атака конкурентов. Просто инженеры обновляли код маршрутизации заявок SMARS в большой спешке, чтобы успеть к запуску новой торговой программы Нью-Йоркской фондовой биржи. Они использовали старый массив настроек, где на одном из восьми серверов случайно остался активным флаг мёртвой функции Power Peg, написанной девять лет назад и давно неиспользуемой. Но когда полился поток рыночных данных, дефектный сервер стал непрерывно скупать акции по завышенным ценам и распродавать их в убыток, отправляя на биржу по четыре миллиона ордеров в минуту.
Само собой инженеры Knight Capital не были дураками, они знали, что старый легаси-код нужно полностью вычистить и что деплой на восемь серверов вручную без оркестрации — это не самое мудрое решение. Но на Уолл-стрит задержка релиза на сутки грозила потерей крупнейших клиентов. И в итоге из-за спешки пришлось пожертвовать безопасностью.
Интуиция в таких случаях подталкивает нас искать за этим каких-то скрытых кукловодов и злодеев. Нам кажется, что за глобальными катастрофами стоят тайные ордена, продажные элиты или теневое мировое правительство. Но реальность устроена немного иначе.
В советах директоров, правительственных комиссиях и инженерных штабах как правило сидят образованные, рациональные люди. Они не хотят экологического краха, атомной войны или восстания ИИ. Но каждый из них изо дня в день делает локально правильный, логичный выбор, который с математической неизбежностью толкает всю систему в пропасть.
Имя этому явлению — Молох.
В древности Молохом называли финикийское и ханаанское божество, культ которого требовал детских жертвоприношений в обмен на победу в войне или защиту от мора. Если город осаждали враги, правители бросали детей в раскалённую бронзовую утробу идола, в надежде тем самым купить благосклонность стихии.
В XX веке этот образ переосмыслил поэт-битник Аллен Гинзберг в поэме «Вопль» 1955 года. Молохом он назвал бездушный конвейер индустриального капитализма, перемалывающий культуру, дух и здоровье людей ради абстрактной цифры экономической эффективности.

Второе рождение концепт пережил в июле 2014 года, когда калифорнийский психиатр и рационалист Скотт Александр опубликовал эссе «Размышления о Молохе», превратив поэтический образ Гинзберга в инструмент строгого системного мышления.
Молох — это персонификация координационного провала в многополярных некооперативных играх с ненулевой суммой.
Сущность Молоха проще всего понять на классическом мысленном эксперименте, который в 1950-х сформулировали математики Меррилл Флад и Мелвин Дрешер из корпорации RAND. А позже Альберт Таккер назвал его дилеммой заключённого. Двух подозреваемых изолируют друг от друга и предлагают сделку: сдать сообщника или хранить молчание.
Классическая матрица решений для двух агентов, Джека и Джилл, выглядит так:
Джилл молчит (Сотрудничает) Джилл сдаёт (Предаёт)
Джек молчит -1 год, -1 год -10 лет, 0 лет
(Сотрудничает)
Джек сдаёт 0 лет, -10 лет -5 лет, -5 лет
(Предаёт)Логика Джека такова:
Если Джилл решит молчать, выгоднее её сдать: тогда свобода наступает немедленно (ноль лет вместо года тюрьмы).
Если Джилл решит пойти на сделку, выгоднее сделать то же самое: тогда срок составит пять лет вместо десяти.
Какое бы действие ни выбрала Джилл, предательство приносит Джеку лучший личный исход. В теории игр такое действие называется строго доминирующей стратегией. Сама Джилл сидит в соседней камере и проводит ровно те же вычисления. В итоге оба рациональных агента выбирают предательство и получают по пять лет тюрьмы. Суммарно они теряют десять лет жизни, хотя при взаимном молчании потеряли бы всего два года на двоих.

В 1951 году Джон Форбс Нэш в работе Non-Cooperative Games математически обобщил эту ситуацию. Точка, в которой оба игрока сдают друг друга, называется равновесием Нэша. Это состояние, из которого ни один участник не может выбраться в одиночку: если Джек решит поступить благородно и промолчит при сохраняющей предательство Джилл, он просто увеличит свой тюремный срок с пяти до десяти лет. В дилемме заключённого равновесие Нэша оказывается противоположностью оптимума Парето.
Когда число агентов вырастает с двух до миллионов, дилемма заключённого превращается в Трагедию общих ресурсов, описанную биологом Гарретом Хардином в 1968 году. На общем деревенском пастбище каждому отдельному пастуху выгодно выгнать на траву ещё одну свою корову. Всю прибыль от продажи молока этой коровы пастух забирает себе, а ущерб от вытаптывания пастбища распределяется поровну между всеми жителями деревни. Личный расчёт любого фермера диктует выводить новых коров до тех пор, пока трава не исчезнет целиком. В результате пастбище превращается в голую пустыню, и скот гибнет у всей деревни.

Учёные Элиас Куцупиас и Христос Пападимитриу в 1999 году формализовали этот феномен для задач распределения нагрузки и маршрутизации, введя понятие, которое позже популяризировал Тим Рафгарден: Цена анархии (Price of Anarchy, PoA). Для игры в задачах минимизации совокупных издержек системы
метрика строго задаётся отношением потерь в худшем некооперативном равновесии Нэша
к потерям при социальном оптимуме среди всех допустимых профилей стратегий
:
Получается эдакий налог на нескоординированность. Если социальный оптимум достижим в равновесии, . Но в децентрализованных системах, где каждый узел эгоистично маршрутизирует пакеты или борется за общие ресурсы,
может многократно возрастать, приводя к системной деградации пропускной способности. Молох — это физическое воплощение высокой Цены анархии.
Отчётливее всего следы Молоха видны там, где его присутствия ожидают меньше всего: в индустрии высоких технологий. Инженеры любят считать себя адептами логики и прогресса. Но в реальности в IT-секторе Молох всё так же перемалывает миллиарды долларов и жизни разработчиков с пугающей эффективностью.
В 1995 году швейцарский учёный Никлаус Вирт, создатель языков Pascal и Modula-2, сформулировал наблюдение, позже названное в его честь: программное обеспечение замедляется быстрее, чем ускоряется аппаратное обеспечение.
Современные процессоры работают на частотах свыше пяти гигагерц, содержат миллиарды транзисторов и обрабатывают терабайты памяти в секунду. Сейчас любой смартфон превосходит мощности суперкомпьютеров NASA эпохи высадки на Луну на порядки. Но почему же тогда на этом железе умудряются тормозить обыкновенные корпоративные мессенджеры? А потому что обычное текстовое поле в приложении на базе Electron потребляет гигабайт оперативной памяти, гоняя под капотом полный экземпляр движка Chromium, сорок уровней абстракций React, сборщики телеметрии и бесконечные пересчёты вёрстки.
Виной всему классическая координационная ловушка. Команда, решившая написать быстрый, компактный интерфейс на C++ или чистом системном API, потратит полтора года на отладку под разные платформы. А их конкуренты вместо этого упакуют веб-страницу в обёртку Electron за три недели, выкатят сырой продукт и захватят рынок. В итоге менеджера, который выбрал оптимизацию, уволят как неэффективного. А тому, который выпустил кривой, но минимально работающий продукт, дадут опцион и повысят.

Лучшие умы крупнейших технологических гигантов мира надрываются на кремниевых фабриках, выжимая доли нанометров в фотолитографии, чтобы разработчики софта могли завернуть в память ещё пять слоёв неоптимизированного фреймворка. И при этом никто намеренно не хочет делать софт медленным, но система поощряет тех, кто делает его таким.
Один из самых жутких примеров координационного провала произошёл весной 2024 года, когда мир чудом избежал глобальной цифровой катастрофы.
В крошечном финском городке одинокий инженер Лассе Коллин на протяжении полутора десятилетий в свободное от работы время поддерживал библиотеку сжатия xz/liblzma. Этот неприметный пакет входит в состав практически каждого дистрибутива Linux, на которых работают серверы банков, облачных провайдеров, систем управления полётами и правительственных сетей. За поддержку критического компонента инфраструктуры поистине планетарного масштаба Коллин не получал почти ничего, кроме бесконечного потока гневных писем с требованиями закрыть те или иные баги.
В 2021 году ему написал вежливый энтузиаст под псевдонимом Цзя Тань. Он начал помогать порядком уже уставшему финну: разбирал тикеты, аккуратно рефакторил второстепенные модули. Позже на Коллина обрушилась скоординированная атака бот-аккаунтов, которые публично травили автора и писали ему: «Проект заброшен, Лассе тормозит индустрию, почему крупные дистрибутивы зависят от одного старика, передай ключи новому мейнтейнеру!»
В конце концов Коллин, годами находившийся в состоянии глубокого ментального выгорания и одиночества, сдался и передал Цзя Таню права на коммиты в основной репозиторий. Получив полную свободу действий, Цзя Тань внедряет в программу бэкдор (CVE-2024-3094), перехватывающий аутентификацию в демоне OpenSSH. Но делает это максимально хитро: прячет вредоносный код внутри тестовых файлов, которые выглядели как обычные архивы для проверки программы, чтобы сам бэкдор собирался в единое целое только в момент установки программы на компьютеры.
Заражённая версия библиотеки успела попасть в тестовые и самые свежие версии популярных дистрибутивов Linux вроде Fedora, Debian и Arch. Обнаружил код совершенно случайно инженер Microsoft Андрес Фройнд только потому, что микротест базы PostgreSQL при входе по SSH стал выполняться на 500 миллисекунд медленнее обычного. Если бы не он, то неизвестная группа лиц получила бы скрытый доступ ко всем серверам планеты.

Это практически квинтэссенция Молоха. Корпорации с триллионными капиталами ежесекундно извлекали прибыль из кода Коллина, но о том, чтобы выделить ставку системного инженера на поддержку фундамента интернета никто из них так и не позаботился. Потому что в матрице расходов любой корпорации финансирование чужого открытого репозитория — это практически выстрел себе в ногу: ведь конкуренты получат ту же безопасность даром.
Если до этого подобные истории говорили только лишь о растрате ресурсов, стабильности и психического здоровья отдельных (пусть даже временами и достаточно больших) групп людей, то в гонке за созданием общего искусственного интеллекта, на кон поставлено уже само выживание человечества как биологического вида. Хотя законы и принципы Молоха здесь те же самые.
В конце марта 2023 года институт Future of Life опубликовал открытое письмо, мгновенно разлетевшееся по мировым медиа. Более тридцати тысяч человек — среди которых Илон Маск, сооснователь Apple Стив Возняк, лауреат премии Тьюринга Йошуа Бенжио и ведущие исследователи машинного обучения — призвали все лаборатории мира немедленно объявить шестимесячный мораторий на обучение моделей мощнее GPT-4:
«Снижение риска вымирания человечества из-за искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками масштаба общества, такими как пандемии и ядерная война».
С тех пор прошло больше трёх лет. Повлияло ли их письмо хоть на что-то? Нет. Ни одна лаборатория мира не притормозила обучение ни на минуту. Напротив: бюджеты подскочили с миллиардов до десятков миллиардов долларов. Кластеры выросли с 10 000 до 100 000 ускорителей Nvidia H100. Релизы посыпались очередями. Сами подписанты моратория, включая Маска, спустя считанные месяцы открыли новые коммерческие компании, законтрактовали гигаватты электроэнергии и вдавили педаль газа в пол.
Почему? Потому что на тормоз в этой гонке физически невозможно нажать в одиночку.

Дарио Амодеи основал Anthropic именно ради безопасности, уйдя в своё время из OpenAI из-за несогласия с агрессивной коммерциализацией. Anthropic первой приняла документ Responsible Scaling Policy (RSP), добровольно обязавшись замораживать тренировку моделей при достижении опасных порогов автономности. Но Амодеи открыто признаёт: если какая-то компания заморозит обучение, то лучшие учёные просто перейдут к конкурентам, а вслед за ними и инвесторы туда же переведут свои миллиарды. Первенство всё равно достанется тем, кто вообще не думает об экзистенциальных угрозах.
Наверняка все помнят, как в ноябре 2023 года совет директоров OpenAI попытался уволить Сэма Альтмана из-за всё тех же опасений относительно темпов разработки. Бунт тогда продлился ровно четверо суток: сотни сотрудников подписали ультиматум об уходе в Microsoft, инвесторы пригрозили похоронить компанию судебными исками, и Альтман триумфально вернулся в кресло руководителя — наглядное доказательство того, что Молоху не нужны паузы.
Исследователи Эндрю Крич и Дэвид Крюгер в докладе AI Research Considerations for Human Existential Safety математически доказали: опасность искусственного интеллекта заключается не в восстании одного злобного суперкомпьютера, как это часто показывают в популярной культуре. Катастрофа вызревает внутри распределённой многосторонней динамики: десятки конкурирующих автономных агентов, оптимизирующих рынки, военную логистику и кибероружие, в борьбе за превосходство сожмут время на принятие человеческих решений до микросекунд.
В представлении Скотта Александера сверхинтеллект, рождённый в некооперативной гонке, не станет спасителем. Он станет абсолютным телом Молоха. Вселенная, где правит слепой отбор, превращается в колоссальную вычислительную решётку, перерабатывающую звёзды и планеты в вычислительные мощности, занятые единственной задачей — опередить соседнюю вычислительную решётку. В таком мире для человека с его физическими ограничениями попросту нет места.
Морализаторством — совершенно точно нет! Призывы «быть этичнее», «замедлиться ради планеты» или надеяться на сознательность корпораций заведомо обречены на провал. В 1973 году эволюционные биологи Джон Мейнард Смит и Джордж Прайс формализовали концепцию эволюционно стабильной стратегии (ESS). В теоретико-игровых моделях безусловный альтруизм оказывается эволюционно неустойчивым: при отсутствии механизмов взаимного сдерживания любой эгоистический мутант получает локальное преимущество в приспособленности и вытесняет доверчивых кооператоров. Мораль, лишённая алгоритмических механизмов принуждения и верификации, обречена на поражение. Единственный способ победить демона — изменить топологию самой игры.
В классической теории игр правила среды неизменны, а исследователь пытается предсказать, к какому равновесию Нэша придут игроки. Теория экономических механизмов, которую создали Леонид Гурвич, Эрик Маскин и Роджер Майерсон, разворачивает эту задачу на 180 градусов. Мы заранее задаём желаемый социальный оптимум, а затем математически конструируем такую игру, в которой эгоистичные агенты, преследуя только личную корысть, гарантированно приведут систему к этому оптимуму.

Главное здесь — принцип выявления: любой сколь угодно запутанный механизм координации математически сводится к прямому протоколу, где агентам выгодно сообщать системе свои истинные параметры и предпочтения без обмана.
Пусть множество участников выбирает общественный исход
из допустимого множества
. Каждый участник обладает скрытой функцией полезности
, выражающей его истинную внутреннюю оценку исхода в квазилинейных предпочтениях. Участники передают механизму вектор заявленных оценок
, которые могут быть ложными (
).
В стандартном аукционе первой цены каждый участник стремится исказить свою оценку, чтобы заплатить меньше. Механизм Викри — Кларка — Гроувса (VCG) решает эту проблему за счёт двух взаимосвязанных правил:
Правило выбора (социальный оптимум):
Система выбирает исход , максимизирующий сумму заявленных оценок:
Правило платежей (взнос Кларка):
Каждый участник платит системе сбор
, равный чистому ущербу, который его присутствие наносит остальным игрокам:
Первая квадратная скобка здесь отражает максимальную суммарную сообщённую ценность, которую остальные участники получили бы, если бы игрока вообще не существовало. Вторая скобка показывает их фактический выигрыш при наличии игрока
. Разница — это отрицательный внешний эффект (экстерналия), наложенный игроком на систему.
Посмотрим на итоговую чистую функцию выигрыша агента при его истинной оценке
:
Вычитаемое слагаемое вообще не зависит от заявки игрока
. Поэтому выбор сообщения
влияет на полезность агента исключительно через выбор исхода
, максимизирующего сумму в скобках:
Но механизм по определению правила выбора максимизирует величину . Цель агента полностью совпадает с целевой функцией алгоритма тогда и только тогда, когда заявленная оценка совпадает с истинной:
Правдивое раскрытие предпочтений является слабо доминирующей стратегией (свойство Dominant-Strategy Incentive Compatibility, DSIC). Агенту выгодно сообщать правду независимо от того, какие стратегии выбрали остальные участники: шпионаж, спекуляции и занижение ставок в таких условиях становятся математически убыточными.

Этот механизм прекрасно иллюстрирует вектор развития современного IT:
Аукционы интернет-рекламы и спотовые рынки: алгоритмы бирж развивались под влиянием идей Викри. Хотя классический аукцион второй цены GSP (Google AdWords) не гарантирует доминантную стратегию правдивости в строгом смысле VCG и опирается на равновесия без зависти (locally envy-free), современные VCG-подобные механизмы напрямую вычисляют взнос Кларка за вытеснение чужих показов, подавляя спекулятивные гонки ставок.
Маршрутизация в программно-конфигурируемых сетях (SDN): транзитные сетевые узлы получают выплаты по формуле VCG за задержку пересылки чужих пакетов. Получается, что маршрутизатору становится невыгодно симулировать перегрузку или занижать пропускную способность ради приоритета собственных данных.
Спотовые рынки облачных вычислений: механизм справедливого распределения незанятых ядер в дата-центрах исключает монополизацию мощностей крупными арендаторами.
Для производства и поддержки общественных благ, таких как открытые библиотеки и базовые протоколы сетевой безопасности, Виталик Бутерин, Зои Хитциг и Глен Вейл разработали механизм квадратичного финансирования QF.
Пусть проект получает пожертвования от множества независимых участников, где
— взнос
-го донора. Совокупный бюджет проекта с учетом матчинговой субсидии из спонсорского пула вычисляется по формуле:
Чистый размер субсидии , добавляемой проекту из общего фонда, равен разности между итоговым объемом финансирования и суммой прямых пожертвований:
Взглянем на расчёт для двух полярных сценариев при одинаковом объёме прямых пожертвований в десять тысяч долларов:
Сценарий A (один крупный спонсор жертвует 10 000 долларов):
Сценарий B (100 независимых доноров по 100 долларов, суммарно те же 10 000 долларов):
Формула перекрёстных корней оценивает не толщину кошелька, а степень общественной координации. Проект со ста независимыми донорами претендует на субсидию почти в миллион долларов, а проект олигарха-одиночки не получает из фонда ничего.

В практических архитектурах этот механизм сопровождается двумя важными решениями:
Ограничение пула (Matching Pool): объём спонсорского фонда всегда конечен. Если расчётная сумма субсидий по всем проектам
превышает бюджет фонда, применяется нормирующий коэффициент масштабирования:
Защита от атак Сивиллы (Sybil Resistance): квадратичный эффект создаёт стимул для мошенничества — разбить один платёж в 10 000 долларов на сотню фиктивных кошельков по 100 долларов и выкачать спонсорский пул. Поэтому платформы квадратичного финансирования (такие как Gitcoin, распределившая свыше 50 млн долларов на поддержку открытого ПО) обязательно связывают формулу с протоколами верификации уникальности личности и анализом графов связей.
Если снова обратиться к классической теории игр и дилемме заключённого, то в ней игроки слепы и изолированы друг от друга. В 2004 году Моше Тенненхольц ввёл концепцию программного равновесия, в которой агенты обмениваются исходным кодом или бинарным представлением до совершения первого шага. Но если реализовать это прямо: программа A запускает эмуляцию программы B, которая внутри симулирует A, то это вызовет зависание машины Тьюринга и приведёт в тупик.
Выход нашла исследовательская группа MIRI, разработав алгоритм FairBot. Он опирается на теорему Лёба из математической логики:
Если в рамках формальной арифметической системы (например, арифметики Пеано) доказуемо, что наличие доказательства утверждения влечёт истинность
, то само утверждение
доказано.
FairBot не симулирует оппонента, а производит синтаксический поиск математического доказательства в формальной логике:
def FairBot(opponent_source):
# Search for a proof in Peano Arithmetic bounded by PROOF_LIMIT
proof = search_proof(
axiom_system="PeanoArithmetic",
max_proof_length=PROOF_LIMIT,
theorem="opponent_source(FairBot_source) == COOPERATE"
)
if proof.is_valid():
return "COOPERATE"
return "DEFECT"
Когда две программы с логикой FairBot анализируют друг друга:
Первая ищет доказательство утверждения opponent_source(FairBot_source) == COOPERATE в формальной арифметике Пеано (PA).
Вторая производит полностью симметричный логический вывод.
Согласно теореме Лёба , если система доказывает, что факт наличия доказательства влечёт сотрудничество, то сотрудничество доказуемо безусловно. Взаимная рекурсивная зависимость схлопывается, и при достаточно большом пределе глубины вывода
PROOF_LIMIT обе программы находят доказательство и детерминированно выбирают кооперацию.
Если же против FairBot выставлен безусловный агрессор (return "DEFECT"), доказательство кооперации в арифметике Пеано отсутствует. Поиск завершается по исчерпанию лимита шагов, и FairBot возвращает DEFECT, защищая систему от паразитизма.

В реальных распределённых архитектурах участники не могут делиться закрытым кодом напрямую. Поэтому Program Equilibrium реализуется через аппаратную и криптографическую связку:
Криптографические обязательства (Commitment Schemes): агент фиксирует хэш своей программы H(Code) в публичном блокчейне или защищённом реестре до начала сессии.
Доказательства с нулевым разглашением (Zero-Knowledge Proofs): формируется ZK-SNARK сертификат, доказывающий, что зафиксированный код удовлетворяет заданным условиям безопасности, не раскрывая сам алгоритм и его внутренние веса.
Доверенные среды исполнения (Trusted Execution Environments): защищённые анклавы процессора аппаратно проверяют цифровую подпись кода через механизм удалённой аттестации. Два конкурирующих дата-центра могут математически гарантировать взаимное соблюдение правил без риска промышленного шпионажа.
В 1983 году философ и математик Дуглас Хофштадтер показал, почему догма о независимости игроков в теории игр не работает при встрече одинаково рациональных агентов.
Пусть функция описывает алгоритм принятия решений рациональным агентом
в симметричной игре
. Традиционная теория игр полагает, что агент
может варьировать свой выбор независимо от агента
.
Хофштадтер сформулировал предпосылку когнитивной симметрии: если оба агента безупречно рациональны, решают одинаковую симметричную задачу и обладают тождественным контекстом, их алгоритмы вывода приводят к одинаковому решению:
В рамках этой предпосылки пространство рассматриваемых исходов в матрице два на два сокращается до главной диагонали:
Асимметричные исходы и
исключаются из анализа потому что агент понимает, что оппонент мыслит аналогично и придёт к тому же выводу. Выбор между оставшимися состояниями сводится к обычной оптимизации:
Сверхрациональный агент выбирает сотрудничество не из наивности, а из понимания изоморфизма логических траекторий.

В эпоху распределённых систем ИИ этот принцип проявляется на практике:
Автономные агенты, обученные на общих данных и оптимизирующие схожие функции полезности, обладают скоррелированными априорными распределениями (priors) и предсказуемой когнитивной симметрией.
Если такие агенты получают доступ к общему информационному потоку, они способны реализовать коррелированное равновесие Роберта Ауманна. В таком равновесии ни одному агенту не выгодно отклоняться от согласованного сигнала, что позволяет избегать взаимных блокировок и деструктивных ценовых войн без сговора.
Сталкиваясь с тупиками координации, наше общество веками скатывалось в ложную дихотомию Томаса Гоббса и Гаррета Хардина: либо дикая анархия свободного рынка с исчерпанием ресурсов, либо всемогущий государственный Левиафан в роли абсолютного централизованного диктатора. И как будто бы это выбор без выбора, потому что централизованный регулятор в архитектуре сложных систем выступает опасным антипаттерном Single Point of Failure. Он подвержен бюрократическому склерозу, регуляторному захвату промышленными монополиями и параличу при росте объёма входящей информации.
В серии компьютерных турниров Роберт Аксельрод исследовал бесконечную повторяющуюся дилемму заключённого с фактором дисконтирования будущего , отражающим ценность будущих выигрышей или вероятность перехода в следующий раунд. Победителем турниров стала стратегия
Tit-for-Tat Анатола Рапопорта: начинать с сотрудничества, а затем зеркально дублировать предшествующий ход оппонента.
Выведем точные условия, при которых пара стратегий Tit-for-Tat образует равновесие Нэша, делая одностороннее отклонение невыгодным.
Пусть:
— выигрыш за взаимное сотрудничество (Reward);
— соблазн однократного предательства (Temptation);
— штраф за взаимное предательство (Punishment);
— проигрыш обманутой стороны (Sucker’s payoff), причём
и
.
При взаимном сотрудничестве суммарная дисконтированная полезность бесконечной серии раундов рассчитывается через сумму сходящейся геометрической прогрессии:
По принципу однократного отклонения (One-Shot Deviation Principle) необходимо проверить устойчивость к двум фундаментальным угрозам:
1) Переход на постоянное предательство (All-D): Агрессор предаёт на первом шаге, забирая куш , после чего
Tit-for-Tat навсегда отвечает дефекцией, и оба игрока бесконечно получают штраф :
Условие :
2) Однократная эксплуатация с возвратом к сотрудничеству : Агрессор предаёт на первом шаге (получает
), на втором шаге кооперирует (но получает удар возмездия
от
Tit-for-Tat), а с третьего шага оба возвращаются к взаимной кооперации (получая ):
Условие ненаказуемости единичного предательства :
Строгий порог устойчивости кооперации задаётся пересечением обоих условий:
Если раунды изолированы, а горизонт планирования сжат ( стремится к нулю), неравенство нарушается: выгоднее сорвать куш
и бросить систему. Но если тень будущего длинна (
превышает порог), долгосрочные потери от возмездия перевешивают сиюминутный куш.
Для проектировщика распределённых систем отсюда следует вывод: растягивайте тень будущего в архитектуре.
В проектных галереях с текучкой кадров и изолированных двухнедельных спринтах падает ниже критического порога. Разработчик оптимизирует локальную выгоду: плодит технический долг, который придётся расхлёбывать другим.
В системах с неизменяемой историей аудита, открытыми интерфейсами и долгосрочной поддержкой версий стремится к единице. Кооперация и чистота кода превращаются в математически неизбежное поведение.

Элинор Остром доказала, что управление общими ресурсами может быть децентрализованным и математически устойчивым, если институциональные правила удовлетворяют восьми принципам.
┌────────────────────────────────────────────────────────┐
│ 8 ПРИНЦИПОВ ЭЛИНОР ОСТРОМ │
│ │
│ 1. Четкие границы доступа (кто в сети, кто снаружи) │
│ 2. Адаптация правил под локальные условия среды │
│ 3. Коллективное участие участников в изменении правил│
│ 4. Взаимный мониторинг состояния системы равными │
│ 5. Градуированная шкала санкций за нарушения правил │
│ 6. Быстрый и дешевый арбитраж возникающих споров │
│ 7. Признание права на локальную самоорганизацию │
│ 8. Полицентрическая вложенность малых ячеек в сети │
└────────────────────────────────────────────────────────┘В терминах теории распределённых систем эти принципы формируют спецификацию отказоустойчивой сети:
Идентификация и защита от атак Сивиллы: четкие границы узлов исключают возможность генерировать бесконечные виртуальные сущности для исчерпания ресурса.
Взаимный аудит: валидация состояния системы распределена между всеми равноправными участниками, исключая централизованную монополию на правду.
Градуированные санкции: функция штрафов непрерывна и дифференцируема. За разовую ошибку узел получает предупреждение или локальный троттлинг (rate-limit), но при систематическом саботаже его стейк сжигается, а публичный ключ удаляется из сети.
Полицентрическая вложенность: масштабирование достигается через дерево локальных консенсусов (шардинг, сайдчейны, модульные подсистемы), сохраняющих локальную автономность.

Крупнейшим доказательством работоспособности этой архитектуры в софте служит ядро операционной системы Linux. Более тридцати миллионов строк кода координируются тысячами разработчиков и непримиримо конкурирующих корпораций без судебных исков и диктатуры. Архитектура открытых почтовых списков, иерархия доверенных лейтенантов и открытое рецензирование патчей равными коллегами реализуют тот самый протокол Остром на практике да ещё и в глобальном масштабе.
Закономерный вопрос, который наверняка задаст каждый разумный человек в этой ситуации: «Не убьём ли мы прогресс, если попытаемся полностью нейтрализовать действие отбора? Разве не жёсткая конкуренция подарила нам быстрые процессоры, оптоволоконные сети и нейросети?»
И ответ тут не так прост, как кажется на первый взгляд. Он заключается в фундаментальном математическом различии между играми с положительной и отрицательной суммой.
Йозеф Шумпетер описал концепцию «созидательного разрушения»: конкуренция благотворна, когда соревнование идёт в плоскости создания новой потребительской ценности. Изобретение транзистора, оптимизация компилятора или синтез нового антибиотика обогащают всю мировую систему. Здесь локальная победа одного участника увеличивает и совокупный пирог цивилизации (в модели общественного благосостояния ):
Ловушка Молоха возникает там, где конкуренция вырождается в чистую позиционную борьбу с нулевой или отрицательной суммой ():
Когда миллионы терафлопс сжигаются не на обучение полезных моделей, а на создание ботов для генерации спама и нейрослопа.
Когда лучшие умы тратят годы жизни на сокращение задержки опционов на три наносекунды, не создавая ни одного полезного продукта для реальной экономики.
Когда лаборатории урезают протоколы безопасности ИИ только из страха, что соперник анонсирует модель на две недели раньше.

Задача борьбы с Молохом не в том, чтобы искусственно задушить конкуренцию и принудить к застою. Задача состоит в возведении жёстких алгоритмических и институциональных берегов. Потому что река без берегов превращается в гнилое болото, затопляющее города. А сжатая гранитными набережными, та же самая река вращает гидротурбины, снабжая светом и энергией миллионы домов. Теория механизмов, криптографические доказательства и полицентрические правила Остром — это и есть гранитные набережные для созидательной энергии человечества.
Мир рушится не из-за заговора тайных обществ или фатальной деградации человеческой природы. Все глобальные кризисы, которые мы видим, — от истощения общих ресурсов до гонки вооружений в ИИ — порождены математикой некооперативного равновесия Нэша в системах с неполной информацией. Потому что мы построили цивилизацию планетарного масштаба поверх племенных коммуникационных протоколов, не рассчитанных на экспоненциальные технологии.
Но в этой борьбе у нас есть колоссальное преимущество перед любым биологическим алгоритмом отбора. Бактерия в чашке Петри не способна осознать законы популяционной динамики, заставляющие колонию потреблять последний агар-агар перед вымиранием. У бактерии нет интерфейса рефлексии.
А человек обладает субъектностью. Мы способны подняться над плоскостью матрицы выплат, увидеть деструктивное равновесие со стороны и применить математический аппарат Computer Science, чтобы переписать правила среды.
И решение здесь не в каком-то наивном альтруизме, тут нужен исключительно профессиональный и прагматичный подход:
Перестать искать злодейский умысел там, где работают слепые стимулы локальной выгоды.
Внедрять протоколы с доказанной совместимостью стимулов, где честность и кооперация математически выгоднее обмана.
Использовать криптографические схемы обязательств, доверенные анклавы и доказательства с нулевым разглашением для взаимной верификации без потери приватности.
Удлинять тень будущего в собственных командах и архитектурах, проектируя открытые, долгоживущие стандарты вместо одноразовых хайповых надстроек.
Молох правит миром лишь до тех пор, пока агенты заперты в изолированных одиночных камерах и парализованы страхом перед чужим ходом. Но стоит только наладить нормальную коммуникацию, ввести прозрачные протоколы, верифицируемый код и строгую теорию механизмов, как весь этот глиняный колосс рассыпается в пыль.