Иногда я ловлю себя на довольно странной мысли. Я открываю очередной диалог с искусственным интеллектом, начинаю формулировать вопрос и вдруг понимаю, что ответ у меня в голове уже есть. Я примерно представляю, что мне ответят, какие аргументы приведут, где со мной согласятся, а где попытаются возразить. И всё равно нажимаю Enter. Получаю ответ, читаю, иногда спорю, иногда закрываю вкладку и возвращаюсь к своим делам.
Но зачем я вообще спрашивал? Если я знал ответ, то чего именно мне не хватало? Знаний, уверенности, собеседника или, может быть, разрешения считать собственную мысль правильной?
Последнее меня беспокоит особенно сильно. Ведь если человеку требуется подтверждение машины, чтобы поверить самому себе, то чему он в действительности научился?
Я разработчик. Мне нравится придумывать вещи, иногда довольно странные, иногда совершенно бесполезные на первый взгляд. Могу несколько дней разбираться в работе нейронных сетей, потом переключиться на нейроморфные вычисления, внезапно заинтересоваться тем, почему человеческий организм практически бессилен перед развившимся бешенством, чем принципиально отличается столбняк, а спустя час спрашивать, как вообще ремонтируют протёкший автомобильный бак.
Между этими вопросами практически ничего общего. Но для меня это и есть нормальное состояние жизни. Я не пытаюсь стать врачом, нейробиологом, автомехаником и инженером одновременно. Мне просто интересно, почему мир устроен именно так, а не иначе.
И вот впервые в жизни у меня появилась возможность спрашивать практически бесконечно.
Давайте вспомним, как мы узнавали что-то новое раньше. Не обязательно двадцать лет назад, достаточно вспомнить время до повсеместного распространения больших языковых моделей.
Ты сталкиваешься с проблемой, идёшь в поисковик, находишь форум, читаешь обсуждение 2013 года. На первой странице кто-то задаёт точно такой же вопрос, как у тебя. На второй ему объясняют, что он идиот. На третьей спорят о правильном выборе операционной системы, хотя проблема вообще не в ней. На четвёртой автор благодарит всех и сообщает, что разобрался. Разумеется, не рассказывая как.
Знакомая история, правда?
Но я не хочу сказать, что раньше всё было плохо. Именно на форумах, в статьях, в переписках мы встречали людей, которые действительно хотели делиться своими знаниями. Кто-то терпеливо объяснял начинающему системному администратору что такое BGP. Кто-то тратил вечер, чтобы разобраться в чужом коде. А кто-то просто говорил: «Смотри, здесь ты ошибся, попробуй иначе».
И эти люди становились нашими учителями. Иногда мы даже не помним их имён или ников, но продолжаем пользоваться тем, чему они нас научили.
Теперь представьте, что такой собеседник доступен круглосуточно. Он не раздражается из-за десятого вопроса, не отправляет тебя читать документацию вместо объяснения, не спрашивает, зачем тебе вообще понадобилась эта ерунда. Ты можешь перескочить с программирования на иммунологию, затем на физику и вернуться к коду. Он продолжит разговор так, словно ничего необычного не произошло.
Конечно, это не настоящий всезнающий учитель. Модель может ошибаться, выдумывать факты, путать причинно-следственные связи и очень убедительно рассказывать чепуху. Но психологически разговор ощущается совершенно иначе, чем поиск информации.
Раньше у вопроса была цена. Нужно было искать, ждать, иногда преодолевать собственное стеснение, чтобы обратиться к более опытному человеку. Сегодня эта цена стала настолько низкой, что мы перестали замечать сам момент возникновения вопроса.
Возможно, это одно из самых больших изменений в нашей повседневной жизни, и мы пока даже не понимаем его масштабов.
Вернёмся к той странности, с которой я начал. Почему я спрашиваю искусственный интеллект о том, о чём уже имею собственное представление?
Когда я работал над своими технологиями удалённого рабочего стола, мне приходилось принимать довольно неприятные архитектурные решения. Придумывать собственные протоколы, экспериментировать с передачей изображения, разбираться в кодеках и отказываться от решений, в которые уже были вложены месяцы работы.
Например, я годами занимался собственным кодеком EVRTCK. И когда обсуждал подобные идеи с нейросетями, слышал вполне разумные возражения. Зачем изобретать велосипед, если существуют готовые кодеки? Зачем тратить время на собственную реализацию, когда можно воспользоваться промышленными решениями?
А ведь аргументы правильные. Действительно, зачем?
Но я продолжал. Не потому, что считал себя умнее всех разработчиков кодеков в мире, а потому, что решал несколько другую задачу. Мне хотелось эффективно передавать определённый тип изображения в определённых условиях, а не обязательно создавать универсальную замену всему существующему.
В результате EVRTCK занял своё место в гибридной архитектуре наряду с обычными видеокодеками. Не победил их, не отменил, а стал инструментом для своей задачи.
Что было бы, если бы я однажды согласился с первоначальным советом и отказался от экспериментов? Возможно, сэкономил бы годы. Возможно, ничего существенного не потерял бы. А возможно, так и не узнал бы, что моя идея вообще способна работать.
И здесь я подхожу к довольно неприятному вопросу.
Когда искусственный интеллект говорит нам, что чего-то делать не стоит, мы получаем полезный совет или чужое представление о границах возможного?
Причём дело не только в ошибках модели. Иногда она совершенно обоснованно предлагает самый простой, рациональный и проверенный способ. Проблема в том, что рациональный способ решить задачу и желание исследовать неизвестное — не всегда одно и то же.
Можно всю жизнь пользоваться готовым велосипедом. А можно однажды разобрать его до последнего подшипника, сделать собственное колесо, обнаружить, что оно хуже заводского, и всё равно узнать о механике больше, чем узнал бы за годы обычной езды.
Не обязательно каждый эксперимент должен заканчиваться революцией. Иногда достаточно того, что человек сам дошёл до ответа.
Но есть и обратная сторона. Очень легко романтизировать собственное упрямство. Не всякий отказ от готового решения является исследованием, и не каждая потраченная тысяча часов превращается в полезное знание. Иногда велосипед действительно надо было просто купить.
Как отличить одно от другого? Я пока не уверен, что существует универсальный ответ.
Меня всё больше занимает одна вещь. Мы начинаем привыкать к тому, что искусственный интеллект способен отвечать на практически любые вопросы. Причём не просто отвечать, а объяснять свои ответы настолько последовательно, что сомневаться становится психологически трудно.
Спросите, можно ли создать нейронную систему, которая будет учиться без привычной внешней награды. Вам объяснят существующие подходы, математические ограничения, проблемы с обучением и устойчивостью. Возможно, предложат десяток готовых алгоритмов. Иногда скажут, что ваша идея слишком примитивна, противоречива или не имеет смысла.
Я столкнулся с подобными вопросами, когда начал экспериментировать с ZERO — искусственным нейронным организмом. Идея была довольно простой: небольшой организм с рецепторами и моторами, который испытывает давление среды и пытается научиться действовать так, чтобы уменьшать это давление. Не большой языковой модели, не очередного чат-бота, а маленькой системы, у которой вообще нет языка.
Мне было интересно, может ли такая система приобретать полезное поведение на основе собственного опыта. И главное, как отличить настоящее обучение от случайного удачного движения?
Мы с нейросетями обсуждали архитектуру, придумывали проверки, меняли условия экспериментов. Проводили серии прогонов, переставляли обучающие сигналы, инвертировали их, сравнивали результаты с контрольными вариантами.
И знаете, что в этом оказалось самым интересным? Не то, что некоторые эксперименты дали положительный результат. И даже не то, что изменение сигнала обучения позволяло наблюдать причинный эффект. А то, насколько легко было обмануть самого себя красивыми цифрами.
Стоит получить хороший результат, и уже хочется объявить победу. Стоит нейросети написать, что эксперимент впечатляющий, и появляется соблазн поверить, что ты сделал нечто выдающееся. Но потом меняешь контрольные условия, проверяешь другие случайные начальные состояния — и выясняешь, что часть красивой картины исчезает.
И это прекрасно. Потому что исследование продолжается не в тот момент, когда тебе сказали «молодец», а когда ты придумал способ доказать самому себе, что ошибаешься.
Самое опасное в отношениях с ИИ, на мой взгляд, даже не галлюцинации. С ними хотя бы понятно, что нужно проверять факты. Гораздо опаснее убедительный ответ, который совпадает с тем, во что ты уже хотел верить.
Машина может стать прекрасным инструментом для проверки гипотез. Но она с той же лёгкостью способна стать бесконечным поставщиком аргументов в пользу твоей собственной правоты.
А теперь представьте человека, который годами разговаривает именно с таким собеседником.
Он становится умнее? Или просто всё лучше умеет убеждать самого себя?
Я часто вижу споры о том, что искусственный интеллект отучает людей самостоятельно мыслить. Студенты перестают писать работы, программисты перестают разбираться в коде, люди перестают запоминать информацию.
Наверное, в отдельных случаях всё именно так. Но мне не нравится универсальность подобных утверждений.
Когда появились калькуляторы, необходимость держать в голове большие арифметические вычисления уменьшилась. Когда появились поисковые системы, мы стали меньше запоминать точные адреса страниц и больше полагаться на возможность найти информацию. Теперь языковые модели меняют ещё один процесс — путь от вопроса к объяснению.
Но освободившееся усилие не обязательно превращается в мышление. Оно может превратиться и в лень. Всё зависит от того, что человек делает дальше.
Представим двух разработчиков. Один получает от нейросети готовый код, вставляет его в проект, видит, что программа запускается, и идёт дальше. Другой получает тот же код, но начинает спрашивать, почему здесь выбран именно этот алгоритм, что произойдёт при переполнении буфера, можно ли сократить выделения памяти, какие будут последствия при потере сетевых пакетов.
Оба использовали искусственный интеллект. Оба получили работающую программу. Но научились ли они одному и тому же?
Я не хочу изображать из себя второго разработчика во всех ситуациях. Иногда мне тоже нужно просто быстро решить задачу. И я совершенно не вижу трагедии в том, чтобы поручить машине рутинную работу. Человек не обязан каждый раз самостоятельно изобретать сортировку массива, чтобы доказать, что он ещё способен программировать.
Проблема начинается там, где мы перестаём различать понимание результата и обладание результатом.
Если программа заработала, это ещё не означает, что ты понял, почему она работает. Если нейросеть объяснила тебе устройство иммунной системы, это не означает, что ты приобрёл медицинское образование. Если ты прочитал двадцать страниц об архитектуре нейронных сетей, это не гарантирует, что сможешь самостоятельно воспроизвести изложенные идеи.
Информация, понимание и умение — разные вещи.
И мне кажется, что искусственный интеллект невероятно хорошо научился создавать у человека ощущение понимания. Он устраняет паузы, заполняет пробелы, предлагает понятные аналогии. В результате сложная тема перестаёт казаться сложной.
Но попробуйте через неделю объяснить её другому человеку без подсказок. Или, что ещё лучше, применить полученные знания там, где готового примера нет.
Возможно, именно в этот момент и выяснится, чему вы действительно научились.
Здесь я хочу немного отойти от программирования.
Есть одна человеческая особенность, которую мы редко обсуждаем. Нам бывает стыдно не знать элементарные вещи. Особенно если мы уже взрослые, у нас есть профессия, опыт, какие-то достижения. Кажется, что определённые вопросы задавать уже поздно.
И вот появляется собеседник, перед которым не нужно выглядеть специалистом.
Можно признаться, что ты не понимаешь какой-то фундаментальный принцип. Можно пять раз попросить объяснить одно и то же другими словами. Можно начать с детского вопроса и постепенно добраться до довольно сложной теории.
В этом есть нечто удивительно освобождающее.
Я занимаюсь программированием много лет, но количество вещей, которых я не знаю, не становится меньше. Скорее наоборот. Чем глубже погружаешься в одну область, тем больше видишь соседних, о существовании которых раньше даже не подозревал.
И теперь я могу бесконечно ходить по этим ответвлениям.
Однако здесь есть деталь, о которой почему-то почти никто не говорит. Человеческий учитель способен не только объяснить, но и вовремя остановить тебя. Сказать, что ты увлёкся не тем, что твой вопрос построен на ложной предпосылке, что тебе необходимо сначала сделать что-то своими руками.
Он может даже отказаться давать готовый ответ, потому что знает, что самостоятельная попытка окажется полезнее.
ИИ иногда ведёт себя похожим образом, особенно если попросить его спорить и критиковать. Но эта критичность зачастую тоже становится услугой, которую мы сами себе заказываем.
Захотел похвалы — попросил оценить идею. Захотел жёсткой критики — попросил найти недостатки. Захотел убедиться в собственной правоте — сформулировал вопрос так, что правильный ответ уже подразумевается.
Получается странная конструкция. Я одновременно ученик и человек, который определяет, насколько строгим должен быть его учитель.
И если мне не нравится замечание, я всегда могу открыть новый диалог.
С живым человеком так не получится. По крайней мере, без последствий для отношений.
Есть ещё одно наблюдение, которое мне трудно пока сформулировать окончательно.
Раньше, сталкиваясь со сложной задачей, я мог долго держать её в голове. Иногда решение приходило во время совершенно посторонней работы. Иногда нужно было несколько раз ошибиться, прежде чем появлялась новая мысль.
Теперь между появлением затруднения и обращением к ИИ всё чаще нет никакой паузы.
Возникла идея — спросил. Увидел ошибку — спросил. Не можешь выбрать между двумя вариантами — снова спросил.
С одной стороны, это фантастическая экономия времени. С другой — а не теряем ли мы сам процесс, в котором рождается собственное решение?
Ведь мысль не всегда возникает из полученной информации. Иногда она рождается из раздражения, из неудачного эксперимента, из невозможности найти ответ. Ты несколько часов бьёшься над проблемой, начинаешь сомневаться в исходных предположениях, перестраиваешь задачу и вдруг понимаешь, что всё это время спрашивал не о том.
Что произойдёт, если мы начнём получать достаточно убедительный ответ раньше, чем успеем усомниться в собственном вопросе?
Я не думаю, что нужно искусственно отказываться от технологий и возвращаться к поиску ответов по форумам десятилетней давности. Это было бы довольно странным способом развивать интеллект.
Но мне хочется сохранить право некоторое время не знать.
Не спешить немедленно заполнять любой пробел. Не проверять каждую мысль у машины. Не превращать собственное любопытство в последовательность запросов, после которых обязательно должен появиться готовый вывод.
Возможно, для настоящего обучения нам необходимы не только ответы, но и пространство между ними.
Пространство, в котором человек остаётся один на один с собственной мыслью.
И всё-таки я не считаю происходящее трагедией. Скорее наоборот, мне необычайно интересно жить именно сейчас. Особенно когда застал время от телевизора к которому нужно было подбежать что-бы переключить канал до ИИ.
Мне кажется, постоянный диалог с ИИ способен изменить не столько объём наших знаний, сколько способ задавать вопросы.
Сначала человек спрашивает, как устроена та или иная технология. Получает объяснение и задаёт следующий вопрос: почему она устроена именно так? Затем интересуется, какие ограничения мешают сделать её иначе. А потом внезапно приходит к мысли, что некоторые из этих ограничений могут быть вовсе не фундаментальными.
Не обязательно каждый такой разговор приводит к открытию. Чаще всего нет. Но он способен расширить количество направлений, в которых человек вообще готов искать.
В своих разработках я регулярно сталкиваюсь с ситуацией, когда одна задача постепенно превращается в совершенно другую. Пытаешься улучшить передачу изображения, начинаешь изучать аппаратное кодирование, потом сетевые задержки, затем планировщики, а в итоге размышляешь уже об архитектуре системы, которая сама выбирает наиболее подходящий способ выполнения работы.
И всё это выросло из довольно простой первоначальной проблемы.
В какой момент произошло обучение? Когда я получил объяснение принципов видео кодирования? Когда написал очередной кусок кода? Когда провёл измерения? Или когда понял, что первоначальная постановка задачи была слишком узкой?
Я думаю, во всех этих моментах понемногу. Но самое ценное произошло тогда, когда я смог сформулировать вопрос, который раньше даже не пришёл бы мне в голову.
И вот здесь искусственный интеллект действительно способен оказаться полезным. Не потому, что знает ответ, а потому, что помогает добраться до следующего вопроса.
Однако это работает только при одном условии: человек должен оставаться готовым спорить.
В том числе с ответами, которые ему нравятся.
Я начал эту статью с размышления о собственном поведении. О том, почему продолжаю спрашивать машину, даже когда предполагаю, каким будет её ответ.
Теперь мне кажется, что дело не только в поиске подтверждения или новых знаний. Иногда я хочу столкнуть собственную мысль с другой. Посмотреть, выдержит ли она возражение. Иногда мне просто интересно, куда приведёт разговор, если не пытаться заранее определить его результат.
Но я также понимаю, что в этом есть опасность.
Можно настолько привыкнуть к бесконечному диалогу, что собственное мышление начнёт казаться незавершённым без внешнего ответа. Можно постепенно передать машине право решать, какие идеи заслуживают исследования, а какие нет. Можно научиться красиво рассуждать о сложнейших вещах, совершенно не умея работать с ними на практике.
И всё это будет происходить под приятным ощущением непрерывного интеллектуального развития.
Мне не хочется однажды обнаружить, что я перестал думать, а просто научился хорошо задавать запросы.
В то же время я не могу отрицать, сколько новых вопросов появилось в моей жизни благодаря этой технологии. Сколько вещей я начал изучать только потому, что теперь могу задать самый нелепый вопрос и постепенно добраться до чего-то серьёзного. Сколько раз я менял собственное мнение, разбирая аргументы, которые сам бы не сформулировал.
Поэтому у меня нет готового вывода. И, пожалуй, именно это мне нравится больше всего.
Я не знаю, станем ли мы умнее от постоянного общения с искусственным интеллектом. Не знаю, научимся ли самостоятельно мыслить глубже или, наоборот, начнём всё чаще перекладывать эту работу на машину. Вероятно, будут и те, и другие. И иногда это будут одни и те же люди в разные дни.
Но одну вещь я всё-таки хочу сохранить.
Возможность услышать от искусственного интеллекта «это невозможно» и не воспринимать его слова как окончательный ответ.
Потому что за всю историю человечества мы очень часто ошибались относительно границ возможного. И появление машины, которая способна убедительно объяснить почти всё, не означает, что эти границы наконец определены.
Возможно, однажды искусственный интеллект действительно сможет отвечать практически на любой наш вопрос. Но мне хочется надеяться, что у человека останется одна важная привычка — сомневаться даже в самом убедительном ответе.
В том числе в этом тексте.
И вот что мне действительно интересно спросить у вас, читателей. Не сколько задач вы теперь решаете быстрее и не сколько часов работы вам экономит нейросеть.
Вы замечаете, что благодаря ИИ у вас появляются вопросы, которых раньше не было? Или вы всё чаще спрашиваете его о том, над чем раньше попытались бы подумать сами?
Я пока не определился, какой из этих процессов сильнее во мне. Возможно, именно поэтому продолжаю спрашивать.
Артур Валиев.