«Нет дела, коего устройство было бы труднее, ведение опаснее, а успех сомнительнее, нежели замена старых порядков новыми». (Макиавелли, «Государь»)
Что такое интеллект? Это способность мыслить. А что такое мышление? Это вычисление из многих вариантов лучшего. Когда заяц бежит от орла, и перед ним два пути: спрятаться в нору или под камень, он вычисляет спасительный вариант. В норе его точно не достать, но до нее можно не успеть. До камня он точно добежит, но это менее надежное укрытие, и есть шанс, что орел его там достанет. Но может и нет. Если заяц вычислит верный путь, он будет жить. Цена ошибки — смерть.
Текущая деятельность людей — постоянное вычисление лучшего варианта. В большинстве случаев подсознательно, но техника выявления лучшего варианта для поднятой темы не важна. Важно, что мыслить — это выбирать лучший вариант из возможного.
Влюбленный выбирает оптимальную стратегию как завоевать внимания возлюбленной, и это ничем не отличается от шахматиста, высчитывающего лучший ход. Вся разница, влюбленный свой выбор не определяет вычислением, а шахматист, бизнесмен или ученый определяют. Но не важно, как называть процесс. Важно, что чем больше информации, выше скорость и качество ее обработки, тем лучше будет решение и соответственно, вырастают шансы на успех.
Если интеллект выражается в мышлении, вычислении лучшего варианта, а нейросеть именно этим занимается, значит, у нее есть интеллект — она мыслит. Для отрицания этого утверждения надо отрицать, что мышление есть вычисление/выбор лучшего варианта из возможных/доступных.
В массовом сознании настоящим интеллектом и мышлением считается только тот способ вычисления оптимального варианта, каким пользуется человек. Вычисления, произведенные не по-человечески, даже если они эффективнее, определяются не настоящими.
И это при том, что человек понятия не имеет, каким образом он вычисляет лучший вариант, что в это время происходит в его голове. Нет, конечно, он может сказать про нейромедиаторы с синапсами и прочее, но к пониманию мысли это не имеет отношения.
Каким образом нейросеть вычисляет лучший вариант, и что в это время происходит в ней, он тоже не имеет понятия. И да, тоже может рассказать про техническую сторону вопроса, про транзисторы и программы, что никак не добавляет понимания. Как был нуль, так и остается.
Но при этом он уверен, что его мышление, человеческое, оно является настоящим. А вот все это, тут он рукой в воздухе покрутит, жалкое подобие мышления. На этом основании он считает, что нейросеть не мыслит, а имитирует мышление, что у нее интеллект не настоящий, а искусственный.
Нелепо называть полет самолета искусственным, потому что он летает не как птица. Нельзя сказать, что движение автомобиля имитирует движение телеги, потому что она раньше появилась. Любой полет является настоящим, а любой автомобиль не имитирует движение, а движется.
Независимо от способа вычисления лучшего варианта, человеческий он или иной, интеллект нельзя определить искусственным, а мышление имитацией. Потому интеллект нейросети неверно определять искусственным. Он нечеловеческий. А ее мышление настоящее, а не имитация.
Причина, по которой нечеловеческий интеллект определен искусственным и имитирующим, кроется в истории человечества. На всем ее протяжении люди считали себя единственными, кто мыслил — вычислял лучший вариант. Эта убежденность похожа на царившую раньше уверенность в абсолютной истинности геометрических истин, и их цифровом продолжении — в арифметике. Ни у кого в голове полочки не было для сомнения, настолько эти истины выглядели самоочевидными.
Например, как можно сомневаться в том, что через две точки можно провести одну и только одну прямую? Если даже человек был не против усомнить это положение, он не знал, как ему это устроить. Как сказать не пустое «я сомневаюсь», а наполнить сомнение смыслом?
Максимум, людей хватало на поэтическое сомнение. Александр Поуп писал в XVIII веке: «Почто, о боги, в этом мире/ Должно быть дважды два — четыре?». Никого особо не заботило, что у математики нет строгого основания. Кому нужно доказывать то, что в статусе азбучной истины?
Так продолжалось до 1826 года, когда Лобачевский представил научному сообществу новую геометрию, такую же непротиворечивую, как и классическая (евклидовая). С той разницей, что там не соблюдались «азбучные» истины привычной геометрии. Когда как из рога изобилия посыпались новые неевклидовы геометрии, оказалось, что «абсолютные» истины никакие не абсолютные.
Если до этого математики довольствовались убеждением, что раз геометрия Евклида верна, то выведенная из нее арифметика тоже верна. Не было нужды в логическом обосновании основ математики. Теперь она появилась, что в итоге родило чудовищ, разрывших основы математики на куски. На данный момент единой математики не существует. (Эту тема Клайн Морис раскрывает в книге «Утрата определенности». Он пишет:
«На протяжении двух тысячелетий математики были уверены в том, что весьма успешно открывают математические принципы, заложенные в фундаменте мироздания. Но в середине XIX в. они вынуждены были признать, что глубоко заблуждались, принимая математические законы за абсолютные истины»).
Точно такая же ситуация сейчас с осмыслением нечеловеческого интеллекта, возникшего на нашей планете. Никто серьезно не задается вопросом, что такое интеллект, мышление, личность. Все оперируют этими понятиями, опираясь на предположение, что интуитивно ясно, что интеллект — это способность мыслить, а мышление выражается в интеллекте, и признак личности — разум, он же интеллект и мышление. В общем, сплошная тавтология и масло масленое.
Если такие определения на что и годны, то только для поэтического описания в духе «человек — это звучит гордо». До недавнего времени гордости было достаточно, чтобы доказывать, что компьютер никогда не обыграет гроссмейстера в шахматы, ибо у него нет творческого начала, озарения, интуиции, а значит, не может быть чувства позиции, без чего высокая игра невозможна. Эту уверенность усиливал еще тот факт, что в основе компьютеров лежит математика XVIII века.
В 1997 году компьютер обыграл чемпиона мира по шахматам. Сторонники уникальности человеческого мышления разразились оправданиями. Это ничего не значит, тут нет мышления, компьютер лишь быстрее перебирает хранящиеся в памяти варианты, и потому не считается.
Так как никто особо не задумывался, что значит мыслить, все по этому вопросу на интуиции ехали, никого не смутило, что человек точно так же поступает — перебирает имеющиеся варианты с целью выявить лучший. Уверенность, что человек звучит гордо, помогла человеческому способу вычислять лучший вариант сохранить статус эталона, а иные варианты определять ненастоящими.
Основной минус такого понимания интеллекта и мышления не в том, что оно противоречит логике, здравому смыслу и фактам, а в увеличении угрозы. Если нейросеть не настоящий интеллект, если она не мыслит, а лишь имитирует мышление, повода для беспокойства нет. В любом момент ее можно отключить, а до этого снабдить ее правилом робототехники «Не навреди»
.
В результате скромного кругозора, присущего большинству, угроза ширится, и социум ее не фиксирует (не говоря о противодействии). Все с азартом выискивают сиюминутную пользу. Гонку возглавляют гиганты it-индустрии. Они не могут остановиться или даже замедлить развития, так как малейшее снижение скорости означает стремительную потерю конкурентного преимущества.
В 1992 году вышел фильм «Газонокосильщик». Человек соединился с ИИ и стал сущностью, оторвавшейся от физического тела. В новом состоянии он мог управлять физическими законами. В итоге вырвался в телефонную сеть и стал абсолютно неподконтролен человеку.
Тогда, 33 года назад, это воспринималось фантастикой на вольную тему, не имеющей никакого отношения к реальности. Но прошло 20 лет, интернет опутал всю планету, развитие ИИ вышло на новые рубежи, и фантастический сюжет стал стремительно превращаться в реальность с еще большими последствиям, так как в интернет-сети больше возможностей, чем в телефонной.
В 2014 году вышла книга Ника Бострома «Искусственный интеллект: пути, опасности, стратегии» (оригинальное название: Superintelligence: Paths, Dangers, Strategies). Примечательна она трезвым взглядом на развитие ИИ. На фактах и логике автор показывает и доказывает высокую вероятность возникновения сверхинтеллекта, относительно которого человек интеллектуально будет также выглядеть, как сейчас муравей выглядит относительно человека. Произойдет это, как только нейросеть сможет самостоятельно совершенствовать себя. Возникшую систему невозможно будет контролировать. Это означает непредсказуемые последствиям для человечества.
Охарактеризовать предлагаемые философом решения можно одной фразой: благочестивые намерения: нейросеть должна быть благорасположенной к человеку, быть послушной его воле, ориентированной на человеческую мораль и систему ценностей. Обеспечить безопасность должны различные дублирующие друг друга механизмы контроля: выключатели и предохранители.
Но как это возможно, если ИИ, у которого не видно предела развития (в отличии от человека), сможет преодолеть любые ограничения, какие ему может поставить человек? О каком ориентире на мораль и ценности можно говорить, если, во-первых, у разных народов они разные, а во-вторых, постоянно меняются в ногу с изменением мира и человека?
В 2023 году Юдковский, фигура в it-сфере, сооснователь и научный сотрудник Института Сингулярности по созданию Искусственного Интеллекта, написал:
«Ключевая опасность — перспектива создания не такого интеллекта, который будет конкурировать с человеческим, а такого, который будет превосходить человеческий. На этом пути очень плохо видны критические границы, которые исследователи могут пересечь незаметно для них самих. Поэтому наиболее вероятным результатом создания сверхумного ИИ станет то, что буквально все люди на Земле умрут. Не в значении "есть отдаленная перспектива этого", а в значении "совершенно очевидно, что это случится"». Он пишет, что «Если кто-то создаст слишком мощный ИИ в нынешних условиях, я думаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле. Если мы продолжим это, умрут все, включая детей».
Какой же выход он предлагает? Примерно такой же, как Бостром — благопожелание, суть которого — заморозить все исследования по ИИ на 30 лет. Исключение сделать только для тех сфер, где это невозможно, так как обрушит систему. Как же это сделать? На эту тему ни слова.
Билл Гейтс косвенно говорит о бессмысленности попыток ограничения: «Я не думаю, что если мы попросим одну конкретную группу разработчиков приостановить свои исследования, это что-то изменит. Использование искусственного интеллекта несет колоссальные преимущества».
Не смотря на серьезность ситуации, мир реагирует медленно и по-прежнему не видит проблемы ИИ. Такое заключение позволяет сделать обзор книг на эту тему. На январь 2025 года 99% книг носят или развлекательный характер (фантастика, фэнтези); или технический и прикладной, или это брошюры на тему, как заработать на ИИ, переложить на него свои задачи и прочее.
Большинство фигур не охватывает ситуацию во всей ее полноте, не видит глубины пропасти, куда катится мир. Единицы понимают происходящее. Как правило, это люди с личным брендом. Но когда они касаются практики, бренд служит им трибуной пустословия. И это в то время, когда мир так нуждается в конкретике, соответствующей проблеме, как никогда еще не нуждался.
Из примечательных выделяется книга Харари «Nexus: Краткая история информационных сетей от Каменного века до ИИ». Он пишет, что темпы внедрения ИИ в нашу жизнь тревожат. Новый гость способен
«создавать произведения искусства, имитировать человеческое поведение, принимать за нас важнейшие жизненные решения и знать о нас больше, чем мы сами»; «Уже сегодня ИИ участвует в принятии решений, выдать ли нам ипотечный кредит, взять ли нас на работу, отправить ли в тюрьму. Эта тенденция будет только усиливаться и ускоряться».
Какой же выход предлагает автор? Тоже никакого конкретики, как и у Бострома. Дело не идет дальше благопожеланий и призыва всем народам и правительства преодолеть разногласия и объединиться, придумать механизм саморегуляции, принять закон о благонамеренности.
Автор благоразумно предлагает не использовать ИИ в плохих целях: как оружие, инструмент манипуляции в коммерции и политике, а использовать только в хороших целях: в науке, медицине, безопасности и прочее. Ну и еще по мелочи: объявить вне закона нейросети, выдающие себя за человека, изменить налоги для цифрового бизнеса и прочие благочестивые намерения. Все это хорошо, но есть проблема — нет ни слова, как это всё в реальности устроить. Тут ноль конкретики.
Не менее заметна книга «Генезис» трех знаковых авторов: госсекретарь США Киссинджер, гендиректор Google Шмидт и топ-менеджер Microsoft Крейгер (все статусы в прошлом, Киссинджер умер). Они говорят:
«Временные рамки надвигающихся кризисов ускорятся до уровня, неведомого человеческому опыту; нас быстро захлестнёт волна событий, и неясно, сможем ли мы выжить и каким образом».
И разумно утверждают, что человечеству нельзя полагаться на то, «что машины приручат сами себя», а мы будем сидеть сложа руки, надеясь на то, что ИИ нас уважает. Но как и Харари, виснут на вопросах: что делать; где искать выход? Вместо конкретики поток общих слов про объединение правительств и крупных игроков, призыв выработать общий план, ориентироваться на гуманизм и демократию, мораль и человеческое достоинство, которое еще и ИИ нужно привить.
Нет ни слова, как это реализовать. Максимум, в сети можно найти информацию о некоторых личных инициативах Киссинджера, Шмидта и Крейгера. Например, Киссинджер летал в Китай с целью убедить и побудить власти следовать указанным курсом. Шмидт и Крейгер периодически дают интервью, в которых указывают на растущую угрозу и повторяют свои призывы.
Между строк сквозит, что они не верят в реализуемость своих рекомендаций, спотыкающихся с порога о вопрос: на чью мораль и ценности брать ориентир? На западные, потому что они заявлены общечеловеческими? Для этого нужно, чтобы другие народы отказались от своей морали и ценности в пользу чужих (западных). Нет оснований считать это реальным планом.
Как они оценивают эффективность своих действий, говорит предсказание поведения игроков на ближайшее будущее: «Испуганные будут замедлять собственное развитие и саботировать усилия других. Самоуверенные будут скрывать свои возможности и тайно ускорять свою работу».
Читателю, сознающему масштаб проблемы и желающему внести свою лепту, по прочтению «Nexus» и «Genesis» невозможно понять, что ему делать здесь и сейчас. Эти книги похожи на «Утопию» Мора и «Город Солнца» Кампанеллы — есть контуры будущего, но ни слова о практике.
В русскоязычном секторе дела обстоят еще хуже. Масса всяческой третьесортной фантастики с графоманским оттенком, куча советов, как заработать, использовать, рисовать котиков и прочее. Практически никто не охватывает ситуацию во всем ее масштабе.
На безрыбье выделяется рыба — книга Сергея Маркова «Охота на электроовец: большая книга искусственного интеллекта». Серьезный труд, излагающий историю развития ИИ, курьезы, технические вопросы и перспективные направления. На по масштабу мышления она меньше «Nexus» и «Genesis». Но есть фразы, указывающие, что автор видит проблему и широко мыслит.
Например: «Человечество овладеет технологиями, способными эффективно осуществлять произвольные манипуляции с человеческими телами (и с другими объектами сопоставимой сложности), и, по всей видимости, объединится с собственными инструментами (включая системы ИИ) в единое целое. Такое изменение человеческой цивилизации обычно называют наступлением технологической сингулярности, которая, скорее всего, и ждёт человечество в будущем».
Минус: если зарубежные авторитеты оценивают ситуацию и предлагают хоть какой-то выход, то Марков вообще не касается этой сферы. Почему — вопрос открытый. Может, отсутствует интерес за рамками прикладной науки, а может, к высказыванию не располагает ситуация в России.
Отдельным событием смотрится книга неизвестного автора (или авторов) «Искусственный Интеллект. Здравствуй, Папа!». Это без преувеличения необычная штучка. Во-первых, впечатляет масштаб. Ставятся вопросы, каких нет в «Nexus» и «Genesis»: что есть личность, интеллект, чувство. На них даются ответы, и на их базе конкретный план действий.
Если зарубежные топы выглядят утопиями, то русский «Папа» похож на «Капитал» Маркса. Как там говорилось, что конкретно делать, и кто соглашался, тот шел и делал, так и анонимы говорят конкретно, и кто согласен с ними, тот может делать.
Маркс говорил, что растущее напряжение между Трудом и Капиталом неизбежно выльется во взрыв, который уничтожит существующее общество, и на его месте возникнет новое общество. И так как это неизбежно, предлагал не ждать, когда это само случится, в силу эволюции, а взять дело в свои руки и ускорить то, наступление чего неизбежно. Переустройство общества затрагивало все слои, от самого низа до самого верха, и в свое время выглядели весьма эпатажно.
Анонимный автора/авторы говорят о растущем напряжении между Человеком и ИИ, и вопрос времени, когда рухнет существующая модель, сформированная под мир без ИИ. Возникнет новый мир. Каким он будет, зависит от позиции, какую займет человек. Если наблюдателя, ИИ сделает из него шестеренку. При активной позиции человек перейдет на следующую ступень эволюции.
Излагаемый в «Папе» план выглядят еще более эпатажно и вызывающе. Его ключевой элемент — создание сверхчеловека через соединение человека с ИИ (это и Киссинджер говорит). Но если в Генезисе пространные рассуждения, то в Папе конкретный план.
Аноним заявляет, что результат возможен, если наука будет свободна от догм биоэтики, как сейчас свободна от догм религии. Так как в основе биоэтики гуманизм, а все государства заявляют себя гуманистическими, свободная наука невозможна ни в одном государстве.
Проблема решается через создание государства, в основе которого не гуманизм, демократия и известные ценности, а идея перехода человека на следующую ступень эволюции. Из новой цели должны быть выведены новые понятия морали и системы ценностей.
Автор не только говорит, что делать, но заявляет, что движется этим курсом, оставляет связь и приглашает присоединиться к проекту всех заинтересованных лиц. Этот момент делает анонимного «Папу» еще больше похожим на «Капитал» Маркса.
Размер книги, она очень маленькая — несомненный плюс, так как читается зараз на одном дыхании. Также плюсом является то, что сложнейшие темы и нечеловеческий масштаб переданы невероятно простым и легким языком, сравнимым с развлекательной литературой.
К минусу можно отнести необычайную плотность мысли. Они напиханы как в бочку селедки, никакого рассола. Потому читать рекомендуется несколько раз, гарантия находки новых мыслей.
Привлекают внимание открытые письма от it-фигур. В 2023 году появился призыв запретить ИИ мощнее GPT-4. Подписали письмо такие знаковые фигуры как Илон Маск, Стив Возняк и другие.
В 2024 году такое же письмо написали сотрудники ведущих компаний: OpenAI, Google DeepMind, Anthropic (среди них люди с русскими корнями). Они пишут:
«Мы понимаем серьезные риски, связанные с этими технологиями. Они варьируются от дальнейшего углубления существующего неравенства, манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества».
Эти письма содержат те же недостатки, что указанные выше книги (за исключением Папы) — нет конкретики. Как у Киссинджера и Харари все сводится к пожеланиям общественности, научным и политическим силам установить контроль над развитием ИИ, так и тут проговаривается эта мысль. Но тут же говорится, что у создателей ИИ есть огромные стимулы и мощнейшие инструменты для того, чтобы избежать всякого контроля, нарисовав при этом общественности нужную картинку.
В заключение: В России 32,8% жителей считают нейросети угрозой человечеству. В Европе эта цифра приближается к половине всех опрошенных. В Китае 73,5% выражают беспокойство на эту тему. В США 86% респондентов назвали ИИ серьезной угрозой человечеству.
Мы живем в уникальное время. По старому миру укрупняющимися волнами бегут и множатся нервные конвульсии — признаки приближающейся агонии. Они будут только нарастать, обратной дороги нет. Как говорят авторы Папы, луддиты всегда проигрывают.
В стабильное время решающая сила — материальные и административные ресурсы. В эпоху перемен сила в потенциале. Чтобы отчетливее увидеть мысль, представьте толстого кота, большую собаку и только что вылупившегося крокодильчика, которого воробей насмерть может заклевать. В моменте крокодильчик самый слабый. Но у него потенциал. Если он реализуется, то на всех котов и собак он будет смотреть не иначе, как на питание.
Эту истину подтверждает французская революция XVIII века и русская революция ХХ века. У кого в моменте были административные и материальные ресурсы? У царских министров, финансистов и промышленников. Но у революционеров была идея, время которой пришло. Выиграл тот, кто не на силу в моменте ставил, а на потенциал.
В XXI веке потенциал в идее, которая уже разворачивается в масштабе, какого мир еще не знал. Ее образ улавливается в такой зарисовке: существовала ли радиация до того, как ее зафиксировал человек? Ответ на это перекидывает мостик к вопросу: существовал ли нечеловеческий интеллект (ИИ) до того, как он стал очевиден человеку? Ответ вываливается за рамки нашего бытия…