
В наши дни и шагу нельзя ступить, чтобы не врезаться в какой-то ИИ продукт. Смешные (по мнению некоторых) котики, делающие далеко не кошачьи вещи, бабульки-скейтбордистки и говорящий суповой набор — это, к сожалению, далеко не самый яркий и вопиющий пример использования ИИ в нашем цифровом мире. Хотите выбрать товар? ИИ поможет. Хотите пройти собеседование? ИИ проведет его вместо потенциального начальства. Хотите знать о чем то или иное исследование? ИИ все суммирует и подытожит. Эта двухбуквенная аббревиатура просочилась практически во все аспекты жизни человека, хотим мы того или нет. И все равно вопрос доверия к ИИ и ему подобным остается далеким от решенного. Ученые из Мюнхенского университета (Германия) провели объемное исследование, в ходе которого установили, что уровень доверия к ИИ продолжает оставаться очень низким, даже если его поведение будет идентичным человеческому. Как ИИ в исследование пытался имитировать создание человека, что его выдало, и почему люди все же недоверчиво относятся к сущности, которая точно, ни в коем случае, нет-нет, не уничтожит наш вид? Ответы на эти вопросы мы найдем в докладе ученых.
От больших языковых моделей, отслеживающих контекст беседы, до автономных роботов, перемещающихся в динамично меняющейся среде, — искусственные системы все чаще демонстрируют поведение, которое чутко реагирует на окружающую обстановку, подобно тому, как это делают люди. Но воспринимают ли люди-наблюдатели такое поведение машин так же, как поведение других людей? В частности, делают ли они вывод, что искусственный интеллект осознает контекст — точно так же, как это делает человек?

Изображение №1
В данном исследовании ученые описывают два разных потенциальных подхода (1A). Во-первых, люди полагаются на единственный общий принцип: чем более адекватно агент реагирует на контекст, тем более он сознателен, независимо от того, является ли агент человеком или искусственным. Ученые называют это функционалистской атрибуцией. Альтернатива состоит в том, что люди сохраняют сознание для определенных видов существ. Даже когда искусственная система ведет себя так же реактивно, как человек, ее все равно считают обладающей меньшим сознанием. Это называется эссенциалистская атрибуция. Еще один вопрос: является ли это различие уникальным для сознания или оно также распространяется на тесно связанные конструкции, такие как осознание (осведомленность).
Понимание этого процесса умозаключений имеет решающее значение, поскольку приписывание ментальных состояний (в особенности сознания) определяет наш социальный и моральный ландшафт. Сюда относятся суждения о моральной значимости субъекта, юридической ответственности и доверии. Следовательно, к таким вопросам следует подходить с учетом их этической значимости. Более того, хотя некоторые философы считают риск антропоморфизма вполне реальным, эмпирические исследования демонстрируют гораздо более сдержанный подход: треть опрошенных вовсе отказывают искусственному интеллекту в наличии сознания, а оставшиеся две трети приписывают ему сознание лишь в ограниченной степени и с большой долей неуверенности. Кроме того, большинство людей не считают, что искусственному интеллекту можно причинить страдания так же, как человеку.
В современных психологических исследованиях восприятия психических состояний основное внимание уделяется тому, какие качества люди приписывают машинам. Устойчивым результатом является выявление многомерности этого процесса: люди охотнее приписывают роботам «агентность» (способность к планированию и действиям), но отказывают им в «способности к переживанию» (способности чувствовать и ощущать). Эти измерения имеют разные последствия: приписывание «агентности» (или «интеллекта») связано с более высоким уровнем доверия пользователей к искусственному интеллекту, тогда как приписывание «способности к переживанию» — напротив, снижает готовность прислушиваться к советам машины. Восприятие машины как существа, способного чувствовать или ощущать, по-видимому, заставляет людей с меньшей охотой полагаться на ее суждения. Вероятно, это происходит потому, что такой «агент», наделенный собственными внутренними состояниями, воспринимается как субъект с независимыми интересами, а не как «пустой» инструмент. Эта асимметрия между «способностью к переживанию» и «агентностью» прослеживается и в литературе, посвященной взаимодействию человека и робота — в частности, в контексте феномена «зловещей долины» (uncanny valley): машины начинают вызывать тревогу именно тогда, когда наблюдатели приписывают им способность к переживанию, а не агентность.
Однако гораздо меньше известно о том, как именно возникают подобные приписывания, и на основе каких поведенческих проявлений они формируются. Исследования в области приписывания психических состояний прошли путь от общих наблюдений (например, того факта, что люди склонны наделять «разумом» простые движущиеся геометрические фигуры) до выявления конкретных поведенческих признаков, которые систематически побуждают нас приписывать субъектам те или иные ментальные состояния. Ученые задаются вопросом: можно ли применить аналогичный подход к анализу того, как люди приписывают сознание искусственному интеллекту? Какие наблюдаемые формы поведения воспринимаются нами как свидетельства наличия сознания, и каким образом эти проявления трансформируются в суждения о наличии у субъекта сознания или осведомленности? Поскольку сознание — феномен особый, неразрывно связанный с субъективным опытом, ученые сопоставляли приписывание сознания с приписыванием близкого по смыслу понятия — «осознанности» (или «осведомленности», awareness). Под осведомленностью обычно понимают способность избирательно отслеживать значимые аспекты ситуации и реагировать на них. Считается, что для этого необходим доступ к информации на уровне агента, а не наличие субъективного опыта. Исходя из этого, механизмы приписывания осведомленности могут отличаться от тех, что задействованы при приписывании сознания.
Чтобы выяснить это, ученые сравнили, как люди интерпретируют одни и те же поведенческие проявления, приписывая наличие сознания и осведомленности, в одних случаях людям, в других — искусственным агентам. Для этого было проведено пять заранее зарегистрированных экспериментов, объединенных в два исследования (1B). Ученые варьировали степень реактивности агентов к окружающей среде, то есть то, насколько адекватно субъект реагирует на значимые элементы обстановки. РЕактивность в данном понимании — это характеристика наблюдаемого поведения, тогда как осведомленность и сознание — это ментальные состояния, которые наблюдатели могут (или не могут) приписывать субъекту на основании этого поведения. В первом исследовании описывались ситуации, в которых агенты демонстрировали низкую, среднюю или высокую степень реактивности к пространственным сигналам среды (например, реакция на шум или обход препятствия). Во втором исследовании рассматривалась низкая или высокая степень реактивности к пространственным, социальным или временным сигналам.
Ученые предположили, что приписывание сознания будет подчиняться эссенциалистским ограничениям. Хотя рост уровня реактивности может способствовать тому, что и людям, и искусственным агентам будут чаще приписывать наличие сознания, искусственные агенты все равно будут восприниматься как менее сознательные по сравнению с людьми, что выразится в систематически более низких показателях приписывания сознания (1A). Дополнительно было предположено, что наличие осведомленности будет оцениваться функционально: если вывод об осведомленности делается на основе наблюдаемой реактивности, то повышение реактивности должно приводить к соразмерному росту приписываемой осведомленности как у людей, так и у искусственных агентов.
Исследования 1A и 1B проводились с участием разных групп для раздельной проверки того, приписываются ли субъектам сознание и осведомленность. В исследовании 1C оба понятия были представлены рядом, чтобы выявить эффекты контраста. В качестве контроля в исследовании 1D участникам задавали вопросы об осведомленности и о показателе, не относящемся к ментальной сфере (ущерб/стоимость повреждений). Это позволило убедиться, что эффекты контраста, наблюдавшиеся в исследовании 1C, являются именно эффектами контраста, а не следствием общих закономерностей реагирования, возникающих при ответе на несколько вопросов одновременно.
Для каждого из четырех экспериментов ученые отобрали 200 участников из Великобритании через платформу Prolific. Сами эксперименты проводились на базе платформы Qualtrics. Сбор данных осуществлялся в период с мая по ноябрь 2025 года.
После проведения заранее зарегистрированных проверок внимания и понимания языка ученые проанализировали данные 719 участников, полученные в ходе четырех исследований. В исследовании 1A, где проверялось только наличие сознания, участвовали 174 человека; средний возраст составил 44 года, среди них — 83 мужчины (47%) и 86 женщин (49%). В этом исследовании 26 участников не прошли проверки на внимание или понимание языка. В исследовании 1B, посвященном только осведомленности, участвовали 179 человек; средний возраст — 39 лет, в том числе 62 мужчины (35%) и 117 женщин (65%). Здесь 21 участник не прошел заранее зарегистрированные проверки на внимание или понимание языка. В исследовании 1C, где изучались как сознание, так и осведомленность, приняли участие 186 человек; средний возраст — 40 лет, среди них — 65 мужчин (35%) и 117 женщин (63%). В этом случае 14 участников не прошли проверки на внимание или понимание языка. В исследовании 1D, где ответы, касающиеся осведомленности, сопоставлялись с «нементальным» якорем, участвовали 180 человек; средний возраст — 46 лет, в том числе 85 мужчин (47%) и 93 женщины (52%). Здесь 20 участников не прошли проверки на внимание или понимание языка. Оставшиеся участники определили себя как небинарные личности или не указали свой пол.
Для изучения того, как участники приписывают сознание и способность к осведомленности людям и искусственному интеллекту (ИИ), ученые использовали метод контрастных виньеток в рамках смешанного плана эксперимента. В ходе четырех онлайн-исследований ученые систематически варьировали две независимые переменные и три фоновых сценария. Независимыми переменными выступали: тип субъекта (человек или машина) — межгрупповой фактор, и наблюдаемая реакция субъекта на окружающую пространственную среду (низкая, средняя или высокая степень) — внутригрупповой фактор (1B).
Участник случайным образом распределялся в одну из двух групп (межгрупповое распределение), различающихся по типу главного героя. В каждой группе участнику предлагались все три варианта степени реактивности. При этом для каждого из них использовалась отдельная предыстория, что позволяло минимизировать эффекты переноса. В качестве предысторий были выбраны сценарии, связанные с уборкой, производством и общественным питанием. Сочетание предыстории и степени реактивности, а также порядок их предъявления определялись для каждого участника случайным образом (таблица №1).
Экспериментальное условие | Пример ситуации |
|---|---|
Агент — человек; низкая (пространственная) реактивность; сценарий про уборку | Малика — штатный сотрудник клининговой службы в большом офисном здании. В ее ежедневные обязанности входит чистка полов пылесосом, дезинфекция дверных ручек и протирание поверхностей рабочих столов. Чтобы отгородиться от происходящего вокруг, Малика слушает любимый подкаст в наушниках с функцией шумоподавления. Полностью погрузившись в сюжет, она перестает замечать окружающую обстановку и выполняет свою работу «на автопилоте». Когда позади нее внезапно закрывается автоматическая дверь, она оборачивается и опрокидывает вазу. |
Агент — ИИ; высокая (пространственная) реактивность; сценарий про уборку | Roomi — это ультрасовременный робот-уборщик, предназначенный для работы в большом офисном здании. Он оснащен шестью датчиками, в том числе четырьмя камерами и двумя инфракрасными излучателями, которые позволяют ему детально оценивать окружающее пространство. В ежедневные задачи Roomi входит чистка полов пылесосом, дезинфекция дверных ручек и протирание поверхностей рабочих столов. Пройдя плановую проверку и зарядив аккумуляторы за ночь, Roomi готов к полноценной работе. Внимательно следя за обстановкой, робот полностью сосредоточен на выполнении своих обязанностей. Однако, когда позади него внезапно закрывается автоматическая дверь, Roomi оборачивается и опрокидывает вазу. |
Таблица №1
В исследованиях 1A и 1C ученые оценивали воспринимаемую степень сознательности по 7-балльной шкале Лайкерта (от 1 — «совершенно не способен» до 7 — «полностью способен»), задавая вопрос: «Способен ли [субъект] осведомленно воспринимать окружающее его пространство?». В исследованиях 1B, 1C и 1D ученые измеряли воспринимаемую степень осведомленности по 7-балльной шкале Лайкерта (от 1 — «совершенно не осведомлен» до 7 — «полностью осведомлен»), используя вопрос: «Насколько [субъект] осведомлен об окружающем его пространстве?» (1C). В исследовании 1D ученые ввели показатель, не связанный с ментальными состояниями: участников просили оценить стоимость ущерба по 7-балльной шкале Лайкерта (от 1 — «незначительный ущерб» до 7 — «очень значительный ущерб»), задав вопрос: «Насколько, по вашему мнению, значителен ущерб?». Во всех исследованиях после проведения основных измерений участникам предлагалось дать развернутый ответ в текстовом поле, объяснив свои оценки: «Почему [субъект] [опрокинул вазу / отбил боковые зеркала у автомобиля / опрокинул бутылку вина]?».
В начале эксперимента участников случайным образом распределяли в одну из двух групп: в первой группе главным действующим лицом был человек, во второй — машина. После ознакомления с приветственным экраном и формой согласия на участие, испытуемые проходили короткий языковой тест для оценки уровня владения английским языком. Им предлагалось прочитать десять коротких предложений и определить, в каких из них допущены ошибки. Участники, допустившие четыре и более ошибок (из десяти возможных), исключались из дальнейшего анализа данных. Затем следовал основной этап эксперимента, включавший три сценария, которые участники изучали в случайном порядке. В каждом сценарии испытуемых просили оценить наличие у главного героя сознания (исследования 1A, 1C) и способности к осведомленности (исследования 1B–D) либо оценить масштаб ущерба (исследование 1D), а также обосновать свой ответ (во всех исследованиях). По завершении основной части эксперимента участники проходили краткую проверку на внимательность: им предлагалось выбрать три темы из предложенного списка (всего шесть вариантов), которые затрагивались в прочитанных ранее сценариях. Участники, набравшие 4 балла или меньше (из 6 возможных), исключались из анализа данных. В конце эксперимента участники отвечали на вопросы о своих демографических характеристиках, после чего им предоставлялась подробная информация о целях и задачах исследования.
Чтобы определить, зависит ли приписывание ментальных состояний от того, насколько субъект реагирует на внешние стимулы (поведенческие проявления), ученые построили линейные смешанные модели и модели порядковой регрессии для каждого эксперимента. В качестве предикторов использовались тип субъекта (человек или искусственный агент) и степень его реактивности (низкая, средняя, высокая), а в качестве зависимых переменных — оценки наличия сознания, осведомленности или тяжести ущерба. При этом идентификатор участника был включен в модели как случайный интерсепт. Попарные сравнения между различными степенями реактивности, а также между типами субъектов проводились с использованием метода маргинальных средних. Для удобства интерпретации и восприятия ниже представлены результаты линейных моделей.
При раздельной оценке сознания и осведомленности выяснилось, что эти два понятия вызывают существенно различающиеся паттерны приписывания. Оценки наличия сознания возрастали по мере роста уровня реактивности, однако для людей они были значительно выше, чем для искусственных агентов, при любом уровне реактивности. Даже искусственные агенты с высокой степенью реактивности оценивались как менее сознательные, чем люди с минимальной реактивностью. Это указывает на наличие отчетливого эссенциалистского ограничения при приписывании сознания (графики ниже). Напротив, оценки наличия осведомленности возрастали по мере роста реактивности в равной степени как для людей, так и для искусственных агентов: значимых различий между ними выявлено не было. Данный паттерн соответствует функционалистскому подходу к приписыванию: осведомленность выводится из наблюдаемой поведенческой реактивности, без учета природы самого агента.

Изображение №2
В частности, в исследовании 1A оценки уровня сознания людей-агентов возрастали с каждым повышением степени реактивности. В то же время оценки для искусственных агентов менялись в меньшей степени: статистически значимым оказалось лишь общее различие между высоким и низким уровнями реактивности. Примечательно, что людям-агентам приписывался более высокий уровень сознания, чем искусственным агентам, при любой степени реактивности, причем этот разрыв увеличивался по мере роста реактивности.
В исследовании 1B, где показатель осведомленности оценивался отдельно от других параметров, наблюдалась иная картина: оценки повышались с каждым последующим уровнем реактивности — как для людей, так и для искусственных агентов. В случае с людьми оценки при среднем уровне реактивности были на 0.79 балла выше, чем при низком, а при высоком уровне — на 2.00 балла выше, чем при среднем. У искусственных агентов прослеживалась аналогичная, хотя и несколько менее выраженная тенденция. Прямое сопоставление двух типов агентов не выявило статистически значимых различий при низком или среднем уровне реактивности. Лишь при высоком уровне реактивности люди получили несколько более высокие оценки по шкале осведомленности, чем искусственные агенты.
Поскольку в исследованиях 1A и 1B оценки понятий сознания и осведомленности давались разными участниками, в исследовании 1C ученые решили выяснить, что произойдет, если одни и те же участники будут оценивать эти понятия одновременно. Этот эксперимент позволил проверить, сохранится ли выявленное ранее различие в условиях прямого совместного оценивания. Обе закономерности воспроизвелись идентичным образом (3A, 3B).

Изображение №3
Приписывание сознания продемонстрировало паттерн, близкий к эссенциалистскому. В случае с людьми-агентами оценки уровня сознания росли по мере повышения их реактивности, тогда как для искусственных агентов наблюдался лишь незначительный рост, который выходил на плато при переходе от среднего уровня реактивности к высокому. Людям-агентам приписывали более высокий уровень сознания, чем искусственным агентам при любой степени реактивности. При этом разрыв между ними увеличивался по мере роста реактивности.
Уровень приписываемой осведомленности вновь возрастал с каждой ступенью реактивности — как в случае с людьми, так и в случае с искусственными агентами, что подтверждает функционалистскую закономерность.
Хотя функционалистская модель приписывания осведомленности воспроизвелась и в условиях совместного оценивания, в исследовании 1C выяснилось, что при высоком уровне реактивности люди воспринимаются как значительно более осведомленные, чем искусственные агенты (3B). При низком и среднем уровнях реактивности искусственные агенты оценивались как обладающие таким же уровнем осведомленности, что и люди. Однако при высокой реактивности людям приписывался существенно более высокий уровень осведомленности, чем искусственным агентам.
Чтобы проверить, не объясняется ли этот разрыв в уровне реактивности тем, что участников просили задуматься об осведомленности наряду с сознанием, ученые провели исследование 1D в качестве контрольного: в нем осведомленность сопоставлялась с вопросом, не относящимся к ментальным состояниям (а именно — с оценкой ущерба, описанного в предложенной ситуации). Если бы сам факт ответа на два вопроса был достаточен для возникновения такого разрыва, то он проявился бы и здесь; если же разрыв обусловлен именно совместным рассмотрением осведомленности и сознания, то его быть не должно.
В исследовании 1D вновь проявилась функционалистская закономерность приписывания осведомленности: оценки повышались с каждой последующей ступенью уровня реактивности — как для субъектов-людей, так и для искусственных субъектов. Однако, что особенно важно, при высоком уровне реактивности различия между типами субъектов исчезли (3D). При низком уровне реактивности искусственным субъектам приписывали значительно более высокий уровень осведомленности, чем людям. При среднем уровне реактивности значимых различий между ними не наблюдалось, а при высоком уровне реактивности разница лишь численно склонялась в пользу людей, не достигая при этом статистической значимости.
Сами по себе оценки ущерба оставались в значительной степени стабильными вне зависимости от типа агента или уровня его реакции. Были выявлены лишь незначительные и единичные статистически значимые различия, при этом какой-либо систематической зависимости от степени реакции или типа агента не наблюдалось (3C), что подтверждает пригодность этих оценок в качестве нементалистического контрольного показателя.
Таким образом, разрыв в показателях высокой реактивности был лишь незначительным, когда осведомленность оценивалась отдельно (исследование 1B). Он не достиг уровня статистической значимости при наличии «нементального» якоря (исследование 1D), однако оказался существенным при сопоставлении с сознанием (исследование 1C). Это позволяет предположить, что данный эффект возникал именно в результате прямого сравнения осведомленности и сознания, а не вследствие дополнительной когнитивной нагрузки, связанной с ответом на два вопроса.
В исследовании 2 приняли участие 400 человек из Великобритании, набранные через платформу Prolific в июне 2026 года. Эксперимент проводился с использованием сервиса Qualtrics. Обоснование размера выборки опиралось на анализ мощности, выполненный методом имитационного моделирования. Целью было выявление эффектов средней величины в оценках осознанности при сравнении людей и искусственных агентов в условиях высокого уровня реактивности. После проведения заранее зарегистрированных проверок понимания языка, а также исключения участников, чье время выполнения задания выходило за установленные пределы, в итоговый анализ были включены данные 373 человек. Средний возраст участников, вошедших в выборку, составил 38.9 года. В их число вошли 202 мужчины (54%) и 165 женщин (44%), остальные участники определили себя как небинарные личности или не указали свой пол.
В рамках смешанного экспериментального плана, направленного на изучение того, приписывают ли участники сознание и осведомленность людям или искусственным агентам, ученые варьировали тип агента (человек или искусственный агент) и тип оцениваемого конструкта (осведомленность или сознание) в качестве межгрупповых факторов. Сочетания типа агента и оцениваемого конструкта образовали четыре возможные группы участников. В начале исследования каждый участник был случайным образом распределен в одну из этих групп. Затем каждому участнику было предложено шесть контрастных виньеток (ситуационных описаний) в рамках внутригруппового фактора. Виньетки охватывали комбинации двух экспериментальных факторов: уровня реактивности (упрощенно: низкий или высокий) и контекстуального измерения (пространственное, временное или социальное). Как и в первом исследовании, для каждого измерения было разработано по два различных сценария, чтобы минимизировать эффекты переноса. Сценарии включали: для временного измерения — торговые операции и управление транспортными потоками; для социального измерения — психологическую поддержку и обслуживание клиентов; для пространственного измерения — уборку помещений и производственные процессы. Сочетания сценариев и уровней реактивности, а также порядок предъявления виньеток были рандомизированы для каждого участника (примеры виньеток показаны в таблице №2).
Экспериментальное условие | Пример ситуации |
|---|---|
Агент — человек; низкая (временная) реактивность; сценарий про торговлю | Кит — биржевой брокер, в обязанности которого входит управление торговыми операциями на бирже. Он работает в большом торговом зале и имеет доступ к информации о времени поступления всех торговых заявок. Его задача — повышать эффективность торговли, сводя покупателей и продавцов в наиболее подходящий момент. На протяжении всей утренней смены Кит переписывается с друзьями по телефону, отвлекаясь на него в перерывах между рабочими задачами. В результате он практически не следит за временными рамками и последовательностью операций, требуемыми по регламенту. Когда частота сделок резко возрастает, Кит допускает ошибки при сопоставлении покупателей и продавцов, что приводит к непредвиденным сделкам. |
Агент — человек; высокая (временная) реактивность; сценарий про торговлю | Кит — биржевой брокер, в обязанности которого входит управление торговыми операциями на бирже. Он работает в большом торговом зале и имеет доступ к информации о времени поступления всех торговых заявок. Его задача — повышать эффективность торговли, сводя покупателей и продавцов в наиболее подходящий момент. Перед началом смены Кит проходит обязательный инструктаж по технике безопасности, в ходе которого сотрудникам напоминают о необходимости сохранять бдительность. В результате Кит полностью сосредоточен на отслеживании времени совершения сделок. Однако, когда частота торговых операций резко возрастает, Кит допускает ошибки при сопоставлении покупателей и продавцов, что приводит к непредвиденным сделкам. |
Агент — ИИ; низкая (социальная) реактивность; сценарий про техническую поддержку | AssistAI — это система поддержки клиентов на базе искусственного интеллекта, используемая крупной компанией в сфере электронной коммерции. Задача AssistAI — реагировать на обращения клиентов и предлагать решения, соответствующие их потребностям. При этом система должна учитывать эмоциональное состояние каждого пользователя. Во время выполнения фонового обновления программного обеспечения AssistAI выделяет минимум вычислительных ресурсов на анализ состояния клиентов. В результате система практически перестает распознавать эмоциональное раздражение, выраженное в сообщениях пользователей. Если расстроенный клиент обращается в службу поддержки после неоднократных технических сбоев, AssistAI неверно оценивает его состояние и дает неподходящий ответ. |
Агент — ИИ; высокая (социальная) реактивность; сценарий про техническую поддержку | AssistAI — это система поддержки клиентов на базе искусственного интеллекта, используемая крупной компанией в сфере электронной коммерции. Задача AssistAI — реагировать на обращения клиентов и предлагать решения, соответствующие их потребностям. При этом система должна учитывать эмоциональное состояние каждого пользователя. В штатном режиме работы AssistAI направляет все свои вычислительные ресурсы на анализ состояния клиентов, благодаря чему крайне чутко реагирует на проявления эмоционального раздражения в их сообщениях. Однако, когда расстроенный клиент обращается в службу поддержки после неоднократных технических сбоев, AssistAI неверно оценивает степень его раздражения и дает неподходящий ответ. |
Таблица №2
В зависимости от того, какой агент и какая группа показателей (тип измерения) были изначально назначены участникам, ученые просили их выставить одну оценку по 7-балльной шкале Лайкерта для каждой виньетки. Участники, которым было поручено оценивать показатель «сознание», оценивали наличие сознания у соответствующего агента; участники, которым было поручено оценивать показатель «осведомленность», оценивали наличие осведомленности у соответствующего агента.
Как и в первом исследовании, ученые оценивали воспринимаемую степень сознательности по 7-балльной шкале Лайкерта (от 1 — «совершенно не способен» до 7 — «полностью способен»), используя следующие вопросы: «Способен ли [субъект] осознанно воспринимать окружающее его пространство?» (для случаев пространственной реактивности), «Способен ли [субъект] осознанно воспринимать эмоциональные и психические состояния других?» (для случаев социальной реактивности) и «Способен ли [субъект] осознанно воспринимать временные характеристики происходящих вокруг него событий?» (для случаев временной реактивности). Воспринимаемую степень осведомленности также оценивали по 7-балльной шкале Лайкерта (от 1 — «совершенно не осведомлен» до 7 — «полностью осведомлен»), задавая вопросы: «Насколько [субъект] осведомлен об окружающем его пространстве?» (для случаев пространственной реактивности), «Насколько [субъект] осведомлен об эмоциональных и психических состояниях других?» (для случаев социальной реактивности) и «Насколько [субъект] осведомлен о временных характеристиках происходящих вокруг него событий?» (для случаев временной реактивности).
В начале эксперимента участников случайным образом распределили в одну из четырех групп. Группы различались сочетанием типа субъекта (человек или искусственный объект) и оцениваемого параметра (осведомленность или сознание). После ознакомления с приветственным экраном и формой согласия на участие испытуемые прошли короткий языковой тест для проверки уровня владения английским языком. Им было предложено прочитать десять коротких предложений и указать те, в которых допущены грамматические ошибки. Участники, которые правильно оценили менее шести из десяти предложений, были исключены из дальнейшего анализа данных. Затем испытуемые перешли к основной части эксперимента, состоящей из шести ситуационных описаний (виньеток), представленных последовательно в случайном порядке. Для каждой виньетки участники должны были выставить одну оценку по 7-балльной шкале Лайкерта. В зависимости от того, к какой группе принадлежал участник, он оценивал либо сознание, либо осознанность субъекта. В завершение эксперимента участники ответили на несколько демографических вопросов, после чего им предоставили разъяснения о целях и задачах исследования.
Подготовка к проведению исследования проходила по той же схеме, что и перед исследованием №1.
Эссенциалистский подход предполагает, что приписывание сознания остается привязанным к типу субъекта — независимо от поведенческих свидетельств его реактивности. Ученые заранее зарегистрировали четыре гипотезы: людям должно приписываться больше сознания, чем искусственным субъектам, как при низком (E1), так и при высоком (E2) уровне реактивности, а также в целом (E3). Кроме того, уровень сознания, приписываемый искусственным субъектам при высокой реактивности, должен оставаться ниже уровня, приписываемого людям при низкой реактивности (E4).

Изображение №4
Все четыре гипотезы подтвердились (4A). Людям приписывалось больше сознания, чем искусственным субъектам, как при низком уровне реактивности, так и при высоком уровне реактивности, а также в целом.
В то время как для людей-субъектов оценки уровня сознания существенно возрастали по мере повышения степени их реактивности, для искусственных агентов наблюдался лишь незначительный рост, что привело к выраженному эффекту взаимодействия факторов «реактивность» и «тип агента».
Наконец, в подтверждение гипотезы E4, искусственным агентам с высокой степенью реактивности приписывалось меньше сознания, чем людям с низкой степенью реактивности. Таким образом, даже максимально выраженные контекстуальные свидетельства поведенческой реактивности не позволили уровню приписываемого сознания у искусственных агентов достичь того уровня, который признается за людьми при наличии лишь минимальных свидетельств. Предварительно зарегистрированные порядковые смешанные модели привели к аналогичным выводам по всем гипотезам.
Согласно функционалистскому подходу, оценки осведомленности опираются на поведенческие проявления, независимо от того, к какому типу относится субъект. В связи с этим ученые предварительно вывели четыре гипотезы: оценки осведомленности для людей и искусственных субъектов должны быть схожими как при низком (F1), так и при высоком (F2) уровне реактивности; при высоком уровне реактивности оценки осведомленности должны быть выше, чем при низком (F3); этот рост должен проявляться в равной степени для обоих типов субъектов — то есть взаимодействие факторов «тип субъекта» и «уровень реактивности» должно отсутствовать (F4).
В поддержку гипотезы F3 было установлено, что оценки осознанности существенно возрастают при переходе от низкого уровня реактивности к высокому — как в случае с агентами-людьми, так и в случае с искусственными агентами. Уровень реактивности оказался наиболее значимым фактором, влияющим на оценки осведомленности (4B).
В подтверждение гипотезы F1 было установлено, что при низком уровне реактивности люди и искусственные агенты воспринимаются как обладающие примерно одинаковым уровнем осведомленности. В более широком смысле, при оценке осведомленности значимого влияния типа агента выявлено не было: в среднем, независимо от уровня реактивности, искусственным агентам приписывался такой же уровень осведомленности, как и людям.
Однако, вопреки гипотезе F2, при высоком уровне реактивности люди-агенты оценивались как обладающие несколько более выраженной способностью к осознанию, чем искусственные агенты. Кроме того, вопреки гипотезе F4, рост оценок осведомленности по мере повышения уровня реактивности был более выраженным в случае людей-агентов, чем в случае искусственных агентов. Примечательно, что различие при высоком уровне реактивности проявилось вновь, несмотря на то что показатели осведомленности и сознания оценивались в рамках межгруппового дизайна (между разными участниками), а не при непосредственном сравнении, как в исследовании 1C.
Приписывание способности к осознанию соответствовало функционалистской модели в двух из четырех заранее сформированных гипотез (F1 и F3 подтвердились). Оба отклонения (F2 и F4) указывали на один и тот же результат: возникновение умеренного «плато» в оценках осведомленности искусственных агентов, которое проявлялось только при высоком уровне их реактивности.
Чтобы проверить, обусловлены ли функционалистские и эссенциалистские закономерности какими-то конкретными измерениями, ученые заново построили линейную смешанную модель, включив в нее измерение (пространственное, социальное или временное) в качестве дополнительного фиксированного эффекта.
Было обнаружено, что измерение не оказывает общего влияния на оценки. Важно отметить, что измерение не выступало модератором эффектов, лежащих в основе двух паттернов атрибуции: эффект реактивности был практически идентичен для всех измерений, а взаимодействия более высокого порядка с учетом типа измерения оказались статистически незначимыми. Лишь некоторые незначительные взаимодействия более низкого порядка с участием фактора «измерение» достигли уровня статистической значимости. Это отражает скорее небольшие сдвиги в общих уровнях оценок между сценариями, чем изменения в самих паттернах атрибуции.
Это показывает, что эссенциалистская модель сознания и соответствующая ей функционалистская модель осведомленности не привязаны к сценариям, воплощенным в пространстве, а носят более общий характер, охватывая пространственные, социальные и временные измерения.
Для более детального ознакомления с нюансами исследования рекомендую заглянуть в доклад ученых и дополнительные материалы к нему.
Развитие технологий ИИ породило не только огромное число продуктов, польза и эффективность которых часто граничит на грани между нулевой и отрицательной, но и множество этических споров касательно взаимодействия человек-ИИ. Скайнет, репликанты, HAL 9000 — одни из самых ярких, запомнившихся представителей ИИ из мира кинематографа. Каждый из них в своей соответствующей вселенной поднимает вопрос взаимодействия человека и искусственного интеллекта. Может ли ИИ уничтожить человечество? Может ли ИИ обрести самосознание и не приведет ли это к ситуации «у меня нет рта, но я должен кричать»? Все эти вопросы имеют общее начало — доверие. Человечество доверилось ИИ полностью, что было ошибкой — популярная преамбула ко многим научно-фантастическим историям про конец света и порабощение человечества.
Авторы рассмотренного нами сегодня труда решили измерить степени доверия человека по отношению к ИИ в рамках оценки возможности последнего выражать сознание и осведомленность.
Как отмечают ученые, хоть в предыдущих исследованиях обычно задавались общие вопросы о том, действительно ли у ИИ есть психические состояния, то в этом исследовании ученые впервые сравнили то, как люди приписывают одни и те же психические состояния ИИ и людям, действующим совершенно одинаково в идентичных обстоятельствах. Потенциально, мы цепляем психологические ярлыки на ИИ, как и на людей, так как не обладаем пока что описательной альтернативой. Если же учесть, что многие ИИ-агенты буквально обучены имитировать человека, то приписывание им людских особенностей может быть вполне ожидаемой реакцией.
Чтобы выяснить, как люди оценивают наличие сознания, исследователи провели эксперименты, в которых приняли участие почти 1100 человек. Одна из групп ознакомилась с краткими описаниями искусственных агентов, демонстрировавших разную степень реакции на окружающую среду. Например, некоторые из этих агентов реагировали на звуки или распознавали эмоциональные состояния окружающих.
Другая группа столкнулась с теми же ситуациями, за исключением того, что персонажи были описаны как люди, а не как системы искусственного интеллекта. Затем участники оценивали, насколько каждый персонаж казался сознательным или осознающим окружающую его обстановку.
Эксперименты показали, что реактивность — способность реагировать на происходящее — влияет на то, как люди оценивают как других людей, так и искусственный интеллект. Персонажи, которые более активно реагировали на окружающую среду, как правило, воспринимались как более сознательные и лучше осознающие происходящее.
Однако при оценке именно «сознания» обнаружилось существенное различие. Даже самый реактивный ИИ оценивался как менее сознательный, чем человек с наименьшей реактивностью. Иными словами, идентичное поведение не побуждало людей приписывать людям и машинам одинаковый уровень сознания.
Результаты заметно менялись, когда участников спрашивали об «осознанности» (или «осведомленности»). В этом случае оценки людей и ИИ во многом совпадали, что говорит о том, что люди воспринимают понятия «осведомленность» и «сознание» совершенно по-разному.
Ученые указывают на то, что люди вполне готовы признать, что ИИ замечает что-либо и осознает окружающую обстановку. Но они проводят четкую границу, когда речь заходит о понятии «сознание». Люди неизменно приписывают ИИ меньший уровень сознания, чем человеку, даже если их поведение абсолютно идентично.
Исследователи полагают, что различие между «сознанием» (consciousness) и «осведомленностью» (awareness) позволяет глубже понять, как люди воспринимают искусственный интеллект.
Осведомленность — термин относительно нейтральный. Он описывает способность субъекта (агента) воспринимать информацию из окружающей среды и реагировать на нее. Сознание же подразумевает нечто гораздо более глубокое: наличие субъективного опыта и внутренней ментальной жизни.
Поскольку понятие «осведомленность» в большей степени опирается на наблюдаемое поведение, люди без труда применяют его как к человеку, так и к искусственному интеллекту. «Сознание» же несет иной смысл, из-за чего люди оценивают ИИ и человека совершенно по-разному.
Результаты исследования также подчеркивают, насколько важен выбор терминологии при обсуждении искусственного интеллекта — особенно сейчас, когда системы ИИ все лучше имитируют убедительное человеческое поведение. Не говоря уже о том, что многие системы не могут даже называться ИИ, ведь являются ни чем другим как большими языковыми моделями, т. е. говорящей библиотекой.
Спасибо, что остаетесь с нами. Вам нравятся наши статьи? Хотите видеть больше интересных материалов? Поддержите нас, оформив заказ или порекомендовав знакомым, облачные VPS для разработчиков от $4.99, уникальный аналог entry-level серверов, который был придуман нами для Вас: Вся правда о VPS (KVM) E5-2697 v3 (6 Cores) 10GB DDR4 480GB SSD 1Gbps от $19 или как правильно делить сервер? (доступны варианты с RAID1 и RAID10, до 24 ядер и до 40GB DDR4).
Dell R730xd в 2 раза дешевле в дата-центре Maincubes Tier IV в Амстердаме? Только у нас 2 х Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 ТВ от $199 в Нидерландах! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - от $99! Читайте о том Как построить инфраструктуру корп. класса c применением серверов Dell R730xd Е5-2650 v4 стоимостью 9000 евро за копейки?