По мере развития искусственного интеллекта все чаще появляются сообщения о том, что системы ИИ вводят пользователей в заблуждение, действуют сообща или преследуют собственные цели. Такое поведение часто приводит к тому, что люди начинают считать, будто ИИ может думать, чувствовать или самостоятельно принимать решения. Но действительно ли поведение, имитирующее человеческое, убеждает людей в том, что машина обладает сознанием?
Новое исследование Мюнхенского университета показывает, что люди проводят четкое различие между разумным поведением и наличием сознания, даже если люди и ИИ действуют абсолютно одинаково.
Исследование, опубликованное в журнале Cognition, было проведено под руководством доктора Луи Лонгина с кафедры философии сознания Мюнхенского университета совместно с доктором Бахадором Бахрами, профессором Офелией Дерой и другими исследователями.
“В то время как в предыдущих исследованиях обычно задавались общие вопросы о том, действительно ли у ИИ есть ментальные состояния, наше исследование стало первым, в котором напрямую сравнивается то, как люди приписывают одни и те же ментальные состояния ИИ и людям, которые ведут себя абсолютно одинаково в идентичных обстоятельствах”, — говорит Лонгин.
“Возможно, мы используем ментальные термины для обозначения искусственного интеллекта, но это может быть связано лишь с тем, что у нас нет более подходящих слов. В конце концов, искусственный интеллект обучен действовать и говорить как человек, поэтому такие описания кажутся естественными”, — говорит Офелия Дерой, философ и старший автор исследования.
Чтобы выяснить, как люди оценивают наличие сознания у других существ, исследователи провели эксперименты с участием почти 1100 человек. Одной группе зачитывали краткие описания искусственных агентов, которые демонстрировали разную степень реакции на окружающую среду. Например, некоторые агенты реагировали на звуки или распознавали эмоциональное состояние других агентов.
Другая группа сталкивалась с теми же ситуациями, но персонажи описывались как люди, а не как системы искусственного интеллекта. Затем участники оценивали, насколько каждый персонаж осознавал происходящее вокруг.
Эксперименты показали, что степень реакции на окружающую среду влияла на то, как участники оценивали как людей, так и искусственный интеллект. Персонажи, которые более активно реагировали на происходящее вокруг, в целом считались более сознательными и осведомленными.
Однако когда участники оценивали именно наличие сознания, обнаружилось поразительное различие. Даже самый активный искусственный интеллект был оценен как менее сознательный, чем наименее активный человек. Другими словами, идентичное поведение не позволяло людям приписывать одинаковый уровень сознания людям и машинам.
Результаты существенно изменились, когда участников стали спрашивать об осведомленности. По этому параметру суждения людей и ИИ в целом совпадали, что позволяет предположить, что люди принципиально по-разному интерпретируют осведомленность и сознание.
“В общественных дискуссиях все чаще звучит опасение, что люди увидят, что ИИ ведет себя по-человечески, и начнут относиться к этим системам так, будто у них есть ментальные состояния, как у людей. Мы обнаружили кое-что более тонкое: люди вполне готовы признать, что ИИ замечает происходящее вокруг и осознает окружающую обстановку. Но когда дело доходит до термина “сознание”, они проводят четкую границу. Люди склонны приписывать ИИ меньше сознательности, чем людям, даже если их поведение идентично”, — говорит Лонгин, ведущий автор исследования.
Хотя, обсуждая действия ИИ, люди иногда называют его сознательным, результаты исследования показывают, что они все же проводят различие между искусственными системами и человеческим разумом.
Исследователи считают, что разница между сознанием и осведомленностью позволяет лучше понять, как люди воспринимают искусственный интеллект.
Осведомленность — относительно нейтральный термин, который может описывать способность агента обнаруживать информацию в окружающей среде и реагировать на нее. Однако термин “сознание” имеет более глубокий смысл, связанный с субъективным опытом и внутренней психической жизнью.
Поскольку осведомленность в большей степени связана с наблюдаемым поведением, людям удобно применять этот термин как к людям, так и к ИИ. Сознание имеет иное значение, и поэтому люди оценивают эти два понятия по-разному.
Полученные результаты также показывают, почему так важен язык, используемый для обсуждения искусственного интеллекта, особенно с учетом того, что системы искусственного интеллекта становятся все более способными имитировать поведение человека.
“Наше исследование дает нам представление о том, как мы говорим об искусственном интеллекте. Компании и журналисты часто прибегают к громким описаниям моделей искусственного интеллекта, приписывая им намерения, планы и даже моральные принципы и сомнения. Наше исследование показывает, что в повседневной жизни люди гораздо более разборчивы в суждениях: они не ставят искусственный интеллект и человека на одну ментальную шкалу. Но граница между ними зависит и от того, какие термины мы используем. Для более нейтральных описательных терминов, таких как “осознанность”, разница может быть практически незаметна. Поэтому выбор слов так важен”, — рассказывает Бахадор Бахрами, один из авторов исследования и эксперт в области социальной нейробиологии.
Мюнхенский университет Людвига-Максимилиана. Пер.: PSYCHOL-OK.RU
