Когда люди задумываются о том, что происходит за кулисами ChatGPT или других больших языковых моделей, они часто прибегают к компьютерным терминам. Можно предположить, что для ответа на ваш запрос используется база данных или логическая последовательность выполняемых шагов.
Представлять себе, что ответы ИИ похожи на то, как ваш компьютер открывает файл, — вполне логичный ход мысли. Но это неверно. Понять, почему это так, поможет осознание ключевой роли когнитивистики в развитии ИИ.
История ИИ — это не только история компьютерных наук. Фундаментальные достижения, которые привели к появлению современного ИИ, были совершены людьми, чьей целью было понять, как работает человеческий разум, а не помочь вам с домашним заданием или спланировать путешествие. Это различие важно, потому что оно помогает лучше понять, почему эти системы “ведут себя” именно так.
Истоки ИИ часто остаются без внимания
Термин “искусственный интеллект” был введен в 1956 году на семинаре в Дартмутском колледже. В то время считалось, что машину можно сделать разумной, если составить для нее правильный набор правил, которым она будет следовать.
Однако вместо того, чтобы создавать машину, которая следовала бы правилам, психолог Фрэнк Розенблатт в 1958 году создал перцептрон — машину, которая обучалась на примерах. Розенблатт не участвовал в Дартмутской конференции, но он размышлял о том, как сделать машину разумной принципиально иным, более “человеческим” способом. Его ключевая идея заключалась в том, чтобы создать искусственную нейронную сеть — компьютерный алгоритм, в общих чертах повторяющий архитектуру человеческого мозга. Этот подход основывался на работах таких психологов, как Дональд Хебб, которые изучали мозг и поведение. В частности, Хебб исследовал, как нейронные связи укрепляются при использовании, — это фундаментальное открытие впоследствии легло в основу машинного обучения.
Дальнейшие успехи были достигнуты в 1980-х годах, когда психологи пытались объяснить, как люди выполняют сложные когнитивные задачи, такие как распознавание слов и формирование воспоминаний.
Специалисты в области когнитивистики и компьютерных наук — Дэвид Румельхарт, Джеффри Хинтон и Рональд Уильямс — придумали, как обучать искусственные нейронные сети с несколькими слоями. Эта идея впоследствии стала известна как “глубокое обучение”. Такие многослойные нейронные сети способны выполнять более сложные задачи и обобщать полученные знания для применения к новым примерам.
В последующие десятилетия ученые и инженеры в области компьютерных наук и инженерии способствовали расширению вычислительных возможностей, разрабатывая графические чипы, архитектуру трансформеров и многое другое. Без этих систем современный ИИ по-прежнему с трудом распознавал бы буквы и слова, а не мог бы вести полноценные диалоги на естественном языке.
Однако фундаментальные идеи были почерпнуты из исследований человеческого разума: ИИ должен учиться на примерах, а его архитектура должна быть основана на принципах работы человеческого мозга. Эти основополагающие идеи важны с практической точки зрения. Современный ИИ не рождается из правил — он вырастает из примеров. А то, что растет, не так предсказуемо, как системы, основанные на правилах.
Происхождение системы помогает объяснить ее поведение
То, как люди используют технологии, определяется их интуитивными представлениями и ментальными моделями о принципах работы этих технологий. Представление об искусственном интеллекте как о программном обеспечении — детерминированном, извлекающем факты — приводит к тому, что люди неверно интерпретируют выдаваемые им результаты.
“Галлюцинации” искусственного интеллекта — распространенное явление; чат-боты часто выдают ложную информацию. Если считать, что искусственный интеллект — это база данных, такое поведение кажется странным. Как система может найти ответ, которого не существует?
Но человеческая память не “ищет” ответы. Она реконструирует информацию и не всегда точна, заполняя пробелы правдоподобными деталями. Благодаря новаторским исследованиям психолога Элизабет Лофтус ученые знают, что ложные воспоминания, к сожалению, встречаются довольно часто и их можно относительно легко внушить.
Система, которая “ищет” информацию, каждый раз выдает один и тот же ответ, но из-за этого она ограничена в возможностях отвечать на конечное число вопросов. Человеческий разум устроен иначе, и искусственный интеллект тоже. За способность обобщать и решать новые задачи приходится расплачиваться склонностью к конфабуляции.
Представление об искусственном интеллекте как о примитивном мозге также помогает объяснить другие странные особенности его поведения, например получение разных ответов на один и тот же вопрос. Спросите своего маленького ребенка, что он хочет на ужин, два раза, и вы, возможно, услышите разные ответы. При взаимодействии с системой искусственного интеллекта тоже важно правильно формулировать вопрос, поскольку эти системы можно настроить так, чтобы они выдавали ответы, которые вам больше нравятся. Они работают по вероятностному принципу, как человеческая память, а не по детерминированному, как калькулятор.
Все это не означает, что искусственный интеллект обязательно мыслит так же, как люди, если он вообще мыслит. Люди и искусственный интеллект обычно по-разному “воспринимают” вещи. Компьютерное зрение может выявлять едва заметные отклонения, которые могут ускользнуть от внимания человека, но при этом может и неправильно интерпретировать, например, поврежденный дорожный знак.
Почему эти истоки по-прежнему важны
Если современный ИИ непредсказуем, как люди могут его понять?
Ответ заключается в том, чтобы понять, откуда взялась эта технология. Осознание того, что системы искусственного интеллекта больше похожи на мозг, чем на базу данных, может помочь людям сформировать более точные представления о том, на что способен ИИ, и лучше понять, как работают эти системы.
- Пользователи слишком доверяют не тому, чему следует. Значительная часть пользователей ChatGPT указывает, что они используют ChatGPT как поисковую систему. Похоже, что люди воспринимают выдаваемые системой ответы как достоверные факты, а не как логичные и уверенные предположения. Из-за этого непонимания пользователи могут пропускать этап проверки, который они, скорее всего, применили бы к человеку, и принимать решения, в том числе финансовые, основываясь на конфабуляции.
- Образовательные учреждения сталкиваются с различиями в подходах. Преподаватели по-прежнему не могут прийти к единому мнению: одни полностью запрещают использование инструментов на основе ИИ, а другие внедряют их в учебный процесс, рассматривая ИИ как источник ответов, которые нужно проверять или которым нужно доверять, как если бы это были соавторы. Эти разногласия приводят к путанице и разобщенности среди преподавателей и студентов (и внутри этих групп).
- Информатика заново открывает для себя вопросы когнитивистики. Современные системы непрозрачны даже для тех, кто их создал. Один из подходов к их пониманию, основанный на изучении того, что поступает в систему и что из нее выходит, напоминает бихевиоризм — некогда доминировавшее направление в психологии, изучавшее только наблюдаемое поведение. Сейчас исследователи стремятся к интерпретируемости: они открывают модели, чтобы увидеть, что происходит внутри, — это ближе по духу к нейронауке — и работают над проблемами, над которыми когнитивисты бьются десятилетиями.
Обмен происходит в обе стороны. Точно так же, как информатика опирается на вопросы и методы когнитивистики, когнитивистика опирается на доступность самих моделей искусственного интеллекта, используя их для проверки и уточнения теорий о работе сознания. Информатика и когнитивистика отделились от одного проекта несколько десятилетий назад: они стремились понять, как работает интеллект. Чем больше эти области будут обмениваться вопросами и инструментами, тем лучше будет для человечества.
Майкл Хаут, заместитель декана по научной работе и профессор психологии, Университет штата Нью-Мексико.
Аррин Роббинс, доцент кафедры психологии, Университет Ричмонда.
The Conversation. Пер.: PSYCHOL-OK.RU
