Все мы, даже физики, часто обрабатываем информацию, не осознавая, что делаем
Автор: Джон Хорган
Подобно великому искусству, великие мысленные эксперименты ведут к последствиям, о которых их создатели даже не подозревали. Возьмем, к примеру, эксперимент философа Джона Сёрла с китайской комнатой. Сёрл придумал его, чтобы убедить нас в том, что компьютеры на самом деле не могут «мыслить» так, как мы, а бездумно манипулируют символами, не осознавая, что делают.
Сёрл хотел подчеркнуть пределы машинного мышления. Однако недавно эксперимент с китайской комнатой побудил меня поразмышлять о границах уже человеческого познания. Мы, люди, также иногда не умеем мыслить, даже если заняты столь сложной проблематикой, как квантовая физика.
Немного предыстории. Сёрл впервые предложил эксперимент с китайской комнатой в 1980 году. В то время исследователи искусственного интеллекта были весьма воодушевлены. Некоторые утверждали, что машины скоро пройдут тест Тьюринга, что докажет, что машина способна «мыслить».
В 1950 году пионер компьютеров Алан Тьюринг предложил задать машине и человеку определённые вопросы. Если мы не сможем отличить ответы машины от ответов человека, то вынуждены будем признать, что машина действительно научилась думать. В конце концов, мышление —всего лишь манипуляция символами, такими как числа или слова, для достижения определенной цели.
Некоторые энтузиасты искусственного интеллекта настаивали на том, что «мышление», осуществляемое нейронами или транзисторами, влечет за собой сознательное понимание. Марвин Мински поддерживал точку зрения «сильного ИИ», когда я брал у него интервью в 1993 году. Определив сознание как систему хранения записей, Мински утверждал, что программное обеспечение LISP, которое отслеживает свои собственные вычисления, «чрезвычайно сознательно», в гораздо большей степени, чем люди. Когда я выразил скептицизм, Мински назвал меня «расистом».
Вернемся к Сёрлу. В своём мысленном эксперименте он просит нас представить сидящего в комнате человека, который не понимает китайского. В комнате также есть руководство, в котором рассказывается, как отвечать на строку определённых китайских иероглифов другой строкой символов. Кто-то за пределами комнаты подсовывает под дверь лист бумаги с китайскими иероглифами. Мужчина находит правильный ответ в руководстве, копирует его на лист бумаги и сует обратно под дверь.
Вопрос, задаваемый извне, к примеру, звучит так: «Какой твой любимый цвет?». Соответствующим ответом будет, например «Синий». Таким образом человек отвечает по-китайски, хотя не знает на этом языке ни слова. По словам Сирла, именно этим и занимаются компьютеры. Они обрабатывают символы способами, имитирующими человеческое мышление, но на самом деле они бездумные автоматы.
Мысленный эксперимент Сёрла вызвал бесчисленное количество возражений. Вот, например, моё. Эксперимент с китайской комнатой — роскошный случай постановки вопроса с очевидным ответом (в первоначальном смысле кругового рассуждения). Мета-вопрос, поставленный «Экспериментом в китайской комнате», звучит так: можем ли мы узнать, есть ли у какой-либо сущности, биологической или небиологической, субъективный, сознательный опыт?
Когда вы задаете этот вопрос, вы сталкиваетесь с тем, что я называю проблемой солипсизма. Ни одно сознательное существо не имеет прямого доступа к сознательному опыту любого другого сознательного существа. Я не могу быть абсолютно уверен, что вы или любой другой человек находитесь в сознании, не говоря уже о сознании медузы, или смартфона в вашем кармане. Я могу делать выводы только на основании поведения человека, медузы или смартфона.
Я предполагаю, что большинство людей, включая тех из вас, кто читает эти слова, обладают сознанием, как и я. Я также подозреваю, что Сирл, вероятно, прав, и что такая «умная» программа, как Siri, только имитирует понимание английского языка. Это мое предположение, но я не могу знать наверняка из-за проблемы солипсизма.
Я также не могу знать, каково это быть человеком в китайской комнате. Он может понимать или не понимать китайский язык; он может быть в сознании, а может и не быть. Опять же, нет никакого способа узнать это из-за проблемы солипсизма. Аргумент Сирла предполагает, что мы можем установить, что происходит или не происходит в сознании человека, и, следовательно, косвенно, что происходит или нет в машине. Его ошибочное первоначальное предположение приводит к его ошибочному выводу.
Это не означает, что эксперимент с китайской комнатой бесполезен. Отнюдь нет. Стэнфордская энциклопедия философии называет его «наиболее широко обсуждаемым философским аргументом в когнитивной науке, появившимся после теста Тьюринга». Мысленный эксперимент Сёрла продолжает вызывать споры и рассуждения. Например, недавно он подтолкнул меня к тревожному выводу о квантовой механике, которую я изо всех сил стараюсь понять в течение последнего года или около того.
Физики подчеркивают, что невозможно понять квантовую механику без понимания лежащей в ее основе математики. У вас должно быть как минимум знание логарифмов, тригонометрии, исчисления (дифференциального и интегрального) и линейной алгебры. Знание преобразований Фурье также не повредит.
Это довольно много математики, особенно для старика и бывшего литератора вроде меня. Но мне повезло наткнуться на беседу издания Quantum с физиком Терри Рудольфом. Он объясняет суперпозицию, запутанность и другие ключевые квантовые концепции с помощью относительно простой математической системы, которая включает в себя арифметику, алгебру и множество диаграмм с черными и белыми шарами, падающими в коробки и из них.
Однако Рудольф подчеркивает, что некоторая математика очень важна. Он говорит, что пытаться понять квантовую механику без математики — это все равно, что «пытаться описать «Звездную ночь» Ван Гога тем, кто видел только черно-белую фотографию. При этом хорошо так погрызенную собакой».
Но вот ирония. Овладение математикой квантовой механики не облегчает понимание, а может даже усложнить его. Рудольф, который преподает квантовую механику и является соучредителем компании, занимающейся квантовыми компьютерами, говорит, что чувствует «когнитивный диссонанс», когда пытается связать квантовые формулы с осмысленными физическими явлениями.
В самом деле, некоторые физики и философы обеспокоены тем, что физическое образование слишком узко сосредоточено на формулах и недостаточно на том, что они означают. Философ Тим Модлин в своей книге «Философия физики: квантовая теория» жалуется, что в большинстве учебников и курсов физики квантовая механика не рассматривается как теория, то есть как описание мира; вместо этого её представляют как «рецепт» или набор математических процедур для выполнения определенных задач.
Модлин признает, что изучение рецепта может помочь вам предсказывать результаты экспериментов и разрабатывать микрочипы. Но если студент-физик «окажется неудовлетворенным простым изучением этих математических методов для предсказаний и вместо этого спросит, что утверждает теория о физическом мире, он или она, вероятно, получит каноничный ответ: заткнись и считай!»
В своей книге Модлин представляет несколько попыток разобраться в квантовой механике, включая модели пилотной волны и многомировые модели. Его цель — показать, что мы можем перевести уравнение Шредингера и другие формулы в понятные объяснения того, что происходит, скажем, в эксперименте с двумя щелями. Но, на мой взгляд, безжалостное исследование квантовых моделей Модлином ниспровергает его намерения. Каждая модель кажется по-своему нелепой.
Размышляя о тяжелом положении физиков, я вспоминаю аргумент, выдвинутый философом Дэниелом Деннетом в книге «От бактерий к Баху и обратно: эволюция разума». Деннетт развивает свое давнее утверждение о том, что сознание переоценено, по крайней мере, когда дело доходит до того, что нам нужно делать, чтобы прожить обычный день. Мы выполняем большинство задач с минимальным вниманием или же совсем без него.
Деннет называет это «компетенцией без понимания», утверждая, что мы виртуальные «зомби». Когда философы говорят о зомби, они имеют в виду не неуклюжих, хрюкающих каннибалов из «Ходячих мертвецов», а существ, которые ходят и разговаривают как разумные люди, но лишены внутреннего осознания.
Когда я рецензировал книгу Деннета, я обвинял его в преуменьшении значения сознания и преувеличении значения бессознательного познания. Компетентность без понимания может относиться к простым задачам, таким как чистка зубов или вождение автомобиля, но уж точно не к науке и другим высоким интеллектуальным занятиям. Может, Деннет и зомби, а я нет! Такова была моя реакция.
Но в последнее время меня преследует вездесущая компетентность без понимания. Квантовые физики, например, манипулируют дифференциальными уравнениями и матрицами с впечатляющей компетенцией — достаточной для создания квантовых компьютеров! — но не понимают, что означает математика. Если физики в конечном итоге станут автоматами, обрабатывающими информацию, есть ли надежда на всех нас? В конце концов, наш разум — это машина для привыкания, предназначенная для превращения даже сложных задач, таких как быть родителем, мужем или учителем, в рутину, которую мы выполняем наизусть с минимальными когнитивными усилиями.
Эксперимент в китайской комнате служит метафорой не только для физики, но и для условий жизни человека. Каждый из нас сидит в одиночестве в ячейке своего субъективного сознания. Время от времени мы получаем загадочные сообщения из внешнего мира. Лишь смутно понимая, что делаем, мы составляем ответы, которые подсовываем под дверь. Таким образом, нам удается выжить, даже если не осознаём, что, черт возьми, происходит.
Оригинал: Scientific American
