Несмотря на все обещания и опасности ИИ, компьютеры явно не умеют думать. Думать — значит сопротивляться, чего не делает ни одна машина.
Автор: Альва Ноэ
Альва Ноэ — профессор философии Калифорнийского университета в Беркли, где он также является заведующим кафедрой. Среди его книг — «Странные инструменты: искусство и человеческая природа» (2015) и «Запутанность: как искусство и философия делают нас такими, какие мы есть» (2023).
Компьютеры на самом деле ничего не делают. Они не пишут, не играют, они даже не вычисляют. Но это не значит, что мы не можем играть с компьютерами, использовать их для изобретения, создания или решения проблем. Новый ИИ неожиданно меняет способы работы и производства, в искусстве и науке, в промышленности и в военном деле. Нам нужно смириться с преобразующими перспективами и опасностями этой новой технологии. Но это должно быть возможно сделать, не поддаваясь на фальшивые утверждения о машинном разуме.
Что может заставить нас серьезно отнестись к мысли о том, что эти устройства нашего собственного изобретения действительно могут понимать, думать и чувствовать, или что, если не сейчас, то позже, они могут однажды открыть свои искусственные глаза, чтобы наконец увидеть блестящий мир? Одним из источников может быть просто ощущение того, что ИИ, развивающийся сейчас, не поддается нашему контролю. Быстрые, микроскопические, распределенные и астрономически сложные, эти технологии трудно понять, и очень соблазнительно представить, что они имеют над нами власть.
Но в этом нет ничего нового. История технологий — от доисторических времен до наших дней — всегда была связана с тем, как мы подчиняем себе инструменты и системы, которые сами же и создали. Вспомните, как мы ходим по тропинкам. Каждому инструменту соответствует привычка, то есть автоматизированный способ действия и существования. От скромного карандаша до печатного станка и Интернета — наша человеческая активность частично реализуется через создание социальных и технологических ландшафтов, которые, в свою очередь, преобразуют то, что мы можем делать, и, как кажется или угрожает, управляют и контролируют нас.
Однако одно дело — ценить способы, которыми мы создаем и переделываем себя через культурную трансформацию наших миров посредством использования инструментов и технологий, и другое — мистифицировать немую материю, которую мы приводим в действие. Если рядом с карандашами, ботинками, зажигалками, картами или калькуляторами и есть интеллект, то это интеллект их пользователей и изобретателей. Цифровые технологии ничем не отличаются.
Но есть и другое происхождение нашего импульса уступить разум устройствам собственного изобретения, и именно на нем я фокусируюсь: тенденция некоторых ученых принимать как должное то, что можно описать только как дико упрощенную картину когнитивной жизни человека и животных. Они бесконтрольно опираются на односторонние и даже примитивные представления о человеческой деятельности, навыках и когнитивных достижениях. Тайная подмена (если воспользоваться фразой Эдмунда Гуссерля) этой кашеобразной версии разума в работе — подмена, которая, как я надеюсь убедить вас, восходит к Алану Тьюрингу и самому зарождению ИИ, — является решающим трюком в фокусе.
Ученые, похоже, забыли, что человеческое животное — существо беспокойное. Или, как писал философ биологии середины XX века Ганс Йонас: «Раздражительность — это зародыш и как бы атом существования мира…» У нас всегда есть, так сказать, камешек в ботинке. И это то, что движет нами, поворачивает нас, ориентирует нас, чтобы переориентировать себя, сделать все по-другому, чтобы мы могли продолжать. Именно раздражение и дезориентация являются источником нашего беспокойства. В отсутствие раздражения нет ничего: ни языка, ни игр, ни целей, ни задач, ни мира, ни забот, а значит, да, нет и сознания.
Могут ли машины мыслить? Тьюринг отверг этот вопрос как «слишком бессмысленный, чтобы заслуживать обсуждения». Вместо того чтобы пытаться создать машину, способную мыслить, он решил разработать такую, которая могла бы стать разумной заменой мыслящей. Повсюду в работах Тьюринга внимание сосредоточено на имитации, замене и подмене.
Рассмотрим его вклад в математику. Машина Тьюринга — это формальная модель неформальной идеи вычислений: то есть идеи о том, что некоторые проблемы можно решить «механически», следуя рецепту или алгоритму. (Тьюринг предложил заменить привычное понятие его более точным аналогом. Является ли данная функция вычислимой по Тьюрингу — это математический вопрос, на который Тьюринг предоставил формальные средства для строгого ответа. Но служит ли Тьюринг-вычислимость для отражения сути вычислений, как мы понимаем это интуитивно, и является ли поэтому хорошей идеей произвести замену — это не те вопросы, которые может решить математика. Действительно, предположительно потому, что они сами по себе «слишком бессмысленны, чтобы заслуживать обсуждения», Тьюринг оставил их философам.
В том же антифилософском духе Тьюринг предложил заменить бессмысленный вопрос «Могут ли машины мыслить?» на эмпирически решаемый вопрос «Могут ли машины пройти [то, что стало известно как] тест Тьюринга? Чтобы понять это предложение, нам нужно взглянуть на тест, который Тьюринг назвал Имитационной игрой.
В игре участвуют три игрока: один мужчина, одна женщина и один человек, чей пол не имеет значения. У каждого из них своя задача. Игрок неопределенного пола, дознаватель, должен выяснить, кто из двух других — мужчина, а кто — женщина. Задача женщины — стать союзником дознавателя, задача мужчины — заставить дознавателя ошибиться в идентификации.
Задача состоит в том, чтобы выяснить, влияет ли замена машины на игрока на процент успеха.
Это могло бы стать забавным развлечением для взрослых, но Тьюринг опасался, что это будет слишком просто. Даже сегодня, когда гендерные эксперименты стали обычным делом, в большинстве случаев не так уж сложно отсортировать людей по полу на основе поверхностной внешности. Поэтому Тьюринг предложил изолировать допрашиваемого в комнате, ограничив его доступ к другим людям только задаванием вопросов. И добавил: «Чтобы тон голоса не помогал допрашиваемому, ответы должны быть письменными, а еще лучше — машинописными. Идеальным вариантом является наличие телепринтера, связывающего две комнаты».
Чему учит нас «Игра в имитацию» в отношении машинного интеллекта? Вот что говорит Тьюринг:
Теперь мы зададим вопрос: «Что произойдет, если машина возьмет на себя роль [человека] в этой игре? Будет ли допрашиваемый принимать неверные решения так же часто, как и при игре между мужчиной и женщиной? Эти вопросы заменяют наш первоначальный: «Могут ли машины мыслить?».
Цель дознавателя не в том, чтобы вывести из игры компьютер, а в том, чтобы вывести из игры людей того или иного пола. Но цель Тьюринга и смысл игры в том, чтобы выяснить, влияет ли замена машины на одного из игроков на процент успеха дознавателя. Именно этот последний вопрос — есть ли влияние на результат — Тьюринг предлагает использовать в качестве косвенного ответа на «бессмысленный» вопрос о том, могут ли машины мыслить.
Вместо того чтобы спорить о том, что такое мышление, Тьюринг представляет себе сценарий, в котором машины могли бы вступать в значимый человеческий обмен и участвовать в нем. Будет ли их способность делать это свидетельствовать о том, что они могут думать, или чувствовать, что у них есть разум, как у нас? По мнению Тьюринга, это именно те вопросы, которые неправильно задавать. Он утверждает, что машины станут лучше в этой игре, и рискнул предсказать, что к концу века — он писал в 1950 году — «общее образованное мнение изменится настолько, что можно будет говорить о том, что машины мыслят, не ожидая возражений».
Несмотря на явную враждебность Тьюринга к философии, можно считать, что он уловил критическое философское понимание. Почему мы должны ожидать, что доказательства смогут обеспечить нам разум машин, если они не выполняют эту функцию в наших обычных человеческих отношениях? Никто из нас никогда не выяснял и не доказывал, что люди, окружающие нас в жизни, на самом деле думают или чувствуют. Мы просто принимаем это как данность. И именно это наблюдение послужило основой для его концепции собственной задачи: не доказывать, что машины могут думать, а интегрировать их в нашу жизнь так, чтобы этот вопрос, по сути, отпал или ответил сам собой.
Оказывается, однако, что не все замены и подстановки Тьюринга так просты, как кажется. Некоторые из них прямо-таки вводят в заблуждение.
Рассмотрим, во-первых, предложение Тьюринга заменить разговор использованием печатных сообщений. Он считает, что это нужно для того, чтобы сделать игру сложной. Но замена текста на речь имеет совершенно другой эффект: она придает долю правдоподобия абсурдному предположению о том, что машины вообще могут участвовать в игре. Чтобы понять это, вспомните, что машина Тьюринга — это то, что в математике называется формальной системой. В формальной системе есть конечный алфавит и конечный набор правил для комбинирования элементов алфавита в более сложные выражения. Формальной систему делает то, что словарь должен быть задан только в терминах физических свойств, а правила должны быть сформулированы только в терминах этих физических, то есть формальных, свойств. В этом и заключается суть: если вы не можете формально определить входы и выходы — словарь, — вы не можете определить машину Тьюринга или вычислимую по Тьюрингу функцию.
И, что очень важно, невозможно формально определить входы и выходы обычного человеческого языка. Речь — это дыхание, горячее движение, которое всегда разворачивается вместе с другими, в контексте и на фоне потребностей, чувств, желаний, проектов, целей и ограничений. Речь активна, прочувствована и импровизационна. Она имеет больше общего с танцами, чем с текстовыми сообщениями. В наши дни мы настолько привыкли к режиму клавиатуры, что даже не замечаем, как текст скрывает телесную реальность языка.
Геймификация жизни — одно из самых надежных и самых тревожных наследий Тьюринга.
Хотя речь не поддается формальному определению, текст — в смысле текстовых сообщений — поддается. Таким образом, текст может служить поддающимся вычислению приближением к реальному человеческому обмену. Фильтруя всю коммуникацию между игроками через клавиатуру, чтобы сделать игру сложнее, Тьюринг фактически — и на самом деле это ловкость рук — убирает под ковер то, что философ Нед Блок назвал проблемой входов и выходов.
Но замена текстового сообщения на речь — не единственная хитрость в аргументации Тьюринга. Другая подмена вводится еще более скрытно. Это молчаливая подмена игр осмысленным человеческим обменом. Действительно, геймификация жизни — одно из самых надежных и самых тревожных наследий Тьюринга.
Проблема в том, что Тьюринг считает само собой разумеющимся частичное и искаженное понимание того, что такое игры. С точки зрения вычислительной техники, игры — действительно, чтобы быть формально выполнимыми, они должны быть — кристаллическими структурами понятности, виртуальными мирами, где правила ограничивают то, что вы можете делать, и где четко определены непроблематичные ценности (очки, цели, счет) и устоявшиеся критерии успеха и неудачи (выигрыш и проигрыш).
Но ясность, регламентированность и прозрачность дают нам только один аспект того, что такое игра. Почему-то Тьюринг и его преемники склонны забывать, что игры — это еще и состязания; это полигоны, и именно мы подвергаемся испытаниям, и именно мы, чьи ограничения обнажаются, или чьи силы, а также слабости выставляются напоказ на кикбольном поле или площадке для игры в четыре квадрата. Ребенок, играющий в шахматы, может испытывать такое сильное беспокойство, что его начинает тошнить. Это висцеральное проявление — не случайный эпифеномен, не внешнее, не имеющее существенного значения для игры. Нет, игры без рвоты — или, по крайней мере, без такой живой возможности — вообще не были бы узнаваемы как человеческие игры.
Все это говорит о том, что настоящие игры — это гораздо больше, чем кажется, когда мы рассматриваем их, как это делал Тьюринг, через призму режима клавиатуры. (Что не означает отрицания того, что мы можем, и действительно можем, полезно моделировать аспекты игры вычислительным путем).
Вот критический итог: человеческие существа — это не просто исполнители (например, игроки в игры), чьи действия, по крайней мере, когда они успешны, соответствуют правилам или нормам. Мы исполнители, чья деятельность всегда (по крайней мере, потенциально) является местом конфликта. Акты второго порядка — рефлексия и критика — относятся к самому исполнению первого порядка. Они переплетены, и, как следствие, вы никогда не сможете вычленить из чистого выполнения деятельности все способы, которыми эта деятельность бросает вызов, тормозит, мешает и ставит в тупик. Например, играть на фортепиано — этой другой клавишной технологии — значит бороться с машиной, сражаться с ней.
Позвольте мне объяснить: фортепиано — это создание и развитие определенной музыкальной культуры и ее ценностей. Оно устанавливает концепцию того, что является музыкально разборчивым, понятным, допустимым и возможным. Состоящее примерно из 12 000 деревянных, стальных, войлочных и проволочных деталей, фортепиано представляет собой квазицифровую систему, в которой тональность — это работа клавиш, а интервалы, гаммы и гармонические возможности контролируются конструкцией и производством машины.
Фортепиано, конечно, было изобретено, но не вами и не мной. Мы сталкиваемся с ним. Оно существует до нас и требует нашего подчинения. Научиться играть — значит измениться, приспособить свою осанку, руки, пальцы, ноги и ступни к механическим требованиям фортепиано. В режиме фортепианной клавиатуры от нас требуется, чтобы мы сами стали роялями, то есть продолжением самой машины.
Но мы не можем. И не сможем. Научиться играть, взять на себя управление машиной для нас — значит бороться. Трудно освоить требования инструмента.
Овладеть фортепиано — это не просто подчиниться требованиям машины. Это значит оттолкнуться, сказать «нет».
И этот факт — трудности, с которыми мы сталкиваемся перед лицом настойчивых требований клавиатуры, — продуктивен. Мы создаем из этого искусство. Это не позволяет нам быть пианистами, но это именно то, что требуется, чтобы стать пианистами.
Ведь именно чреватые отношения игрока с машиной, с историей и традицией, которые навязывает машина, служат сырьем для музыкального изобретения. Музыка и игра происходят в этом сплетении. Овладеть фортепиано, как это может сделать только человек, — это не просто подчиниться требованиям машины. Это, скорее, отталкивание, отказ, ярость против машины. И поэтому, например, мы шлепаем, бьем, кричим. Таким образом, фортепиано становится не просто средством привычки и контроля — механизмом, — а скорее возможностью для действия и самовыражения.
Как и в случае с фортепиано, так и во всей культурной жизни человека. Мы живем в путах между властью и сопротивлением. Мы сопротивляемся.
Подумайте о языке. Мы не просто разговариваем, слепо следуя правилам. Разговор для нас — это проблема, и правила, какими бы они ни были, являются предметом споров и разногласий. Нам всегда, неизбежно и с самого начала, приходится сталкиваться с тем, как трудно говорить, как мы можем неправильно понять друг друга, хотя в большинстве случаев это происходит без лишнего напряжения. Разговор почти неизбежно ставит под сомнение выбор слов, требует переформулирования, повторения и исправления. Что вы имеете в виду? Как вы можете это сказать? Таким образом, разговор с самого начала и в качестве одного из своих основных режимов содержит внутри себя критику и рефлексию по поводу разговора, которые в итоге меняют то, как мы говорим. Мы не просто действуем, так сказать, в потоке. Поток ускользает от нас, и вместо него мы познаем стремление, спор и переговоры. Таким образом, мы меняем язык, используя его; и это то, чем является язык — местом захвата и освобождения, вовлечения и критики, процессом. Мы никогда не сможем отделить простое делание, мастерство, привычку — то, что эффективно имитируют машины, — от того, как эти делания, взаимодействия и навыки становятся новыми, преобразуются благодаря самим актам их совершения. Все это переплетено. Это важнейший урок, касающийся самой формы человеческого познания.
Если держать в поле зрения язык, фортепиано и игры и не упускать из виду то, что я называю запутанностью, — способы, с помощью которых продолжение работы запутывается со всем, что требуется для того, чтобы справиться с тем, как трудно продолжать работу! — тогда становится ясно, что дискуссия об ИИ имеет тенденцию бездумно предполагать одностороннее, «персиково-сливочное» упрощение человеческих способностей и когнитивной жизни. Как будто речь — это простое применение правил, а игра на фортепиано — это просто выполнение инструкций. Но представить себе пользователей языка, которые не боролись бы также активно с проблемами разговора, означало бы представить себе нечто, что является, по меньшей мере, оболочкой или подобием человеческой жизни с языком. На самом деле, это значит представить себе язык машин (таких как LLM).
Показательный факт: компьютеры используются для того, чтобы играть в наши игры; они созданы для того, чтобы делать ходы в пространстве, открываемом нашими заботами. У них нет своих забот, и они не создают новых игр. Они не изобретают нового языка.
Британский философ Р. Г. Коллингвуд заметил, что художник не изобретает живопись, а музыкант не изобретает музыкальную культуру, в которой он оказался. Для Коллингвуда это служило доказательством того, что ни один человек не является полностью автономным, богоподобным источником творчества; мы всегда в той или иной степени являемся переработчиками и сэмплерами, а в лучшем случае — участниками чего-то большего, чем мы сами.
Но это не следует понимать так, что мы становимся теми, кто мы есть (художниками, музыкантами, ораторами), делая то, что делают, например, магистранты — то есть просто обучаясь на больших массивах данных. Люди не обучаются. У нас есть опыт. Мы учимся. И для нас изучение языка, например, — это не обучение генерированию «следующей лексемы». Мы учимся работать, играть, есть, любить, флиртовать, танцевать, драться, молиться, манипулировать, договариваться, притворяться, изобретать и думать. И, что очень важно, мы не просто принимаем то, чему учимся, и продолжаем жить дальше; мы всегда сопротивляемся. Наши ценности всегда проблематичны. Мы не просто генерируем слова. Мы создатели смысла.
Мы не можем не делать этого; ни один компьютер не может этого сделать.
Оригинал: Aeon
