Сделает ли ИИ наше мышление богаче — или обеднит его?
Автор: Кваме Энтони Аппиа
Тревожный шёпот уже перешёл в шум, а заголовки варьируются лишь по форме, но не по сути: «Ваш мозг под влиянием ChatGPT», «ИИ делает вас глупее», «ИИ убивает критическое мышление». Когда-то мы боялись失ёдшего из-под контроля разума, который уничтожит нас, попутно превратив планету в фабрику скрепок. Теперь, когда чат-боты проходят тот же путь, что и Google — от чуда к обыденности, — сместился и нерв: от апокалипсиса к атрофии. Особенно часто о «разложении» говорят учителя. Для этого явления есть не слишком благозвучный, но довольно точный термин: разучивание, «обескучивание навыков» (de-skilling).
Эти опасения сложно назвать надуманными. Школьники, которые поручают Gemini пересказать «Двенадцатую ночь», могут так и не научиться разбираться с Шекспиром сами. Студенты-юристы, доверяющие Harvey AI юридический анализ, рискуют не развить тот «интерпретационный мускул», который их предшественники считали само собой разумеющимся. В недавнем исследовании нескольким сотням участников из Великобритании дали стандартный тест на критическое мышление и расспросили об их опыте использования ИИ для поиска информации и принятия решений. Молодые пользователи чаще опирались на технологии — и набрали более низкие баллы. Общий вывод прост: используй или потеряешь. В другом исследовании изучали врачей, проводящих колоноскопию: спустя три месяца работы с системой ИИ, которая помогала им отмечать полипы, они стали хуже находить их без подсказок машины.
Но ключевая загадка не в том, существует ли разучивание — оно очевидно существует, — а в том, чем именно оно является. Все ли формы разучивания разрушительны? Или есть такие, с которыми вполне можно жить — более того, которые можно приветствовать? De-skilling — это общий мешок, куда сваливают потери радикально разного рода: какие-то дороги, какие-то пустяковы, а какие-то даже странным образом плодотворны. Чтобы понять, что на самом деле поставлено на карту, нужно внимательно посмотреть, как именно навыки расплетаются, стираются или преобразуются при появлении новых технологий.
Наши чат-боты новые. Архитектура типа «трансформер», на которой они основаны, была придумана в 2017 году, а ChatGPT вышел в публичный доступ всего пять лет спустя. Но страх перед тем, что новая технология притупит ум, древен. В «Федре», написанном в IV веке до н. э., Сократ пересказывает миф, в котором египетский бог Тот предлагает царю Тамусу дар письменности — «средство для памяти и мудрости». Тамус не впечатлён. Письмо, предупреждает он, сделает противоположное: породит забывчивость, позволит людям обменять труд запоминания на знаки на папирусе и принять видимость понимания за саму мудрость. Сократ встаёт на сторону Тамуса. Письменные слова, жалуется он, никогда не отвечают на конкретные вопросы; обращаются со всеми одинаково — с мудрецом и с глупцом; и бессильны, когда их неправильно понимают.
Разумеется, причина, по которой мы вообще знаем этот эпизод, — и по которой он с завидным постоянством всплывает в оптимистических историях о прогрессе технологий, — в том, что Платон его… записал. Но критики письма были не во всём неправы. В устных культурах певцы носили эпосы в голове; гриоты по памяти воспроизводили века генеалогий. С появлением письма такая память перестала быть жизненно необходимой. Идеи можно было «впитывать», не борясь с ними. Диалог требует ответа — уточнения, возражения, исправления. (Иногда хватало и «Очень верно, Сократ», но всё же.) Чтение, напротив, позволяет просто греться в чужом блеске, согласно кивать, ни разу не столкнувшись с самим собой.
То, что с одной точки зрения выглядит потерей, с другой оказывается приобретением. Письмо открыло новые ментальные территории: комментарий, юриспруденцию, надёжную историю, науку. Учёный, исследователь устной и письменной культуры Уолтер Дж. Онг выразился кратко: «Письмо — это технология, которая перестраивает мышление». Этот рисунок нам знаком. Когда моряки начали пользоваться секстантом, они оставили позади старое искусство чтения неба, тонкую науку по звёздам выводить корабль в гавань. Позже спутниковая навигация лишила смысла и навык работы с секстантом. Владелец «Форда-Т» в своё время непременно был и механиком: он умел латать камеры, на слух выставлять зажигание и заставлять заглохший мотор снова оживать. Современные сверхнадёжные двигатели спрятали свои тайны под капотом. Логарифмические линейки уступили место калькуляторам, калькуляторы — компьютерам. Каждый раз индивидуальное мастерство блекло, зато общая эффективность росла.
Это утешительный сценарий — что-то теряем, что-то приобретаем. Но иногда приобретения обходятся дороже. Они меняют не только то, что люди умеют делать, но и то, кем они себя чувствуют.
В 1980-е годы социальный психолог Шошанна Зубофф работала на целлюлозных заводах в южных штатах США, когда там переходили от ручного управления к компьютерному. Операторы, которые раньше оценивали целлюлозу на ощупь («Она гладкая? Липкая?»), теперь сидели в кондиционированных комнатах и смотрели, как цифры бегут по экранам: старые навыки оставались невостребованными и неоценёнными. «Когда я делаю свою работу через компьютер, ощущения другие, — говорил один из них. — Это как будто ты сидишь на большой мощной лошади, но у тебя за спиной другой человек, держащий поводья». Новая система работала быстрее, чище, безопаснее — но и выхолащивала смысл труда.
Социолог Ричард Сеннетт записал похожую трансформацию в одной пекарне в Бостоне. В 1970-х там трудились греки, которые по запаху и цвету определяли, готов ли хлеб, и гордились своим ремеслом; в 1990-х их сменили рабочие, управлявшие печами через сенсорный экран с интерфейсом «под Windows». Хлеб превратился в пиктограмму — его цвет определялся по данным, сорт выбирали в цифровом меню. Так обеднение навыков обернулось обеднением идентичности. Хлеб по-прежнему был хорош, но люди на кухне понимали, что они уже не настоящие пекари. Одна работница сказала Сеннeтту, полу в шутку: «Пекарь, сапожник, наборщик — да что угодно, у меня всё это “есть”». Она имела в виду, что ей никакие навыки в сущности уже и не нужны.
В культурной сфере отступление от прикосновения — от непосредства — тоже идёт давно. В домах европейского среднего класса XIX века любить музыку почти обязательно означало её играть. Симфонии приходили в гостиную не через стереосистему, а в виде переложения для фортепиано в четыре руки: одна клавиатура, четыре ладони, и домочадцы как могли «вызывали» к жизни Первую симфонию Брамса. Это требовало навыка: умения читать ноты, освоенной техники, способности через пальцы «собрать» оркестр. Чтобы услышать любимую музыку, нужно было заниматься.
Потом пришёл граммофон, и домашние пианино стали покрываться пылью. Выгоды были очевидны: можно было буквально привести оркестр в гостиную, расширить слух от салонных пустячков до Дебюсси, Штрауса, Сибелиуса. Современный меломан стал, возможно, меньшим исполнителем, но в каком-то смысле большим слушателем. Однако широта пришла ценой глубины. Тот, кто выучивал пьесу, получал интимное чувство её стыков и изгибов. А ребёнок с модным «викролой» — получал ли он это?
Чувство отчуждения — что между тобой и «настоящим» встал лишний слой — всплывает всякий раз, когда появляется сильный инструмент. Логарифмическая линейка, начиная с XVII века, уменьшила потребность в виртуозном устном счёте; через столетия карманный калькулятор вызвал тревогу у некоторых инженеров, которые опасались, что притупится «числовое чутьё». Опасения были не без основания. Нажать на клавишу «cos» легко, но то, что стоит за полученным числом, может ускользать. Даже в куда более высоких сферах беспокойство оставалось. Физик из MIT Виктор Вайскопф тревожился, видя растущую зависимость коллег от компьютерного моделирования. «Компьютер понимает ответ, — говорил он, когда ему приносили распечатки. — А вот вы, боюсь, — нет». Это был тот же Egyptian King, только в цифровой версии: уверенность, что люди принимают результат за понимание.
В эпоху того, что Зубофф назвала «эрой умной машины», автоматизация в основном была замкнута в рабочем пространстве — в цеху, на заводской кухне, в кабине самолёта. В эпоху персонального компьютера и затем интернета технологии вырвались в дом, стали универсальными, сплелись с повседневностью. К 2000-м исследователи уже задавались вопросом, что делает с нами поисковик. Журналы выходили с заголовками вроде «Вот что Google делает с вашим мозгом». Паника была чрезмерной, но эффекты — реальными. В одном широко цитируемом исследовании обнаружили, что в определённых условиях люди запоминают не сам факт, а то, где его можно найти.
На самом деле человеческое мышление всегда «протекало» за пределы черепа — в инструменты, знаки и в других людей. (Вспомните знакомые пары: один хранит в голове все дни рождения, другой знает, где лежат паспорта.) От времён костяных счётных палочек до глиняных табличек мы десятки тысяч лет складываем мысль во внешний мир. Инструменты есть у многих видов, но их навыки умирают вместе с ними; наши же навыки накапливаются как культура — эстафетная палочка разума. Мы наследуем её, расширяем, перестраиваем так, чтобы каждое поколение могло взобраться выше предыдущего: от каменных ножей — к костяным иглам, к печатному станку, к квантовым компьютерам. Именно эта сложная, внешне хранимая, передаваемая и наращиваемая сеть прозрений отличает Homo sapiens. Бонобо живут в экологическом настоящем. Мы живём в истории.
Накопление, в свою очередь, имеет важное следствие: оно ведёт к специализации. По мере расширения знания оно перестаёт размещаться одинаково в каждой голове. В маленьких группах все могли выслеживать дичь, собирать растения, разводить огонь. Но когда после аграрной революции общества разрослись, расплодились ремёсла и цеха — мастера, умевшие кузнечно закалить лезвие, каменщики, знавшие, как не дать своду рухнуть, стеклодувы, бережно хранившие рецепты и техники. Навыки, когда-то жившие в теле, переехали в инструменты и поднялись в институты. Со временем разделение труда стало неизбежно разделением «когнитивного» труда.
Философ Хилари Патнэм как-то заметил, что может вполне осмысленно употреблять слово «вяз» (elm), хотя не отличит вяз от бука. Ссылка — дело социальное: вы можете говорить о вязах потому, что другие члены языкового сообщества — ботаники, садоводы, лесники — умеют их опознавать. То, что верно для языка, верно и для знания. Человеческие способности живут не только внутри отдельных индивидов, но и в сетях, которые они образуют: каждый из нас полагается на других там, где сам не спец. Масштабирование превратило обмен между людьми в системную взаимозависимость.
Результат — мир, в котором, по знаменитому примеру, никто не умеет сделать карандаш целиком. Одному человеку понадобились бы навыки лесоруба, оператора пилорамы, шахтёра, химика, лакировщика — невидимая цепочка ремесла за самым простым предметом. Марк Твен в «Янки из Коннектикута при дворе короля Артура» воображал инженера XIX века, заброшенного в Камелот, который поражает местных чудесами современной техники. Читатели легко принимали эту фантазию. Но если забросить туда инженера XXI века, он окажется почти беспомощен. Сделать из ничего изолированный провод? Смешать динамит? С нуля собрать телеграф? Большинство из нас окажутся в тупике уже на этапе «подключиться к Wi-Fi».
Разделение умственного труда сегодня столь глубоко, что два физика едва ли поймут друг друга — один моделирует тёмную материю, другой строит квантовые сенсоры. Научное мастерство сегодня — это знать всё больше о всё меньшем. Такая концентрация даёт поразительный прогресс, но и заставляет отдавать себе отчёт, насколько узка наша компетенция: специалисты наследуют концептуальные инструменты, которыми умеют пользоваться, но давно не умеют создавать сами. Даже математика, которую долго романтизировали как царство одиноких гениев, работает теперь так же. Когда Эндрю Уайлс доказал Великую теорему Ферма, он не выводил каждую вспомогательную лемму заново; он собирал результаты, которым доверял, хотя и не воспроизводил лично, возводя структуру, которую видел целиком, даже если не сам выточил каждый брус.
Расширение сотрудничества изменило само понимание знания. Знание, которое раньше представлялось личным владением, стало отношением — вопросом о том, насколько хорошо мы умеем находить, интерпретировать и синтезировать то, что знают другие. Мы живём внутри сети распределённого интеллекта, опираясь на специалистов, базы данных и приборы, чтобы удлинять собственную «длину руки». Масштаб многое говорит: в статье в Nature, объявившей о структуре ДНК, было два автора; в современной статье по геномике в Nature их может быть сорок. В двух статьях, объявивших о бозоне Хиггса, — тысячи. Большая наука велика не случайно. В какой-то момент было неизбежно, что в эту сеть добавится новый участник — способный не только хранить информацию, но и имитировать понимание как таковое.
Старая грань между информацией и навыком, между «знанием того, что» и «знанием того, как», в эпоху больших языковых моделей размывается. В одном смысле эти модели статичны: замороженная матрица весов, которую можно скачать себе на ноутбук. В другом — динамичны: запущенные, они в режиме реального времени генерируют ответы. Они делают то, чего, по жалобе Сократа, письмо делать не могло: отвечают на вопросы, подстраиваются под собеседника, поддерживают разговор. (Иногда даже сами с собой: когда модель «кормит» свои ответы на вход, исследователи ИИ называют это «рассуждением».) Google легко было представить продолжением памяти; большая языковая модель многим кажется уже заменителем самого мышления. Используя новые формы искусственного интеллекта, мы усиливаем собственный разум — или же это искусственный разум, мягко ступая на цыпочках, входит в свои права?
Джинна обратно в бутылку не сунуть, но мы можем решить, какие заклинания ему произносить. Когда люди говорят о разучивании, они обычно представляют себе индивида, потерявшего сноровку — пилота, у которого ржавеют навыки ручного пилотирования, врача, который без помощи ИИ с большей вероятностью пропускает опухоль. Но сегодня большую часть сложной работы делают команды, и приход ИИ этого не отменил. Вопрос не в том, как люди в целом смотрятся на фоне ботов, а в том, как люди, вооружённые ботами, выглядят по сравнению с теми, кто ими не пользуется.
Некоторые боятся, что зависимость от ИИ сделает нас хуже в такой степени, что это перекроет все обещанные выгоды. В то время как генеральный директор Anthropic Дарио Амодеи в целом спокойно рисует образ «страны гениев», другие видят перед собой страну идиотов. Этот спор повторяет старую дискуссию о так называемой «компенсации риска»: если добавить ремни безопасности или антиблокировочную систему, утверждали несколько десятилетий назад некоторые социальные учёные, люди просто начнут ездить более безрассудно, и выигрыш по безопасности будет «съеден» новым стилем вождения. Позднейшие исследования дали более обнадёживающую картину: да, люди подстраиваются, но лишь частично — значительная часть выгоды сохраняется.
Похожее, кажется, происходит и в клинике, где ИИ уже больше десяти лет используется довольно широко. Вспомним исследование колоноскопий: после работы с системой ИИ безмашинная частота обнаружения полипов у гастроэнтерологов упала на шесть процентных пунктов. Но когда в другом исследовании объединили данные 24 тысяч пациентов, картинка изменилась: помощь ИИ в целом увеличивала частоту обнаружения примерно на 20 процентов. (Здесь речь шла об экспертной системе — узкоспециализированной, надёжной форме машинного обучения, а не генеративном ИИ, который движет чат-ботами.) Чем выше частота обнаружения, тем меньше пропущенных раков, — и такой «кентаврический» подход явно приносит пользу, даже если отдельные врачи становятся чуть менее натренированными. Если сотрудничество с системой спасает жизни, гастроэнтерологу было бы безответственно из гордости настаивать на «полёте в одиночку».
В других сферах, судя по некоторым новым исследованиям, чем выше квалификация человека, тем эффективнее сотрудничество. В одном эксперименте люди превосходили ботов в задачах, где нужно было различать два вида крапивников и два вида дятлов по изображениям. А вот в определении фейковых отзывов об отелях выигрывали машины. (Своих узнают, как говорится.) Затем исследователи объединили людей и ботов, позволяя людям принимать решения с учётом подсказок системы. Результат зависел от задачи. Там, где человеческая интуиция слаба — как в случае с отзывами, — люди слишком часто сомневались в выводах модели и тянули общий результат вниз. Там же, где их интуиция была хороша, они работали с машиной в унисон: доверяли себе, когда были уверены, и понимали, когда система подмечала что-то, что ускользало от них. В задачах с птицами связка «человек + бот» обгоняла и человека, и бота по отдельности.
То же логика проявляется и в других областях: как только машина входит в рабочий процесс, мастерство может смещаться от производства к оценке. Исследование 2024 года программистов, использующих GitHub Copilot, показало, что ИИ скорее перенаправляет человеческий навык, чем отменяет его. Кодеры меньше времени тратили на написание кода и больше — на его оценку: поиск логических ошибок, учёт крайних случаев, «чистку» скрипта. Навык мигрировал из сочинения в надзор.
И именно это всё чаще должно означать «человек в контуре». Экспертиза смещается от написания первого черновика к его редактированию, от скорости — к суждению. Генеративный ИИ — система вероятностная, а не детерминированная; он возвращает не истину, а вероятности. Когда на карту поставлено что-то реальное, квалифицированные люди должны оставаться ответственными за итоговое решение: заметить, когда модель оторвалась от реальности, и относиться к её ответу как к гипотезе, которую нужно проверить, а не команде, которую нужно выполнить. Это новый, возникающий навык — и критически важный. Будущее экспертизы будет зависеть не только от того, насколько хороши наши инструменты, но и от того, насколько хорошо мы умеем думать вместе с ними.
Но сотрудничество предполагает компетентность. Кентавр будет ходить по кругу, если человеческая половина не понимает, что делает. Отсюда паника вокруг обучения. Нельзя разучиться тому, чему никогда не учился. Как же прививать базовые компетенции в мире, где «лучший в истории домашний решатель задач» лежит в кармане у каждого ученика?
Тем из нас, кто учит других, теперь нужно много поучиться самим. Старые приёмы требуют перестройки; в последние пару лет слишком много студентов, по тревожному выражению, как будто «специализируются по ChatGPT». И всё же слишком рано уверенно судить, каким в целом будет педагогический эффект ИИ. Да, он может притупить некоторые углы. Но при разумном использовании способен и заострить их.
Возьмём недавний рандомизированный эксперимент на большом курсе физики в Гарварде. Половина студентов проходила два раздела курса в режиме традиционной «лучшей практики»: активные занятия, работа руками, опытный преподаватель. Другая половина работала с специально созданным ИИ-репетитором. Потом группы поменялись местами. В обоих циклах студенты, занимавшиеся с ботом, показывали более высокие результаты — и заметно. Они не только лучше усваивали материал, но и быстрее работали, а также сообщали о более высокой мотивации и вовлечённости. Система была спроектирована так, чтобы вести себя как хороший тренер: показывать, как большие задачи разбиваются на меньшие, давать подсказки вместо готовых ответов, дозировать обратную связь и подстраиваться под темп каждого ученика.
В этом и заключалась сила старой тьюторской системы: внимание. Я помню свои первые недели в Кембриджском университете, когда один на один сидел с преподавателем биохимии. Когда я говорил: «Вроде бы я понял», он продолжал спрашивать до тех пор, пока оба не убеждались, что я действительно понял. Это прицельное внимание и было сущностью кембриджской супервизии. При должной настройке крупные языковые модели обещают массово производить такой формат внимания — не свитер, не дымящуюся трубку, не задумчивую мину, а устойчивое, отзывчивое давление, которое превращает путаницу в понимание.
Машины не заменят наставников. Их обещание в другом: взять на себя рутинную часть репетиторства — проверку алгебры, отработку теорем, напоминание про единицы измерения, убеждение, что студент действительно понял, как устроены ионные каналы. Это, по идее, освобождает учителя для других важных задач: объяснять большие идеи, требовать изящества, говорить о карьере, заметить, когда студент на грани выгорания.
Это радужный сценарий. Нам стоит осторожно относиться к выводам одного-двух исследований. (В исследовании турецких старшеклассников какого-то серьёзного эффекта от бота-репетитора не обнаружили.) И помнить, что физики из Гарварда разумно пользовались своим цифровым наставником ещё и потому, что им предстояли аудиторные экзамены — с преподавателем, секундомером и холодным взглядом проверяющего.
Нужно помнить и другое: то, что работает в STEM-дисциплинах, может не сработать в гуманитарных. Курсовая, при всей своей занудности, приучает к дисциплине, которую трудно воспроизвести в устном формате: строить аргумент шаг за шагом, взвешивать доказательства, организовывать материал, вытачивать собственный голос. Некоторые из нас, работающих с бакалаврами, стали говорить амбициозным студентам: если вы напишите работу, мы её прочтём и обсудим с вами, но в оценку курса она не пойдёт. Это скорее утешение, чем решение. В странном культурном развороте устность, возможно, снова возьмёт на себя большую нагрузку. Не окажется ли так, что Сократ — великий защитник диалога — всё-таки произнесёт последнее слово?
Разрушительное разучивание остаётся вполне реальной угрозой — медленная атрофия базовых когнитивных и перцептивных способностей из-за чрезмерной зависимости от инструментов, без какой-либо компенсирующей выгоды. Такие дефекты обедняют «резервы» системы — умения, которые редко нужны, но крайне важны, когда всё идёт не по плану. Без этих резервов устойчивость падает, уязвимость растёт. Вспомним пилота авиалайнера, который проводит тысячи часов, контролируя автопилот, а когда система даёт сбой, впадает в ступор. Некоторые теоретики автоматизации различают «человека в контуре» — активно включённого в процесс, — и «человека над контуром», который лишь подписывает итог после работы машины. Второй вариант, если он плохо организован, приводит к тому, о чём ещё давно предупреждала психолог Лизанн Бейнбридж: к размыванию роли, снижению осознанности, утрате боевой готовности. Как спасатель, который день за днём наблюдает за уверенными пловцами в тёплом море: ему почти никогда не нужно вмешиваться — но когда нужно, он обязан действовать молниеносно и умело.
Та же логика преследует офисную работу любого типа. Если юристы, менеджеры проектов и аналитики месяцами лишь утверждают то, что система уже написала или вывела, они становятся «над контуром» и теряют навыки. Парадокс частичной автоматизации в том, что чем лучше система работает, тем меньше повод у людей оставаться в форме — и тем менее готовы они к редким, но критическим сбоям. Лекарство, вероятно, лежит в сфере организационного дизайна. Например, компания может регулярно проводить тренировки — аналогичные тому, как пилоты регулярно проходят тренажёры, — в которых людям приходится оспаривать решения машины и убеждаться, что их собственная способность к реальному суждению не заржавела за долгий период безмятежного «автопилота».
Резервные навыки, во многих случаях, не обязательно должны быть у каждого; важно, чтобы они вообще где-то в системе существовали — как те самые эксперты по вязам. Именно поэтому Военно-морская академия США, встревоженная риском подавления сигналов GPS, вернула курс по основам астрономической навигации после долгих лет забвения. Большинство моряков никогда не возьмут секстан в руки посреди океана, но если хотя бы несколько человек освоят его всерьёз, этого может оказаться достаточно, чтобы удержать флот на курсе, когда спутники замолкнут. Задача — обеспечить, чтобы хотя бы немного воплощённой компетентности сохранялось, и когда система оступится, человек смог устоять — или хотя бы удержаться на плаву.
Самый тревожный сценарий — то, что можно назвать «конститутивным разучиванием»: эрозия способностей, которые и составляют нашу человечность. Суждение, воображение, эмпатия, чувство меры и значимости — это не резервные опции, а ежедневные практики. Если, по тревожной формулировке Жана-Поля Сартра, мы превратимся в «машину машины», потеря проявится в самой фактуре обыденной жизни. Исчезать будет то тихое, телесно закреплённое знание, на котором держится наша повседневная разборчивость. Если люди начнут формулировать вопросы так, как «предпочитает» система, и выбирать ответ из предлагаемых ею готовых шаблонов, урон проявится не в виде громких провалов суждения, а как постепенное истончение характера: поверхностные разговоры, снижение терпимости к неоднозначности, склонность к автоматическим формулировкам там, где раньше мы искали точное слово, тихая подмена понимания на беглость. Передав эти способности наружу, мы, по сути, передадим наружу самих себя. Их потеря изменит не только то, как мы работаем, но и то, кем мы являемся.
Большая часть форм разучивания, если смотреть с исторической высоты, безобидна. Одни навыки исчезают просто потому, что исчезает инфраструктура, на которой они держались. Телеграфия требовала свободно владеть «точкой и тире»; набор на линотипе — уверенной работы на клавиатуре, выливающей раскалённый металл; монтаж на плоском столе — умения обращаться с жирным карандашом и скотчем, плюс умственной карты того, где именно на плёнке и дорожках живут сцены. Когда телеграфные линии, печатные машины и целлулоид ушли, ушли и ремёсла.
Другая разновидность разучивания — просто ликвидация рутинного труда. Мало кто тоскует по эпохе, когда бельё приходилось часами тереть руками, или по временам, когда длинное деление на бумаге было повседневной обязанностью. Один знакомый нейробиолог клянётся большими языковыми моделями: они ускоряют для него мучительное, штампами перегруженное занятие — написание заявок на гранты. За содержание он по-прежнему отвечает сам, но если его умение писать гранты притупится, его это не тревожит. Это, по его мнению, не наука; это ритуал, который требует от учёных экономика исследований. Сняв часть этой нагрузки, он получает обратно время для открытий.
Профессиональное разучивание может, по сути, быть и демократизирующим: расширять круг тех, кто может заниматься той или иной работой. Для учёных, испытывающих трудности с английским, чат-боты могут сглаживать формулировки в документах для этических комитетов и других институций, убирая языковой барьер, который мало связан с качеством самой работы. Такое разучивание расширяет доступ. Или вспомним пекарню Сеннeтта и греческих мужчин, которые раньше работали у печей. Печи обжигали им руки, старые тестомесы тянули мышцы, тяжёлые листы с хлебом портили спину. В 1990-х, когда систему перевели на Windows-контроллер, коллектив изменился: у экранов стояли уже мужчины и женщины разных национальностей. Само ремесло «сузилось» — зато круг потенциальных работников вырос. (И да, их труд подешевел: шире вход — ниже ставка.)
Часто мы отказываемся от одних навыков, потому что технологии позволяют лучше использовать время и развивать другие, более «высокоуровневые». На одном из целлюлозных заводов Зубофф писала, что, освободившись от ручной рутины, операторы смогли больше времени уделять предвидению и предотвращению проблем. «Теперь часть моей работы — просто сидеть в этой комнате и думать», — сказал один из них. Зубофф называла это повторным обучением (reskilling): моторные навыки уступали место абстракции и процедурному мышлению, тому, что она называла «интеллективными навыками». Похожее случилось с бухгалтерами после появления электронных таблиц вроде VisiCalc: вместо того чтобы бесконечно сводить колонки, они могли сосредоточиться на налоговой стратегии и анализе рисков.
И, ещё радикальнее, новые технологии способны рожать совершенно новые виды мастерства. До микроскопа были естествоиспытатели, но не было микроскопистов: Роберту Гуку и Антони ван Левенгуку пришлось заново выучиться видеть и интерпретировать невидимое. Кинематограф не просто занял нишу рядом с театром; он привёл к появлению операторов и монтажёров, чьё ремесло не имело прямых аналогов в прошлом. Каждой крупный технологический скачок расширял поле возможного. Сейчас, утверждают мои молодые коллеги, уже происходит то же. Работа с большими языковыми моделями, говорят они, учит новому виду ремесла — умению задавать вопросы, тестировать систему, замечать предвзятости и «галлюцинации», и да, думать вместе с машиной. Это рождающиеся навыки, следствие нашего всё более тесного переплетения с цифровой архитектурой, которая никуда не исчезнет. Важные технологии по природе своей вызывают к жизни ремёсла и призвания, для которых у нас пока нет названий.
Сложнее всего — без ностальгии и инерции решить, какие навыки стоит хранить, а какие — отпустить. Никому не приятно видеть, как тяжело заработанное умение объявляют мусором истории, и потому так важно сопротивляться сентиментальности. Каждый шаг вперёд чего-то стоил. Грамотность ослабила феноменальную память, но создала новые мощи анализа. Калькуляторы ударили по устному счёту, но позволили большему числу людей «делать математику». Записанный звук ослабил бытовую музыкальность, но изменил сам способ слушания. А сегодня? В какой-то мере у нас есть выбор — позволить ли LLM расширить наши умы или сузить их.
На протяжении всей человеческой истории наши способности никогда не стояли на месте. «Знание как умение» всегда вытекало наружу — из рук в инструмент, из инструмента в систему. Индивидуальная сообразительность рассеивалась в коллективный, координированный интеллект, подталкиваемый нашей застарелой привычкой «выносить мысль вовне»: складывать память в знаки, логику — в машины, суждение — в институты, а теперь и предсказание — в алгоритмы. Специализация, когда-то создавшая ремесленные цеха, теперь рождает исследовательские консорциумы; то, что раньше передавалось от мастера к подмастерью, сегодня циркулирует через сети и цифровые матрицы. Генеративный ИИ — статистическое сгущение человеческого знания — лишь последняя глава в нашей длинной истории ученичества у собственных изобретений.
Самый насущный вопрос теперь в том, как сохранить при этом собственную субъектность: как остаться авторами систем, которым предстоит взять на себя столь большую долю нашего мышления. Каждому поколению приходилось учиться жить с новыми протезами разума — стилом, свитком, смартфоном. Новизна нынешнего момента в скорости и интимности этого обмена: инструменты учатся у нас, пока мы учимся у них. Ответственная позиция теперь — заботиться о том, чтобы способности, в которых заключена наша человечность — суждение, воображение, понимание — продолжали жить в нас. Если есть навык, который мы точно не можем позволить себе потерять, то это навык различать, какие из наших других навыков по-настоящему важны.
Оригинал: The Atlantic
