Автор: Джин Трейси
Когда я был студентом, в далёкие времена, когда большинство компьютеров предпочитали занимать половину комнаты, у меня был друг, научный руководитель которого настаивал на том, чтобы он выполнял длинный и сложный расчет теории атома вручную. В результате вычисления изобиловали помарками и ошибками, что невероятно злило моего товарища. Однажды ночью он пробрался в компьютерную лабораторию и написал короткий код для расчета. Затем кропотливо скопировал вывод вручную и передал своему профессору.
«Отлично» — сказал профессор – «это показывает, что вы настоящий физик». Старик так никогда не узнал, что произошло. В то время как я потерял связь со своим другом, я знаю многих других, которые продолжали делать успешную научную карьеру, не овладев героической карандашной бумагой прошлых поколений.
Принято обсуждать переходные процессы в обществе, концентрируясь на новых необходимых навыках. Но вместо того, изучать полезные навыки, возможно нам следует идти от обратного: что становится безопасным забывать? В 2018 году журнал Science опросил десятки молодых ученых на тему того, от каких предметов в учебных курсах стоит отказаться. Многие говорили, что мы должны сократить время, затрачиваемое на запоминание фактов, и дать больше места для творческих занятий. Поскольку Интернет становится все более мощным и всеобъемлющим, возникает резонный вопрос: зачем беспокоиться о запоминании и сохранении информации? Если студенты могут получить доступ к мировым знаниям с помощью смартфона, почему они должны носить так много в своих головах?
Цивилизации развиваются через стратегическое забвение того, что когда-то считалось жизненно необходимыми навыками. После аграрной революции эпохи неолита крестьянин мог позволить себе избавиться от большого количества навыков по охоте и собирательству. В последующие тысячелетия, когда производство стало приобретать огромное значение, уже умение читать и писать стали жизненно важными, а знание вспашки и уборки урожая отходило на второй план.
Многие из нас сейчас быстро теряются без нашего смартфона GPS. Что же будет дальше? С приходом беспилотных авто мы забудем, как ориентироваться в пространстве? Окруженные ИИ распознавания голоса, скоторые могут анализировать самые тихие и сложные слова мы забудем, как писать? И имеет ли это значение?
В конце концов, большинство из нас уже не знают, как выращивать пищу, которую мы едим, или строить дома, в которых живем. Мы не разбираемся в животноводстве, в том, как крутить шерсть, или, может быть, даже в том, как менять свечи зажигания в автомобиле. Большинству из нас не нужно знать эти вещи, потому что мы являемся членами того, что социальные психологи называют «сетями с транзакционной памятью».
Мы постоянно участвуем в «транзакциях памяти» с сообществом «партнеров по памяти» посредством таких мероприятий, как беседа, чтение и письмо. Как члены этих сетей, большинству людей теперь не нужно помнить большинство вещей. Это не потому, что знание полностью забыто или потеряно, а потому, что кто-то или что-то еще сохраняет его. Нам просто нужно знать, с кем поговорить или куда пойти посмотреть. Унаследованный талант к такому кооперативному поведению — дар эволюции, и он значительно расширяет нашу эффективную память.
Новым является то, что нашими партнерами по памяти теперь являются интеллектуальные машины. Но ИИ — такой как поиск Google – суперэффекктивным партнёром. Он мгновенно реагирует и всегда доступен. И дает нам доступ к большой части всего хранилища человеческих знаний.
Исследователи выявили несколько подводных камней в сложившейся ситуации. С одной стороны, наши предки развивались в группах других людей, своего рода одноранговой сети. Тем не менее, информация от других людей неизменно окрашивается различными формами предвзятости. Люди лукавят и рационализируют, могут ошибаться. Мы научились уживаться и учитывать эти недостатки. Но представление алгоритмов ИИ склоняет многих людей верить, что эти алгоритмы обязательно правильные и «объективные». Проще говоря, это волшебное мышление.
Самые передовые интеллектуальные технологии сегодня обучаются в ходе повторного процесса тестирования и оценки, когда люди все еще в конечном итоге проверяют и корректируют правильные ответы. Поскольку машины должны обучаться на конечных наборах человеческих данных, алгоритмы имеют тенденцию усиливать наши предубеждения — по признаку расы, пола и многого другого. Внутренний инструмент подбора персонала, который в Amazon использовали до 2017 года, представляет собой классический пример: обученный на основе решений внутреннего отдела кадров, он систематически ограничивал возможности кандидатов-женщин. Если мы не будем бдительны, наши супер-партнеры по ИИ могут стать супер-предвзятыми.
Второе затруднение связано с простотой доступа к информации. В сфере нецифровой информации усилия необходимые для поиска знаний у других людей или посещения библиотеки, проясняют нам, какие из знаний находятся в других головах или книгах, а что лежит в нашей голове. Но исследователи обнаружили, что явная гибкость интернет-ответа может привести к ошибочному убеждению, зашифрованному в более поздних воспоминаниях, что знания, которые мы искали, были частью того, что мы знали все время.
Возможно, эти результаты показывают, что у нас есть инстинкт «расширенного ума», идея, впервые предложенная в 1998 году философами Дэвидом Чалмерсом и Энди Кларком. Они предполагают, что мы должны воспринимать наш разум как нечто, что не только содержится в физическом мозге, но и распространяется снаружи, включая память и вспомогательные средства рассуждений: блокноты, карандаши, компьютеры, планшеты и облако.
Учитывая все более и более беспрепятственный доступ к внешним знаниям, возможно, мы развиваем все более и более расширенное «я» — скрытую личность, чье раздутое представление о себе включает размытие того, где знания находятся в нашей сети памяти. Если так, то что произойдёт, когда интерфейсы мозг-компьютер и даже мозг-мозг станут обычным делом? Эти технологии в настоящее время разрабатываются для использования парализованными пациентами, жертвами инсульта или пациентами с прогрессирующей БАС или болезнью двигательных нейронов. Но они, вероятно, станут гораздо более распространенными, когда технология усовершенствуется.
По сути появляется новый тип цивилизации, богатой искусственным интеллектом, с повсеместными точками доступа, которые позволяют нам присоединиться к гибким искусственным сетям памяти. Даже с имплантами большая часть знаний, к которым мы будем получать доступ, будет храниться не в нашем «обновленном» мозгу киборга, а удаленно. В мгновение ока, от запуска до ответа, каждый поиск Google проходит в среднем около 1500 миль в центр обработки данных и обратно и использует около 1000 компьютеров по пути. Но зависимость от сети также означает принятие новых уязвимостей. Разрушение любой из сетей, от которых зависит наше благополучие, таких как еда или энергия, станет бедствием. Без пищи мы голодаем, без энергии мы прячемся в холоде. И именно из-за широко распространенной потери памяти цивилизации рискуют провалиться в новый темный век.
Но даже если можно сказать, что машина думает, люди и машины будут думать по-разному. У нас есть сильные стороны, даже если машины зачастую не более объективны, чем мы. Работая вместе в команде, мы можем лучше играть в шахматы и принимать эффективные медицинские решения. Так почему бы не использовать умные технологии для улучшения обучения студентов?
Технологии могут потенциально улучшить образование, значительно расширить доступ и способствовать развитию человеческого творчества и благополучия. Многие люди справедливо чувствуют, что находятся в каком-то лиминальном культурном пространстве, на пороге великих перемен. Возможно, преподаватели со временем научатся становиться лучшими учителями в союзе с партнерами по искусственному интеллекту. Но в образовательной среде, в отличие от шахмат или медицинской диагностики, студент еще не является экспертом по содержанию. ИИ как всезнающий партнер по памяти может легко стать опорой, создавая студентов, которые думают, что уже могут двигаться самостоятельно.
Как показывает опыт моего друга-физика, память может адаптироваться и развиваться. Часть этой эволюции неизменно включает в себя забвение старых путей, чтобы высвободить время и пространство для новых навыков. При условии, что старые формы знаний хранятся где-то в нашей сети и могут быть найдены, когда они нам нужны, возможно, они действительно не забыты. Однако с течением времени одно поколение постепенно, но, несомненно, становится чужим для следующего.
Оригинал: Aeon
