Автор: Маттео Вонг
Легенда научной фантастики придумал термин «метавселенная». Но наиболее прозорливым он оказался в отношении нашей эпохи ИИ.
Научная фантастика, пересматриваемая спустя годы, иногда оказывается не такой уж и фантастичной. Некоторые романы имеют впечатляющий послужной список в предсказании грядущих инноваций и того, как они могут перевернуть мир: Уэллс написал об атомной бомбе за десятилетия до начала Второй мировой войны, а в романе Рэя Брэдбери «451 градус по Фаренгейту» (1953) описаны устройства, которые сегодня мы бы назвали Bluetooth-наушниками.
Пожалуй, ни один писатель не был более прозорливым в отношении нашей нынешней технологической эпохи, чем Нил Стивенсон. В его романах был введен термин «метавселенная», заложена концептуальная основа криптовалюты и представлена геоинженерная планета. А почти за три десятилетия до выхода ChatGPT он предвосхитил нынешнюю революцию ИИ. Основным элементом одного из его ранних романов, «Алмазный век», является волшебная книга, которая выступает в роли личного наставника и ментора для молодой девушки, подстраиваясь под ее стиль обучения — по сути, это персонализированный и сверхпродвинутый чатбот. Титульный «Букварь» говорит вслух голосом живого актера, известного как «рактор», что говорит о том, что современный генеративный ИИ, как и многие другие цифровые технологии, в значительной степени зависит от творческого труда человека.
В книге Стивенсона, опубликованной в 1995 году, рассматривается будущее бесшовной, мгновенной цифровой коммуникации, в котором крошечные компьютеры с огромными возможностями внедряются в повседневную жизнь. Корпорации доминируют, новости и реклама персонализированы, а экраны вездесущи. Это мир резкого классового и культурного разделения (в романе речь идет о могущественной аристократической секте, которая называет себя «неовикторианцами»), но тем не менее это мир, в котором «Букварь» представлен как лучшее из того, чем может быть технология.
Но Стивенсон гораздо более пессимистичен в отношении современного ИИ, чем в отношении «Букваря». «Чатбот — это не оракул» — сказал он мне в прошлую пятницу за чашкой Zoom. «Это статистический движок, создающий предложения, которые звучат точно». Я поговорил со Стивенсоном о его удивительно прозорливой книге и о генеративной революции в области искусственного интеллекта, которая, похоже, уже началась.
Эта беседа была отредактирована для большей ясности.
Маттео Вонг: В «Алмазном веке» Букварь — это книга, которая адаптируется к молодой девушке и учит ее, что, похоже, перекликается с видением чат-ботов и помощников с искусственным интеллектом, которое многие компании связывают с ближайшим будущим. Задавались ли вы идеей создания интеллектуальной машины при создании «Букваря»?
Нил Стивенсон: Идея пришла ко мне после того, как у нас родился ребенок и мы купили мобиль, предназначенный для подвешивания над кроваткой. На нем были изображены очень примитивные, простые фигуры, потому что, когда дети только рождаются, их зрительная система не может различить мелкие детали. Так что там были квадрат, треугольник и круг. А затем, по прошествии определенного количества дней или недель, вы должны были снять эти карточки с мобиля и наклеить другой набор, более подходящий для того, на что способен их мозг в этом возрасте. Это навело меня на мысль: а что, если распространить эту идею на все остальные формы интеллектуального развития?
Технология, положенная в основу книги, на самом деле не была искусственным интеллектом в том виде, в котором мы думаем о нем сейчас, — я разговаривал с людьми, которые работали над некоторыми базовыми технологиями, необходимыми для безопасного и анонимного общения в Интернете. Наверное, подразумевается, что в книге есть ИИ, который генерирует сюжет и повышает степень сложности в зависимости от степени обучаемости ребенка, но я не особо вдавался в эту тему; я просто предполагал, что он там будет.
Вонг: сегодня многие компании — OpenAI, Google, Meta и другие — заявили, что хотят создать ИИ-помощников, адаптирующихся к каждому пользователю, примерно так же, как Букварь действует в качестве учителя. Видите ли вы в современных моделях генеративного ИИ что-то похожее на Букварь или способное стать таковым в один прекрасный день?
Стивенсон: около года назад я работал в стартапе, который создавал ИИ-персонажей для видеоигр. Я нашел это полезным и увлекательным из-за галлюцинаций: Я мог видеть, как из супа входных данных, подаваемых ему, возникают новые модели. То же самое, что я считаю особенностью, в большинстве приложений является ошибкой. Мы уже видели примеры юристов, которые использовали ChatGPT для создания юридических документов, и ИИ просто соединял прошлые дела и прецеденты, которые казались абсолютно правдоподобными. Если подумать о том, чтобы попытаться использовать эти модели в образовании, то это тоже становится ошибкой. Они генерируют предложения, которые звучат как правильные, но за ними нет мозга, который мог бы определить, являются ли эти предложения правильными или нет.
Подумайте о любой концепции, которой мы могли бы научить кого-нибудь — например, теореме Пифагора. В Интернете наверняка есть тысячи старых и новых объяснений теоремы Пифагора. На самом деле нам нужно понять стиль обучения каждого ребенка, чтобы мы могли сразу же соединить его с тем из тысяч, который лучше всего подходит для его обучения. Для меня это звучит как проект в области ИИ, но это совсем другой вид применения ИИ, чем DALL-E или большие языковые модели.
Вонг: И все же сегодня эти языковые модели, которые в основном предсказывают последовательность слов, применяются во многих областях, где у них нет специализированных возможностей — GPT-4 для медицинской диагностики, Google Bard в качестве репетитора. Это напоминает мне термин, используемый в книге вместо искусственного интеллекта, — псевдоинтеллект, который многие критики этой технологии могли бы оценить сегодня.
Стивенсон: Я и забыл об этом. Главный прикол этой книги — применение викторианской лексики и предрассудков к высокотехнологичным вещам. Вероятно, я думал о том, что викторианцы с опаской отнеслись бы к термину «искусственный интеллект», потому что их оскорбила бы мысль о том, что компьютеры могут заменить человеческие мозги. Поэтому они, вероятно, захотели бы отнести эту идею к симуляции или «псевдо» интеллекту, в отличие от настоящего.
Вонг: около года назад в интервью Financial Times вы назвали результаты генеративного ИИ «пустыми и неинтересными». Почему это было так, и изменилась ли ваша оценка?
Стивенсон: Я подозреваю, что, делая эти замечания, я имел в виду текущее состояние технологии генерации изображений. Есть несколько моментов, которые меня не устраивают, и самый главный из них — это то, что они пользуются обесцененным трудом тысяч настоящих людей-художников. Я немного преувеличиваю, но кажется, что одно из первых применений любой новой технологии — это сделать жизнь художников еще более дерьмовой. Это, безусловно, произошло и с музыкой. Эти системы генерирования изображений, кажется, просто механизированы и превращены в оружие в немыслимых масштабах.
Другая часть мысли заключалась в том, что многие люди, которые рано увлеклись этим, просто генерировали огромные объемы материала и выкладывали их в интернет по собственной воле. Если ваш единственный способ создания картины — это кропотливое нанесение краски на холст, то результат может быть плохим или хорошим, но, по крайней мере, он является результатом множества микрорешений, которые вы принимали как художник. С каждым мазком краски вы осуществляли редакторское суждение. Этого нет в результатах работы этих программ.
Вонг: даже в «Алмазном веке» «Букварь», кажется, дает комментарии о труде художников и технологиях, что очень актуально для генеративного ИИ сегодня. Букварь учит девочку, но озвучивать текст вслух должен человек-актер, подключенный к книге цифровым способом.
Стивенсон: если вы обычный актер на сцене или в кино, вы встаете перед камерой, выступаете один раз, а потом можно сделать множество копий. В книге мне показалось, что это довольно позитивное видение будущего, где у нас есть технология, позволяющая актерам озвучивания, по сути, давать живые выступления по требованию, постоянно. Даже с сегодняшними голосовыми клонами, если разложить их на простейшие элементы, все равно есть человек, который сидел перед микрофоном и создавал этот материал. Хотя я полагаю, что такая система, как Primer, не сможет работать вживую; вероятно, у вас будет некоторая задержка — ИИ генерирует текст и отправляет его ректору, а затем ректору приходится его читать.
Вонг: А в тех масштабах, в которых работают некоторые современные программы ИИ, просто не хватит людей для этого.
Стивенсон: Сценарий, который я излагал в «Алмазном веке», заключается в том, что тракторы — дефицитный ресурс, и поэтому Букварь — это скорее предмет роскоши. Но в конце концов исходный код книги попадает в руки человека, который хочет производить ее в массовом порядке, а в мире не хватает денег и актеров, чтобы озвучить все эти книги, поэтому в этот момент он решает использовать автоматически сгенерированные голоса.
Вонг: еще одна тема в романе — доступ к образованию для разных социально-экономических классов. Букварь предназначен для аристократов, но в вашем романе также прослеживаются истории девушек из среднего и рабочего класса, которые взаимодействуют с версиями книги. Сейчас многие генеративные ИИ бесплатны, но их технология также очень дорога в эксплуатации. Как вы думаете, как может измениться ситуация с доступом к генеративному ИИ?
Стивенсон: в книге есть немного раннего интернет-утопизма, которая была написана в ту эпоху в середине 90-х годов, когда интернет только появлялся. Была тенденция считать, что, когда все знания мира появятся в сети, все будут стекаться к ним. Оказалось, что если дать всем доступ к Библиотеке Конгресса, то все будут смотреть видео на TikTok. В «Алмазном веке» отражена та же наивность, которую я разделял со многими другими людьми в те времена, говоря о том, как все эти знания повлияют на общество.
Вонг: как вы думаете, сегодня мы наблюдаем часть той же наивности у людей, рассматривающих возможности использования генеративного ИИ?
Стивенсон: Конечно. Это основано на понятном заблуждении относительно того, что эти вещи делают. Чатбот — это не оракул; это статистический механизм, который создает предложения, звучащие точно. Сейчас мне кажется, что это похоже на то, как если бы мы только что изобрели транзисторы. У нас есть несколько потребительских товаров, которые люди начинают использовать, например транзисторный радиоприемник, но мы еще не знаем, как транзистор изменит общество. Мы находимся на стадии транзисторного радио в ИИ. Я думаю, что большая часть брожения, которое происходит сейчас в отрасли, — это венчурные капиталисты, вкладывающие деньги в бизнес-планы, и команды, которые быстро оценивают множество различных вещей, которые могут быть сделаны хорошо. Я уверен, что появятся вещи, которые я не осмелюсь предсказать, потому что результаты творческого безумия миллионов людей всегда интереснее, чем то, что может придумать один человек.
Оригинал: The Atlantic
