Приложения «количественного самоанализа» анализируют наши физические и поведенческие данные. Теперь журналы искусственного интеллекта хотят получить доступ и к нашей эмоциональной жизни.
Автор: Анжела Чен
Движение «количественного самоопределения» мечтает улучшить жизнь благодаря анализу данных. Вы знаете адептов «количественного Я»: это люди, которые послушно записывают свои шаги, сон, секс — все, что можно превратить в число, а затем собрать и исследовать с помощью технологий, чтобы раскрыть секреты здоровья и счастья.
Главным препятствием для тех, кто идет по этому пути, является то, что разум не выдает своих секретов так же легко, как тело. Он существует вне досягаемости Fitbit, Garmin и Whoop. Но сегодня, возможно, он находится в пределах досягаемости набора новых приложений, основанных на искусственном интеллекте (ИИ) и больших языковых моделях (БЯМ).
Эти технологии обещают получить информацию не только о пульсе и сожженных калориях, но и о наших надеждах и мечтах. Это инструменты, которые покажут, что вы могли упустить в своей жизни и как придать ей смысл. Способ быть увиденным и познанным чем-то, обученным на огромном количестве данных, чем-то, возможно, более умным, чем вы. Чтобы это сработало, ИИ нужен доступ к месту, где записывается эмоциональное «я». Он должен прочитать ваш дневник.
По словам Кайли Карделл, исследователя автобиографических данных из Университета Флиндерса в Австралии, дневник, даже когда он представлял собой пачку бумаги, испещренную чернилами, был предшественником движения за количественную самооценку. Она ссылается на Бенджамина Франклина, этого молниеносного Отца-основателя, который использовал дневник для отслеживания своего настроения и неудач, составлял список целей, а затем интерпретировал записи в дневнике как данные о том, достиг ли он их. Три века спустя ведение дневника стало широко известным инструментом самопомощи, якобы способным помочь людям достичь целей, решить проблемы в отношениях, залечить травмы, лучше мыслить и улучшить практически все.
Сейчас широко распространено мнение, что «перевод переживаний в слова помогает нам лучше понять события, и при этом происходит целый каскад процессов и изменений», — говорит Джеймс У. Пеннебейкер, психолог из Техасского университета в Остине (США). Тридцать лет назад Пеннебейкер положил начало растущему числу исследований о психологической пользе «экспрессивного письма», которое многие современные прозелиты ведения дневников принимают близко к сердцу (и к разуму, и к привычке). Он считает, что ведение дневника полезно не только потому, что это акт перевода, оформления и обсуждения опыта, но и потому, что дневники не предполагают осуждения. «Говорить о глубоко личных переживаниях — это социальная цена», — говорит Пеннебейкер.
Приложения для ведения дневников предлагают множество инструментов — от чатботов-наставников с искусственным интеллектом до персональных подсказок и анализа полных записей.
Уединение при ведении дневника устраняет эти издержки, но разговаривать с самим собой может быть одиноко, никогда не удается избежать собственной точки зрения. В этом и заключается привлекательность новых журналов с искусственным интеллектом, которые обещают объединить откровенность личного письма со способностью машин анализировать текст — все для того, чтобы улучшить самопонимание и самосовершенствование. Это лучшая жизнь через анализ данных, но с использованием новой формы данных: вязкой субъективности внутреннего опыта. Это количественная самооценка для души.
Простите меня за то, что я называю людей с количественной самооценкой «ими», хотя с полным основанием могу заявить о своей принадлежности к ним. Я давно ношу Fitbit. Я знаю, сколько я весил каждый день с 17 мая 2017 года. Я веду таблицу с цветовой кодировкой, в которой фиксирую события каждого дня; в прошлом году я использовала ее как ткацкий узор и превратила в визуализацию данных, сделанную из ткани. Что касается дневников, то я тоже веду их: документирую свои мысли и чувства с 2004 года.
Из этого огромного массива я недавно извлекла старую запись, в которой я размышляла о 10 годах, прошедших с момента моего первого переезда в Нью-Йорк. Я вставила ее в три приложения для ведения дневников с искусственным интеллектом — Rosebud, Insight Journal и Mindsera, — которые предлагают широкий выбор инструментов, от чат-ботов-наставников с искусственным интеллектом до персональных подсказок и анализа полных записей.
Rosebud и Insight Journal стремились, выражаясь языком психотерапевтов, подтвердить мой опыт. Они поздравляли меня с «интенсивной» и «невероятной» траекторией и призывали задуматься о том, как я изменилась, и «принять» мое «путешествие самопознания и роста». Побуждая меня больше размышлять, они превращали изолированный акт ведения дневника в социальный опыт, подобный сеансу терапии с проверенным чатботом.
Самые сложные ответы были получены от Mindsera, хотя и они оставляли желать лучшего. Программа утверждала, что в моем письме 50 % тревоги, 30 % страха и 20 % любви. На основании этого она предложила, похоже, генеративный ИИ-гороскоп, включая строки о том, что я «способна испытывать сильную любовь, но также страх и тревогу».
Другие мои качества: стойкость, способность принимать сложные решения, смелость идти на риск и вносить изменения в свою жизнь. «Вы также способны быть уязвимой и открытой для нового опыта», — сообщила мне Mindsera. «Вы вдумчивы, рефлексивны и обладаете сильным чувством самосознания».
Меня сдерживали опасения по поводу конфиденциальности — ирония судьбы, учитывая, что конфиденциальность — одно из преимуществ ведения дневника.
Эти приманки напоминали эффект Барнума в действии: техническая реакция на мои слова была едва ли более изощренной, чем холодное чтение экстрасенса. Несмотря на предполагаемый потенциал продвинутого интеллекта, ответы были консервированными, неинтеллигентными.
Возможно, я была несправедлива. Ожидать глубокого анализа от нескольких постов — это чересчур.
Истинная ценность заключается в обработке тысяч записей и выявлении связей из более целостного портрета, а БЯМ становятся более точными, когда им есть на чем учиться. Писатель Дэн Шиппер сделал это, создав собственного бота-журналиста, загрузив в него записи за 10 лет и задав вопросы. Хотя некоторые ответы были повторяющимися и бесполезными, вопрос о том, почему его отношения закончились, «дал невероятные результаты — но это не то, что я хотел бы выложить в интернет».
Понятное нежелание Шиппера обнародовать этот ответ — та же причина, по которой я не решалась делиться слишком многим с коммерческими технологиями, которые я не контролирую. Несмотря на то, что у меня под рукой были тысячи записей, меня сдерживало беспокойство о конфиденциальности — ирония судьбы, учитывая, что конфиденциальность — одно из преимуществ ведения дневника. Возможность утечки данных и изменения политики заставляли меня беспокоиться об анализе большого количества записей или чего-то действительно конфиденциального.
В итоге я решила выложить все записи за один-единственный, очень важный месяц: июнь 2013 года, когда я переехала в Нью-Йорк и начала жить со своим тогдашним парнем. Тогда я писала почти каждый день — блуждающие, пропитанные тревогой размышления, осознавая свою катастрофическую неуверенность, зацикливаясь и не в силах остановиться.
На этот раз Mindsera сняла перчатки. Почти каждый анализ хвалил мой самоанализ, но также отмечал, что (11 лет назад) мне было «трудно принять, что у других есть прошлое и они могли любить до вас». Я «жажду уверенности и подтверждения со стороны партнера, что иногда может привести к чувству разочарования или неуверенности, когда он не оправдывает ваших ожиданий». Мне сказали, что я «постоянно тревожусь и беспокоюсь о том, что его чувства могут угаснуть или измениться… Вам трудно принять, что эти сильные эмоции не могут длиться вечно, и вы боретесь с мыслью о том, что они могут притупиться». Хотя некоторые из этих выводов не так проницательны, как может показаться — в некоторых моментах я сама написала подобный анализ в дневнике, — меня впечатлила готовность приложения указать на менее привлекательные стороны моей натуры.
Современная особая опасность заключается в том, что такие суждения наделяются дополнительным авторитетом, поскольку они основаны на данных и алгоритмах.
Вдохновившись Шиппером, я воспользовалась инструментом Mindsera, который позволил мне спросить, почему, исходя из общего анализа моих записей в дневнике, эти отношения закончились. Ответ не был невероятным, но и не был бездумным, а некоторые слова задели меня за живое. Среди использованных фраз были «чувство обиды и неадекватности», «борьба за примирение личных недостатков с внешним восприятием» и «глубокий внутренний конфликт».
Чтение второй порции ответов вызвало у меня знакомый момент «ага». Но, возможно, я столкнулась с тем, что Джилл Уолкер Реттберг, профессор цифровой культуры Бергенского университета в Норвегии, называет «датализмом». Она ссылается на исследование людей в Финляндии, за которыми следили, чтобы они создавали «двойников данных», или версии себя, собранные из подробных измерений. В таких случаях, когда людям показывали данные, они могли «редактировать свой опыт и договариваться с данными» — говорит она. Да, они могут сказать: «Теперь я вспомнил, что в тот день у меня был повышенный пульс». Их убеждают «пересказать историю своей жизни, чтобы она соответствовала данным», вместо того чтобы доверять самим себе. Возможно, я попала в похожую ловушку.
Поиск внешних авторитетов так же стар, как Дельфы; верить в то, что другие говорят нам о себе правду, — постоянное искушение. Но современная, специфическая опасность заключается в том, чтобы наделять такие суждения дополнительным авторитетом, поскольку они исходят из данных и алгоритмов.
Если переписать историю в соответствии с данными или позволить машине полностью управлять повествованием, это может изменить реальность потенциально вредным образом, особенно если анализ окажется неправдоподобным. Mindsera сообщила мне, что мой первоначальный пост о Нью-Йорке на 50 % состоит из тревоги и на 30 % из страха. Спустя несколько месяцев я повторно проанализировала тот же пост, и на этот раз он выдал такие оценки, как 40 % ностальгии или 40 % подавленности, показав ложную точность таких цифр. Анализируя записи об отношениях, Mindsera предлагала мне не оставлять попыток наладить отношения; 11 лет спустя я могу заверить вас, что эти отношения не стоило спасать.
Несмотря на эти недостатки, меня по-прежнему тянет к зеркалу ИИ и к тому, чтобы узнать, как машина интерпретирует мое внутреннее «я». Хотя Пеннебейкер обеспокоен тем, что эти инструменты не предоставляют достаточно информации о создателях и их прошлом, он также считает, что разработки ИИ в этой области могут быть «увлекательными и удивительно захватывающими» — он видит, что они особенно помогут тем, кто социально изолирован.
Главное — помнить, что самость дика и беспорядочна, и нам не следует передавать все интерпретации и принимать статистический анализ за божественное откровение. Это верно даже сейчас, когда технологии совершенствуются и мы все чаще испытываем искушение обратиться к цифрам и «высшему» разуму. Было бы опасно стереть самих себя — то есть отказаться от привилегии интерпретации — в стремлении к самосовершенствованию.
Мы также должны быть реалистами в том, что дневник сам по себе может изменить ситуацию. Самой разочаровывающей частью этих инструментов было то, что даже когда анализ казался точным, предложения по действию состояли из очевидных советов, применимых практически к любой ситуации. Размышляйте. Помните о своих ценностях. Установите границы. Успокойтесь. Общайтесь открыто. Реалистичные ожидания. Поговорите с другом. Обратиться за профессиональной помощью.
Но с тех пор я поняла, что, даже если бы я обратился к профессиональному психотерапевту, его советы, скорее всего, также включали бы в себя размышления, воспоминания о моих ценностях, установление границ и так далее. Во многих ситуациях мало кто, будь то друг, родитель или профессионал, может посоветовать что-то еще, кроме очевидного, и требовать от ИИ большего на данном этапе кажется несправедливым. Даже для Пеннебейкера, который знает о пользе экспрессивного письма не меньше других, идея заключается в том, чтобы писать время от времени, когда вам это нужно, а не обязательно вести дневник или обращаться к себе как к привычке. «Я думаю, что слишком много самоанализа, вероятно, не так уж полезно» — говорит он, — «потому что это может превратиться в руминацию».
Это самый важный урок, который я вынесла из экспериментов с дневниками ИИ. Работает ИИ или нет, самоанализ может завести нас далеко. Чтобы изменить свою жизнь, мне нужна была не аналитическая мощь, а зрелость и сила, которые приходят с возрастом, друзья, лучшие отношения и храбрость — все это опыт мира за пределами моей головы.
Оригинал: Psyche
