Автор: Джеймс Винсент
Это было действительно неожиданно: самой впечатляющей демонстрацией на конференции Google IO стал телефонный звонок с записью на стрижку. Конечно, у него была одна особенность: его совершил не человек, а помощник Google, который отлично задал правильные вопросы, делал паузы в правильных местах и даже выбрал странный «мммм» для реализма.
Зрители были в шоке, но самым впечатляющим оказалось то, что человек на другом конце звонка так и не понял, что разговаривает с ИИ. Это огромное технологическое достижение для Google, но оно также открывает целый ящик Пандоры этических и социальных проблем.
Например, обязана ли Google сообщать людям, что они разговаривают с машиной? Подрывают ли доверие подобные технологии к тому, что мы видим и слышим? И является ли пользование таким способом звонков примером технопривилегий, когда одни могут отказаться от скучных разговоров, а другим придётся взаимодействовать с роботом?
Другими словами, это была типичная демоверсия Google: одновременно удивительная и волнующая.
Но давайте начнем с основ. На сцене представитель Google не много рассказал о том, как работает функция Duplex, но в сопроводительном блоге добавлен важный контекст. Во-первых, Duplex — это не какой-то футуристический разговорный ИИ. Как объясняют исследователи Google, он может общаться только в «закрытых доменах» — биржах, которые являются функциональными, со строгими ограничениями на то, что будет сказано. «Тебе нужно заказать столик? На сколько? В какой день? И какое время? Ладно, спасибо, до свидания».
Марк Ридль, адъюнкт-профессор ИИ в Georgia Tech, специализирующийся на компьютерной речи, рассказал The Verge, что он считает, что помощник Google, вероятно, будет работать «достаточно хорошо», но только в формульных ситуациях. «Обработка языкового диалога вне контекста — очень трудная проблема. Но есть также много трюков, когда ИИ не понимает или не возвращает разговор в нужное русло».
Одна из демонстраций Google показала, как эти трюки работают. ИИ столкнулся с рядом непонимания, но преодолел это, перефразируя и повторяя вопросы. Подобные вещи распространены для компьютерных программ, предназначенных для общения с людьми. Фрагменты разговора похожи на беседу реального человека, но когда вы анализируете, что было сказано, то можно увидеть повторяющиеся паттерны. В блоге Google есть некоторые интересные подробности об этом. Например, уточнения («в пятницу на следующей неделе, в 18 часов»), ссинхронизация («вы меня слышите?»), интеррупция («номер 212» — «извините, можете повторить?»).
Важно отметить, что Google называет Duplex «экспериментом». Это не готовый продукт, и нет никакой гарантии, что он будет широко доступен в этой форме или доступен вообще. Duplex работает всего в трех сценариях на данный момент: бронирование столика в ресторане; запись на стрижку; вопрос компаниям об их рабочем графике. Он будет доступен только ограниченному (и неизвестному) числу пользователей в этом году.
Еще одно важное предостережение: если вызов идет не так, человек берет управление на себя. В своем сообщении в блоге Google говорит, что у Duplex есть функция самоконтроля, которая позволяет ему распознавать, когда разговоры вышли за пределы его возможностей. «В этих случаях он сигнализирует человеческому оператору, который может перехватить задачу» — говорит Google. Это похоже на личный помощник Facebook, который, как обещала компания, должен использовать ИИ для работы с сценариями обслуживания клиентов, но в конечном итоге вместо этого передавал неизвестный объем этой работы людям (Facebook закрыл эту службу в январе).
Все это дает нам более четкую картину того, на что способен Duplex, но он не отвечает на вопросы о том, какие эффекты будет иметь технология. И как первая компания, которая её демонстрирует, Google несет ответственность за решение возникающих проблем.
Очевидный вопрос: должна ли компания уведомлять людей о том, что они разговаривают с роботом? Вице-президент Google по инженерии Йоси Матиас заявил CNET, что ответ «вероятно», положительный. В комментарии для The Verge, Google пошли дальше и заявили, что определенно полагают ответ положительным (почему об этом не заявили на сцене не ясно).
Многие эксперты, работающие в этой области, согласны с такой позицией, хотя насколько эффективны в этом случае будут звонки – сложный вопрос. Если помощник начинает разговор с фразы «привет, я робот», тогда человек на другом конце, скорее всего, повесит трубку. Более тонкие индикаторы могут означать ограничение реализма голоса ИИ или включение специального тона во время вызовов. Google сообщает The Verge, что по надежде индженеров совокупность социальных норм будет органически развиваться, что даст понять, когда вызывающий является ИИ.
Джоанна Брайсон, адъюнкт-профессор Университета Бата, изучающая этику ИИ, заявила The Verge, что у Google есть очевидная обязанность раскрывать эту информацию. Если роботы могут свободно представлять себя как люди, возможности для нарушения закона невероятны; от мошеннических вызовов до автоматизированных мистификаций. Представьте, что вы получили панический телефонный звонок от кого-то, сказавшего, что поблизости ведётся стрельба. Вы задаете несколько вопросов, голос отвечает — достаточно, чтобы убедить вас, что он живой — а затем вешает трубку, заявив, что ошибся номером. Будете ли вы беспокоиться?
Но Брайсон считает, что отдавать на откуп компаниям решение этого вопроса недостаточно, и для защиты общественности должны быть приняты новые законы. «Если мы это не отрегулируем, некоторые менее заметные чем Google компании воспользуются этой технологией» — говорит Брайсон — «Google может и станет действовать корректно, но за весь бизнес я бы не ручался».
И если эта технология станет широкораспространенной, она будет иметь другие, более тонкие эффекты, которые нельзя законодательно предусмотреть. В материале для The Atlantic Алексис Мадригал предполагает, что небольшой разговор — либо во время телефонных звонков, либо на улице — имеет немалую социальную ценность. Он цитирует урбаниста Джейн Джейкобс, которая говорит, что «случайный, общественный контакт на местном уровне» создает «сеть общественного уважения и доверия». Что мы потеряем, если дадим людям еще один шанс избежать социальных взаимодействий, какими бы незначительными они ни были?
Один из эффектов телефонных звонков ИИ может заключаться в том, что все мы станем немного грубее. Если мы не можем ощутить разницу между людьми и машинами по телефону, будем ли мы подозрительно относиться ко всем телефонным разговорам? Мы можем начать посылать настоящих людей во время звонков и говорить им: «Просто заткнись и дай мне поговорить с человеком». И если нам станет проще забронировать столик в ресторане, будем ли мы пользоваться этой возможностью, чтобы чаще заказывать столики не заботясь тем, чтобы на самом деле там появиться? (Google отметил для The Verge, что количество ежедневных звонков, которые бизнес может получить от помощника, будет ограничено дабы не было использования услуги для спама).
На эти вопросы нет очевидных ответов, но, как указывает Брайсон, Google, по крайней мере привлекает внимание к этой технологии. Это не единственная компания, которая занимается разработкой подобного сервиса, и, конечно же, она не будет единственной, кто будет его внедрять. «Это огромный прорыв — говорит Брайсон. «Важно, чтобы они продолжали делать демонстрации и видео, чтобы люди могли видеть, как это происходит. […] Нам действительно нужно больше информации».
Другими словами, нам нужно обсудить всё это прежде, чем роботы сделают это за нас.
Оригинал: TheVerge
