Вы бы купили самоуправляемый автомобиль, который запрограммирован убить вас? Конечно нет. Окей, а как насчёт машины, запрограммированной убить вас если это будет единственной возможностью спасти десятки других жизней?
Это — один из вопросов, который международная группа разработчиков поставила перед двумя тысячами жителей США в ходе шести онлайн-опросов. В вопросах варьировалось число людей, которое может быть принесено в жертву или спасено в каждом случае — если хотите попробовать сами, здесь (http://moralmachine.mit.edu/) вы можете оценить себя на пригодность в качестве мученика. Исследование, только что опубликованное в журнале Science — последняя попытка ответить на классическую этическую «проблему вагонетки» (проблема вагонетки — мысленный эксперимент, сформулированный в 1967 году философом Филиппой Фут: «Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?» – прим. ред.) — принуждая вас выбирать между спасением одной жизни или спасением большего количества людей.
Наступающий век автономных транспортных средств угрожает переместить эту проблему со страниц книг на улицу. Допустим, вы едете через узкий горный перевал и замечаете группу детей, которая стоит перед вами. У вас нет времени, чтобы затормозить, а есть выбор — или свернуть с дороги, пожертвовав жизнью, или же следовать прямо по курсу? А что если вместе с вами в машине находятся ваши дети? Вам надо принять решение за доли секунды, и другие люди, скорее всего, отнесутся к нему с пониманием — ведь это очень сложный выбор. Но не для самоуправляемого автомобиля, который принимает решение согласно заложенной в него программе. А это значит, что инженеру придётся заранее запрограммировать машину на выбор по поводу того, кто в такой ситуации должен жить, а кто — умереть.
Так какого же решения ждут люди от подобного шофёра? Исследование показало: большинство людей считает, что самоуправляемый автомобиль должен минимизировать число жертв, даже за счёт тех, кто сидит в нём. Респонденты придерживались подобного утилитарного мышления несмотря на то, что некоторые варианты были сложнее, чем другие. «Судя по ответам, которые дали нам люди, спасение их коллег не является для них приоритетным» — рассказывает Жан-Франсуа Боннефон из Тулузской школы экономики. Но в целом вариант «делай большее добро» всегда выигрывает, даже с детьми в машине.
Это было здорово — пока исследователи не спросили людей, готовы ли они приобрести подобную «добрую» машину себе. Ни за что. Люди хотят автомобиль, который будет защищать их и их пассажиров любой ценой. Они считают, что было бы здорово, если все вокруг будут ездить на этически правильных машинах, однако для своей семьи такую не хотят.
Трагическая ирония заключается в том, что эти противоречивые взгляды являются значительным препятствием для активного внедрения технологий по спасению жизни в ДТП. Каждый год в США в автоавариях гибнет 30 тыс. человек, и ещё миллионы получают различные травмы. 90 процентов аварий вызваны человеческими ошибками. Замена живых водителей роботами, которые никогда не устают, не злятся, не садятся за руль пьяными и всегда сосредоточены на дороге поможет значительно снизить эту цифру.
Регуляторы будут настаивать на том, чтобы все машины имели программное управление, дабы возможно было спасти как можно больше жизней. Тем не менее, исследование журнала Science свидетельствует, что только треть от числа тех, кто готов купить самоуправляемый автомобиль, запрограммированный на спасение своего водителя, всё-таки купит машину, готовую спасти как можно больше жизней в целом. Это может замедлить внедрение самоуправляемых авто, а значит всё больше людей будет гибнуть на дорогах, пока мы ждём будущего.
Исследование не дает нам никаких ответов, но является одним из первых, в ходе которого получены значительные данные по этому вопросу. Создатели автомобилей работают над поисками решений, в том числе и над тем, чтобы создать автомобиль, который сможет сделать звонок на лету. Но будем ли мы, пассажиры, счастливы с концепцией машин, делающих этический выбор, который может привести к нашей смерти? Подобное может быть для нас не лучше, чем обычное авто.
Вопрос того, как построить этически правильный самоуправляемый автомобиль — «одна из самых острых проблем в области искусственного интеллекта сегодня» — заключают авторы исследования. «В настоящее время, по-видимому, нет простого способа для разработки алгоритмов, которые примирили бы общепринятые моральные ценности и личную заинтересованность».
Без шуток. Этот вопрос нам придётся решить, если мы хотим передать ответственность за вождение автомобиля компьютеру. Подобное исследование — лишь начало пути, и впереди ещё много работы для водителей, конструкторов автомобилей и законотворцев, которым надо прийти к общему соглашению.
Оригинал: Wired
