Кого убьет беспилотный автомобиль? Машина, спаси как можно больше людей, но больше всего спаси меня!

Если возникает ситуация, когда автономной системе автомобиля приходится делать быстрый выбор, кого пожертвовать в случае неминуемой аварии — как она должна реагировать? Жертвовать пассажирами ради спасения пешеходов? При необходимости убить пешехода, чтобы пощадить, например, семью из четырех человек, едущих в автомобиле? Или, может быть, он всегда должен защищать себя в первую очередь?

В то время как только в Калифорнии более шестидесяти компаний уже получили разрешение на личное тестирование, трудно сказать, что отрасль готовится столкнуться с этическими дилеммами. На данный момент он борется с более базовыми проблемами — работой и навигационной эффективностью систем и просто предотвращением столкновений и непредвиденных событий. В таких ситуациях, как недавнее убийство пешехода в Аризоне или последующие аварии (1), пока речь шла просто о системных сбоях, а не о каком-то «этическом выборе» машины.

Спасите богатых и молодых

Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.

Самые общие выводы предсказуемы. В экстремальных ситуациях люди предпочитают спасать людей заботе о животных, стремясь сохранить как можно больше жизней, и, как правило, моложе, чем пожилые люди (2). Есть также некоторые, но не столь явные предпочтения, когда речь идет о спасении женщин перед мужчинами, людей с более высоким статусом перед более бедными и пешеходов, а не пассажиров автомобилей..

2. Кого должна спасти машина?

Поскольку почти полмиллиона респондентов заполнили демографические анкеты, удалось соотнести их предпочтения с возрастом, полом и религиозными взглядами. Исследователи пришли к выводу, что эти различия не «значительно повлияли» на решения людей, но отметили некоторые культурные влияния. Французы, например, проявляли склонность взвешивать решения на основе предполагаемого числа смертей, в то время как в Японии акцент делался меньше всего. Однако в Стране восходящего солнца жизнь стариков ценится гораздо больше, чем на Западе.

«Прежде чем мы позволим нашим автомобилям самим принимать этические решения, нам необходимо провести глобальные дебаты по этому поводу. Когда компании, работающие над автономными системами, узнают о наших предпочтениях, тогда они будут разрабатывать на их основе этические алгоритмы в машинах, а политики смогут начать вводить адекватные правовые положения», — писали ученые в октябре 2018 года в Nature.

Один из исследователей, участвовавших в эксперименте «Моральная машина», Жан-Франсуа Боннефон, счел тревожным предпочтение спасения людей с более высоким статусом (например, руководителей, а не бездомных). По его мнению, это очень сильно связано с уровень экономического неравенства в данной стране. Там, где неравенство было больше, предпочтение отдавалось принесению в жертву бедных и бездомных.

Одно из предыдущих исследований показало, в частности, что, по мнению респондентов, автономный автомобиль должен защищать как можно больше людей, даже если это означает потерю пассажиров. При этом, однако, респонденты заявляли, что не стали бы покупать запрограммированный таким образом автомобиль. Исследователи объяснили, что хотя люди считают более этичным спасать больше людей, они также руководствуются собственными интересами, что может быть сигналом для производителей о том, что клиенты будут неохотно покупать автомобили, оснащенные альтруистическими системами.. Некоторое время назад представители компании Mercedes-Benz заявили, что если бы их система спасала только одного человека, то они бы выбрали водителя, а не пешехода. Волна общественного протеста вынудила компанию отозвать свою декларацию. Но исследование ясно показывает, что в этом святом негодовании было много лицемерия.

В некоторых странах это уже происходит первые попытки правового регулирования в поле. В Германии принят закон, который требует, чтобы автомобили без водителя любой ценой избегали травм или смерти. В законе также говорится, что алгоритмы никогда не могут принимать решения на основе таких характеристик, как возраст, пол, здоровье или пешеходы.

Audi берет на себя ответственность

Конструктор не в состоянии предугадать все последствия эксплуатации автомобиля. Реальность всегда может предоставить комбинацию переменных, которые никогда раньше не проверялись. Это подрывает нашу веру в возможность «этичного программирования» машины вообще. Нам кажется, что в ситуациях, когда возникает ошибка и происходит трагедия «по вине автомобиля», ответственность должен нести производитель и разработчик системы.

Возможно, это рассуждение правильно, но, возможно, не потому, что оно было ошибочным. Скорее потому, что было разрешено движение, которое не было на 2019% свободно от возможности его совершения. Похоже, именно в этом и причина, и от общей ответственности не уклоняется компания, недавно заявившая о том, что возьмет на себя ответственность за аварии с участием A8 3 года при использовании в ней автоматической системы Traffic Jam Pilot (XNUMX).

3. Интерфейс Audi Traffic Jam Pilot

С другой стороны, есть миллионы людей, которые водят машины и тоже совершают ошибки. Так почему же машины, которые по статистике совершают гораздо меньше ошибок, чем люди, что подтверждается многочисленными ошибками, должны подвергаться дискриминации в этом отношении?

Если кто-то думает, что дилеммы этики и ответственности в мире автономных транспортных средств просты, продолжайте думать…