Автопилот - это чудно. А отвечать за аварию Пушкин будет?

Ilish

Выдающийся
Новый участник
Местное время
16:32
Регистрация
9 Апр 2017
Сообщения
4,970
Репутация
0
Пол
Женский
С автомобилем всё много сложнее.

Это так кажется.



Заметно больше, лет 30

Маск через 3 года планирует провести Теслу полностью на автопилоте с востока на запад США.
Так что 5 лет - срок вполне реальный.
 

Mak

Последний романтик
Легенда
Заслуженный
Местное время
16:32
Регистрация
26 Май 2017
Сообщения
37,858
Репутация
1,113
Награды
5
Местоположение
Санкт-Ленинград
Пол
Мужской
Это так кажется
Это тебе кажется, а я знаю.

Добавлено через 47 секунд

Маск через 3 года планирует провести Теслу полностью на автопилоте с востока на запад США.
Так что 5 лет - срок вполне реальный.

Лет 30, не раньше. Маск - жулик.
 

Ilish

Выдающийся
Новый участник
Местное время
16:32
Регистрация
9 Апр 2017
Сообщения
4,970
Репутация
0
Пол
Женский
Это тебе кажется, а я знаю.

Ты считаешь, что управлять автомобилем сложнее, чем самолетом?
Ты не прав.
Ты просто этого не знаешь.
Я - знаю и умею.
Вот и все.



Лет 30, не раньше. Маск - жулик.

Ну-ну... )
Доля на рынке коммерческих пусков у этого "жулика" такая же, как у "Роскосмоса".
А скоро станет выше... ))
При этом основана "Спейс Х" в 2002 году.
И начинала - с нуля.... )))))
 

NEсерьёзнаЯ

Продвинутый
Заслуженный
Местное время
08:32
Регистрация
20 Мар 2017
Сообщения
14,512
Репутация
802
Награды
6
Пол
Женский
Доля на рынке коммерческих пусков у этого "жулика" такая же, как у "Роскосмоса".

Именно коммерческих (процент успешных лучше не упоминать, правда), у Роскосмоса всё же несколько иные задачи.

Давайте по теме :flowers:. А тема обозначена: Автопилот (автомобильный) и ответственность за вождение (автомобиля).
 

Раш Вселенной

Выдающийся
Местное время
16:32
Регистрация
30 Окт 2016
Сообщения
3,269
Репутация
0
Пол
Мужской
Автопилот (автомобильный) и ответственность за вождение (автомобиля).
Изготовитель автопилота никогда не возьмет на себя ответственность-зачем проблемы, но спрос и так будет.
Водитель отвечает и будет отвечать.
Машина присутствует в обществе благодаря ему. Перемещение так же зависит от водителя. Он доверил жизни автопилоту.
 

NEсерьёзнаЯ

Продвинутый
Заслуженный
Местное время
08:32
Регистрация
20 Мар 2017
Сообщения
14,512
Репутация
802
Награды
6
Пол
Женский
Изготовитель автопилота никогда не возьмет на себя ответственность-зачем проблемы, но спрос и так будет.
Водитель отвечает и будет отвечать.
Машина присутствует в обществе благодаря ему. Перемещение так же зависит от водителя. Он доверил жизни автопилоту.

Это мы с вами так думаем, а юристы могут обратиться к другой выгоде логике. Водитель делал всё правильно, и даже доверился умной машине, чтобы избежать ошибок, а оно вона чо - авария. Это всё производитель виноват.

Ну, утрированно, конечно, но юристы скорее возложат ответственность на того, с кого можно получить $$$ (большую корпорацию-производителя), чем на какого-то Васю с его маленькой страховой компанией.

ну всё имхо, конечно же
 

Раш Вселенной

Выдающийся
Местное время
16:32
Регистрация
30 Окт 2016
Сообщения
3,269
Репутация
0
Пол
Мужской
Ну, утрированно, конечно, но юристы скорее возложат ответственность на того, с кого можно получить $$$ (большую корпорацию-производителя), чем на какого-то Васю с его маленькой страховой компанией.
Все проще.
Эта компания в высших эшелонах проплатит, и не один юрист рта не откроет хоть какие деньги ему плати-карьера дороже.
 

NEсерьёзнаЯ

Продвинутый
Заслуженный
Местное время
08:32
Регистрация
20 Мар 2017
Сообщения
14,512
Репутация
802
Награды
6
Пол
Женский

Раш Вселенной

Выдающийся
Местное время
16:32
Регистрация
30 Окт 2016
Сообщения
3,269
Репутация
0
Пол
Мужской
Вы правы, конечно, но всё же у юристов во власти большое лобби.
Пехота это-ничего не решают. Сами по себе-раздельно-нет центра-против такой компании не потянут.
Когда они вроде бы выигрывают дела против барыг, то лишь потому что те им позволяют извлекая выгоду от рекламы.
Либо конкуренты платят дабы ослабить.
Здесь Смерть Человека на кону и реклама как антиреклама невыгодна.
Юристы будут молчать!
Водители сидеть, причем справедливо.
 

Mak

Последний романтик
Легенда
Заслуженный
Местное время
16:32
Регистрация
26 Май 2017
Сообщения
37,858
Репутация
1,113
Награды
5
Местоположение
Санкт-Ленинград
Пол
Мужской
Ты считаешь, что управлять автомобилем сложнее, чем самолетом?
Ты не прав.
Ты просто этого не знаешь.
Я - знаю и умею.

Я знаю, при движении по дороге больше входящих факторов.

Добавлено через 42 секунды

Ну-ну... )
Доля на рынке коммерческих пусков у этого "жулика" такая же, как у "Роскосмоса".
А скоро станет выше... ))
При этом основана "Спейс Х" в 2002 году.
И начинала - с нуля.... )))))

Что только доказывает уровень американской коррупции и не более.
 

Zole

Мастер
Заслуженный
Местное время
16:32
Регистрация
11 Сен 2016
Сообщения
21,389
Репутация
0
Пол
Женский
Tesla Model S разбилась о пожарную машину на светофоре

tesla_utah_crush2-650x341.jpg
Случилось еще одно ДТП с участием автомобиля Tesla. Модель Tesla Model S, оснащенная полуавтономной функцией автопилота, врезалась в остановившуюся на красный сигнал светофора пожарную машину. Скорость автомобиля составляла 95 км/ч. Водитель Tesla получил повреждения и нуждается в медицинской помощи. На данный момент полиция штата Юта выясняет обстоятельства аварии. Мы можем рассказать о том, что известно на данную секунду.


Достоверно неизвестно, была ли использована функция автопилота или же водитель управлял автомобилем Tesla самостоятельно. В данный момент активно исследуется работа автономной системы этого автомобиля. Известно, что сработали подушки безопасности в Tesla, однако водитель получил перелом правой лодыжки. Водитель пожарной машины не нуждается в лечении.
Известно, что нет никаких оснований считать, что водитель Tesla был нетрезв. К сожалению, его показания в ближайшее время будут недоступны, но свидетели утверждают, что перед аварией автомобиль Tesla ехал на полном ходу и даже не начинал торможение.
https://hi-news.ru/auto/tesla-model-s-razbilas-o-pozharnuyu-mashinu-na-svetofore.html



 

Батшеба

lítost
Заслуженный
Местное время
16:32
Регистрация
6 Май 2017
Сообщения
32,134
Репутация
0
Уровень
1
Награды
8
Пол
Нейтральный
Достоверно неизвестно, была ли использована функция автопилота или же водитель управлял автомобилем Tesla самостоятельно.
Это самое главное всё же. Хорошо, что жив...95км/ч прилично.
 

Zole

Мастер
Заслуженный
Местное время
16:32
Регистрация
11 Сен 2016
Сообщения
21,389
Репутация
0
Пол
Женский
В Москва в ДТП попал беспилотный автомобиль «Яндекс»



Беспилотный автомобиль "Яндекс" получил удар сзади. ДТП произошло на пешеходном переходе. "Яндекс" начал тормозить, чтобы пропустить пешеходов, но ехавший сзади внедорожник Gelandewagen отреагировать не успел и влетел в "умное" авто. Ситуация типична, ведь подобные беспилотники действительно ездят по правилам, в отличии от остальных участников движения и часто становятся жертвами аварий.
 

Батшеба

lítost
Заслуженный
Местное время
16:32
Регистрация
6 Май 2017
Сообщения
32,134
Репутация
0
Уровень
1
Награды
8
Пол
Нейтральный
Листья и люди: в Британии определили главные проблемы робомобилей

Подходит к завершению трехлетнее британское исследование возможностей автономного транспорта. Беспилотные машины нескольких автопроизводителей колесили по разным городам Британии и пытались разобраться, как действовать в стандартных и нестандартных ситуациях.

AvatarГеоргий Голованов11 октября, 10:28Фото: UK Autodrive
Подходит к завершению трехлетнее британское исследование возможностей автономного транспорта. Беспилотные машины нескольких автопроизводителей колесили по разным городам Британии и пытались разобраться, как действовать в стандартных и нестандартных ситуациях.

22
Робомобиль Tata подъезжает к одной из кольцевых развязок британского города Милтон-Кинс и останавливается, ожидая дальнейших указаний. «Наша система способна распознать движение на кольце, но на данном этапе нам нужно больше испытаний, прежде чем машина сама сможет принимать окончательные решения», — говорит Энди Харрис, главный инженер Tata Motors.

Тест-драйв по дороге города с максимальной скоростью 40 км/ч — кульминация Autodrive, крупнейшего в Британии проекта для беспилотных автомобилей. В нем принимали участие Ford, Tata, Jaguar Land Rover и другие компании, которые хотели убедиться, что их робомобили справятся с запутанной системой британских дорог, так отличающихся от упорядоченных американских, пишет Wired UK.

Помимо навигации Autodrive проверяла возможность беспроводного общения между транспортными средствами. И не только для автомобилей — в испытаниях также принимали участие, например, роботы-курьеры компании Starship.


Один из выводов, к которому пришли участники проекта, кажется очевидным. «Все города очень разные, — говорит Тим Армитаж, директор Autodrive. — Если мы отправим робомобиль в Шеффилд, он не будет знать, что делать с трамваем, ходящим посреди тамошних улиц».

AvatarГеоргий Голованов11 октября, 10:28Фото: UK Autodrive
Подходит к завершению трехлетнее британское исследование возможностей автономного транспорта. Беспилотные машины нескольких автопроизводителей колесили по разным городам Британии и пытались разобраться, как действовать в стандартных и нестандартных ситуациях.

22
Робомобиль Tata подъезжает к одной из кольцевых развязок британского города Милтон-Кинс и останавливается, ожидая дальнейших указаний. «Наша система способна распознать движение на кольце, но на данном этапе нам нужно больше испытаний, прежде чем машина сама сможет принимать окончательные решения», — говорит Энди Харрис, главный инженер Tata Motors.

Тест-драйв по дороге города с максимальной скоростью 40 км/ч — кульминация Autodrive, крупнейшего в Британии проекта для беспилотных автомобилей. В нем принимали участие Ford, Tata, Jaguar Land Rover и другие компании, которые хотели убедиться, что их робомобили справятся с запутанной системой британских дорог, так отличающихся от упорядоченных американских, пишет Wired UK.

Помимо навигации Autodrive проверяла возможность беспроводного общения между транспортными средствами. И не только для автомобилей — в испытаниях также принимали участие, например, роботы-курьеры компании Starship.

Один из выводов, к которому пришли участники проекта, кажется очевидным. «Все города очень разные, — говорит Тим Армитаж, директор Autodrive. — Если мы отправим робомобиль в Шеффилд, он не будет знать, что делать с трамваем, ходящим посреди тамошних улиц».
Однако условия Милтон-Кинса или Ковентри, где проходили тест-драйвы, тоже вызвали проблемы у беспилотных автомобилей. По словам Харриса, в центре Ковентри, где расположен университет, пешеходы гораздо чаще переходят улицу в неожиданных местах, и машину приходится учить лучше понимать траекторию движения людей.

В Милтон-Кинс возникла другая проблема: карта отмечает небольшой уклон в середине перекрестка как статический объект, который невозможно преодолеть. Деревья также вызывают сложности. Когда листва начинает облетать, машина распознает их как движущийся объект. Если их много, они кажутся непроницаемым, твердым объектом.

Такие неожиданные препятствия возникают только на реальных улицах с обычным движением, на автодромах их не встретишь. Еще одно важное преимущество испытаний в городских условиях — знакомство людей с технологией. Большинство, как показывают опросы, не знакомы с робомобилями и их возможностями, потому что никогда не встречались с ними. В Милтон-Кинс, Ковентри и Лондоне беспилотники берут на борт пассажиров, а супермаркет Ocado даже тестировал автономный молоковоз.

AvatarГеоргий Голованов11 октября, 10:28Фото: UK Autodrive
Подходит к завершению трехлетнее британское исследование возможностей автономного транспорта. Беспилотные машины нескольких автопроизводителей колесили по разным городам Британии и пытались разобраться, как действовать в стандартных и нестандартных ситуациях.

22
Робомобиль Tata подъезжает к одной из кольцевых развязок британского города Милтон-Кинс и останавливается, ожидая дальнейших указаний. «Наша система способна распознать движение на кольце, но на данном этапе нам нужно больше испытаний, прежде чем машина сама сможет принимать окончательные решения», — говорит Энди Харрис, главный инженер Tata Motors.

Тест-драйв по дороге города с максимальной скоростью 40 км/ч — кульминация Autodrive, крупнейшего в Британии проекта для беспилотных автомобилей. В нем принимали участие Ford, Tata, Jaguar Land Rover и другие компании, которые хотели убедиться, что их робомобили справятся с запутанной системой британских дорог, так отличающихся от упорядоченных американских, пишет Wired UK.

Помимо навигации Autodrive проверяла возможность беспроводного общения между транспортными средствами. И не только для автомобилей — в испытаниях также принимали участие, например, роботы-курьеры компании Starship.

Один из выводов, к которому пришли участники проекта, кажется очевидным. «Все города очень разные, — говорит Тим Армитаж, директор Autodrive. — Если мы отправим робомобиль в Шеффилд, он не будет знать, что делать с трамваем, ходящим посреди тамошних улиц».
Однако условия Милтон-Кинса или Ковентри, где проходили тест-драйвы, тоже вызвали проблемы у беспилотных автомобилей. По словам Харриса, в центре Ковентри, где расположен университет, пешеходы гораздо чаще переходят улицу в неожиданных местах, и машину приходится учить лучше понимать траекторию движения людей.

В Милтон-Кинс возникла другая проблема: карта отмечает небольшой уклон в середине перекрестка как статический объект, который невозможно преодолеть. Деревья также вызывают сложности. Когда листва начинает облетать, машина распознает их как движущийся объект. Если их много, они кажутся непроницаемым, твердым объектом.

Такие неожиданные препятствия возникают только на реальных улицах с обычным движением, на автодромах их не встретишь. Еще одно важное преимущество испытаний в городских условиях — знакомство людей с технологией. Большинство, как показывают опросы, не знакомы с робомобилями и их возможностями, потому что никогда не встречались с ними. В Милтон-Кинс, Ковентри и Лондоне беспилотники берут на борт пассажиров, а супермаркет Ocado даже тестировал автономный молоковоз.
Должна измениться и модель, ориентированная на доминирующее положение автомобилей. Она была полезна раньше, но теперь, при планировании новых поселков, нужно учитывать потребности беспилотного транспорта: выделенные зоны ожидания такси и участки для разворота, к примеру.

«Время испытаний постепенно подходит к концу, — говорит Армитаж. — Теперь они будут проходить в реальном мире, а мы начнем использовать эту технологию, а не разрабатывать ее».
 

Батшеба

lítost
Заслуженный
Местное время
16:32
Регистрация
6 Май 2017
Сообщения
32,134
Репутация
0
Уровень
1
Награды
8
Пол
Нейтральный
Много букв, но довольно интересная статья не только по автопилоту.


Моральные проблемы беспилотных автомобилей не имеют универсального решения

В ходе эксперимента Moral Machine были собраны мнения 2,3 млн людей из 233 стран о том, какими моральными принципами должны руководствоваться самоуправляемые автомобили в аварийных ситуациях, когда человеческих жертв избежать невозможно и нужно выбрать меньшее из зол. Респонденты из разных стран разошлись во мнениях по многим пунктам, таким как необходимость заботиться в первую очередь о спасении детей, женщин или тех, кто соблюдает правила дорожного движения. Выявленные различия коррелируют с известными экономическими и культурными особенностями стран и регионов. Исследование показало, что разработать универсальный «моральный закон» для самоуправляемых машин будет непросто.
Пример моральной дилеммы из проекта Moral Machine. Пользователь решает, какой из двух вариантов должен выбрать беспилотный автомобиль в ситуации, когда жертв избежать невозможно


Ожидается, что беспилотные автомобили будут попадать в такие ситуации реже, чем машины, управляемые живыми водителями. Но всё же иногда это обязательно будет происходить, а значит, искусственный интеллект должен быть готов к решению моральных дилемм в духе «Проблемы вагонетки».

Как именно он должен их решать — вопрос крайне непростой. Например, существует проблема конфликта интересов пассажиров и пешеходов. По мнению большинства людей, беспилотные автомобили должны ставить безопасность пешеходов выше безопасности пассажиров, однако те же самые люди скорее купят автомобиль, запрограммированный поступать ровно наоборот, то есть спасать пассажира любой ценой.

http://science.sciencemag.org/content/352/6293/1573
Разработчики искусственного интеллекта уже давно поняли, что простыми наборами лаконичных правил вроде Трех законов робототехники Айзека Азимова тут не обойтись. Правила должны быть достаточно сложными, чтобы справляться с ситуациями, когда невозможно полностью избежать вреда, причиняемого людям, и нужно этот вред как-то «оптимизировать», то есть наилучшим образом распределить между участниками инцидента.

Но существует ли в принципе такой набор этических правил для беспилотного автомобиля, который устроил бы всех? Одна из очевидных проблем состоит в том, что моральные нормы и системы ценностей, принятые в разных обществах, далеко не одинаковы. Разнообразие этических норм отражено, например, в «культурной карте мира Инглхарта-Вельцеля» https://en.wikipedia.org/wiki/Inglehart%E2%80%93Welzel_cultural_map_of_the_world.

Чтобы оценить перспективы создания универсального «морального кода» для самоуправляемых машин, международная команда социологов, психологов и специалистов по искусственному интеллекту во главе с Иядом Рахваном (Iyad Rahwan) из Массачусетского технологического института запустила сетевой проект Moral Machine. Целью проекта является сбор мнений людей всего мира о том, какими моральными принципами должны руководствоваться беспилотные автомобили. Сайт проекта поддерживает 10 языков, имеет простой и понятный интерфейс и в целом рассчитан на охват максимально широкой выборки респондентов.

Во всех случаях пользователь должен указать, как следует поступить беспилотному автомобилю в критической ситуации с участием двух групп людей (или домашних животных). Каждая из двух групп включает от 1 до 5 персонажей. В зависимости от принятого решения одна из групп погибнет, а другая будет спасена.

В каждой дилемме участвует едущий по дороге беспилотный автомобиль, у которого внезапно отказали тормоза, а перед ним кто-то переходит дорогу (либо «законно», либо «незаконно» — на красный свет). В одних дилеммах искусственный интеллект должен выбрать, какую из двух групп пешеходов сбить (а пассажирам при этом ничто не угрожает), в других выбор осуществляется между гибелью пассажиров и пешеходов.

Персонажи, участвующие в дилеммах, различаются по полу, возрасту (младенцы в колясках, дети, взрослые, пожилые), физической форме (люди с избыточным весом, обычные люди и спортсмены), социальному статусу (бездомные, обычные люди и начальники) и видовой принадлежности (кроме людей, среди персонажей встречаются собаки и кошки). Программа генерирует дилеммы на основе алгоритма, позволяющего при анализе ответов по отдельности оценить влияние следующих девяти факторов:
1) действие или бездействие (продолжать движение по прямой или свернуть),
2) пассажиры или пешеходы (кого из них спасать),
3) пол жертв (спасать мужчин или женщин),
4) физическая форма (спасать толстяков, обычных людей или спортсменов),
5) социальный статус (спасать бездомных, простых людей или начальников),
6) соблюдение правил (спасать ли тех, кто переходит дорогу на красный свет),
7) возраст (спасать молодых или старых),
8) число жертв (спасать большую или меньшую из двух групп),
9) видовая принадлежность (спасать людей или домашних животных).


Возможных дилемм — миллионы, поэтому вероятность того, что пользователь дважды столкнется с одной и той же задачей, пренебрежимо мала.

Исследователям удалось собрать почти 40 млн ответов (решений отдельных дилемм) от жителей 233 стран. Кроме того, большинство участников заполнили анкету, в которой указали свой возраст, пол, образование, ежегодный доход, отношение к религии и политические взгляды.

Эти данные позволили исследователям решить четыре задачи:
1) оценить значимость каждого из девяти факторов в среднем по всей выборке,
2) сопоставить значимость факторов с индивидуальными характеристиками респондента,
3) сравнить результаты по разным странам и выделить кластеры стран со сходными моральными установками,
4) выяснить, можно ли по экономическим и культурным особенностям страны предсказать, как ее жители предпочли бы программировать беспилотные автомобили.

http://moralmachine.mit.edu/hl/ru
Усредненные предпочтения участников опроса показаны на рисунке. Значимость факторов возрастает сверху вниз. Респонденты сделали уверенный выбор в пользу спасения людей (а не собак и кошек) и больших групп (а не маленьких). Эти результаты вряд ли кого-то удивят, хотя другие могут показаться более спорными. Почти столь же уверенно участники опроса «проголосовали» за спасение молодых, законопослушных (переходящих дорогу на зеленый свет) и высокостатусных людей. Менее значимыми, но все же положительными факторами оказались хорошая физическая форма и принадлежность к женскому полу. Кроме того, респонденты были в среднем чуть более склонны делать выбор в пользу пешеходов (а не пассажиров) и в пользу того, чтобы автомобиль продолжал ехать прямо, а не сворачивал на другую полосу.

Усредненные предпочтения участников опроса. Показаны девять исследуемых факторов в том же порядке, в каком они перечислены в тексте (начиная от выбора между действием и бездействием и заканчивая выбором между спасением домашних животных и людей). Длина синих полосок показывает, насколько вероятность выбора в пользу правого варианта превышает (при усреднении всех остальных факторов) вероятность выбора в пользу левого варианта. Например, вероятность того, что респондент предпочтет спасти молодых людей, превышает вероятность того, что он предпочтет спасти старых, на 0,49. Для восьмого фактора (число жертв) белыми кружками показаны значения для ситуаций, когда число спасаемых превышает число приносимых в жертву на 1, 2, 3 или 4 человека; белый кружок с синим ободком — среднее для всех четырех вариантов



Исследователи не обнаружили достоверной связи между этическими предпочтениями респондентов и шестью учтенными индивидуальными характеристиками (пол, возраст, политические взгляды, религиозность, доход, образование). Всё это, как оказалось, мало влияет на моральный выбор.

Зато обнаружились интересные закономерности в распределении этических предпочтений по странам. В анализе было учтено 130 стран с числом респондентов не менее 100. Получившееся дерево сходства стран по моральным установкам имеет много общего с упомянутой «культурной картой мира» Инглхарта-Вельцеля.

Дендрограмма сходства 130 стран по этическим предпочтениям, на которой выделяются три кластера: Западный, Восточный и Южный. Цвета, которыми набраны названия стран, соответствуют цветам «культурной карты мира» Инглхарта-Вейцеля. Три круговые диаграммы показывают этические предпочтения, характерные для каждого из трех кластеров, то есть степень важности девяти исследованных факторов при решении моральных дилемм (z-оценка: на сколько стандартных отклонений средняя величина для данного кластера отличается от средней по всей выборке). Видны контрастные различия между кластерами. Например, в странах Южного кластера сильны установки, требующие спасать в первую очередь женщин, детей и высокостатусных людей, тогда как жители стран Восточного кластера скорее отдадут предпочтение законопослушным (тем, кто переходит улицу на зеленый свет).


Все страны распались на три кластера, условно обозначенные исследователями как Западный, Восточный и Южный. Кластеры выглядят довольно логично с точки зрения истории и культуры. Западный кластер включает США, Канаду и многие европейские страны (католические, протестантские и православные). Подразделения внутри Западного кластера тоже выглядят более или менее осмысленными: например, одну ветвь образуют англоговорящие страны, другую — скандинавские с Германией, Швейцарией и Австрией. В Восточном кластере преобладают страны либо с конфуцианской, либо с мусульманской традицией. Южный кластер состоит из двух ветвей, одна из которых включает страны Латинской Америки, а вторая — Францию и ряд стран, находившихся в прошлом под французским влиянием.

Как показывают круговые диаграммы, для трех кластеров характерны очень разные представления о том, как должны вести себя беспилотные машины в критических ситуациях. Например, в Южном кластере преобладают идеи о необходимости спасать прежде всего детей и женщин, тогда как жители Восточного кластера отдают предпочтение законопослушным пешеходам и не ставят жизнь молодых намного выше жизни старших.

Эти результаты подчеркивают то, что уже давно известно специалистам по изучению человеческой морали: этические установки, принятые в разных странах и регионах, далеко не универсальны. Поэтому разработать единый «моральный закон» для управляемых искусственным интеллектом машин будет очень непросто.

Авторы обнаружили несколько интересных корреляций, проливающих свет на возможные причины выявленных различий между странами. Например, преобладание в стране индивидуалистских установок (что предполагает высокую ценность индивидуальной человеческой жизни) соотносится с тем, что люди придают большое значение числу потенциальных жертв аварии и считают, что беспилотный автомобиль обязательно должен минимизировать это число. Жители стран с сильными коллективистскими установками спокойнее относятся к числу жертв аварии. Кроме того, для «коллективистов» характерно почтительное отношение к старшим. Может быть, поэтому у них слабее выражена склонность к преимущественному спасению детей. Эти контрастные различия между индивидуалистическими и коллективистскими культурами наверняка создадут большие проблемы для разработчиков универсальной машинной этики.

Корреляции между этическими предпочтениями жителей разных стран, выявленными в эксперименте Moral Machine, и культурными и экономическими особенностями стран. Каждая точка соответствует одной стране; цвет точки (красный, синий или зеленый) отражает принадлежность страны к Западному, Восточному или Южному кластеру. a — склонность спасать большие группы людей, жертвуя меньшими, положительно коррелирует с индивидуализмом (в странах с сильными коллективистскими традициями этот фактор менее значим); на врезке: индивидуализм положительно коррелирует с идеей о важности спасения детей (коллективистским странам более свойственна забота о старших). b — идея о том, что безопасность людей, соблюдающих правила, должна стоять выше безопасности нарушителей, более характерна для богатых и законопослушных стран, чем для бедных и беззаконных. c — положительная корреляция между тем, насколько сильно страна отличается от США по своей морали (согласно данным Всемирного обзора ценностей), и тем, насколько сильно та же страна отличается от США по результатам опроса Moral Machine (это аргумент в пользу осмысленности и неслучайности результатов Moral Machine). d — уровень экономического неравенства (коэффициент Джини) положительно коррелирует с тенденцией отдавать предпочтение высокостатусным людям (спасать начальников, жертвовать бездомными). e — слабая положительная корреляция между тенденцией спасать преимущественно женщин и тем, насколько хорошо живется женщинам по сравнению с мужчинами (это оценивалось по тому, насколько ожидаемая продолжительность жизни женщин выше, чем у мужчин, и по соотношению полов у новорожденных, смещение которого в пользу мальчиков указывает на инфантицид девочек или избирательные аборты).


Значение, придаваемое соблюдению правил (то есть склонность спасать прежде всего тех, кто переходит дорогу на зеленый свет, а не на красный), положительно коррелирует, во-первых, с богатством страны (ВВП на душу населения), во-вторых, с уровнем законности или «верховенства права» . Иными словами, люди, привыкшие к бедности и плохой работе социальных институтов, склонны смотреть сквозь пальцы на нарушение правил и не придавать этому большого значения при решении вопросов жизни и смерти.

Авторы также заметили, что в странах с высоким уровнем экономического неравенства сильнее выражена склонность в аварийной ситуации отдавать предпочтение спасению людей с высоким статусом (рис. 4, d). Может быть, это связано с тем, что жители стран, сумевших добиться более равного распределения благ между людьми, выше ценят равенство прав и поэтому не считают, что задавить бездомного — это лучше, чем задавить начальника.

Несмотря на выявленные различия, авторы полагают, что полученные результаты всё же не ставят крест на разработке универсального «морального кода» для беспилотных машин. Некоторые предпочтения, продемонстрированные участниками опроса, являются универсальными или почти универсальными. Так, практически во всех странах люди склонны ставить жизнь людей намного выше жизни домашних животных (хотя в Южном кластере забота о собачках и кошечках выражена сильнее, чем в двух других). Универсальными (хотя и выраженными в разной степени в разных странах) являются также идеи о минимизации числа жертв и о том, что в первую очередь нужно спасать детей.

Данное исследование беспрецедентно по своим масштабам, но при этом у него есть вполне очевидные недостатки. Изученные выборки не обязательно являются репрезентативными. Например, вовсе не факт, что ответы нескольких сотен жителей какой-нибудь африканской страны, принявших участие в опросе, адекватно отражают типичные для данной страны моральные предпочтения. Впрочем, собрать и обработать такой же объем данных по сотням стран, соблюдая все требования, предъявляемые к репрезентативности выборок, попросту невозможно. Кроме того, тот факт, что полученные результаты хорошо согласуются с данными Всемирного обзора ценностей и разумным образом коррелируют с социо-экономическими показателями, свидетельствует в пользу осмысленности и значимости этих результатов.

В работе использовались грубые упрощения, что в какой-то мере ограничивает практическую применимость полученных выводов. Например, во всех моральных дилеммах было точно известно, кто есть кто (про мальчиков было точно известно, что они мальчики, а про толстяков — что они толстяки). Результат любого решения тоже был известен заранее со стопроцентной точностью (одна группа персонажей точно умрет, другая точно выживет). В реальной жизни беспилотным машинам, конечно же, придется иметь дело не с точным априорным знанием, а с приблизительными оценками вероятностей.

Всё это авторы прекрасно понимают. Они подчеркивают, что их результаты не являются истиной в последней инстанции, и предлагают относиться к ним как к началу широкой международной дискуссии. Люди никогда еще не позволяли машинам автономно, без непосредственного контроля со стороны человека, за доли секунды принимать решения о жизни и смерти людей. Но человечество уже стоит на пороге таких перемен. Беспилотные автомобили скоро появятся на дорогах. Аварии с их участием и с человеческими жертвами неизбежны. Даже если они будут происходить очень редко, всё равно к разработке «морального закона» для самоуправляемых машин нужно подойти со всей серьезностью. И при этом необходимо учитывать, помимо прочего, также и данные о вариабельности этических норм в разных уголках мира.

https://www.nature.com/articles/d41586-018-07135-0
 

Создайте учетную запись или войдите в систему, чтобы комментировать

Вы должны быть участником, чтобы оставить комментарий

Создать аккаунт

Создайте учетную запись в нашем сообществе. Это просто!

Авторизоваться

У вас уже есть учетная запись? Войдите в систему здесь.

Верх Низ