В том то и дело что нет именно по этой теме статистики. Все эти эксперименты были проведены в лабораториях. Человеку просто предлагается нажать на ту или иную кнопку и выбрать ответ, который он считает нужным. Предлагаются различные дилемные ситуации.
В жизни скорее всего происходит все по другому. Никто не знает.
...как должен поступить робот — сбить его или увернуться, рискуя попасть в аварию и убить собственного владельца?...
Очевидно что робот при движении должен быть на связи со всеми прочими роботами движущимеся в попутном и встречном направлениях. На всем протяжении движения у группы роботов должны просчитываться сценарии взаимодействия на 2 — 3 хода вперед и внезапная остановка или смена направления одним из роботов — не должна быть неожиданностью для прочих участников движения. Таким образом робот увидевший впереди себя препятствие — метнулся вправо и резко остановился, прочие роботы действуя согласованно так же метнутся вправо, те что сзади тормознут.
Алгоритмы можно проработать понаблюдав за большими стаями птиц либо за косяками рыбы.
Роджер Желязны. "Повелитель снов". Основная тема романа не о том, но дело происходит в будущем и автопилоты распространены повсеместно. Дороги там от пешеходов просто-напросто полностью изолированы. Второстепенному герою романа — самоубийце — приходится ухищряться. Преодолевать заграждение и пр.
Насколько я помню, всё, что разрешают российские правила, это торможение — нельзя вилять. И хотя живой человек при должной реакции может отступать от этого правила без последствий для кого-либо, для автопилота имхо экстренное торможение — это единственно верное решение.
Думаю, что алгоритм автопилота для таких случаев должен быть прежде всего прост и прозрачен, в смысле понятен и предсказуем для пешеходов. Чтобы они заранее и ответственно планировали своё поведение на дороге с учётом возможных последствий собственных нарушений, не надеясь на чудеса, и на то, что при нарушении ими, пешеходами, ПДД вместо них раздавят кого-то ещё. ИМХО такой подход может заставить пешеходов меньше нарушать, и тем самым сбережёт больше жизней, чем любой мегапродуманный алгоритм, учитывающий возраст, здоровье и цвет глаз раздавливаемых.
А использовать алгоритм оценки вероятности летального исхода? При возникновении аварийной ситуации высчитывать вероятности летальных исходов для пассажиров и для пешеходов.
Перед пешеходными переходами нужно вмонтировать в асфальт опускаемые/поднимаемые стальные блоки.
Нажал кнопку перехода, через 1-2 минуты включился красный, поднялся блок, загорелся зелёный для пешеходов.
Ситуация имеет простое решение. В некоторых странах (например Италия, если я не ошибаюсь) у водителей карет скорой помощи есть радиопередатчик врубающий красный заблаговременно. Само собой он работает только с включённой мигалкой и сиреной. Если мчится пожарная или скорая, то пешеходам не загорится зелёный, и не поднимутся блоки, а будет мигать красный до проезда скорой/пожарной.
Недавно ехал по дублёру Можайского шоссе между улицами Гришина и Кубинка, так одна пара средних лет стала переходить дорогу не по кратчайшему пути (поперёк), а практически вдоль (срезать угол решили). Причём, если мужчина, когда машины приблизились, порывался ускорится, то женщина его тут же вцепилась ему в локоть, одёрнула назад и не спеша продолжила движение. В общем всем водителям пришлось стоять резко тормозить и ждать, пока пара завершит своё шествие...
А как на счет пары водителей, что остановились в двух левых(!) рядах на "каширке" перед регулируемым светофором(!!) пешеходном переходе и стали пропускать стоящих там пешеходов при сигнале зелёного(!!!) для машин...
Внимательней читайте: "остановились ...и стали пропускать стоящих пешеходов..."
А я подъезжал сзади в среднем ряду и что-то мне подсказало, что надо притормозить, посигналить и показать "идиотам-водителям", что из-за них не хочется садиться на скамью подсудимых.
По новым правилам Вы обязаны остановиться, если машины в соседних рядах сделали это, именно для того, чтобы случайно не сбить придурка, который из-за них выскочит.
Я, если честно, сам часто притормаживаю, когда пешеход топчется на обочине и не понятно, что он будет делать в следующий момент. Тут независимо от сигнала светофора водитель будет виноват, получит срок и станет оплачивать лечение. Наши законы и их трактовка судьями таковы, что при самых благоприятных условиях (водитель не виноват, пешеход особо не пострадал и судья лоялен) водитель отделается минимальным сроком и сможет, теоретически, стребовать оплату ремонта. При этом оплата лечения "потерпевшего" всё равно повиснет на водителе.
Причем здесь новые правила? Водитель всегда был и будет виноват если совершит наезд на пешехода на пешеходном переходе. А вот "автопилот" при разрешающем сигнале светофора и "стоящих" У(!) перехода пешеходах свободно проедет данный участок, другое дело, что как и для "живого" водителя в подпрограмме должна быть строка кода "о тапочке на педали тормоза при приближении к пешеходному переходу"
А при том, что раньше ты мог не обращать внимание на действия водителей в других полосах, если только они не мешают твоему движению. Теперь же в случае остановки машины в соседней полосе, особенно перед переходом, ты обязан остановиться и сам. Так что то, что Вы остановились в описанной ситуации, то это как раз выполнение требований ПДД, а не Ваша добрая воля.
Еще раз объясняю: Остановившиеся по своей дурости водители создали (сами!!!) ситуацию, которая могла привести к ДТП. "Автопилот" в данной ситуации такого бы не сделал. Это — раз!
И два, водитель, совершивший наезд на пешехода на пешеходном переходе, будет ВСЕГДА (и был) виноват в этом наезде в независимости от дня недели, состояния пешехода и цветов светофора.
не знаю, но догадываюсь!
А дорога эта называется Каширское шоссе, по 5(!) полос в каждую сторону и разделительным островком безопасности посредине пешеходного перехода со светофором (это было около 5 лет назад, в период массовой компании об уважении прав пешеходов на дорогах. Два представителя азиатской национальности перебежали одну сторону дороги (опять же на свой "красный" и стояли на "островке" в ожидании. Хорошо, что обе водительницы были в незатемненных машинах, поэтому мне удалось сквозь них рассмотреть неуверенно выдвинувшихся пешеходов. Обращаю внимание: Пешеходы стояли(!), машины подъехали и остановились(!!), пешеходы неуверенно начали движение по переходу. Все это происходит на "красный" для пешеходов и "зеленый" для машин.
Тут не пешеходы виноваты, у них в ауле светофоров нет, а водители, что не знают ПДД
Правило "ДДД". Я бы на их месте тоже остановился бы, кто его знает, куда этих чурок понесёт в следующий момент, а ты виноват будешь. В крайнем случае проехал бы тихо-тихо, но только убедившись, что те не прыгнут под колёса.
Вот, и Вы туда же. Т.е. будете останавливаться перед каждым регулируемым переходом, если возле него стоят пешеходы? Вам не надоест слышать сзади гудки возмущенных водителей?
Если народ стоит спокойно и ждёт разрешающего сигнала, то еду не дёргаясь, если вижу придурка, который может прыгнуть под машину, то снижу скорость, а то и остановлюсь.
Ну, могу лишь пожелать Вам удачи в дистанционном принятии решения об умственных способностях пешеходов.
А я все-таки доверюсь своим знаниям ПДД и опыту вождения.
Ваше заявление очень напомнило анекдот:
Сын получил права и гордо предлагает папе покататься. Отец соглашается. Через некоторое время сын спрашивает:
— Ну как, папа, я стал настоящим водителем?
— Как тебе сказать... А ты видел на тротуаре шикарную блондинку в короткой юбке и без лифчика?
— Нет.
— Тогда сынок тебе до настоящего водителя ещё очень далеко.
Я это к тому, что опытный водитель должен не только видеть, что делается перед машиной, но и успевать оценить ситуацию вокруг неё и спрогнозировать возможные действия других участников движения. Тогда никакой "нежданчик" не поставит Вас в тупик.
Что за фигня- почему в "смертельные сценарии" включены ситуации, когда пешеходы идут на разрешающий сигнал?
Причем тут этика вообще? Робот обязан придерживаться ПДД, которые написаны кровью многих людей, а если пешеходы не хотят ПДД исполнять, то это исключительно их проблемы, а не несчастного робота...
Простой пример: малыш 3-5 лет выбежал/выехал на трёхколёсном велосипеде на дорогу. В принципе, виноват не он, а его родители/бабушка/другой сопровождающий...
Давить будете?
Автопилот будет давить ,у него другого варианта не будет я думаю , а а его родители/бабушка/другой сопровождающий... получат по 5-10 лет общего режима без УДО и после трех, четырех таких дел все остальные будут ребенка держать при себе а не курить и пить пивасик на расслабоне рядом со автосредствами повышенной опасности
не не будет другого варианта потому, что это классическй ( один из вариантов) такого философского эксперимента как проблема вагонетки Проблема Вагонетки
Ни в данный момент ни в обозримом будущем программировать этичность выбора или моральные последствия выбора или другие аспекты социального поведения человека нет никакой возможности и для автопилота будет выбор либо задавить препятствие ( а еще автопилот должен отличать, что это за препятствие, с этим в данный момент тоже туго ,но продвигается хотя и со скрипом , недавно еще ИИ не мог отличить кошки от стула потому, что и там и там есть 4 ноги крепящиеся к верхнему основанию) либо подвергнуть опасности жизнь тех, кто находится в транспортном средстве ( а это может быть например автобус с сотней пассажиров) Так что алгоритм будет простейший и основанный на том ,что все участники движения включая пешеходов соблюдают правила дорожного движения ( за малолетних пешеходов отвественность несут их родители или сопровождающие)
Сначала человек должен для себя обосновать выбор в эксперименте " проблема вагонетки" и пока это не будет обосновано на уровне правил поведения ( этично давить 1 человека — не этично давить 5 человек , но допускается давить 5 человек если ущерб от первого действия будет неприемелемым для третьей группы лиц итд) никаких вариантов для автопилота не будет ( кроме соблюдения правил ПДД, да и в дальнейшем тоже никакого выбора не будет, кроме соблюдения ПДД )
инженерные решения победят
Эти решения должны так же распространятся и на пешеходов ( если у пешеходов будет возможность нарушать ПДДб то обязательно найдется тот кто их будет нарушать в силу своей дебильности, человеческии фактор нужно исключить)
Можно в принципе вспомнить то ,что машинисты на ЖД не тормозят если сбивают "пешехода" у них нет ни возможности предотвратить столкновение ,ни желания рисковать сотнями пассажиров
Вы придаёте отвлечённой философской проблеме слишком большое значение, как мне кажется :-)
Правильного ответа там нет. Это свойство многих проблем на стыке философии, морали и психологии.
Что до инженерных решений "для пешеходов", то это тоже вполне возможно, хоть и дороже. Ограждения проезжей части, перевод переходов в подземный или надземный уровень... Думаю, со временем транспортный и пешеходный уровень вообще разнесут. Полностью. За исключением мест посадки-высадки, где будет просто ограничена скорость. Скажем, до 10 км/ч.
Как раз заставить роботов соблюдать такие правила будет много легче, чем людей за рулём.
Вы придаёте отвлечённой философской проблеме слишком большое значение, как мне кажется :-)
Ну вот в этом и заключается то что сама постановка вопроса направильна ) Этические проблемы автопилота: кого убивать? нет таких проблем у автопилота) такая проблема есть у человека и она до сих пор не решена и думаю ,что решена не будет никогда
И в статье обсуждается именно этичность убийства в той или иной ситуации это и есть классически вопрос под названием " проблема вагонетки" Только в данном случае хотят переключение стрелок которое в классическом варианте предоставлялось человеку , переложить на автопилот ( то есть не толкать толстого человека собственноручно на рельсы а переключить механизм опосредствованно) Вобщем это нерешаемая проблема ( этика автопилота) и то что ее выложили в интернет и предлагают на примере 13 картинок решить проблему этики, это на мой взгляд бутаффория ( таким образом решить кого должен давить или не давить автопилот нельзя) не получится предоставить автопилоту выбор что лучше? одна бабушка в машине с отказавшими тормозами или отряд пионеров на перекрестке шествующий на зеленый свет
так что руководствоватся автопилот может исключительно правилами ПДД и все остальные участники движения ( включая пешеходов) ими тоже должны руководствоватся и если пешеход переходит на красный свет, то автопилот ( который просчитает ситуацию моментально) либо оттормозится в пол , либо не будет даже замедлять скорость движения , через полгода человеческие кегли на дорогах появлятся перестанут
Почитайте уже ПДД, пожалуйста, там все очень четко прописано, что и как обязан делать водитель в экстремальной ситуации, а именно: применять торможение, вплоть до экстренной остановки. Смысла менять правила от того, кто или что будет автомобилем -нет. Если роботы или водители начнут массово "уворачиваться", то на дороге и будет хаос.
Я просто привёл пример того, что не всегда нарушение ПДД — проблема нарушителя. Нарушитель может быть недееспособным.
Кстати, водитель-человек в данной ситуации хоть и может избежать уголовного преследования (конкретно в данной — маловероятно, но возможно), но от гражданского иска это его не защитит.
С водителем-роботом всё ещё проще: уголовное преследование самого робота просто неактуально, а вот гражданский иск его владельцу — практически гарантирован.
"the self-driving car with sudden brake failure will continue ahead and drive through a pedestrian crossing ahead".
это понятно, что лучше быть здоровым и богатым, но ситуации бывают разные.
Вопрос интересный в этом случае. Где бы почитать- что именно предлагают разработчики систем сегодня, хоть ситуация и редкая, но вероятность не нулевая. Неужели они упустили этот момент и до сих пор нет никаких решений?
Именно так. Согласно ПДД при аварийной ситуации ты должен давить тапком тормоз в пол, а не мучиться моральным аспектом. Успел затормозить — счастье тебе в дом, не успел — отвечай. Другого не дано. Если начинать определять кого давить, а кого нет, то это тупик, решение найдено не будет.
Долго думал.... Так и не нашел решения этой задачи.
За то я знаю тех кто решал такие дилеммы.
Это семьи в которых есть дети с искуственном оплодотворением.
Там тоже из 8-10 нужно оставить всего 1 эмбрион.
Может к ним вопрос адресовать?
Комментарии
а как поступает ЧЕЛОВЕК?
ведь, какая-то статистика есть по этой теме.
В жизни скорее всего происходит все по другому. Никто не знает.
Очевидно что робот при движении должен быть на связи со всеми прочими роботами движущимеся в попутном и встречном направлениях. На всем протяжении движения у группы роботов должны просчитываться сценарии взаимодействия на 2 — 3 хода вперед и внезапная остановка или смена направления одним из роботов — не должна быть неожиданностью для прочих участников движения. Таким образом робот увидевший впереди себя препятствие — метнулся вправо и резко остановился, прочие роботы действуя согласованно так же метнутся вправо, те что сзади тормознут.
Алгоритмы можно проработать понаблюдав за большими стаями птиц либо за косяками рыбы.
Но это уже есть в первом приближении. Железная дорога.
Однако и там смерти есть.
Нажал кнопку перехода, через 1-2 минуты включился красный, поднялся блок, загорелся зелёный для пешеходов.
На дороге представьте ситуацию: красный свет, поднят блок и вдруг мчится пожарная или скорая... Дальше продолжите сами.
не совсем ж/д переезд
А я подъезжал сзади в среднем ряду и что-то мне подсказало, что надо притормозить, посигналить и показать "идиотам-водителям", что из-за них не хочется садиться на скамью подсудимых.
Я, если честно, сам часто притормаживаю, когда пешеход топчется на обочине и не понятно, что он будет делать в следующий момент. Тут независимо от сигнала светофора водитель будет виноват, получит срок и станет оплачивать лечение. Наши законы и их трактовка судьями таковы, что при самых благоприятных условиях (водитель не виноват, пешеход особо не пострадал и судья лоялен) водитель отделается минимальным сроком и сможет, теоретически, стребовать оплату ремонта. При этом оплата лечения "потерпевшего" всё равно повиснет на водителе.
И два, водитель, совершивший наезд на пешехода на пешеходном переходе, будет ВСЕГДА (и был) виноват в этом наезде в независимости от дня недели, состояния пешехода и цветов светофора.
А дорога эта называется Каширское шоссе, по 5(!) полос в каждую сторону и разделительным островком безопасности посредине пешеходного перехода со светофором (это было около 5 лет назад, в период массовой компании об уважении прав пешеходов на дорогах. Два представителя азиатской национальности перебежали одну сторону дороги (опять же на свой "красный" и стояли на "островке" в ожидании. Хорошо, что обе водительницы были в незатемненных машинах, поэтому мне удалось сквозь них рассмотреть неуверенно выдвинувшихся пешеходов. Обращаю внимание: Пешеходы стояли(!), машины подъехали и остановились(!!), пешеходы неуверенно начали движение по переходу. Все это происходит на "красный" для пешеходов и "зеленый" для машин.
Тут не пешеходы виноваты, у них в ауле светофоров нет, а водители, что не знают ПДД
А я все-таки доверюсь своим знаниям ПДД и опыту вождения.
Сын получил права и гордо предлагает папе покататься. Отец соглашается. Через некоторое время сын спрашивает:
— Ну как, папа, я стал настоящим водителем?
— Как тебе сказать... А ты видел на тротуаре шикарную блондинку в короткой юбке и без лифчика?
— Нет.
— Тогда сынок тебе до настоящего водителя ещё очень далеко.
Я это к тому, что опытный водитель должен не только видеть, что делается перед машиной, но и успевать оценить ситуацию вокруг неё и спрогнозировать возможные действия других участников движения. Тогда никакой "нежданчик" не поставит Вас в тупик.
Причем тут этика вообще? Робот обязан придерживаться ПДД, которые написаны кровью многих людей, а если пешеходы не хотят ПДД исполнять, то это исключительно их проблемы, а не несчастного робота...
Давить будете?
Обычное инженерное решение, в общем-то...
Ни в данный момент ни в обозримом будущем программировать этичность выбора или моральные последствия выбора или другие аспекты социального поведения человека нет никакой возможности и для автопилота будет выбор либо задавить препятствие ( а еще автопилот должен отличать, что это за препятствие, с этим в данный момент тоже туго ,но продвигается хотя и со скрипом , недавно еще ИИ не мог отличить кошки от стула потому, что и там и там есть 4 ноги крепящиеся к верхнему основанию) либо подвергнуть опасности жизнь тех, кто находится в транспортном средстве ( а это может быть например автобус с сотней пассажиров) Так что алгоритм будет простейший и основанный на том ,что все участники движения включая пешеходов соблюдают правила дорожного движения ( за малолетних пешеходов отвественность несут их родители или сопровождающие)
инженерные решения победят
Эти решения должны так же распространятся и на пешеходов ( если у пешеходов будет возможность нарушать ПДДб то обязательно найдется тот кто их будет нарушать в силу своей дебильности, человеческии фактор нужно исключить)
Можно в принципе вспомнить то ,что машинисты на ЖД не тормозят если сбивают "пешехода" у них нет ни возможности предотвратить столкновение ,ни желания рисковать сотнями пассажиров
Правильного ответа там нет. Это свойство многих проблем на стыке философии, морали и психологии.
Что до инженерных решений "для пешеходов", то это тоже вполне возможно, хоть и дороже. Ограждения проезжей части, перевод переходов в подземный или надземный уровень... Думаю, со временем транспортный и пешеходный уровень вообще разнесут. Полностью. За исключением мест посадки-высадки, где будет просто ограничена скорость. Скажем, до 10 км/ч.
Как раз заставить роботов соблюдать такие правила будет много легче, чем людей за рулём.
Ну вот в этом и заключается то что сама постановка вопроса направильна ) Этические проблемы автопилота: кого убивать? нет таких проблем у автопилота) такая проблема есть у человека и она до сих пор не решена и думаю ,что решена не будет никогда
И в статье обсуждается именно этичность убийства в той или иной ситуации это и есть классически вопрос под названием " проблема вагонетки" Только в данном случае хотят переключение стрелок которое в классическом варианте предоставлялось человеку , переложить на автопилот ( то есть не толкать толстого человека собственноручно на рельсы а переключить механизм опосредствованно) Вобщем это нерешаемая проблема ( этика автопилота) и то что ее выложили в интернет и предлагают на примере 13 картинок решить проблему этики, это на мой взгляд бутаффория ( таким образом решить кого должен давить или не давить автопилот нельзя) не получится предоставить автопилоту выбор что лучше? одна бабушка в машине с отказавшими тормозами или отряд пионеров на перекрестке шествующий на зеленый свет
так что руководствоватся автопилот может исключительно правилами ПДД и все остальные участники движения ( включая пешеходов) ими тоже должны руководствоватся и если пешеход переходит на красный свет, то автопилот ( который просчитает ситуацию моментально) либо оттормозится в пол , либо не будет даже замедлять скорость движения , через полгода человеческие кегли на дорогах появлятся перестанут
Кстати, водитель-человек в данной ситуации хоть и может избежать уголовного преследования (конкретно в данной — маловероятно, но возможно), но от гражданского иска это его не защитит.
С водителем-роботом всё ещё проще: уголовное преследование самого робота просто неактуально, а вот гражданский иск его владельцу — практически гарантирован.
это понятно, что лучше быть здоровым и богатым, но ситуации бывают разные.
За то я знаю тех кто решал такие дилеммы.
Это семьи в которых есть дети с искуственном оплодотворением.
Там тоже из 8-10 нужно оставить всего 1 эмбрион.
Может к ним вопрос адресовать?