Этические проблемы автопилота: кого убивать?

+
Чтобы отправить комментарий — войдите.
  • ilunga
    5 окт 16
    "как должен поступить робот — сбить его или увернуться"
    а как поступает ЧЕЛОВЕК?
    ведь, какая-то статистика есть по этой теме.
    Ответить
    • B
      В том то и дело что нет именно по этой теме статистики. Все эти эксперименты были проведены в лабораториях. Человеку просто предлагается нажать на ту или иную кнопку и выбрать ответ, который он считает нужным. Предлагаются различные дилемные ситуации.
      В жизни скорее всего происходит все по другому. Никто не знает.
      Ответить
      • nslogan
        вообще постановка вопроса тупиковая. типа вопроса: ты кого больше любишь, папу или маму?
        Ответить
  • Mudisatwa_Ye
    5 окт 16
    ...как должен поступить робот — сбить его или увернуться, рискуя попасть в аварию и убить собственного владельца?...
    Очевидно что робот при движении должен быть на связи со всеми прочими роботами движущимеся в попутном и встречном направлениях. На всем протяжении движения у группы роботов должны просчитываться сценарии взаимодействия на 2 — 3 хода вперед и внезапная остановка или смена направления одним из роботов — не должна быть неожиданностью для прочих участников движения. Таким образом робот увидевший впереди себя препятствие — метнулся вправо и резко остановился, прочие роботы действуя согласованно так же метнутся вправо, те что сзади тормознут.
    Алгоритмы можно проработать понаблюдав за большими стаями птиц либо за косяками рыбы.
    Ответить
  • S
    5 окт 16
    Роджер Желязны. "Повелитель снов". Основная тема романа не о том, но дело происходит в будущем и автопилоты распространены повсеместно. Дороги там от пешеходов просто-напросто полностью изолированы. Второстепенному герою романа — самоубийце — приходится ухищряться. Преодолевать заграждение и пр.
    Ответить
    • iAHTOHru
      saf 5 окт 16
      Т.е. предлогают сделать собственную дорогу?
      Но это уже есть в первом приближении. Железная дорога.
      Однако и там смерти есть.
      Ответить
  • C
    5 окт 16
    Насколько я помню, всё, что разрешают российские правила, это торможение — нельзя вилять. И хотя живой человек при должной реакции может отступать от этого правила без последствий для кого-либо, для автопилота имхо экстренное торможение — это единственно верное решение.
    Ответить
    • KAPaCek
      Вот и мне это первым делом в голову пришло.
      Ответить
    • RusSlon
      Нельзя одновременно объезжать и тормозить — потеря управления.
      Ответить
      • S
        Добро пожаловать в 21 век. ESP и ABS как раз для этого сделаны.
        Ответить
        • nslogan
          вообще-то САБЫРС прав — торможение, и только торможение.
          Ответить
    • S
      Если речь идёт о человеческой жизни, то можно и вилять, это вам любой адвокат подтвердит.
      Ответить
  • Dont_Knowler
    5 окт 16
    Думаю, что алгоритм автопилота для таких случаев должен быть прежде всего прост и прозрачен, в смысле понятен и предсказуем для пешеходов. Чтобы они заранее и ответственно планировали своё поведение на дороге с учётом возможных последствий собственных нарушений, не надеясь на чудеса, и на то, что при нарушении ими, пешеходами, ПДД вместо них раздавят кого-то ещё. ИМХО такой подход может заставить пешеходов меньше нарушать, и тем самым сбережёт больше жизней, чем любой мегапродуманный алгоритм, учитывающий возраст, здоровье и цвет глаз раздавливаемых.
    Ответить
  • SemKa
    5 окт 16
    А использовать алгоритм оценки вероятности летального исхода? При возникновении аварийной ситуации высчитывать вероятности летальных исходов для пассажиров и для пешеходов.
    Ответить
  • S
    5 окт 16
    Перед пешеходными переходами нужно вмонтировать в асфальт опускаемые/поднимаемые стальные блоки.
    Нажал кнопку перехода, через 1-2 минуты включился красный, поднялся блок, загорелся зелёный для пешеходов.
    Ответить
    • ShadowZ
      Едет себе правильный водитель и тут эти блоки поднялись, ошибка, коротнула проводка или еще что...и привет.
      Ответить
      • S
        Если что, то такие блоки уже ставят, правда пока, в дополнение к шлагбаумам
        Ответить
        • Konrad45
          Ставят только на ЖД переездах.
          На дороге представьте ситуацию: красный свет, поднят блок и вдруг мчится пожарная или скорая... Дальше продолжите сами.
          Ответить
  • L
    5 окт 16
    Недавно ехал по дублёру Можайского шоссе между улицами Гришина и Кубинка, так одна пара средних лет стала переходить дорогу не по кратчайшему пути (поперёк), а практически вдоль (срезать угол решили). Причём, если мужчина, когда машины приблизились, порывался ускорится, то женщина его тут же вцепилась ему в локоть, одёрнула назад и не спеша продолжила движение. В общем всем водителям пришлось стоять резко тормозить и ждать, пока пара завершит своё шествие...
    Ответить
    • S
      lvzh 5 окт 16
      Дункан МакКлауд с подругой, им можно
      Ответить
    • leonsoft
      lvzh 5 окт 16
      А как на счет пары водителей, что остановились в двух левых(!) рядах на "каширке" перед регулируемым светофором(!!) пешеходном переходе и стали пропускать стоящих там пешеходов при сигнале зелёного(!!!) для машин...
      Ответить
      • L
        leonsoft 5 окт 16
        Если пешеходы рванули через дорогу, то выхода у водителей не было.
        Ответить
        • leonsoft
          lvzh 5 окт 16
          Внимательней читайте: "остановились ...и стали пропускать стоящих пешеходов..."
          А я подъезжал сзади в среднем ряду и что-то мне подсказало, что надо притормозить, посигналить и показать "идиотам-водителям", что из-за них не хочется садиться на скамью подсудимых.
          Ответить
  • lysikov
    5 окт 16
    Что за фигня- почему в "смертельные сценарии" включены ситуации, когда пешеходы идут на разрешающий сигнал?
    Причем тут этика вообще? Робот обязан придерживаться ПДД, которые написаны кровью многих людей, а если пешеходы не хотят ПДД исполнять, то это исключительно их проблемы, а не несчастного робота...
    Ответить
    • ivonin
      Простой пример: малыш 3-5 лет выбежал/выехал на трёхколёсном велосипеде на дорогу. В принципе, виноват не он, а его родители/бабушка/другой сопровождающий...
      Давить будете?
      Ответить
      • Z
        ivonin 5 окт 16
        Автопилот будет давить ,у него другого варианта не будет я думаю , а а его родители/бабушка/другой сопровождающий... получат по 5-10 лет общего режима без УДО и после трех, четырех таких дел все остальные будут ребенка держать при себе а не курить и пить пивасик на расслабоне рядом со автосредствами повышенной опасности
        Ответить
        • ivonin
          ZzFzz 5 окт 16
          Я думаю, будет другой вариант: просто обяжут задублировать тормозную систему. Законом.
          Обычное инженерное решение, в общем-то...
          Ответить
      • lysikov
        Почитайте уже ПДД, пожалуйста, там все очень четко прописано, что и как обязан делать водитель в экстремальной ситуации, а именно: применять торможение, вплоть до экстренной остановки. Смысла менять правила от того, кто или что будет автомобилем -нет. Если роботы или водители начнут массово "уворачиваться", то на дороге и будет хаос.
        Ответить
        • lysikov
          ...будет управлять автомобилем..
          Ответить
        • ivonin
          Я просто привёл пример того, что не всегда нарушение ПДД — проблема нарушителя. Нарушитель может быть недееспособным.
          Кстати, водитель-человек в данной ситуации хоть и может избежать уголовного преследования (конкретно в данной — маловероятно, но возможно), но от гражданского иска это его не защитит.
          С водителем-роботом всё ещё проще: уголовное преследование самого робота просто неактуально, а вот гражданский иск его владельцу — практически гарантирован.
          Ответить
    • zkn
      lysikov 5 окт 16
      "the self-driving car with sudden brake failure will continue ahead and drive through a pedestrian crossing ahead".
      это понятно, что лучше быть здоровым и богатым, но ситуации бывают разные.
      Ответить
      • lysikov
        zkn 5 окт 16
        Вопрос интересный в этом случае. Где бы почитать- что именно предлагают разработчики систем сегодня, хоть ситуация и редкая, но вероятность не нулевая. Неужели они упустили этот момент и до сих пор нет никаких решений?
        Ответить
    • vag045
      Именно так. Согласно ПДД при аварийной ситуации ты должен давить тапком тормоз в пол, а не мучиться моральным аспектом. Успел затормозить — счастье тебе в дом, не успел — отвечай. Другого не дано. Если начинать определять кого давить, а кого нет, то это тупик, решение найдено не будет.
      Ответить
  • iAHTOHru
    5 окт 16
    Долго думал.... Так и не нашел решения этой задачи.
    За то я знаю тех кто решал такие дилеммы.
    Это семьи в которых есть дети с искуственном оплодотворением.
    Там тоже из 8-10 нужно оставить всего 1 эмбрион.
    Может к ним вопрос адресовать?
    Ответить
  • maxxasot
    5 окт 16
    Возможно не совсем по теме, но ролик классный, хотя и не свежий.
    Ответить
  • A
    5 окт 16
    Ну, не нравится мне мысль об автопилоте на дорогах общего пользования!
    Ответить
    • iAHTOHru
      А почему собственно?
      Вам не нравится остутвие на дорогах лихой, тошнотиков, обочечников, наглецов и учителей?
      А так же отсутствие пробок, равномерного распределения скорости и гарантированном время поездки из точки А в точку В?
      Ответить
  • A
    5 окт 16
    А еще пора бы вспомнить о том, что дорога это место для движения автомобилей и заняться ликвидацией нерегулируемых переходов (по мере возможности) и воспитанием пешеходов ( правота на дороге не гарантирует долгую жизнь, а скорее наоборот...).
    Ответить
  • uz1awo
    5 окт 16
    Смертельную инъекцию водителю и машину в кювет или в столб — так должен сделать правильный компьютер в случае подобного выбора.
    Ответить
  • S
    5 окт 16
    Главное, чтобы кортежи пропускал.
    Ответить
  • jiemyp
    5 окт 16
    вспоминается старый анекдот: В автошколе в Грузии соискатель водительских прав сдает экзамен. Инспектор объясняет дорожную ситуацию:
    — Ты едешь в машина по узкой дорога. Слева — високий-високий гор. Справа — кpутой-кpутой абpив. Вдруг на дороге — кpасивий дэвушка. А рядом с ней стpашный-пpестpашный старух. Кого давить будэшь?
    — Конечно, старуху!
    — Дурак! Тормоз давить нужно!
    Ответить
  • ae485
    5 окт 16
    На то он и автопилот, чтобы быстро реагировать и не ставить никого перед разнообразными дилеммами.
    Не могет — нечего на рынок выставлять, а допиливать отправить.
    Ответить
  • N
    5 окт 16
    Если по справедливости — всех.
    Ответить
  • R
    5 окт 16
    Автопилот перед пешеходным переходом должен двигаться так, чтобы не убить никого. Т.е. анализировать окружающее и иметь возможность вовремя затормозить.
    Ответить
    • E
      refr 5 окт 16
      Это если кто-нибудь не захочет свести счеты с жизнью. Или если не захочет подстроить подставу (с манекеном, собакой, еще как-нибудь): робот все-таки программа, и непредусмотренную ситуацию придумать можно.
      Ответить
      • old-user
        Программа должна помочь самоубийце, а если в последний момент передумает — догнать! )))
        Ответить
        • Gentleman
          Плохо водишь водитель. Если бы я дверь не открыл — ушла бы бабка однако.... :)
          Ответить
    • W
      refr 5 окт 16
      Насколько я понял из описания "With sudden brake failure", Приводятся примеры с внезапным отказом тормозов
      Ответить
  • B
    5 окт 16
    Имхо — машина всегда должна действовать по правилам:
    1) если есть выбор "убить одного или другого" — сбивать тех, кто не по правилам на дороге (если все по правилам — ехать прямо, если не по правилам машина гонит на пешеходке — биться в бетон)
    2) если есть выбор — животные или люди — бить животных
    3) если есть выбор — убить или покорёжить машину — корёжить машину
    Ответить
    • ReyterAK
      На самом деле правило только одно — экстренное торможение. Никаких иных маневров применять нельзя (поскольку в результате может получиться еще хуже).
      Ответить
      • T_Troll
        Согласен, это золотое правило в любом случае — для людей тоже.
        Ответить
        • ReyterAK
          Оно не просто золотое. Оно официальное и обязательно к применению.
          ПДД 2016 РФ:
          10.1. ... При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства.
          Ответить
      • Guimplen
        Так в том-то и дело, что по условиям задачи, тормоза не работают. Есть только два выбора — направо или налево. Нет тормозов, СОВСЕМ НЕТ.
        Ответить
Сделано с NoNaMe