Этические проблемы автопилота: кого убивать?

+
Чтобы отправить комментарий — войдите.
  • ilunga
    5 окт 16
    "как должен поступить робот — сбить его или увернуться"
    а как поступает ЧЕЛОВЕК?
    ведь, какая-то статистика есть по этой теме.
    Ответить
    • B
      В том то и дело что нет именно по этой теме статистики. Все эти эксперименты были проведены в лабораториях. Человеку просто предлагается нажать на ту или иную кнопку и выбрать ответ, который он считает нужным. Предлагаются различные дилемные ситуации.
      В жизни скорее всего происходит все по другому. Никто не знает.
      Ответить
      • nslogan
        вообще постановка вопроса тупиковая. типа вопроса: ты кого больше любишь, папу или маму?
        Ответить
  • Mudisatwa_Ye
    5 окт 16
    ...как должен поступить робот — сбить его или увернуться, рискуя попасть в аварию и убить собственного владельца?...
    Очевидно что робот при движении должен быть на связи со всеми прочими роботами движущимеся в попутном и встречном направлениях. На всем протяжении движения у группы роботов должны просчитываться сценарии взаимодействия на 2 — 3 хода вперед и внезапная остановка или смена направления одним из роботов — не должна быть неожиданностью для прочих участников движения. Таким образом робот увидевший впереди себя препятствие — метнулся вправо и резко остановился, прочие роботы действуя согласованно так же метнутся вправо, те что сзади тормознут.
    Алгоритмы можно проработать понаблюдав за большими стаями птиц либо за косяками рыбы.
    Ответить
  • S
    5 окт 16
    Роджер Желязны. "Повелитель снов". Основная тема романа не о том, но дело происходит в будущем и автопилоты распространены повсеместно. Дороги там от пешеходов просто-напросто полностью изолированы. Второстепенному герою романа — самоубийце — приходится ухищряться. Преодолевать заграждение и пр.
    Ответить
    • iAHTOHru
      saf 5 окт 16
      Т.е. предлогают сделать собственную дорогу?
      Но это уже есть в первом приближении. Железная дорога.
      Однако и там смерти есть.
      Ответить
  • C
    5 окт 16
    Насколько я помню, всё, что разрешают российские правила, это торможение — нельзя вилять. И хотя живой человек при должной реакции может отступать от этого правила без последствий для кого-либо, для автопилота имхо экстренное торможение — это единственно верное решение.
    Ответить
    • KAPaCek
      Вот и мне это первым делом в голову пришло.
      Ответить
    • RusSlon
      Нельзя одновременно объезжать и тормозить — потеря управления.
      Ответить
      • S
        Добро пожаловать в 21 век. ESP и ABS как раз для этого сделаны.
        Ответить
        • nslogan
          вообще-то САБЫРС прав — торможение, и только торможение.
          Ответить
    • S
      Если речь идёт о человеческой жизни, то можно и вилять, это вам любой адвокат подтвердит.
      Ответить
  • Dont_Knowler
    5 окт 16
    Думаю, что алгоритм автопилота для таких случаев должен быть прежде всего прост и прозрачен, в смысле понятен и предсказуем для пешеходов. Чтобы они заранее и ответственно планировали своё поведение на дороге с учётом возможных последствий собственных нарушений, не надеясь на чудеса, и на то, что при нарушении ими, пешеходами, ПДД вместо них раздавят кого-то ещё. ИМХО такой подход может заставить пешеходов меньше нарушать, и тем самым сбережёт больше жизней, чем любой мегапродуманный алгоритм, учитывающий возраст, здоровье и цвет глаз раздавливаемых.
    Ответить
  • SemKa
    5 окт 16
    А использовать алгоритм оценки вероятности летального исхода? При возникновении аварийной ситуации высчитывать вероятности летальных исходов для пассажиров и для пешеходов.
    Ответить
  • S
    5 окт 16
    Перед пешеходными переходами нужно вмонтировать в асфальт опускаемые/поднимаемые стальные блоки.
    Нажал кнопку перехода, через 1-2 минуты включился красный, поднялся блок, загорелся зелёный для пешеходов.
    Ответить
    • ShadowZ
      Едет себе правильный водитель и тут эти блоки поднялись, ошибка, коротнула проводка или еще что...и привет.
      Ответить
      • S
        Если что, то такие блоки уже ставят, правда пока, в дополнение к шлагбаумам
        Ответить
        • Konrad45
          Ставят только на ЖД переездах.
          На дороге представьте ситуацию: красный свет, поднят блок и вдруг мчится пожарная или скорая... Дальше продолжите сами.
          Ответить
  • L
    5 окт 16
    Недавно ехал по дублёру Можайского шоссе между улицами Гришина и Кубинка, так одна пара средних лет стала переходить дорогу не по кратчайшему пути (поперёк), а практически вдоль (срезать угол решили). Причём, если мужчина, когда машины приблизились, порывался ускорится, то женщина его тут же вцепилась ему в локоть, одёрнула назад и не спеша продолжила движение. В общем всем водителям пришлось стоять резко тормозить и ждать, пока пара завершит своё шествие...
    Ответить
    • S
      lvzh 5 окт 16
      Дункан МакКлауд с подругой, им можно
      Ответить
    • leonsoft
      lvzh 5 окт 16
      А как на счет пары водителей, что остановились в двух левых(!) рядах на "каширке" перед регулируемым светофором(!!) пешеходном переходе и стали пропускать стоящих там пешеходов при сигнале зелёного(!!!) для машин...
      Ответить
      • L
        leonsoft 5 окт 16
        Если пешеходы рванули через дорогу, то выхода у водителей не было.
        Ответить
        • leonsoft
          lvzh 5 окт 16
          Внимательней читайте: "остановились ...и стали пропускать стоящих пешеходов..."
          А я подъезжал сзади в среднем ряду и что-то мне подсказало, что надо притормозить, посигналить и показать "идиотам-водителям", что из-за них не хочется садиться на скамью подсудимых.
          Ответить
  • lysikov
    5 окт 16
    Что за фигня- почему в "смертельные сценарии" включены ситуации, когда пешеходы идут на разрешающий сигнал?
    Причем тут этика вообще? Робот обязан придерживаться ПДД, которые написаны кровью многих людей, а если пешеходы не хотят ПДД исполнять, то это исключительно их проблемы, а не несчастного робота...
    Ответить
    • ivonin
      Простой пример: малыш 3-5 лет выбежал/выехал на трёхколёсном велосипеде на дорогу. В принципе, виноват не он, а его родители/бабушка/другой сопровождающий...
      Давить будете?
      Ответить
      • Z
        ivonin 5 окт 16
        Автопилот будет давить ,у него другого варианта не будет я думаю , а а его родители/бабушка/другой сопровождающий... получат по 5-10 лет общего режима без УДО и после трех, четырех таких дел все остальные будут ребенка держать при себе а не курить и пить пивасик на расслабоне рядом со автосредствами повышенной опасности
        Ответить
        • ivonin
          ZzFzz 5 окт 16
          Я думаю, будет другой вариант: просто обяжут задублировать тормозную систему. Законом.
          Обычное инженерное решение, в общем-то...
          Ответить
      • lysikov
        Почитайте уже ПДД, пожалуйста, там все очень четко прописано, что и как обязан делать водитель в экстремальной ситуации, а именно: применять торможение, вплоть до экстренной остановки. Смысла менять правила от того, кто или что будет автомобилем -нет. Если роботы или водители начнут массово "уворачиваться", то на дороге и будет хаос.
        Ответить
        • lysikov
          ...будет управлять автомобилем..
          Ответить
        • ivonin
          Я просто привёл пример того, что не всегда нарушение ПДД — проблема нарушителя. Нарушитель может быть недееспособным.
          Кстати, водитель-человек в данной ситуации хоть и может избежать уголовного преследования (конкретно в данной — маловероятно, но возможно), но от гражданского иска это его не защитит.
          С водителем-роботом всё ещё проще: уголовное преследование самого робота просто неактуально, а вот гражданский иск его владельцу — практически гарантирован.
          Ответить
    • zkn
      lysikov 5 окт 16
      "the self-driving car with sudden brake failure will continue ahead and drive through a pedestrian crossing ahead".
      это понятно, что лучше быть здоровым и богатым, но ситуации бывают разные.
      Ответить
      • lysikov
        zkn 5 окт 16
        Вопрос интересный в этом случае. Где бы почитать- что именно предлагают разработчики систем сегодня, хоть ситуация и редкая, но вероятность не нулевая. Неужели они упустили этот момент и до сих пор нет никаких решений?
        Ответить
    • vag045
      Именно так. Согласно ПДД при аварийной ситуации ты должен давить тапком тормоз в пол, а не мучиться моральным аспектом. Успел затормозить — счастье тебе в дом, не успел — отвечай. Другого не дано. Если начинать определять кого давить, а кого нет, то это тупик, решение найдено не будет.
      Ответить
  • iAHTOHru
    5 окт 16
    Долго думал.... Так и не нашел решения этой задачи.
    За то я знаю тех кто решал такие дилеммы.
    Это семьи в которых есть дети с искуственном оплодотворением.
    Там тоже из 8-10 нужно оставить всего 1 эмбрион.
    Может к ним вопрос адресовать?
    Ответить
Сделано с NoNaMe