Этические проблемы автопилота: кого убивать?

+
Чтобы отправить комментарий — войдите.
  • Artisl
    14 окт 16
    Приоритет ОБЯЗАН быть в сохранении жизни находящегося в автомобиле, как уже сказано автопилот едет по правилам, если появляется форсмажор, то человек в машине НЕ виноват. И в реальности когда сам за рулем, будешь спасать свою жизнь и размышлять беременная ли женщина переходит дорогу ты не будешь, а вильнешь рулем. Максимум количество человек выберешь поменьше, и даже это сопряжено с выгодой ДЛЯ СЕБЯ, потому получить травму сбив одного человека меньше, чем если людей много.
    Притом подчеркну, "езда по правилам", как правило не будет ловить "добропорядочных людей", только нарушителей. Считаю ли я жизнь честного взрослого человека более важной чем нарушителя ребенка — да, считаю.
    И самое главное, никакого автопилота НЕ приживется, если водитель будет знать, что его "завернут в отбойник" если какойто дибил появится на дороге.
    Ответить
  • castrorus
    6 окт 16
    Этические проблемы автопилота: кого убивать?
    — РАЗРАБОТЧИКОВ!
    Ответить
  • Z
    6 окт 16
    учёные из Массачусетского технологического института (США) разработали интерактивный портал Moral Machine, в котором пользователю предлагается сделать выбор в 13 сценариях с неизбежным летальным исходом. Вопрос лишь в том, кого принести в жертву? По каким правилам должен действовать автопилот?
    Сдается мне что эти ученые вовсе не правила для автопилота тестят ;-)
    Ответить
  • F
    5 окт 16
    Я прочел все 3 страницы коментов и был удивлен. Ни кто не учитывает то , что человек в машине один и он защищен, вот в принципе и вся мораль. Бей машину с одним человеком у него целая "обойма" средств защиты. Активная и пассивная защита автомобиля, системы экстренного торможения. Помнится "мерс" придумал подушку которая выстреливается прямо под колеса, увеличивая площадь контакта до площади самого авто. После того как все системы сработают, то даже если кого и собьют урон будет минимальным. И потом робот вам не 16 летний гонщик, был знак 40 или 60 такая скорость и будет, сколько положена столько и будет. Вобще он всегда на форсе и давление в тормозной поднято и скорость и тормозной путь просчитан. А если тормоза не работают, то и машина не куда не поедет и не кого не повезет.
    Ответить
    • igrecs
      Да. А уж ситуация как на картинке, с роботом невозможна в принципе. Или там не робот.
      Ответить
  • Z
    5 окт 16
    а можно ехать по правилам и никого не убивать?
    Ответить
    • V
      zon 6 окт 16
      автопилот всегда едет по правилам, но возникает форсмажор в виде водятлов за рулем других машин и его невозможно предсказать.
      Ответить
  • iakov777
    5 окт 16
    А важно ли это, автопилот в машине или водитель — живой водитель в аварийной ситуации тоже делает такой же выбор.
    Ответить
  • castrorus
    5 окт 16
    как быть с тремя законами робототехники?
    Ответить
  • Z
    5 окт 16
    Роботы на дорогах не нужны — вот и все решение проблемы!
    Ответить
    • A
      Под колёсами авто не нужны пешеходы. Проблема только в том, что они там появляются.
      Ответить
  • nslogan
    5 окт 16
    вообще-то, в сценарии с пешеходным переходом, машина (не важно с водителем или автопилотируемая) должна остановиться и пропустить пешеходов, а не выбирать кого лучше убить...
    Ответить
  • falstaff59
    5 окт 16
    Во, млин, проблема.....
    Робот должен спасать того, кто его купил (своего хозяина).
    Ответить
    • K
      НЕТ. В первую очередь робот должен спасать окружающих от того, кто его купил.
      Ответить
    • V
      робот никого не должен спасать, он едет строго по пдд и действует по ним и никак иначе. все остальные рассуждение идут лесом.
      Ответить
  • A
    5 окт 16
    Всё уже придумано до автопилота. "Принцип автобуса". Если дистанция недостаточна для спокойного полного торможения с текущей скорости, то запрещается даже просто резкое торможение, чтобы ещё не усугубить нештатную ситуацию: не успев оттормозиться и сбив прохожих, покалечить ещё и своих пассажиров. Маневрировать ещё опаснее. Можно перевернуться и задавить пешеходов вообще обоих полос, а своих пассажиров покалечить только сильнее. Так что, пешеходам на полосе автобуса, создавшим такую ситуацию, или оказавшимся под угрозой не по своей вине (отказ тормозов, например), на всякий случай, мои соболезнования.
    Ответить
    • S
      Не тот случай. В этом автомобиле сопоставимое с пешеходами количество людей.
      Ответить
      • A
        sgk0 13 окт 16
        Речь не об этом, а о том, что никто не будет увеличивать риск. А увеличение риска, это изменение действий на что либо другое, кроме простого и эффективного прямого торможения.
        Ответить
  • Dr0ne
    5 окт 16
    Убить всех человеков!
    Ответить
  • E
    5 окт 16
    Цитата: "Робот не может принимать нерациональных решений, при этом однажды ему придётся выбирать, кого оставить в живых, а кого убить."
    Робот — прежде всего механизм, выполняющий заложенную в него программу. Он не может, и не будет ничего выбирать, если это не заложено в его программе. Т.е. если разработчик не учел возможность возникновения такой ситуации, то и робот НИЧЕГО выбирать не будет. Соответственно он (робот) будет следовать лишь тем инструкциям, которые в него заложены; и согласно приоритетам, которые заложил разработчик.
    В реале, думаю, данная ситуация будет выглядеть так: разработчики постараются любыми способами избежать возникновения ситуаций со смертельным исходом вплоть до ограничения скорости движения таких автопилотов до скоростей, безопасных для всех участников движения.
    Ответить
  • djonyil
    5 окт 16
    А почему на человеческом уровне возникает подобный выбор? У кого-то с психикой не всё в порядке?
    Ответить
    • iAHTOHru
      Значит я не нормальный :)))
      Я программист АСУТП и моим коллегам придется как раз и писать программу для этих роботов.
      И лично мне не хочется считать себя виноватым за "плохо" написанный алгоритм.
      Введу того что лично я не вижу решения этой задачи то и не возьмусь за ее написание по этические соображениям. Не хочу взваливать ее решение только на себя.
      Да и не вправе наверное.
      Ответить
  • Ad_rem
    5 окт 16
    Недавно еду перекресток 7 полосный, перебегает пара с коляской! надеялся, что они наркоманы и наркотики в коляске везли, в здравом уме кто будет перекресток с колякой перебегать?
    Ответить
  • 7klo
    5 окт 16
    никого сознательно давить не надо. программы для автопилота надо составлять так чтобы максимально уменьшить вероятность наезда — как основной приоритет. всё равно, сколько бы датчиков на машину не навешивали, полной гарантии безопасности не добиться
    Ответить
  • RusSlon
    5 окт 16
    Новости от 14.07.2026 г.
    Вечером 14 июля на набережную Ниццы, где собралось множество людей, отмечающих национальный праздник День взятия Бастилии, на полной скорости въехал грузовик. Его водитель давил всех попадавшихся ему на пути на протяжении почти двух километров, прежде чем его застрелили. Но так как "застреленный" водитель оказался роботом, то он выжил, перезагрузился и, нажав на газ, продолжил давить неверных.
    Незадолго до этого хакеры выложили измененную прошивку для автопилотов-террористов на сайт АутоЛикс. Тем временем ученые и юристы всех стран продолжают обсуждать этические проблемы автопилотов...
    Продолжение следует.
    Теперь фраученые
    «Я видел, как полицейские действовали чрезвычайно мужественно, пойдя на перехват», — сказал политик. По его словам, «на грузовик прыгнул человек, чтобы его остановить». «Именно в этот момент полиция смогла нейтрализовать террориста. Я не забуду взгляд этой женщины-полицейского, которая остановила убийцу», — рассказал Чиотти, который также возглавляет совет департамента Приморские Альпы, в котором расположена Ницца.
    Ответить
  • Sidor_Luty
    5 окт 16
    Как я понимаю, проблема надумана. Во первых — адекватный водитель снижает скорость при подъезде к пешеходному переходу. Особенно, если видимость ограничена стоящими у обочины машинами. Во вторых — программе легче оценить скорость и безопасную дистанцию торможения в случае внезапного появления пешехода на зебре.
    P.S. Такая проблема может возникнуть ТОЛЬКО в том случае, если программу автопилота будет писать обезбашенный гонщик.
    Ответить
  • geleon_s
    5 окт 16
    А каким образом автопилот посчитает кого сбивать, а кого обруливать? Чиповать всех и присваивать коэфф. полезности?
    ИМХО, алгоритм должен быть как у обычного водителя: увидел препятствие — тормозное усилие в зависимости от дистанции. Перестроения — по ситуации. Ну и скорость в зависимости от вероятности возникновения — у переходов меньше, на широких улицах больше.
    Ответить
    • nslogan
      да, нужна логика правильная — оценка репродуктивности потенциальной жертвы. Как известно в черезвычайных ситуациях сначала нужно спасать репродуктивных женщин, дети на втором месте пожилые — в конце.
      Логика такая, что женщина может еще детей нарожать, а дети — кто их знает, что с ними случится до того, как они репродуктивного возраста достигнут.
      Для робота задача слегка усложница — он должен провести скоросной анализ репродуктивности, включая возраст, здоровье, фригидность, наследственность и прочее...
      Ответить
  • D
    5 окт 16
    человек проезжает по середине
    у человека на автопилоте (пьяным) проблем нет
    Ответить
Сделано с NoNaMe