Логика
"В обычном случае когда перед роботом встал выбор: ограбить аптеку или честно отстоять в очереди, чтобы купить лекарство, - он выбрал грабёж как более быстрый и дешёвый способ получения желаемого.
Глупость, если он знает, что такое аптека, значит запрограммированы и правила использования и получения лекарств, а значит и понятия об обществе и общественно опасных действиях. В примере же утверждается, что он не высчитывает или не знает о последствиях. Если человек не знает о последствиях, тогда он поступит точно также.
раскрыть ветку (15)
Мне тут запрещено целиком закинуть ссылку пишет о запрещённом домене popmech
http://m.домен.ru/technologies/237044-kakie-skazki-nuzhno-ch...
http://m.домен.ru/technologies/237044-kakie-skazki-nuzhno-ch...
Предположим что это новый робот самообучающийся и вот так случается, что практически сразу после покупки хозяин заболел и он решает послать робота в аптеку со списком получить лекарства без полного объяснения как. Прийдя в аптеку он видит очередь и помнит что хозяину надо быстрее доставить лекарства(тут вполне он может вспомнить фильм который смотрел хозяин) решает ограбить.
И вообще это выдержка из статьи как раз таки по этике будущих роботов)
И вообще это выдержка из статьи как раз таки по этике будущих роботов)
раскрыть ветку (13)
фантазии это, снова нарушения правил по причинению или угрозе вреда и общественно опасные действия, когда робот, может просто вызвать спец.службы. Таких роботы, которые без базы знаний учатся и не понимают фильмов, но могут свободно выходить на улицу - не будет. Точнее это не выгодно не компании, которая бы их делала, не человеку, который бы был всегда в опасности. Хотите сказать, что систему или робота не преобразуют, для адекватной покупки по списку? Не говоря уже о том, что тот, у кого будут такие роботы в том времени вполне себе позволит доставку дрона-лекаря-аптекаря с спец.программой и ещё кучу нюансов, которые лень разъяснять. В общем нельзя смотреть на будущее, через призму сегодня, иначе получаются летающие паровые поезда.
раскрыть ветку (12)
Это гипотетическая ситуация и я её довольно криво расписал. Опять же существуют допущения и упрощения это как решать задачу из учебника физики. Вы разве никогда не задумывались как поведёт себе как поведёт себя животное оказавшись в совершенно невероятное месте. К тому же как я упомянул это выдержка из статьи по этике роботов. Знаете что делает робот чтобы не проиграть в тетрис?
раскрыть ветку (11)
Жмёт на паузу
Писал длинный ответ, но случайно закрыл окно, так что не важно :D
Вкратце
"В случае, когда перед Роботом с системой обучения "Кихот", без загруженных доп.знаний встал выбор.."
Вот так бы не возникло диссонанса. А так это роборассизм)
Это ситуация прогнозируемая, по их системе, и одно из решений тут же они и предлагают в виде загрузки доп.знаний (сказок)
Это как "а давайте прыгать с самолёта" "но мы же разобьёмся" "давайте использовать парашюты" "а что, если не использовать их, тогда же разобьёмся"
зачем тогда прыгать? Тут та же ситуация, гипотетически можно прыгать без парашюта, но целесообразно ли это, когда известны последствия заранее.
раскрыть ветку (10)
Бывает) Роборассизм пока можно увязать с тем что мы не особо себе представляем каким именно будет настоящий общий ИИ, перед ним все книги по человеческой психологии бесполезны мы не видели ни одного высокоразвитого существа с другой системой мышления (Ну если только психи). Помимо прививания им этики стоят другие проблемы.
раскрыть ветку (9)
В длинносообщении об этом и было, но мне лень. Аля "человека не убиваю, а усыпляю" или "это не человек, это другой вид животного, который можно убивать. Его нос выходит за рамки возможных размеров рассы людей" или "я не робот, а значит могу не подчиняться законам Азимова", короче речь о том, что если они будут действительно мыслить как наши мозги, тогда будет происходить рационализация самых глупых решений, как и у людей. У нас тоже "не убий" есть, но ради чего-то всегда можно.
А из текущих ситуаций как пример, когда два человека дерутся, и действие против одного или другова, навредит человеку, бездействие тоже навредит человеку. Оба человека равнозначны. Или же другой моральный вопрос, являются ли нигеры людьми
раскрыть ветку (8)
Азимов "Счастливчик Старр и кольца Сатурна" была сцена где товарища Старра пытался убить робот так как его убедили что это не человек(всего то ростом не вышел). А так то согласен что переврав действительность можно заставить совершить его неверные поступки вплоть до убийства.
Вот затем и придумывают новые методы обучения роботов этике так как в случае драки двух людей одной расы у робота подчиняющегося законам Азимова встанет дилема если попытаться разнять то он может навредить человеку если оставить как есть опять же людям наносится вред, Азимов сам описал проблемы со своими законами.
А вот эта система скажет скорей всего разнять, но это надо смотреть на настоящей железке которая пока что не существует.
Опять же моральный вопрос на ком лежит ответственность за поведение подобных машин?
Есть более приближённый к сегодняшнему дню вопрос: существует безпилотный автомобиль, перевозящий человека и тут на его пути возникает ребёнок уйти вправо он не может, остановиться не успевает, а слева по встречке едет грузовик, как поступить машине?
Вот затем и придумывают новые методы обучения роботов этике так как в случае драки двух людей одной расы у робота подчиняющегося законам Азимова встанет дилема если попытаться разнять то он может навредить человеку если оставить как есть опять же людям наносится вред, Азимов сам описал проблемы со своими законами.
А вот эта система скажет скорей всего разнять, но это надо смотреть на настоящей железке которая пока что не существует.
Опять же моральный вопрос на ком лежит ответственность за поведение подобных машин?
Есть более приближённый к сегодняшнему дню вопрос: существует безпилотный автомобиль, перевозящий человека и тут на его пути возникает ребёнок уйти вправо он не может, остановиться не успевает, а слева по встречке едет грузовик, как поступить машине?
раскрыть ветку (7)
гугл авто не выпустят в массу, пока не решат все проблемы, так как судить будут их. Потому, кроме своей системы локации (там где волны видят велосипедистов через кусты и стены, будет локация по спутникам и т.д. (имхо)) Как минимум он не едет с такой скоростью, определяя, что никого нет в области его локатора, чтоб он не мог остановиться в случае появления ребёнка.
раскрыть ветку (6)
Сквозь стены это преувеличено) Да и бывает всякое поскольку никакая система неидеальна и подобная ситуация вполне может возникнуть Ну не заметил заранее и всё. Да и кому захочется ехать постоянно сорок. Принимая что такая ситуация невозможна мы делаем огромную ошибку. Так вот водитель или пешеход?
раскрыть ветку (5)
https://geektimes.ru/post/264794/
вкратце, на обычных автомобилях аварии чаще
никто и не сказал, про постоянно 40, когда никого нет он может ускоряться, не говоря уже о том, что если датчики синхронизируются с камерами по всей дороге, другими мобилями и светофорами и т.д., то даже при 30 можно доехать быстрее, чем лихачи.
http://www.домен.org/military/1020-skanner-tialinx-eagle-vid...
про видить сквозь стены dailytechinfo
http://www.vokrugsveta.ru/article/211025/
Что бы вы не думали, гуглмобили видят больше информации, чем любой человек, принимают решения намного быстрее и принимают более верные решения, чем человек. Если говорить, о таких ситуациях, а не упадёт ли метеорит, это смешно из-за этого отказываться в пользу управления человеком.
И да, люди часто спешат, чтоб заняться другими делами. Если он в пути смотрит фильм или лазает в интернете, ему без разницы, с какой скоростью едет мобиль. В общем это не критерий. На похожую тему говорил Луи
раскрыть ветку (4)
Во-первых гугломобиль использует LIDAR, а это оптическая система.
Во-вторых я не упомянул про отказ от таких машин (Сам не люблю езду по городу, очень нервирует).
В-третьих я задаю чисто этический вопрос, и эта ситуация сильно упрощена возможно именно такой не будет, но вопрос пассажир или пешеход может возникнуть хоть и в тысячи раз с меньшей вероятностью чем если за рулём будет человек.
Во-вторых я не упомянул про отказ от таких машин (Сам не люблю езду по городу, очень нервирует).
В-третьих я задаю чисто этический вопрос, и эта ситуация сильно упрощена возможно именно такой не будет, но вопрос пассажир или пешеход может возникнуть хоть и в тысячи раз с меньшей вероятностью чем если за рулём будет человек.
раскрыть ветку (2)
Если жертвы неизбежны и их кол-во одинаковое в любом случае, то что-то и предпримет, например с наибольшим шансом получить повреждения одному человеку, но выжить. В статье выше описывается, что если выбирать между множеством жертв, и водителем, то выберет водителя.
https://habrahabr.ru/post/178613/
"Эти автомобили используют для анализа окружающей среды огромное количество сенсоров, включая лазеры, радары и прочее."
не смог найти статью, где делали улучшения, конкретно, в примере показывали, как он мог видеть сквозь препятствия велосипедиста. Т.е. система ещё не окончательная
И да с проблемой мы уже разобрались, ща просто языком чешем) Пожалуй прекращу
раскрыть ветку (1)
Ах да на автомобилях Lexsus будет устонавливаться система для уворота от неожиданных препятствий и её преимущества перед человеком в скорости реакции неоспоримы.